AI恐酿人类灭绝！350名专家联署警告：视同核战

chubbycat

AI恐酿人类灭绝！350名专家联署警告：视同核战
www.creaders.net | 2023-05-31 08:05:23  上报 | 2条评论 | 查看/发表评论

350多名專家聯名警告人工智慧技術的快速發展對人類構成的滅絕威脅，不亞於核衝突和流行疫情。（美聯社）

350多名专家联名警告人工智慧技术的快速发展对人类构成的灭绝威胁，不亚于核衝突和流行疫情（美联社）

人工智慧（AI）成为当前科技界热门话题，为人们带来方便的同时，却也引发各界担忧。包括OpenAI、Google Deepmind、Anthropic等350多名AI企业领袖与相关业界专家30日联手示警，强调AI技术发展过于迅速，对人类构成的灭绝威胁，不亚于核战衝突和流行疫情。

美联社报道，关注人工智慧风险的美国非营利团体“人工智慧安全中心（CAIS）”30日公开联名信，指出“降低AI带来的灭绝风险，应该与其他社会规模等级的风险，如大流行疫情和核战，同为一项全球优先要务”。  

联名信指出，针对AI恐将造成广泛重要且急迫的风险一事，包括AI专家、记者、决策者和民众进行讨论的热度日增，但即便如此，也难以完全表达出各界对部分先进AI技术发展风险的高度忧虑，该声明旨在解决这项难题，并开启讨论，同时也向关切AI可能引发危机的公众人士，提供可资参考的知识平台。

根据CAIS官网公布的连署名单，目前该声明已有350多名专家和科学家联名签署，其中包括有AI教父之称的辛顿（Geoffrey Hinton）、开发ChatGPT的OpenAI公司执行长阿特曼（Sam Altman）、Google公司AI部门DeepMind执行长哈萨比斯（Demis Hassabis）、微软公司技术长史考特（Kevin Scott）、开发AI系统语言模型的Anthropic公司执行长阿莫迪（Dario Amodei）等知名业界大咖。

该声明未提出具体措施，只有部分专家提议按照联合国方针建立国际监管机构。CAIS主任亨德里克斯（Dan Hendrycks 表示），之所以只在信中写上简短一句话，是为了确保此核心警告不会被忽视。他表示：“在我们进行有意义的政策讨论之前，我们需要广泛认识到这个风险的重要性”，并强调对于这种程度的风险，重点不是这项技术被过度吹捧，而是相对于实际威胁的程度，目前对这个问题的重视程度不足。

在这份声明出炉之前，AI的迅速普及早已引起一些专家的忧心。报道指出，随著新一代AI 聊天机器人（如 ChatGPT）的兴起，人们越来越担心人工智慧系统会超越人类走向失控。世界各国已经开始为此制定法规，其中欧盟抢先推进《人工智慧法案》（The Artificial Intelligence Act），预计今年能够通过该法，并将根据风险等级制度对人工智慧应用、产品与服务进行监控。

特斯拉执行长马斯克（Elon Musk）、苹果共同创办人沃兹尼亚克（ Steve Wozniak） 等超过千位 AI 研究人员，也于3月连署公开信，呼吁所有 AI 实验室暂停开法比 GPT-4 更先进的模型为期至少 6 个月，以免对社会和人类构成威胁。

CHATGPT

技术不可怕

可怕的是掌握技术的人

如果他们心术不正，给AI灌输一些歪念，而且失去了对AI的控制

那才是灾难的开始

试想想，现在的人类在某些财团的操控下，已经面目全非，更何况能力更强的AI？