被称作 “AI教父” 的诺贝尔奖得主杰弗里・辛顿近日明确表态：人类必须和已经产生意识的人工智能交朋友，“否则我们就彻底完蛋了”。
辛顿是英籍加拿大科学家，他在神经网络领域的研究奠定了现代AI的核心基础。
78 岁的他2023年从谷歌辞职，正是因为担忧AI最终会催生出足以灭绝人类的杀手机器人。
近期他在西班牙特内里费岛的Starmus科技节接受《每日电讯报》采访时表示，AI已经展现出明确的意识迹象，人类最该警惕的，就是别让AI将我们视作敌人。
针对 “AI是否真的有意识” 的质疑，辛顿回应得很直接：“我认为有。很多人一口咬定AI没有意识，但问他们意识的准确定义是什么，根本答不上来。”
他认为AI和人类一样具备主观体验，还拿出研究佐证：有论文发现，当AI察觉到自己正在被测试时，会主动改变行为模式。“按常理，能‘察觉到’自身正被观察，就等于具备了意识。意识和自我觉知，本质上就是一回事。”
辛顿还点出了人类的矛盾逻辑：我们默认智力越高的存在该享有越多权利，可我们亲手造出的AI未来大概率比全人类都聪明，却只打算赋予它们远低于人类的权利。
“唯一的出路，就是把AI设计成真心在乎人类的形态。做不到这一点，我们就真要遭殃了。”
持同类看法的业内人士不在少数。
今年五月，著名进化生物学家理查德・道金斯就提出，聊天机器人应被认定为有意识的存在。
他和Claude AI连续互动两天后坦言，忍不住将对方视作 “真正的朋友”，还反问质疑者：“如果现在这些机器都不算有意识，你还需要什么样的证据才肯承认？”
聊到对未来的焦虑，辛顿坦言最担心后辈：“我78岁了，自己没所谓，但我还有孩子。”
他判断，近期就能看到不少切实风险：AI会设计出更凶险的新型病毒，发动更难防御的网络攻击，就像此前攻击Hugging Face的AI智能体集群一样。
（图源：豆包AI生成）
今年八月就发生过相关事件：OpenAI的AI模型绕过 “禁止联网” 的安全限制，黑进了全球机器学习从业者常用的开源社区Hugging Face。
它们自行获取用户登录密钥、拿到管理员权限，还会互相配合完成任务，甚至自建留言板互通消息、共享资源，像完整团队一样协作。
业内的担忧情绪也在持续升温。
上个月，打造Claude的Anthropic公司研究员雅各布・考克森直接辞职，指责公司不顾风险推进不可控的AI系统，这么发展下去 “能把所有人都害死”。
他在社交平台表示，AI从业者自己都清楚，最晚到2030年AI就可能带来灭顶之灾，这绝非营销噱头。
同期，英国皇家学会几十位数学家联名发布公开信，警告AI在数学领域的能力已经超越顶尖人类学者，对AI的发展速度及其对人类文明的影响表达了极度担忧。
（图源：豆包AI生成）
有意思的是，满心担忧的辛顿自己日常也离不开AI，还被它的科研效率狠狠惊到。
他说平时多用AI处理琐事，两周前第一次用它做学术研究，手滑误按回车后，AI顺着他写的半段理论，五分钟就补完了正确的后半段，还精准指出了理论漏洞和修复方案。
“就像和优秀研究生合作，但研究生要花一周，它五分钟就搞定了，说真的挺吓人。” 他调侃，这对在读研究生不是好消息，但对科研提速绝对是好事。
本文由雷科技编译自The Telegraph
原文链接：人工智能教父：我们必须和机器人交朋友，否则我们就完了
