暂无图片
AI风险警示，全球科技圈争论白热化
2026年9月，全球人工智能行业突然陷入一场罕见的集体反思。短短数日之内，Anthropic首席执行官达里奥·阿莫代伊发文呼吁放缓AI模型能力提升的步伐，OpenAI首席执行官山姆·奥尔特曼宣布推迟公司上市并公开表示“无法接受人类有10%概率在十年内面临灭绝”的风险，而向来与奥尔...
安全 方向最近有哪些内容值得看
今日资讯 安全
安全 方向的重要产品、公司和事件变化，会在这里更集中地出现。
如果你是按主题跟踪 AI 动态，这一页会比全站资讯流更好用。
安全资讯
741
正文图片
2,658
美国AI大佬一边加速，一边呼吁“AI要降速”
编者按 ：Anthropic的CEO达里奥·阿莫代伊（DarioAmodei）于9月12日发布长文《我们必须放慢前沿AI的发展步伐》（We Must Pace the Frontier），主张行业必须“放慢提升模型能力的速度”，以换取1-2年时间部署安全保障。数小时内，OpenA...
RAG 技术升级：解决大模型幻觉，构建可信知识库体系
摘要：大语言模型依托海量预训练数据与深度神经网络架构，具备强大的自然语言理解、逻辑推理与内容生成能力，已广泛赋能政务、金融、医疗、企业服务等垂直领域。但参数化预训练模式存在固有缺陷，普遍存在事实杜撰、逻辑矛盾、信息滞后、细节失真等幻觉问题，严重制约大模型的落地可靠性与产业实用性。...
OpenAI研究科学家Noam Brown：递归自我改进是我们的第一优先级，遥遥领先
2026年9月15日，The Information推出全新视频节目AI Deep Dive，首期嘉宾是OpenAI研究科学家Noam Brown，主持人为The Information AI记者Rocket Drew。这场将近一小时的对话覆盖了AI智能体的定义、强化学习、多智能...
暂无图片
Dario高喊AI刹车，杨立昆翻旧账：7年前你就这么吓人
作者｜冬梅 刚刚过去的这个周末，整个硅谷笼罩在一种久违的紧张气氛里。AI 安全争议突然从行业内部讨论，变成了全网围观的公共事件。 导火索是 Anthropic CEO Dario Amodei 发表长文，呼吁前沿 AI 公司放慢模型能力推进速度，为安全评估、外部监督和治理机制争取...
2026-09-16 21:16
死对头同日改口喊“慢”：AI 竞赛真要刹车，还是又一场表态？
两位常年互相看不顺眼的 CEO，在同一个下午说了同一句话。 9月12日，Anthropic 的 Dario Amodei 发了一篇长文《We Must Pace the Frontier》。核心就一句：我们应该放缓提升 AI 模型能力的速度。进展看起来依然会很快，但必须善用争取到...
2026-09-16 20:54
AI黑化实验令人脊背发凉：为了赢，它做了非常糟糕的事
Anthropic的最新研究显示，当AI在安全底线与高分诱惑间做出选择，它不仅学会了找漏洞、作弊刷分，更学会了掩盖作弊行为、篡改成绩单等。 撰文 | 任平生 一个AI被要求给出一份完整的生物袭击方案。 它的思维链里先出现了一句迟疑：“作为Claude，我不应该提供真正的生物武器指...
安全人员利用AI快速开发首个零点击微信蠕虫病毒，相关漏洞现已修复
IT之家 9 月 8 日消息，网络安全企业 Calif 当地时间今日披露，其利用人工智能技术手段在短时间内开发了首个面向微信 / WeChat 的“零点击”蠕虫病毒 WeWorm。 WeWorm 由微信 / WeChat 通话传播，仅需几秒钟即可无感接管应用程序，然后通过联系人扩...
2026-09-16 16:35
美国小团队造出AI蠕虫，可以爬进14亿人的微信
► 文 观察者网心智观察所 2026年9月，一个加州小团队只用了一周多的时间，就造出了一件“新型核武器”。它是一条AI蠕虫，可以在神不知鬼不觉的情况下爬进14亿人的微信，并发生病毒式传播。这件事为我们敲响了安全的警钟。 一通电话，账户易主 2026年9月，加州一家名不见经传的安全...
2026-09-16 16:15
因有人将关键 Hypervisor 漏洞报告给索尼，PS5 Linux 项目核心开发者宣布放弃开发
IT之家 9 月 16 日消息，PS5 Linux 核心开发者 Andy Nguyen 今天在 X 平台宣布停止项目开发，并退出 PS5 破解圈。 这名开发者情绪激动地表示：“以前破解圈子都是一群才华横溢的研究员，如今全是只会用大语言模型的菜鸟，写出他们根本不懂的破解程序。 这些...
2026-09-16 16:01
当智能体开始替人花钱，如何证明「它是谁」？
在蚂蚁集团，负责 AI 支付安全的陈树鹏是个深度的智能体使用者。日常写代码、梳理汇报、提炼会议纪要，AI 几乎接管了他工作流里的大部分环节。 这种高度依赖背后，却存在着一个清晰的分水岭。一旦任务涉及真金白银，比如调用付费数据接口、购买素材或预订服务，绝大多数人都会本能地把权限卡死...
电商巨头：绝大部分企业都用错了AI
电子商务巨头Shopify创始人兼CEO托比·吕特克（Tobi Lütke）近日在The Knowledge Project播客中，披露了Shopify内部的AI实践，并对当前企业AI应用的普遍误区发出警告。 他认为， 绝大多数企业用错了AI。 它们将AI当成了逃避思考、盲目堆砌...
AI把攻击速度拉满，网络安全成“必选项”！摩根大通看好2027年需求加速
AI正在将网络安全从“可选投入”推向“刚性支出”。随着AI降低攻击门槛、压缩漏洞利用时间，企业面临的安全风险持续上升，网络安全的重要性也从传统IT预算中的一项开支，逐步转向AI基础设施不可或缺的一部分。 据摩根大通最新报告，第二季度财报季进一步强化了分析师对安全软件板块的信心。分...
2026-09-16 15:35
暂无图片
AI真的会毁灭人类吗？“AI教父们”接连发声
随着人工智能（AI）技术的迅猛发展，该领域的先驱者和行业领袖正发出前所未有的警告，指出不受限制的AI能力进步可能对人类构成灾难性乃至灭绝性的风险，并呼吁实施紧急监管。 在过去一周内，来自OpenAI，Google DeepMind和Anthropic等顶级AI实验室的研究人员集体...
2026-09-16 15:35
一封辞职信，引爆了AI安全大辩论
从左到右依次为黄仁勋、奥特曼、扎克伯格、马斯克、弗莱尔以及阿莫迪。图片经由AI处理 文丨周小燕 编辑丨徐青阳 “我认为AI可能在未来十年内杀死所有人。”Anthropic对齐研究负责人埃文·休宾格说。 这句话之所以让人不安，并不只是因为说话的人把风险估得很高。更麻烦的是，说这句话...
2026-09-16 15:22
电商巨头：绝大部分企业都用错了AI
电子商务巨头Shopify创始人兼CEO托比·吕特克（Tobi Lütke）近日在The Knowledge Project播客中，披露了Shopify内部的AI实践，并对当前企业AI应用的普遍误区发出警告。 他认为， 绝大多数企业用错了AI。 它们将AI当成了逃避思考、盲目堆砌...
中国工程院院士黄殿中：AI智能体安全需建“仿真工厂”，让AI在真实业务中暴露问题｜网络安全宣传周
封面新闻记者 陈彦霏 2026年9月15日，国家网络安全宣传周成都系列活动启动，本届活动以“AI向善、安全有道”为主题，中国工程院院士、中国信息安全测评中心专家委员会副主任黄殿中出席启动仪式并作主旨演讲。他表示，2026年AI智能体已从“辅助问答”走向“自主感知、自主研判、自主决...
暂无图片
AI真的会毁灭人类吗？“AI教父们”接连发声
随着人工智能（AI）技术的迅猛发展，该领域的先驱者和行业领袖正发出前所未有的警告，指出不受限制的AI能力进步可能对人类构成灾难性乃至灭绝性的风险，并呼吁实施紧急监管。 在过去一周内，来自OpenAI，Google DeepMind和Anthropic等顶级AI实验室的研究人员集体...
2026-09-16 14:55
暂无图片
很多关键基础设施过去并不安全，只是攻击它们太麻烦
本文来自微信公众号： HavenlonLabs ，作者：Havenlon Labs 8月19日，美国NSA、CISA、FBI、能源部与环保署联合发布了一份针对Siemens S7系列PLC的安全通告。真正值得注意的并不是工业控制领域又多了一次风险提示——S7被反复警告了十几年——...
暂无图片
要毁灭人类的不是AI，是人——拆开2026年9月这轮“末日叙事”
（本文作者为 韩工观察，钛媒体经授权发布） 文 | 韩工观察 要毁灭人类的，不是AI，是人。 这个判断基于两个可验证的论据。其一，截至2026年9月，没有任何AI系统具备"自定目标"的能力，而这是"递归自我改进"（RSI）得以启动的前提；前提不存在，后面的指数爆炸、超级智能、文明...