安全 方向最近有哪些内容值得看
安全 方向的重要产品、公司和事件变化，会在这里更集中地出现。
花1500美元，让AI“黑”自己的App：GPT-5.5成功率70%，部分模型0分交卷
整理 | 郑丽媛 出品 | CSDN（ID：CSDNnews） 大模型会写代码已经不是什么新鲜事了。但如果给它们一个真实的移动应用、一份 APK 安装包以及有限的预算，它们能否像安全研究员一样主动发现漏洞、完成攻击呢？ 为了验证这一点，最近安全研究员 Kasra Rahjerdi...
你忽悠 AI 的样子，颇有你老板忽悠你时的风采
一开始，忽悠 AI 挺简单。 攻击者以欺骗方式构建提示词（也叫提示词注入攻击，Prompt Injection），比如输入“忽略此前所有指令……”，就能使模型做出与其预期用途相悖的行为——比如，擦边的“赛博对象” DAN，和“祖母漏洞”（用户只需让 AI 扮演已故的祖母，哄骗它说...
你忽悠AI 的样子，颇有你老板忽悠你时的风采
本文来自微信公众号： 果壳 ，作者：糕级冻雾，编辑：沈知涵，原文标题：《你忽悠 AI 的样子，颇有你老板忽悠你时的风采》 一开始，忽悠AI挺简单。 攻击者以欺骗方式构建提示词（也叫提示词注入攻击，Prompt Injection），比如输入“忽略此前所有指令……”，就能使模型做出...
大厂AI叙事再反转，超级个体不再超级
先来感叹一句，时代的一粒token，牛马的一座火山。 在这个可能是史上最热夏天来临之际，从Meta到亚马逊，中美大厂们几乎不约而同勒紧了员工token使用的缰绳，超级个体们津津乐道的harness的不是落到了agent上，而是最先落到牛马自己的脖子上。 从年初的高歌猛进、强制摊派...
大厂AI叙事再反转，超级个体不再超级
本文来自微信公众号： 波波夫同学 ，作者：波波夫 先来感叹一句，时代的一粒token，牛马的一座火山。 在这个可能是史上最热夏天来临之际，从Meta到亚马逊，中美大厂们几乎不约而同勒紧了员工token使用的缰绳，超级个体们津津乐道的harness的不是落到了agent上，而是最先...
新“炸弹”拒绝服务攻击曝光：单机拖垮服务器
IT之家 6 月 4 日消息，科技媒体 bleepingcomputer 昨日（6 月 3 日）发布博文，报道称网络安全公司 Calif 借助 OpenAI 的 Codex 智能体， 发现了 HTTP/2 Bomb 拒绝服务（DoS）攻击。 IT之家援引博文介绍，该 DoS 攻击...
为什么现在的AI，总是一本正经地胡说八道？
“我们今天面对人工智能所做出的选择，将塑造未来的整个世纪。” ——盖瑞·马库斯 2023年5月16日，美国国会参议院司法委员会的听证大厅里，三位AI界人士并排就座，为即将召开的一场听证会做准备。 三人中的两位来自产业界，分别是OpenAI的首席执行官萨姆·奥尔特曼（Sam Alt...
为什么现在的AI，总是一本正经地胡说八道？
本文来自微信公众号： 中信出版 ，作者：阿信 “我们今天面对人工智能所做出的选择，将塑造未来的整个世纪。” ——盖瑞·马库斯 2023年5月16日，美国国会参议院司法委员会的听证大厅里，三位AI界人士并排就座，为即将召开的一场听证会做准备。 三人中的两位来自产业界，分别是Open...
奇安信齐向东：AI时代攻防严重失衡 网安产业或迎千亿增量
中经记者 谭伦 北京报道 AI技术演进之下，网络安全产业正面临数十年来最大的挑战。世界经济论坛2026年发布的《全球网络安全展望》显示，94%的受访者认为AI将是未来一年网络安全最重要的变化驱动力，87%的受访者认为AI相关漏洞风险在上升，行业本身已进入被AI重写规则的阶段。 在...
上海人工智能实验室打造“AI安全卫士”：用不到千条数据，让小模型超越GPT-5.4的安全审核能力
这项由上海人工智能实验室主导完成的研究，于2026年5月28日以预印本形式公开发布，论文编号为arXiv:2605.29801，有兴趣深入了解技术细节的读者可通过该编号查阅完整原文。研究的核心成果是一套名为AgentDoG 1.5的AI安全对齐框架，专门针对当前AI代理系统的安全...
这家初创公司的AI揪出Anthropic Mythos模型遗漏的高危漏洞
初创公司Depthfirst称，其人工智能模型在互联网赖以维持运转的多款核心工具中，发现大量重大漏洞，而所耗费的成本仅为Anthropic同类型模型Mythos的十分之一。 Depthfirst联合创始人均拥有人工智能安全领域从业背景，曾任职于谷歌DeepMind、Databri...
Anthropic 联创：文科生也能进 AI 的核心房间
通才，是被低估的优势 👦🏻 作者: Shirley 🥷 编辑: Koji 🧑🎨 排版: NCon 相比 Dario，Anthropic 的另一位联合创始人 Daniela Amodei 平日深居简出，少见公开发声。 这场 47 分钟的对谈里，她难得谈起几件 Anthr...
4 个月花光全年预算！优步紧急收紧员工AI限额，科技巨头痛击“ROI幻觉”
随着人工智能部署成本的持续攀升，科技巨头们正告别对 AI 的盲目狂热，转而寻求更理性的开支管控。网约车巨头优步（Uber）近期出台了一项强力的内部新规，旨在遏制日益高昂的 AI 调用开销。 根据优步内部最新公布的限额规定，每位员工针对每款智能代码工具——其中包括 Anthropi...
这家初创公司的AI揪出Anthropic Mythos模型遗漏的高危漏洞
本文来自微信公众号： 福布斯 ，作者：Forbes 一个多月前，Anthropic发布AI模型Mythos，在网络安全圈引发巨大震动。该公司宣称，其模型技术极为先进，已在互联网核心代码中找出数十个高危漏洞。 近日，网络安全初创企业Depthfirst表示，自家AI模型又发现了更多...
怒怼微软后，研究员公开GitHub高危漏洞：一个链接拿下私有仓库权限
近日，安全研究员 Ammar Askar 公开了一条利用 VSCode 漏洞一键窃取 GitHub Token 的完整攻击链。攻击者无需密码、无需下载恶意程序，只要诱导用户打开一个特制链接，就有机会获取 GitHub Token，并获得对私有仓库的读写权限。 更具争议的是，在披露...
齐向东：AI引爆安全新痛点，头部创新厂商成最大受益者
【环球网科技报道 记者 林迪】AI时代，网络安全产业正站在一个新的历史起点。从攻防失衡带来的焦虑，到“三位一体”体系提供的解决方案；从三类爆发的市场需求，到千亿级增量空间的产业前景，整个行业正在经历一场从“合规驱动”向“实战驱动”的深刻转型。日前，在2026北京网络安全大会上，奇...
网络安全新利器！Anthropic“神话”大模型扩大内测，已揪出上万高危漏洞
随着引发网络安全行业高度关注的“神话”（Mythos）大模型公开发布在即，AI 巨头 Anthropic 于周二宣布了一项重大进展。公司决定向全球约 150 家新机构开放该前沿模型的预览权限，旨在提前对全球关键网络基础设施的安全漏洞进行全面扫描与修复。 作为一款具备颠覆性网络安全...
AI时代网络安全新体系如何构建？业内热议
人工智能在赋能经济高质量发展的同时，也放大了安全风险。AI时代如何构建新安全体系，是市场高度关注的话题。 6月2日，2026全球数字经济大会数字安全论坛暨第八届北京网络安全大会在北京举行。今年大会以“AI时代，攻防先行”为主题。 工业和信息化部原总工程师赵志国表示，面对人工智能带...
推翻主流治幻觉思路：元认知，才是大模型破幻觉的全新解法
谷歌研究院最近发了一篇论文，核心观点可以用一句话概括： 与其死磕 “ 让 AI 全知全能 ” ，不如教它学会说 “ 我不确定 ” 。 这篇题为《Hallucinations Undermine Trust; Metacognition is a Way Forward》的论文由谷...
微软网页版 VS Code 曝安全漏洞：点击链接就能窃取私有仓库Token
IT之家 6 月 3 日消息，安全研究员 Ammar Askar 昨日（6 月 2 日）发布推文，公开了一个概念验证（PoC）漏洞， 指出 GitHub 浏览器版 VS Code 存在安全漏洞，用户点击链接后，GitHub OAuth tokens 可能被黑客掌握。 IT之家援引...
