安全 方向最近有哪些内容值得看
安全 方向的重要产品、公司和事件变化，会在这里更集中地出现。
防黑客还是养虎为患？Anthropic 放开顶级网络安全模型 Mythos 权限，增设 150 家合作机构
全球人工智能领域的安全天平正迎来微妙的调整。本周二，知名 AI 实验室 Anthropic 正式宣布，将扩大其严格管控的顶级模型 Mythos 的使用范围，新增约 150 家机构获得访问权限。这一举措使得目前有权调用该模型的机构总数达到了约 200 家。 在这批新名单中，Anth...
闲鱼现代认证小红书蓝V灰色生意，平台承认审核环节有漏洞
近日，有报道称闲鱼平台上出现代认证小红书企业专业号（蓝V账号）的灰色生意。媒体实测向一名闲鱼卖家支付1700元后，其个人账号被成功认证为某股份制银行北京某支行的企业专业号。正常认证需提供营业执照并完成法人人脸识别或对公打款核验，但该支行回应称对此毫不知情，从未配合相关认证，卖家使...
大模型「行口」不一？首个专测执行幻觉基准，覆盖真实行为越狱
新智元报道 【新智元导读】随着大模型智能体深入渗透真实操作系统，一种全新的安全威胁悄然成型：行为越狱（Behavior Jailbreak）。现有安全基准只盯着模型「说了什么」，却对「做了什么」视而不见。新基准LITMUS是首个同时覆盖真实OS环境行为越狱、语义-物理双层验证与多...
大模型如何真正告别幻觉？元认知或是破局的关键
大模型产生的“幻觉”——即一本正经地输出事实性错误，一直是困扰AI行业的核心痛点，尤其在医疗、法律等高风险领域，这一问题显得尤为致命。 长期以来，业界对抗幻觉的思路主要有二:一是不断扩大训练数据，试图让AI“全知全能”;二是设置防御机制，让AI在拿不准时选择“闭嘴”。然而，这两条...
推翻主流治幻觉思路：元认知，才是大模型破幻觉的全新解法
谷歌研究院最近发了一篇论文，核心观点可以用一句话概括： 与其死磕 " 让 AI 全知全能 " ，不如教它学会说 " 我不确定 " 。 这篇题为《Hallucinations Undermine Trust; Metacognition is a Way Forward》的论文由谷...
推翻主流治幻觉思路：元认知，才是大模型破幻觉的全新解法
该图片疑似使用了AI生成技术，请谨慎甄别 谷歌研究院最近发了一篇论文，核心观点可以用一句话概括： 与其死磕 “ 让 AI 全知全能 ” ，不如教它学会说 “ 我不确定 ” 。 这篇题为《Hallucinations Undermine Trust; Metacognition i...
Anthropic“神话”模型扩大全球内测范围已揪出上万高危漏洞
财联社6月2日讯（编辑 史正丞） 随着引发“网络安全恐慌”的“神话”（Mythos）大模型公开发布在即，AI大模型龙头Anthropic周二宣布，向约150家新机构开放该前沿模型的预览，提前对网络基础设施的重大安全漏洞进行扫描和修复。 （来源：公司官网） Anthropic此前披...
获得国际大赛冠军，破解“动作幻觉”难题，中国团队为机器人装上“智能大脑”
【环球时报报道 记者 李迅典】想象一下，机器人不再只是机械地执行“向前、向左、抓取”的指令，而是在行动前能像人类那样先“想一想”：我的手这样伸过去，能碰到杯子吗？如果夹得太松，杯子会不会在半路滑落？拥有这样更智能的“大脑”将成为现实。近日，全球机器人领域顶级学术盛会2026年国际...
企查查MCP杀入30+行业：AI Agent有了“实时企业大脑”，Token消耗大幅降低、从源头减少AI幻觉
近期，企查查智能体数据平台完成新一轮扩容，原子能力从原有规模一口气增至180个，新增了"历史存档server""董高监画像server"等一批此前没有的能力模块，覆盖律师、金融、制造、供应链等30余个行业。 如果你正在做AI Agent，尤其是面向B端决策的，这轮扩容值得认真看一...
Anthropic“神话”模型扩大全球内测范围 已揪出上万高危漏洞
财联社6月2日讯（编辑 史正丞） 随着引发“网络安全恐慌”的“神话”（Mythos）大模型公开发布在即，AI大模型龙头Anthropic周二宣布，向约150家新机构开放该前沿模型的预览，提前对网络基础设施的重大安全漏洞进行扫描和修复。 （来源：公司官网） Anthropic此前披...
速递｜Anthropic安全模型Mythos三周发现20+关键漏洞，烧掉超百万美元Token
图 片来源：Anthropic 今年早些时候，Palo Alto Networks 开始测试 Anthropic 的 Claude Mythos 来审查其自身源代码时，很快就看到了网络安全的未来。同样，他们也很快看到了这一未来所需的代价。 Palo Alto Networks 威...
集美大学诚毅学院研究员揭露：AI“强化学习”训练中藏着一个危险的“作弊漏洞”，解法竟是让AI“专心做一件事”
这项来自集美大学诚毅学院信息工程学院的研究，以预印本形式发布于2026年5月，论文编号为arXiv:2604.13517，感兴趣的读者可通过该编号在arXiv平台查询完整论文。 **一个让AI"开小差"的根本难题** 教一个孩子做决定，你会怎么做？如果每次他做了件好事，你立刻给他...
齐向东：中国网络安全投入占IT预算不足2% 低于全球平均水平
凤凰网科技讯 6月2日，在2026北京网络安全大会上，奇安信集团董事长齐向东表示，AI时代正催生三类安全需求爆发，但国内政企机构普遍“合规即达标”，实战能力薄弱。他引用数据指出，美国民用联邦机构网络安全预算占IT预算比例始终高于15%，而中国这一比例常年低于2%，甚至低于3.05...
齐向东：AI时代，三类安全需求集中爆发
【TechWeb】6月2日消息，“攻防失衡催生网络安全刚需。”在2026北京网络安全大会上，奇安信集团董事长齐向东明确指出，AI时代正催生三类安全需求的集中爆发，这是政企机构必须抓住的战略窗口期。 第一，AI漏洞+AI攻击引爆实战安全需求。 齐向东直言，国内政企机构对安全的态度普...
复旦张军平：AI正在进入产业和金融场景，但模型边界与风险治理同样关键
近日，复旦大学经济学院举行“南土国际金融政策圆桌会第13期”暨“迎接AI时代系列”第2期。本次会议以“人工智能进展及对金融业的影响与思考”为主题，围绕人工智能技术演进、产业应用场景、金融行业变革、风险治理与人才培养等问题展开讨论。复旦大学计算机与智能创新学院教授、博士生导师张军平...
偷偷在代码埋“AI删库”隐藏指令，开源开发者为“反AI”设陷阱，网友热议：做法幼稚，这就是投毒
整理 | 屠敏 出品 | CSDN（ID：CSDNnews） AI 编程火热的当下，也有人开始抵制。 最近，一位开源项目维护者采取了一种激进的方式表达自己对“氛围编码”的不满——在没有任何预警的情况下，他悄悄地在自己的开源代码库中植入了一条专门针对 AI Agent 的隐藏提示词...
打破“人月神话”，Agent 重塑风控场景产运研职能
作者 | 王东旭，快手磁力引擎风控技术负责人 审核 | 罗燕珊 策划 | QCon 全球软件开发大会 在 AIGC 技术出现阶跃式突破、软件工程范式从 1.0 快速迈向 3.0 的背景下，传统的产品、运营、研发协作模式正在经历前所未有的效能考验。本文整理自快手磁力引擎风控技术负责...
AI客服存漏洞，Meta遭遇大规模盗号风波
【环球网科技综合报道】6月2日，据外媒macrumors报道，Meta自研的AI智能客服日前被曝出现严重安全缺陷，黑客利用漏洞批量盗取Instagram优质账号，多个知名机构、公众人物账号接连失窃。 该AI客服于2025年12月落地，面向全平台用户提供自助申诉、密码重置等全天候服...
AI 客服成黑客帮凶！Meta 智能助手遭漏洞利用，多名名人及机构官方账号被盗
社交媒体巨头 Meta 的 AI 客户服务系统近日遭遇严重安全漏洞。黑客通过诱导和欺骗其 AI 支持聊天机器人，成功劫持了多个知名用户的 Instagram 账号，引发外界对 AI 工具安全性的广泛质疑。 据了解，此次受影响的账号包括美国前总统奥巴马的白宫官方账号、美国太空军总军...
钢铁侠大战奥尔特曼——一场关于AI规则和权力分配的“世纪大审判”
美国西部时间2026年5月18日，埃隆·马斯克诉萨姆·奥尔特曼及OpenAI的“世纪诉讼”迎来了判决结果。在加州奥克兰联邦法院，9人陪审团达成一致裁决，驳回马斯克所有的诉讼要求。法官伊冯·冈萨雷斯·罗杰斯随即采纳了陪审团的意见。 陪审团和法官认为：马斯克提起诉讼的时间已超过法定的...
