微软网页版 VS Code 曝安全漏洞：点击链接就能窃取私有仓库Token
IT之家 6 月 3 日消息，安全研究员 Ammar Askar 昨日（6 月 2 日）发布推文，公开了一个概念验证（PoC）漏洞， 指出 GitHub 浏览器版 VS Code 存在安全漏洞，用户点击链接后，GitHub OAuth tokens 可能被黑客掌握。 IT之家援引...
安全 方向最近有哪些内容值得看
今日资讯 安全
安全 方向的重要产品、公司和事件变化，会在这里更集中地出现。
如果你是按主题跟踪 AI 动态，这一页会比全站资讯流更好用。
安全资讯
767
正文图片
2,714
暂无图片
防黑客还是养虎为患？Anthropic 放开顶级网络安全模型 Mythos 权限，增设 150 家合作机构
全球人工智能领域的安全天平正迎来微妙的调整。本周二，知名 AI 实验室 Anthropic 正式宣布，将扩大其严格管控的顶级模型 Mythos 的使用范围，新增约 150 家机构获得访问权限。这一举措使得目前有权调用该模型的机构总数达到了约 200 家。 在这批新名单中，Anth...
暂无图片
闲鱼现代认证小红书蓝V灰色生意，平台承认审核环节有漏洞
近日，有报道称闲鱼平台上出现代认证小红书企业专业号（蓝V账号）的灰色生意。媒体实测向一名闲鱼卖家支付1700元后，其个人账号被成功认证为某股份制银行北京某支行的企业专业号。正常认证需提供营业执照并完成法人人脸识别或对公打款核验，但该支行回应称对此毫不知情，从未配合相关认证，卖家使...
大模型「行口」不一？首个专测执行幻觉基准，覆盖真实行为越狱
新智元报道 【新智元导读】随着大模型智能体深入渗透真实操作系统，一种全新的安全威胁悄然成型：行为越狱（Behavior Jailbreak）。现有安全基准只盯着模型「说了什么」，却对「做了什么」视而不见。新基准LITMUS是首个同时覆盖真实OS环境行为越狱、语义-物理双层验证与多...
大模型如何真正告别幻觉？元认知或是破局的关键
大模型产生的“幻觉”——即一本正经地输出事实性错误，一直是困扰AI行业的核心痛点，尤其在医疗、法律等高风险领域，这一问题显得尤为致命。 长期以来，业界对抗幻觉的思路主要有二:一是不断扩大训练数据，试图让AI“全知全能”;二是设置防御机制，让AI在拿不准时选择“闭嘴”。然而，这两条...
推翻主流治幻觉思路：元认知，才是大模型破幻觉的全新解法
谷歌研究院最近发了一篇论文，核心观点可以用一句话概括： 与其死磕 " 让 AI 全知全能 " ，不如教它学会说 " 我不确定 " 。 这篇题为《Hallucinations Undermine Trust; Metacognition is a Way Forward》的论文由谷...
推翻主流治幻觉思路：元认知，才是大模型破幻觉的全新解法
该图片疑似使用了AI生成技术，请谨慎甄别 谷歌研究院最近发了一篇论文，核心观点可以用一句话概括： 与其死磕 “ 让 AI 全知全能 ” ，不如教它学会说 “ 我不确定 ” 。 这篇题为《Hallucinations Undermine Trust; Metacognition i...
Anthropic“神话”模型扩大全球内测范围已揪出上万高危漏洞
财联社6月2日讯（编辑 史正丞） 随着引发“网络安全恐慌”的“神话”（Mythos）大模型公开发布在即，AI大模型龙头Anthropic周二宣布，向约150家新机构开放该前沿模型的预览，提前对网络基础设施的重大安全漏洞进行扫描和修复。 （来源：公司官网） Anthropic此前披...
获得国际大赛冠军，破解“动作幻觉”难题，中国团队为机器人装上“智能大脑”
【环球时报报道 记者 李迅典】想象一下，机器人不再只是机械地执行“向前、向左、抓取”的指令，而是在行动前能像人类那样先“想一想”：我的手这样伸过去，能碰到杯子吗？如果夹得太松，杯子会不会在半路滑落？拥有这样更智能的“大脑”将成为现实。近日，全球机器人领域顶级学术盛会2026年国际...
企查查MCP杀入30+行业：AI Agent有了“实时企业大脑”，Token消耗大幅降低、从源头减少AI幻觉
近期，企查查智能体数据平台完成新一轮扩容，原子能力从原有规模一口气增至180个，新增了"历史存档server""董高监画像server"等一批此前没有的能力模块，覆盖律师、金融、制造、供应链等30余个行业。 如果你正在做AI Agent，尤其是面向B端决策的，这轮扩容值得认真看一...
Anthropic“神话”模型扩大全球内测范围 已揪出上万高危漏洞
财联社6月2日讯（编辑 史正丞） 随着引发“网络安全恐慌”的“神话”（Mythos）大模型公开发布在即，AI大模型龙头Anthropic周二宣布，向约150家新机构开放该前沿模型的预览，提前对网络基础设施的重大安全漏洞进行扫描和修复。 （来源：公司官网） Anthropic此前披...
速递｜Anthropic安全模型Mythos三周发现20+关键漏洞，烧掉超百万美元Token
图 片来源：Anthropic 今年早些时候，Palo Alto Networks 开始测试 Anthropic 的 Claude Mythos 来审查其自身源代码时，很快就看到了网络安全的未来。同样，他们也很快看到了这一未来所需的代价。 Palo Alto Networks 威...
暂无图片
集美大学诚毅学院研究员揭露：AI“强化学习”训练中藏着一个危险的“作弊漏洞”，解法竟是让AI“专心做一件事”
这项来自集美大学诚毅学院信息工程学院的研究，以预印本形式发布于2026年5月，论文编号为arXiv:2604.13517，感兴趣的读者可通过该编号在arXiv平台查询完整论文。 **一个让AI"开小差"的根本难题** 教一个孩子做决定，你会怎么做？如果每次他做了件好事，你立刻给他...
齐向东：中国网络安全投入占IT预算不足2% 低于全球平均水平
凤凰网科技讯 6月2日，在2026北京网络安全大会上，奇安信集团董事长齐向东表示，AI时代正催生三类安全需求爆发，但国内政企机构普遍“合规即达标”，实战能力薄弱。他引用数据指出，美国民用联邦机构网络安全预算占IT预算比例始终高于15%，而中国这一比例常年低于2%，甚至低于3.05...
2026-06-02 15:21
齐向东：AI时代，三类安全需求集中爆发
【TechWeb】6月2日消息，“攻防失衡催生网络安全刚需。”在2026北京网络安全大会上，奇安信集团董事长齐向东明确指出，AI时代正催生三类安全需求的集中爆发，这是政企机构必须抓住的战略窗口期。 第一，AI漏洞+AI攻击引爆实战安全需求。 齐向东直言，国内政企机构对安全的态度普...
复旦张军平：AI正在进入产业和金融场景，但模型边界与风险治理同样关键
近日，复旦大学经济学院举行“南土国际金融政策圆桌会第13期”暨“迎接AI时代系列”第2期。本次会议以“人工智能进展及对金融业的影响与思考”为主题，围绕人工智能技术演进、产业应用场景、金融行业变革、风险治理与人才培养等问题展开讨论。复旦大学计算机与智能创新学院教授、博士生导师张军平...
偷偷在代码埋“AI删库”隐藏指令，开源开发者为“反AI”设陷阱，网友热议：做法幼稚，这就是投毒
整理 | 屠敏 出品 | CSDN（ID：CSDNnews） AI 编程火热的当下，也有人开始抵制。 最近，一位开源项目维护者采取了一种激进的方式表达自己对“氛围编码”的不满——在没有任何预警的情况下，他悄悄地在自己的开源代码库中植入了一条专门针对 AI Agent 的隐藏提示词...
打破“人月神话”，Agent 重塑风控场景产运研职能
作者 | 王东旭，快手磁力引擎风控技术负责人 审核 | 罗燕珊 策划 | QCon 全球软件开发大会 在 AIGC 技术出现阶跃式突破、软件工程范式从 1.0 快速迈向 3.0 的背景下，传统的产品、运营、研发协作模式正在经历前所未有的效能考验。本文整理自快手磁力引擎风控技术负责...
AI客服存漏洞，Meta遭遇大规模盗号风波
【环球网科技综合报道】6月2日，据外媒macrumors报道，Meta自研的AI智能客服日前被曝出现严重安全缺陷，黑客利用漏洞批量盗取Instagram优质账号，多个知名机构、公众人物账号接连失窃。 该AI客服于2025年12月落地，面向全平台用户提供自助申诉、密码重置等全天候服...
AI 客服成黑客帮凶！Meta 智能助手遭漏洞利用，多名名人及机构官方账号被盗
社交媒体巨头 Meta 的 AI 客户服务系统近日遭遇严重安全漏洞。黑客通过诱导和欺骗其 AI 支持聊天机器人，成功劫持了多个知名用户的 Instagram 账号，引发外界对 AI 工具安全性的广泛质疑。 据了解，此次受影响的账号包括美国前总统奥巴马的白宫官方账号、美国太空军总军...