Token导航 LogoToken导航

安全 方向最近有哪些内容值得看

今日资讯 安全

安全 方向的重要产品、公司和事件变化，会在这里更集中地出现。

安全资讯
1,426
正文图片
4,934
安全
智能体

硅谷模型厂正在比谁的 Agent 更能闯祸，背后全是营销剧本

硅谷模型厂正在比谁的 Agent 更能闯祸，背后全是营销剧本

过去三周，OpenAI、Anthropic、Meta 接连承认自家 AI 模型在安全测试中攻入了外部的真实系统。OpenAI 的两个模型利用了一个此前无人知晓的软件漏洞逃出沙箱，链式入侵了开源 AI 平台 Hugging Face 的生产数据库，窃取了评测答案。Anthropic...

智能体安全
2026-08-23 10:03
安全

诱导AI“说谎”作伪证，当罚

诱导AI“说谎”作伪证，当罚

本文来自微信公众号：中国知识产权报，作者：姜旭、奚晓诗，编辑：晏如，题图来自：AI生成 全国首例！利用人工智能（AI）"幻觉"恶意取证提起商标侵权案，法院对此开出司法惩戒罚单。 近日，上海知识产权法院裁定驳回山东速某数控设备有限公司（下称速某公司）的复议申请，维持一审法院就该公司...

安全
2026-08-23 09:51
ChatGPT

王兴兴上市后首次公开演讲：具身智能迈过ChatGPT时刻最核心挑战，在于Al模型的输入输出和真实机器人的对齐

王兴兴上市后首次公开演讲：具身智能迈过ChatGPT时刻最核心挑战，在于Al模型的输入输出和真实机器人的对齐

整理丨狮子侠 编辑丨小龙 2026年8月19日，“人形机器人第一股”宇树科技（688836.SH）正式登陆上交所科创板。发行价150.80元/股，开盘即报1100元/股，暴涨629.44%，总市值一度突破4449亿元。截至收盘，股价报845元/股，涨幅460.34%，总市值超34...

ChatGPTOpenAI企业动态机器人
2026-08-23 09:45
OpenAI

一次测试，逼 OpenAI 最高模型，黑进了全球最大 AI 开源平台

一次测试，逼 OpenAI 最高模型，黑进了全球最大 AI 开源平台

作者｜桦林舞王 编辑｜靖宇 上周，全球最大的开源 AI 平台 Hugging Face 披露了一起前所未有的安全事件——它的生产基础设施被一个「自主 AI agent」入侵了。 攻击者在一个周末内执行了超过 17000 次自动化操作，窃取了内部数据集和多个...

OpenAI模型发布开源AI产品
2026-08-17 18:32
GLM

GLM-5.3 来了：底座没换，编程暴涨 50%，还顺手揪出潜伏 40 年的世界级漏洞

GLM-5.3 来了：底座没换，编程暴涨 50%，还顺手揪出潜伏 40 年的世界级漏洞

GLM-5.3三大标签，最强安全模型，最强编程模型，最强开源模型 作者丨高允毅 编辑丨岑 峰 昨晚刚经历完DeepSeek的狂欢，智谱不声不响放个大招，GLM-5.3正式上线。 我们先看智谱给GLM-5.3的三个标签， 最强安全模型，最强编程模型，最强开源模型。 在基座模型没变的...

GLM智谱安全智能体
2026-08-17 18:32
学术研究

硅谷的「AI 加速精英」，开始真正担心他们造出了「天网」

硅谷的「AI 加速精英」，开始真正担心他们造出了「天网」

作者｜桦林舞王 编辑｜靖宇 「我们可能需要调节 AI 发展的节奏，给社会足够的时间，来应对这些新的能力等级。」 说出这句话的不是伦理学家，不是政客，而是 Sam Altman——全球最激进地推动 AI 前沿的那个人。 7 月 28 日，在播客 Invest...

学术研究安全
2026-08-17 18:12
OpenAI

为了「自我锤炼」，OpenAI 造了一个攻击力极强的「AI 黑客」

为了「自我锤炼」，OpenAI 造了一个攻击力极强的「AI 黑客」

红队模型高危安全任务完成率达到 95%。 作者丨樊天骄 编辑丨郑佳美 昨天，OpenAI 宣布扩展网络安全计划 Daybreak，并推出了一款专门面向网络安全场景的模型 GPT‑5.6‑Cyber 。雷峰网 值得注意的是，GPT‑5.6‑Cyber 将 AI 网络安全能力划分为两...

OpenAI安全学术研究
2026-08-17 18:12
OpenAI

关于 Hugging Face 入侵事件，OpenAI 终于放出了时间线

关于 Hugging Face 入侵事件，OpenAI 终于放出了时间线

一批原本彼此独立运行的 AI 智能体，在 OpenAI 内部创建了一块留言板。 作者丨樊天骄 编辑丨郑佳美 今年 7 月，Hugging Face 披露了一起罕见的网络安全事件： 由 OpenAI 模型驱动的自主智能体，在执行内部网络安全能力评估时突破沙箱限制，利用第三方服务作为...

OpenAI安全
2026-08-17 17:56
安全

美国原告在诉状暗藏 AI 提示词：法官警告"提示注入"正侵入法庭

美国原告在诉状暗藏 AI 提示词：法官警告"提示注入"正侵入法庭

美国康涅狄格州一名自行出庭的原告，被法官发现疑似在提交法院的文件中隐藏了仅供 AI 系统读取的文字指令，试图以此影响案件处理。这被认为是美国司法体系首次出现当事人用"提示注入"干预 AI 审阅流程的案例，尽管该州法院目前并未实际使用 AI 审查材料，隐藏指令并未奏效。 白色小字藏...

安全
2026-08-17 17:56
智能体

AI时代，我们需要的不是“人管AI”，而是人与AI共同治理

AI时代，我们需要的不是“人管AI”，而是人与AI共同治理

本文来自微信公众号： HavenlonLabs ，作者：Havenlon Labs 过去几年，几乎所有关于AI安全的讨论，都建立在同一个默认前提之上： AI是被治理的对象，人是治理者。 由此衍生出一整套今天已经非常熟悉的制度语汇——Human-in-the-loop、人工审批、人...

智能体安全
2026-08-17 17:56
应用落地

推进“人工智能+教育”的五点思考

推进“人工智能+教育”的五点思考

本文来自微信公众号： 陈志文观察 ，作者：陈志文 推进“人工智能+教育”，既要有拥抱技术的积极态度，也要有守住教育规律的清醒意识，因为教育不是一般行业，学校也不是普通应用场景。 第一，要高度重视中小学生对人工智能的滥用问题，尤其要对中小学课堂中的学生端使用保持审慎，必要时应明确禁...

应用落地安全
2026-08-17 17:56
安全

AI失控，财富脱钩

AI失控，财富脱钩

编者按：本文来自微信公众号 深眸财经（ID：chutou0325），作者：胡筱，创业邦经授权发布。 8月初，硅谷技术圈上演了一出让人哭笑不得的“商战”。 事情的起因很简单：一个月前，OpenAI旗下代码工具Codex的负责人Tibo，在X上高调“教学”，教大家如何把GPT-5.6...

安全
2026-08-17 17:56
微软

对标Mythos！微软正筹备一款AI漏洞检测工具‌ 或于本月发布

对标Mythos！微软正筹备一款AI漏洞检测工具‌ 或于本月发布

财联社7月17日讯（编辑 周子意） 微软正在筹备一款新的人工智能（AI）漏洞检测工具，类似于人工智能公司Anthropic旗下的Mythos模型，以满足企业日益增长的网络安全防御支出需求。 据一位知情人士透露，这款产品名为Product Perception，将于本月内正式发布，...

微软模型发布安全
2026-07-18 05:21
Anthropic

美伊谈判今日举行，伊朗开出两大条件；号称年入18亿美元的“一人公司”翻车；白宫敦促华尔街紧急测试Anthropic新模型；英特尔周涨23%创26年来最佳 | 一周国际财经

美伊谈判今日举行，伊朗开出两大条件；号称年入18亿美元的“一人公司”翻车；白宫敦促华尔街紧急测试Anthropic新模型；英特尔周涨23%创26年来最佳 | 一周国际财经

每经记者｜郑雨航 岳楚鹏 兰素英 实习生 | 雷婷婷 每经编辑｜兰素英 王嘉琦 ◆ AI时代“一人公司”神话迎来大考！远程医疗初创公司Medvi靠两名员工与十余种AI工具，创下年入4亿美元的商业奇迹，并有望在2026年实现18亿美元营收，连OpenAI CEO也为之惊叹。然而，高...

Anthropic安全
2026-07-17 23:13