Token导航 LogoToken导航

安全 方向最近有哪些内容值得看

今日资讯 安全

安全 方向的重要产品、公司和事件变化，会在这里更集中地出现。

安全资讯
1,426
正文图片
4,934
安全
学术研究

图灵奖得主本吉奥警告：当前的安全措施，追不上AI能力的狂飙

图灵奖得主本吉奥警告：当前的安全措施，追不上AI能力的狂飙

图片经由AI生成 文丨谢瑞瑞 编辑丨徐青阳 “AI既降低了作恶的门槛，又抬高了危害的上限。” 7月17日下午，在2026世界人工智能大会（WAIC）科学前沿论坛上，图灵奖得主约书亚·本吉奥通过远程连线发出了上述警告。 近年来，这名富有远瞻的“AI教父”，始终致力于应对AI带来的安...

学术研究安全
2026-07-17 23:01
安全

世界知识产权组织鲁子龙答21：对齐全球AI治理的“向量”

世界知识产权组织鲁子龙答21：对齐全球AI治理的“向量”

南方财经21世纪经济报道记者 李依农 赵越 上海、北京报道 2026年7月17日至20日，2026世界人工智能大会暨人工智能全球治理高级别会议在中国上海举行。在新一轮智能浪潮席卷全球的重要历史节点，大会以“智能伙伴 共创未来”为主题，共同探讨如何促进全球人工智能向善普惠发展。 谈...

安全
2026-07-17 22:44
Anthropic

类似 Anthropic Mythos 模型：消息称微软正开发 AI 漏洞检测工具，最快 7 月发布

类似 Anthropic Mythos 模型：消息称微软正开发 AI 漏洞检测工具，最快 7 月发布

IT之家 7 月 17 日消息，据 The Information 报道，微软正在开发一款基于 AI 的漏洞检测工具，类似于 Anthropic 的 Mythos 模型。 知情人士透露，这款产品名为“感知项目”（Project Perception），这是一款全新的安全产品，旨在...

Anthropic微软模型发布安全
2026-07-17 21:13
Anthropic

类似Anthropic Mythos模型：消息称微软正开发AI漏洞检测工具，最快7月发布

类似Anthropic Mythos模型：消息称微软正开发AI漏洞检测工具，最快7月发布

IT之家 7 月 17 日消息，据 The Information 报道，微软正在开发一款基于 AI 的漏洞检测工具，类似于 Anthropic 的 Mythos 模型。 知情人士透露，这款产品名为“感知项目”（Project Perception），这是一款全新的安全产品，旨在...

Anthropic微软模型发布安全
2026-07-17 21:13
Claude

新 AI 漏洞披露：可从 Claude 记忆中泄露姓名与工作单位等信息

新 AI 漏洞披露：可从 Claude 记忆中泄露姓名与工作单位等信息

IT之家 7 月 17 日消息，安全研究员阿尤什 · 保罗（Ayush Paul）于 7 月 9 日发布博文，披露针对 Claude 的攻击方法， 让用户在不知情的情况下将存储的个人信息（例如姓名和工作单位）发送到外部网站。 保罗指出 Claude 具备总结过往对话并在新对话中调...

ClaudeAnthropic安全
2026-07-17 17:31
Claude

新 AI 漏洞披露：可从 Claude 记忆中泄露姓名与工作单位等信息

新 AI 漏洞披露：可从 Claude 记忆中泄露姓名与工作单位等信息

IT之家 7 月 17 日消息，安全研究员阿尤什 · 保罗（Ayush Paul）于 7 月 9 日发布博文，披露针对 Claude 的攻击方法， 让用户不知情的情况下将存储的个人信息（例如姓名和工作单位）发送到外部网站。 保罗指出 Claude 具备总结过往对话并在新对话中调用...

ClaudeAnthropic安全
2026-07-17 15:43
OpenAI

“做几个肤浅套件就想赚一万亿？”Glean创始人撕破幻觉：OpenAI和Anthropic注定吃不下应用层！

“做几个肤浅套件就想赚一万亿？”Glean创始人撕破幻觉：OpenAI和Anthropic注定吃不下应用层！

“现在美国大厂纠结的，是敢不敢用中国模型。” 编译 | 王启隆 出品丨奇点折射（ID：rgznai100） 最近 Fable 5 和 GPT-5.6 双双被美国管制，让人不禁想到 Sam Altman 和 Dario Amodei 两人隔三差五就在媒体上预言“AI 将淘汰所有人，...

OpenAIAnthropic安全智能体
2026-07-17 12:51
安全

苹果“隐藏电子邮件”功能被曝漏洞未修复，用户提起集体诉讼

苹果“隐藏电子邮件”功能被曝漏洞未修复，用户提起集体诉讼

IT之家 7 月 17 日消息，据科技媒体 CNET 昨天报道，用户 Anthony Alvarez 于当地时间周三在加州北区联邦法院，对苹果公司提起诉讼，指控其“隐藏电子邮件”（IT之家注：Hide My Email）功能存在未修复漏洞，存在虚假广告、欺诈和违约等行为。 据报道...

安全
2026-07-17 10:43
应用落地

美银CEO加入担忧行列，警告Mythos正威胁金融系统安全

美银CEO加入担忧行列，警告Mythos正威胁金融系统安全

美国银行CEO Brian Moynihan加入华尔街高管行列，就Anthropic人工智能模型Mythos对金融系统构成的网络安全威胁发出警告。 7月16日，Moynihan在接受彭博电视采访时表示， Mythos等AI模型正在显著加大金融机构保护自身系统所需的工作量与响应速度...

应用落地安全
2026-07-17 05:13
应用落地

美银CEO加入担忧行列，警告Mythos正威胁金融系统安全

美银CEO加入担忧行列，警告Mythos正威胁金融系统安全

美国银行CEO Brian Moynihan加入华尔街高管行列，就Anthropic人工智能模型Mythos对金融系统构成的网络安全威胁发出警告。 7月16日，Moynihan在接受彭博电视采访时表示， Mythos等AI模型正在显著加大金融机构保护自身系统所需的工作量与响应速度...

应用落地安全
2026-07-17 04:51
OpenAI

OpenAI训练了一个专门攻击AI的模型，只为让GPT更安全

OpenAI训练了一个专门攻击AI的模型，只为让GPT更安全

（来源：麻省理工科技评论） 近日，OpenAI 训练了一个名为 GPT-Red 的大语言模型，但它的任务并不是帮助用户完成工作，而是攻击 OpenAI 自己的模型，将其作为其他模型的“陪练”：让它不断尝试寻找漏洞、发动攻击，从而帮助模型提升抵御网络攻击的能力。比如，上周刚刚发布的...

OpenAI安全
2026-07-16 22:02
安全

微博王巍：AI安全风险加速外溢 可信治理需多方协同共建

微博王巍：AI安全风险加速外溢 可信治理需多方协同共建

7月15日，由世界互联网大会人工智能专业委员会主办的“前沿人工智能安全风险的协同治理”研讨会在北京举行。微博COO、新浪移动CEO、新浪AI媒体研究院院长王巍出席并发表了题为《平台视角下的人工智能安全挑战》的主旨演讲，立足社交传播平台一线实践，分享内容行业应对AI安全风险的思考与...

安全
2026-07-16 21:44
微软

黑客可接管用户电脑，微软修复《帝国时代2》重制版高危安全漏洞

黑客可接管用户电脑，微软修复《帝国时代2》重制版高危安全漏洞

IT之家 7 月 16 日消息，今日微软为旗下全线产品修复了数量创下历史新高的安全漏洞，这很大程度得益于人工智能助力微软以及外部研究人员挖掘漏洞。 IT之家注意到，本次修复的漏洞中，包含经典战争策略游戏《帝国时代 2》重制版的一处安全漏洞。安全研究人员表示，黑客只需发送一条特制恶...

微软安全
2026-07-16 15:52
OpenAI

OpenAI 开启 AI 安全飞轮：GPT-Red 如何重新定义模型鲁棒性

OpenAI 开启 AI 安全飞轮：GPT-Red 如何重新定义模型鲁棒性

在追求更强大 AI 能力的同时，模型如何确保自身安全已成为行业核心命题。近日，OpenAI 发布了全新的自动化红队测试模型 GPT-Red，通过规模化的自博弈训练，成功将模型在直接提示注入攻击中的失败率压低至0.05%，为 AI 的自我迭代与安全性提升开辟了一条新路径。 随着 A...

OpenAI安全
2026-07-16 11:20