加密行业，全员卷入 AI 军备竞赛
文 | ForesightWeb3，作者 | angelilu CertiK 的 AI 研究负责人 Xue Yue 每天早上起来做的第一件事，是查看昨晚睡前布置给 AI 的任务跑完没有。他一天之内最多同时让 5-6 个 AI agent 并行为他工作。 Bitget 的 AI 业...
安全 方向最近有哪些内容值得看
今日资讯 安全
安全 方向的重要产品、公司和事件变化，会在这里更集中地出现。
如果你是按主题跟踪 AI 动态，这一页会比全站资讯流更好用。
安全资讯
741
正文图片
2,658
新 AI 漏洞披露：可从 Claude 记忆中泄露姓名与工作单位等信息
IT之家 7 月 17 日消息，安全研究员阿尤什 · 保罗（Ayush Paul）于 7 月 9 日发布博文，披露针对 Claude 的攻击方法， 让用户在不知情的情况下将存储的个人信息（例如姓名和工作单位）发送到外部网站。 保罗指出 Claude 具备总结过往对话并在新对话中调...
暂无图片
新 AI 漏洞披露：可从 Claude 记忆中泄露姓名与工作单位等信息
IT之家 7 月 17 日消息，安全研究员阿尤什 · 保罗（Ayush Paul）于 7 月 9 日发布博文，披露针对 Claude 的攻击方法， 让用户不知情的情况下将存储的个人信息（例如姓名和工作单位）发送到外部网站。 保罗指出 Claude 具备总结过往对话并在新对话中调用...
“做几个肤浅套件就想赚一万亿？”Glean创始人撕破幻觉：OpenAI和Anthropic注定吃不下应用层！
“现在美国大厂纠结的，是敢不敢用中国模型。” 编译 | 王启隆 出品丨奇点折射（ID：rgznai100） 最近 Fable 5 和 GPT-5.6 双双被美国管制，让人不禁想到 Sam Altman 和 Dario Amodei 两人隔三差五就在媒体上预言“AI 将淘汰所有人，...
苹果“隐藏电子邮件”功能被曝漏洞未修复，用户提起集体诉讼
IT之家 7 月 17 日消息，据科技媒体 CNET 昨天报道，用户 Anthony Alvarez 于当地时间周三在加州北区联邦法院，对苹果公司提起诉讼，指控其“隐藏电子邮件”（IT之家注：Hide My Email）功能存在未修复漏洞，存在虚假广告、欺诈和违约等行为。 据报道...
2026-07-17 10:43
暂无图片
Edge AI Daily 早报（7月17日）
硅谷前沿： 一、OpenAI向Google微软腹地开火 1.OpenAI于2026年7月16日发布ChatGPT Work文档编辑功能，直接挑战Google Workspace（超30亿用户）和Microsoft 365（4.5亿商业席位）的办公套件市场，标志着AI Agent从...
暂无图片
美银CEO加入担忧行列，警告Mythos正威胁金融系统安全
美国银行CEO Brian Moynihan加入华尔街高管行列，就Anthropic人工智能模型Mythos对金融系统构成的网络安全威胁发出警告。 7月16日，Moynihan在接受彭博电视采访时表示， Mythos等AI模型正在显著加大金融机构保护自身系统所需的工作量与响应速度...
暂无图片
美银CEO加入担忧行列，警告Mythos正威胁金融系统安全
美国银行CEO Brian Moynihan加入华尔街高管行列，就Anthropic人工智能模型Mythos对金融系统构成的网络安全威胁发出警告。 7月16日，Moynihan在接受彭博电视采访时表示， Mythos等AI模型正在显著加大金融机构保护自身系统所需的工作量与响应速度...
OpenAI训练了一个专门攻击AI的模型，只为让GPT更安全
（来源：麻省理工科技评论） 近日，OpenAI 训练了一个名为 GPT-Red 的大语言模型，但它的任务并不是帮助用户完成工作，而是攻击 OpenAI 自己的模型，将其作为其他模型的“陪练”：让它不断尝试寻找漏洞、发动攻击，从而帮助模型提升抵御网络攻击的能力。比如，上周刚刚发布的...
微博王巍：AI安全风险加速外溢 可信治理需多方协同共建
7月15日，由世界互联网大会人工智能专业委员会主办的“前沿人工智能安全风险的协同治理”研讨会在北京举行。微博COO、新浪移动CEO、新浪AI媒体研究院院长王巍出席并发表了题为《平台视角下的人工智能安全挑战》的主旨演讲，立足社交传播平台一线实践，分享内容行业应对AI安全风险的思考与...
2026-07-16 21:44
黑客可接管用户电脑，微软修复《帝国时代2》重制版高危安全漏洞
IT之家 7 月 16 日消息，今日微软为旗下全线产品修复了数量创下历史新高的安全漏洞，这很大程度得益于人工智能助力微软以及外部研究人员挖掘漏洞。 IT之家注意到，本次修复的漏洞中，包含经典战争策略游戏《帝国时代 2》重制版的一处安全漏洞。安全研究人员表示，黑客只需发送一条特制恶...
天才数学家，在知乎上被怼得哑口无言
本文来自微信公众号： 雷叔写故事 ，作者：小林 最近国际数学家大会官网出现技术漏洞，网友抓取数据，发现有几条记录写着： “HIDDEN Fields Medal Lecture”。 直译就是隐藏的菲尔兹奖讲座。 按大会常规，只有确定获菲奖的人才会提前录入专属报告。所以截图传开后大...
2026-07-16 15:31
打造AI网安“红队”：OpenAI介绍内部漏洞检测模型GPT-Red
IT之家 7 月 16 日消息，OpenAI 当地时间 15 日介绍了其内部使用的网络安全“红队”模型 GPT-Red。 该模型可自动化地进行各种网络攻击模拟 ，帮助 OpenAI 提升对外模型产品的鲁棒性。 OpenAI 表示，其过去半年 自 GPT-5.3 后的每个生产模型均...
暂无图片
打造 AI 网安“红队”：OpenAI 介绍内部漏洞检测模型 GPT-Red
IT之家 7 月 16 日消息，OpenAI 当地时间 15 日介绍了其内部使用的网络安全“红队”模型 GPT-Red。 该模型可自动化地进行各种网络攻击模拟 ，帮助 OpenAI 提升对外模型产品的鲁棒性。 OpenAI 表示，其过去半年 自 GPT-5.3 后的每个生产模型均...
OpenAI 开启 AI 安全飞轮：GPT-Red 如何重新定义模型鲁棒性
在追求更强大 AI 能力的同时，模型如何确保自身安全已成为行业核心命题。近日，OpenAI 发布了全新的自动化红队测试模型 GPT-Red，通过规模化的自博弈训练，成功将模型在直接提示注入攻击中的失败率压低至0.05%，为 AI 的自我迭代与安全性提升开辟了一条新路径。 随着 A...
AI大厂的安全报告越吓人，传播效果越好，秀危险成了高级营销？
过去一年，全球头部 AI 公司开始频繁公开模型的安全报告，主动向公众表示自家的模型有多危险。 以Anthropic为例，A社最出圈的一个安全报告，是一个勒索场景：他们虚构一家叫Summit Bridge的公司，让Claude当邮件管理助手，给它全公司邮件的访问权限，在这个条件下，...
暂无图片
xAI罕见起诉Grok用户：指控其滥用AI生成儿童性虐待图片视频，已封停超 5 万个违规账户
据路透社报道，马斯克旗下AI公司xAI向南 卡罗来纳州男子特里·哈伍德提起诉讼，指控其滥用Grok生成儿童性虐待材料。哈伍德今年 2 月因涉嫌性剥削未成年人被捕，xAI指控他违反服务条款，当地时间周二已向得克萨斯州一家联邦法院提交诉状。 上传普通人照片生成深度伪造色情内容 xAI...
OpenAI推出内部自动化红队模型GPT-Red
品玩7月16日讯，OpenAI 官方今天宣布，推出了内部专用的自动化红队模型GPT-Red。 该模型通过自博弈强化学习，持续设计新的攻击方式诱导模型执行非预期操作。OpenAI投入了前所未有的算力规模对其进行训练，并将生成的攻击数据直接用于生产模型的安全训练。 目前，GPT-Re...
暂无图片
xAI罕见挥拳：起诉滥用Grok造不雅图的用户，今年已封禁 52222 个账号
AI公司主动把自家用户告上法庭，这样的戏码在行业里几乎闻所未闻。但马斯克旗下的xAI偏偏开了这个先例。据路透社报道，xAI已将南卡罗来纳州男子特里·哈伍德推上被告席，理由是他把Grok这支笔，当成了作案的工具。 哈伍德今年 2 月就因涉嫌性剥削未成年人被捕。xAI在诉状中指控他滥...
暂无图片
xAI 罕见起诉一名 Grok 用户，因其滥用 AI 生成不雅图片、视频
IT之家 7 月 16 日消息，据路透社报道，埃隆 · 马斯克旗下 AI 初创公司 xAI 对南卡罗来纳州男子特里 · 哈伍德提出诉讼。 哈伍德今年 2 月因涉嫌性剥削未成年人被捕，xAI 指控他滥用 Grok 生成儿童性虐待材料。当地时间周二，xAI 向得克萨斯州一家联邦法院提...