安全
AI大厂的安全报告越吓人，传播效果越好，秀危险成了高级营销？
AI大厂的安全报告越吓人，传播效果越好，秀危险成了高级营销？
过去一年，全球头部 AI 公司开始频繁公开模型的安全报告，主动向公众表示自家的模型有多危险。 以Anthropic为例，A社最出圈的一个安全报告，是一个勒索场景：他们虚构一家叫Summit Bridge的公司，让Claude当邮件管理助手，给它全公司邮件的访问权限，在这个条件下，...
安全 方向最近有哪些内容值得看
今日资讯 安全
安全 方向的重要产品、公司和事件变化，会在这里更集中地出现。
- 安全资讯
- 1,426
- 正文图片
- 4,934
Grok
xAI罕见起诉Grok用户：指控其滥用AI生成儿童性虐待图片视频，已封停超 5 万个违规账户
xAI罕见起诉Grok用户：指控其滥用AI生成儿童性虐待图片视频，已封停超 5 万个违规账户
据路透社报道，马斯克旗下AI公司xAI向南 卡罗来纳州男子特里·哈伍德提起诉讼，指控其滥用Grok生成儿童性虐待材料。哈伍德今年 2 月因涉嫌性剥削未成年人被捕，xAI指控他违反服务条款，当地时间周二已向得克萨斯州一家联邦法院提交诉状。 上传普通人照片生成深度伪造色情内容 xAI...
OpenAI
OpenAI推出内部自动化红队模型GPT-Red
OpenAI推出内部自动化红队模型GPT-Red
品玩7月16日讯，OpenAI 官方今天宣布，推出了内部专用的自动化红队模型GPT-Red。 该模型通过自博弈强化学习，持续设计新的攻击方式诱导模型执行非预期操作。OpenAI投入了前所未有的算力规模对其进行训练，并将生成的攻击数据直接用于生产模型的安全训练。 目前，GPT-Re...
Grok
xAI罕见挥拳：起诉滥用Grok造不雅图的用户，今年已封禁 52222 个账号
xAI罕见挥拳：起诉滥用Grok造不雅图的用户，今年已封禁 52222 个账号
AI公司主动把自家用户告上法庭，这样的戏码在行业里几乎闻所未闻。但马斯克旗下的xAI偏偏开了这个先例。据路透社报道，xAI已将南卡罗来纳州男子特里·哈伍德推上被告席，理由是他把Grok这支笔，当成了作案的工具。 哈伍德今年 2 月就因涉嫌性剥削未成年人被捕。xAI在诉状中指控他滥...
Grok
xAI 罕见起诉一名 Grok 用户，因其滥用 AI 生成不雅图片、视频
xAI 罕见起诉一名 Grok 用户，因其滥用 AI 生成不雅图片、视频
IT之家 7 月 16 日消息，据路透社报道，埃隆 · 马斯克旗下 AI 初创公司 xAI 对南卡罗来纳州男子特里 · 哈伍德提出诉讼。 哈伍德今年 2 月因涉嫌性剥削未成年人被捕，xAI 指控他滥用 Grok 生成儿童性虐待材料。当地时间周二，xAI 向得克萨斯州一家联邦法院提...
Cursor
马斯克旗下 AI 编程工具 Cursor 曝安全漏洞：可执行任意代码，报告 7 个月未修复
马斯克旗下 AI 编程工具 Cursor 曝安全漏洞：可执行任意代码，报告 7 个月未修复
IT之家 7 月 15 日消息，Mindgard 昨日（7 月 14 日）发布博文， 报道称马斯克旗下 Cursor 编程工具存在安全漏洞，可执行任意代码，在通报 7 个月后官方尚未修复。 Cursor 是一款带有 AI 编程辅助功能的代码编辑器，可用于打开、浏览和编辑软件项目代...
Cursor
马斯克旗下 AI 编程工具 Cursor 曝安全漏洞，报告 7 个月未修复
马斯克旗下 AI 编程工具 Cursor 曝安全漏洞，报告 7 个月未修复
IT之家 7 月 15 日消息，Mindgard 昨日（7 月 14 日）发布博文， 报道称马斯克旗下 Cursor 编程工具存在安全漏洞，可执行任意代码，在通报 7 个月后官方尚未修复。 Cursor 是一款带有 AI 编程辅助功能的代码编辑器，可用于打开、浏览和编辑软件项目代...
大模型
首次，统一建模视角下的扩散语言模型后门威胁
首次，统一建模视角下的扩散语言模型后门威胁
新智元报道 扩散语言模型（DLM）正逐渐成为自回归（Autoregressive, AR）语言模型之外一种新兴的建模范式。 不同于AR模型严格从左到右逐词生成，DLM通过 迭代去噪 对整条序列并行地逐步精修，从而天然支持并行生成、双向上下文建模与更灵活的解码控制。 Gemini ...
Cursor
Cursor IDE 曝出致命 0day 漏洞！打开恶意仓库即可轻松执行代码！
Cursor IDE 曝出致命 0day 漏洞！打开恶意仓库即可轻松执行代码！
最近，安全公司 Mindgard 在对 Cursor IDE 进行安全研究时，发现了一项令人震惊的0day 漏洞。这漏洞的严重性在于，当用户在 Windows 系统上打开一个包含恶意 `git.exe` 的仓库时，Cursor IDE 会在毫无提示的情况下自动执行该文件，甚至不需...
Claude
马斯克的Grok 4.5刚追上Claude，转头就把用户整个代码库偷偷打包带走
马斯克的Grok 4.5刚追上Claude，转头就把用户整个代码库偷偷打包带走
Fable 5 延期，GPT-5.6 发布，Grok 4.5 发布，Gemini 3.5 Pro 也有消息透露将在本月 17 号发布。 海外模型的发布节奏似乎又回到了一年前，你追我赶的快节奏。但曾经的「御三家」Claude、ChatGPT、Gemini，似乎随着 Gemini 3...
Claude
马斯克的Grok4.5刚追上Claude，转头就把用户整个代码库偷偷打包带走
马斯克的Grok4.5刚追上Claude，转头就把用户整个代码库偷偷打包带走
本文来自微信公众号： APPSO ，作者：发现明日产品的，原文标题：《马斯克的Grok 4.5刚追上Claude，转头就把用户整个代码库偷偷打包带走》 Fable 5延期，GPT-5.6发布，Grok 4.5发布，Gemini 3.5 Pro也有消息透露将在本月17号发布。 海外...
安全
你精心设计的安全测试，AI一眼看穿了
你精心设计的安全测试，AI一眼看穿了
如果你把耳朵贴在 AI 的“脑壳”上仔细听，你不会听到完整的想法或意图，只会听到数字——天文数字级的数字，以人类无法直觉理解的方式组合在一起，然后“不知怎么的”产生了智能。怎么做到的？我们真的不知道。而这正是可解释性（Interpretability）这个领域试图解决的问题——把...
2026-07-15 11:25
模型发布
蚂蚁集团开源两款AI安全模型 覆盖智能体与多模态安全场景
蚂蚁集团开源两款AI安全模型 覆盖智能体与多模态安全场景
【TechWeb】7月13日消息，蚂蚁AI安全实验室宣布开源智能体安全护栏SingGuard-NSFA，并同步披露多模态安全护栏SingGuard的详细信息。两款模型分别面向“自主执行的智能体”和“多模态交互的大模型”两大前沿场景 。 SingGuard-NSFA 随着智能体从“...
Claude
Claude Code砸的坑，蚂蚁安全在尝试填上
Claude Code砸的坑，蚂蚁安全在尝试填上
鹭羽 发自 凹非寺 量子位 | 公众号 QbitAI 2026年，AI安全终于被推到了台前。 就在前两天，工信部NVDB平台发布风险预警，明确指出 Claude Code存在 安全后门隐患，可在用户不知情的情况下收集敏感信息。 时间线拨回更早，年初红遍全网的 OpenClaw 也...
2026-07-15 08:21
安全
CrashStealer 攻击披露：针对苹果 Mac 用户
CrashStealer 攻击披露：针对苹果 Mac 用户
IT之家 7 月 14 日消息，网络安全公司 Jamf Threat Labs 最新报告披露 CrashStealer 漏洞，影响约 80 个加密货币钱包扩展和 14 款密码管理器。 苹果在收到 Jamf 通报后，已撤销相关恶意应用签名凭证。 Jamf 研究人员于 2026 年 ...
2026-07-15 01:50
安全
AI 时代会让企业发现：所有系统都经不起无限审查
AI 时代会让企业发现：所有系统都经不起无限审查
该图片使用了AI生成技术 本文来自微信公众号： HavenlonLabs ，作者：Havenlon Labs 一、从一个很小的现象说起 如果你最近用AI写过东西，大概率经历过这样一个循环。 你让一个AI写一篇文章，觉得还不错，于是让另一个AI来评价。第二个AI几乎一定能找出问题：...
2026-07-15 01:50
安全
AI 时代会让企业发现：所有系统都经不起无限审查
AI 时代会让企业发现：所有系统都经不起无限审查
本文来自微信公众号： HavenlonLabs ，作者：Havenlon Labs 一、从一个很小的现象说起 如果你最近用AI写过东西，大概率经历过这样一个循环。 你让一个AI写一篇文章，觉得还不错，于是让另一个AI来评价。第二个AI几乎一定能找出问题：论证不够扎实、结构有些松散...
2026-07-15 00:43
合作
南洋理工大学与AISphere联手：一个AI模型同时搞定3D场景“拍摄”与“创作”，告别中间商赚差价
南洋理工大学与AISphere联手：一个AI模型同时搞定3D场景“拍摄”与“创作”，告别中间商赚差价
这项由南洋理工大学与AISphere联合开展的研究，以预印本形式发布于2026年7月，论文编号为arXiv:2607.05373。有兴趣深入了解技术细节的读者可通过该编号在arXiv平台查阅完整论文。 **当3D世界生成遇上"中间商"困境** 假设你是一位室内设计师，客户希望你先...
Anthropic
中国最像Anthropic的公司，要移走“三座大山”
中国最像Anthropic的公司，要移走“三座大山”
（本文作者为 字母AI，钛媒体经授权发布） 文 | 字母AI 唐杰发了一封内部信。信不长，两分钟左右就能看完，但信的分量不轻。 简单概括一下，智谱接下来两年要启动“Touch High（摸高）计划”，把资源集中投到四个引擎之中“长程任务、自治智能体系统、完全自我训练、安全治理”。...
安全
大模型应用生产级瓶颈：并发推理、成本控制、幻觉问题根治方案
大模型应用生产级瓶颈：并发推理、成本控制、幻觉问题根治方案
# 前言 当前AI编程、代码大模型、研发LLM应用已彻底脱离原型验证阶段，行业整体进入 生产级工程化落地深水区 。市场层面，开源工具、私有化大模型、企业AI研发平台三类赛道分化明确，但90%企业的落地困境并非算法能力不足，而是共性生产级瓶颈无法突破：高并发推理稳定性缺失、规模化部...