安全
大模型「行口」不一？首个专测执行幻觉基准，覆盖真实行为越狱
大模型「行口」不一？首个专测执行幻觉基准，覆盖真实行为越狱
新智元报道 【新智元导读】随着大模型智能体深入渗透真实操作系统，一种全新的安全威胁悄然成型：行为越狱（Behavior Jailbreak）。现有安全基准只盯着模型「说了什么」，却对「做了什么」视而不见。新基准LITMUS是首个同时覆盖真实OS环境行为越狱、语义-物理双层验证与多...
大模型 方向最近有哪些内容值得看
今日资讯 大模型
大模型 方向的重要产品、公司和事件变化，会在这里更集中地出现。
- 大模型资讯
- 5,205
- 正文图片
- 21,424
安全
大模型如何真正告别幻觉？元认知或是破局的关键
大模型如何真正告别幻觉？元认知或是破局的关键
大模型产生的“幻觉”——即一本正经地输出事实性错误，一直是困扰AI行业的核心痛点，尤其在医疗、法律等高风险领域，这一问题显得尤为致命。 长期以来，业界对抗幻觉的思路主要有二:一是不断扩大训练数据，试图让AI“全知全能”;二是设置防御机制，让AI在拿不准时选择“闭嘴”。然而，这两条...
智能体
Vibe Coding背后，云正在经历一场重构
Vibe Coding背后，云正在经历一场重构
Vibe Coding 平台正在重塑软件的生产方式。 在过去 18 个月里，有一类全新的产品形态从边缘走向主流： Vibe Coding 平台 。 用户不再写代码、不再配置环境，甚至不再面对 IDE，只需要在一个对话框里说一句话，比如「帮我做一个待办清单」、「做一个能让朋友给我留...
微软
微软发布其首款高级推理模型MAI-Thinking-1：承诺未蒸馏第三方模型，自研AI模型阵容进一步扩充
微软发布其首款高级推理模型MAI-Thinking-1：承诺未蒸馏第三方模型，自研AI模型阵容进一步扩充
IT之家 6 月 3 日消息，在 Build 2026 开发者大会上，微软发布了一系列自研 AI 模型，其中包括旗下首款高级推理模型 MAI-Thinking-1。这也是微软在模型研发领域迈出的重要一步。 微软介绍称，MAI-Thinking-1 是一款“中等规模模型”，拥有 3...
安全
推翻主流治幻觉思路：元认知，才是大模型破幻觉的全新解法
推翻主流治幻觉思路：元认知，才是大模型破幻觉的全新解法
谷歌研究院最近发了一篇论文，核心观点可以用一句话概括： 与其死磕 " 让 AI 全知全能 " ，不如教它学会说 " 我不确定 " 。 这篇题为《Hallucinations Undermine Trust; Metacognition is a Way Forward》的论文由谷...
安全
推翻主流治幻觉思路：元认知，才是大模型破幻觉的全新解法
推翻主流治幻觉思路：元认知，才是大模型破幻觉的全新解法
该图片疑似使用了AI生成技术，请谨慎甄别 谷歌研究院最近发了一篇论文，核心观点可以用一句话概括： 与其死磕 “ 让 AI 全知全能 ” ，不如教它学会说 “ 我不确定 ” 。 这篇题为《Hallucinations Undermine Trust; Metacognition i...
微软
一文读懂微软Build 2026开发者大会：“Agent优先”时代到来，一口气发七款自研模型
一文读懂微软Build 2026开发者大会：“Agent优先”时代到来，一口气发七款自研模型
全程回顾｜微软Build连发七模型，首款旗舰推理叫板Anthropic 文丨李海伦 编辑丨徐青阳 美国时间6月2日，微软Build 2026开发者大会在旧金山梅森堡拉开帷幕。此次大会主题聚焦于前沿AI技术的实战应用，微软发布了一系列覆盖自研AI模型、智能体应用、操作系统安全、开发...
Copilot
微软深夜摊牌了！自研模型AI“全靠自己”，还要定义下一代电脑
微软深夜摊牌了！自研模型AI“全靠自己”，还要定义下一代电脑
一夜之间，微软的自研AI模型宇宙全部成型。 今天凌晨，在一年一度的微软Build 2026大会上，微软CEO萨蒂亚·纳德拉（Satya Nadella）一口气宣布了数十项新消息，覆盖MAI全系自研大模型，Copilot超级应用，还有和英伟达一起定义“个人电脑的新时代”的Surfa...
大模型
青岛港“港口安全生产作业智能体”斩获2026港航大模型智能体创新应用大赛最高奖
青岛港“港口安全生产作业智能体”斩获2026港航大模型智能体创新应用大赛最高奖
2日，新黄河记者从山东省国资委了解到，近日，“2026港航大模型智能体创新应用大赛”在宁波落幕，山东港口青岛港自主研发的“港口全域安全生产作业管控智能体”，从全国交通运输行业105项参赛成果中脱颖而出，获得大赛最高荣誉——特别推荐奖第一名，彰显了青岛港在“人工智能+港口安全”领域...
豆包
Token价格分化，豆包加速商业化丨记者观察
Token价格分化，豆包加速商业化丨记者观察
21世纪经济报道记者雷晨 5月下旬，国内大模型市场呈现明显价格分化。通用模型依托技术优化持续下调Token调用价格，同质化赛道持续降价；主打高算力、复杂任务的高端模型逐步形成能力溢价。叠加字节豆包即将上线C端付费体系，行业正式形成通用降价、高端溢价、终端分层付费的新格局。 近期通...
微软
微软发布其首款高级推理模型 MAI-Thinking-1：承诺未蒸馏第三方模型，自研 AI 模型阵容进一步扩充
微软发布其首款高级推理模型 MAI-Thinking-1：承诺未蒸馏第三方模型，自研 AI 模型阵容进一步扩充
IT之家 6 月 3 日消息，在 Build 2026 开发者大会上，微软发布了一系列自研 AI 模型，其中包括旗下首款高级推理模型 MAI-Thinking-1。这也是微软在模型研发领域迈出的重要一步。 微软介绍称，MAI-Thinking-1 是一款“中等规模模型”，在关键软...
DeepSeek
DeepSeek陈德里AI论文第二弹：从6分到8分，DeliAutoResearch SKILL又进化了
DeepSeek陈德里AI论文第二弹：从6分到8分，DeliAutoResearch SKILL又进化了
机器之心编辑部 DeepSeek 研究员陈德里（Deli Chen）和 AI 合作的第二篇论文来了！ 论文地址：https://victorchen96.github.io/continual_learning_survey.pdf 这篇论文聚焦 continual learni...
Claude
Claude Opus 4.8发布，Mythos也将登场！Anthropic H轮融资后估值超OpenAI
Claude Opus 4.8发布，Mythos也将登场！Anthropic H轮融资后估值超OpenAI
专注AIGC技术的专业社区，关注大语言模型（LLM）的发展和应用落地，聚焦LLM及AI技术的市场研究和开发者生态，欢迎关注！ Anthropic发布了Claude Opus 4.8，预告Mythos级别模型即将全面开放。 同一天，宣布完成650亿美元H轮融资，估值9650亿美元首...
大模型
当AI开始“读懂”你的安全顾虑：马萨诸塞大学阿默斯特分校用大模型打破交通安全数据的高墙
当AI开始“读懂”你的安全顾虑：马萨诸塞大学阿默斯特分校用大模型打破交通安全数据的高墙
这项由马萨诸塞大学阿默斯特分校土木与环境工程系主导的研究，于2026年5月以预印本形式发布在arXiv平台，编号为arXiv:2605.21712。研究聚焦于如何让普通人也能轻松获取和分析交通安全数据，为公共安全规划领域带来了一种新的技术思路。 每当路口发生事故，或者家长担忧孩子...
大模型
成大语言模型图像生成的“分身”难题：成均馆大学提出CAT方法，让AI画图的每个草稿都忠于最终作品
成大语言模型图像生成的“分身”难题：成均馆大学提出CAT方法，让AI画图的每个草稿都忠于最终作品
这项由韩国成均馆大学主导的研究于2026年5月发布在预印本平台arXiv，论文编号为arXiv:2605.26449。研究聚焦于生成对抗网络（GAN）的一个根本性缺陷，并提出了名为CAT（Cross-scale Aligned Transformer，跨尺度对齐变换器）的解决方案...
合作
西北大学等五所高校联手：让AI游戏机器人像人类一样“记住”技能，而不是靠翻笔记本
西北大学等五所高校联手：让AI游戏机器人像人类一样“记住”技能，而不是靠翻笔记本
这项由西北大学、东北大学、华南理工大学、香港浸会大学及北京师范大学-香港浸会大学联合国际学院联合完成的研究，于2026年5月以预印本形式发布，论文编号为arXiv:2605.27762，有兴趣深入了解的读者可以通过该编号查询完整论文。 **研究概要：一个记性越来越好的AI玩家**...
Claude
9万行Python重写Claude Code，CheetahClaws要验证“Harness缩放”
9万行Python重写Claude Code，CheetahClaws要验证“Harness缩放”
专注AIGC技术的专业社区，关注大语言模型（LLM）的发展和应用落地，聚焦LLM及AI技术的市场研究和开发者生态，欢迎关注！ AI Agent到底靠什么变强？ Agent的能力不只取决于底层大模型，还取决于围绕它的整个系统架构，也就是所谓的Harness（执行框架）。 UC Be...
2026-06-03 01:31
合作
清华、普林斯顿联手攻克AI图像审核难题：让“裁判员”学会精准指出哪里画错了
清华、普林斯顿联手攻克AI图像审核难题：让“裁判员”学会精准指出哪里画错了
这项由清华大学、宾夕法尼亚州立大学、南加州大学、Microcyto公司和普林斯顿大学联合开展的研究，以预印本论文形式于2026年5月27日公开发布，论文编号为arXiv:2605.28805，感兴趣的读者可通过该编号在arXiv平台上查阅完整原文。 **当AI画出一张"差不多但又...
大模型
MiniMax M3一手实测：老黄PPT上74个Logo，我以为能难住它
MiniMax M3一手实测：老黄PPT上74个Logo，我以为能难住它
克雷西 发自 凹非寺 量子位 | 公众号 QbitAI MiniMax M3突然上线后，Token Plan的新计费方式也引起了热议。 众说纷纭之下，MiniMax官方也火速回应，提高了周用量限额，并对以前没有周限额的老用户保持了这个设定。 但价格争议之外，更值得我们关注的，依然...
2026-06-03 00:51