Token导航 LogoToken导航

Anthropic五年前路线图曝光 AI编程与工具调用在列

更新时间 2026-10-15来源 DeepTech深科技正文 5069字阅读约 16分钟4 张图片

图片

10 月 14 日,Anthropic 向潜在投资者披露了最新经营数据。据路透社报道,今年第三季度公司收入达 168 亿美元,较第二季度的 116 亿美元增长约 45%;按照调整后口径计算,第三季度已实现盈利。

成立不到六年,Anthropic 已经成长为全球最受关注的 AI 公司之一。凭借 Claude 系列大模型,以及面向软件开发的 Claude Code 等产品,它与 OpenAI 的竞争正从基础模型延伸至开发者工具和企业应用市场。

在快速发展的过程中,Anthropic 也逐渐给外界留下了几个鲜明的印象。一方面,它在 AI 编程领域表现突出,旗下 Claude Code 已经成为广受关注的开发者工具;另一方面,这家公司始终强调 AI 安全,持续投入模型对齐、可解释性等研究。

而这些技术方向,早在 Anthropic 成立之初,就已有规划。

近日,一份写于 2021 年 7 月的 Anthropic 内部研究路线图意外曝光。这份由联合创始人 Jared Kaplan 撰写的文件,原本属于公司内部研究资料,今年 1 月因一起版权诉讼被提交至美国联邦法院,随后被研究社区重新发现。

图片图|Anthropic 2021 年内部研究路线图(来源:美国联邦法院公开文件)

文件成形时,Anthropic 成立仅半年左右。那时,团队就已经提出,要开发一种能够像软件工程师一样工作的通用 AI 助手,并围绕这一目标研究模型训练、工具使用、反馈机制和安全问题。

五年前,Anthropic 就想让 AI 成为软件工程师

2021 年,距离 GPT-3 发布刚过去一年。当时,大语言模型已经展现出一定的文本生成能力,但距离能够调用工具、操作电脑的 AI 助手,还有很长一段路要走。同年 6 月,GitHub 与 OpenAI 合作推出 GitHub Copilot 技术预览版,支持根据编辑器中的上下文生成代码,AI 编程开始受到行业关注。

Anthropic 也因此将软件开发放在了研究计划的重要位置。路线图开篇指出,公司的长期目标是开发安全、有益的通用人工智能(AGI)。为了验证这一目标,团队计划先开发一款通用 AI 助手,让用户通过自然语言交流,就能创建、修改和解释软件。

文件对这款助手的能力给出了具体描述,包括回答常规问题、编写函数、排查代码错误、设计应用程序接口(API),以及讨论代码风格和软件开发规范。团队甚至希望,它最终能够具备一名软件工程师同事的全部能力。不过,文件也坦言,这一目标短期内难以实现。

从今天回头看,这一设想与 2025 年 2 月推出的 Claude Code 研究预览版有不少相似之处。Claude Code 可以阅读项目文件、检索代码、修改程序、运行命令,并根据测试结果继续调整。但在 2021 年,要实现这些能力,还有许多基础问题需要解决。

图片图|Claude Code(来源:Anthropic)

首先是模型规模和训练效率。路线图提出,团队需要研究万亿参数及更大规模模型的训练方法,同时提高 GPU 利用率,改善强化学习过程中的采样效率。此外,研究人员还计划探索超长上下文,以及其他能够让模型长期保存信息和经验的方法。

这些研究与软件开发的实际需求有关。如果只是生成几十行代码,模型通常只需要参考当前的指令;但如果要修改一个大型软件项目,就必须理解不同文件之间的依赖关系,并记住此前进行过哪些修改。

训练数据同样重要。路线图提出,除了自然语言和代码,还要尽可能收集代码修改记录(Diff)、拉取请求(Pull Request)、调试过程以及相关评估结果。

这些数据能够提供普通代码文本中缺少的信息。以公开代码仓库为例,最终提交的代码可以告诉模型程序是如何编写的,而修改记录还能展示开发者删除了什么、增加了什么,以及代码在不同版本之间发生了哪些变化。拉取请求及其评审讨论,则可能包含修改原因、其他开发者的意见,以及后续调整过程。

如果模型既能看到最终代码,又能了解修改过程,就有机会学习开发者如何发现和解决问题。Anthropic 还提出,可以利用代码修改记录、维基文本修订历史及相关元数据,将人类意图与模型行为联系起来。

可见,至少在 2021 年,Anthropic 就已经意识到,软件开发过程中积累的数据具有重要的研究价值。

除了模型训练,路线图还单独列出了一项研究计划,即“用于工具使用的强化学习”(RL for Tool Use)。

当时的大语言模型主要依靠已有训练数据生成回答。如果用户要求它运行程序或查询外部信息,模型通常只能给出操作建议,无法直接执行,也就很难判断自己的答案是否正确。

Anthropic 希望让模型具备使用外部工具的能力,并通过工具了解周围环境和任务进展。文件列举的研究场景包括搜索信息、使用 printf 语句调试程序,以及操作代码编辑器。

以程序调试为例,如果只能阅读代码,模型需要根据已有知识推测错误出在哪里;如果能够运行程序、查看报错信息,再修改代码重新测试,就可以根据实际结果不断调整判断。

这样一来,模型便有机会连续完成多个操作,而不必每执行一步都等待人类提供反馈。研究人员也可以进一步探索,能否利用工具返回的结果开展强化学习,让模型逐渐掌握更复杂的任务。

从这些研究安排可以看出,Anthropic 当时已经意识到,仅仅依靠扩大模型规模、增加训练数据,还不足以实现理想中的软件工程助手。团队一方面希望利用代码修改记录、调试过程等数据,让模型更好地理解人类如何解决实际问题;另一方面,也在探索让模型主动使用工具,并根据执行结果获得反馈,逐步完成更复杂的任务。这些思路后来都成为 AI 编程发展的重要方向。

一场关于技术路线的内部讨论

除了研究计划,法院披露的文件还保留了 2021 年 7 月 16 日的一段内部讨论。参与者包括 Anthropic 联合创始人兼 CEO Dario Amodei、GPT-3 论文第一作者 Tom Brown,以及从事强化学习研究的 Andy Jones 等人。

当时,团队围绕工具调用的研究方向产生了不同意见。

Tom Brown 认为,代码仓库浏览是一个相对简单且有实用价值的切入点。研究员 Nelson Elhage 进一步提出,如果 AI 编程助手能够主动查找项目中的类型定义,将对实际开发很有帮助。Ben Mann 则提醒,代码仓库浏览最好与编辑器结合,否则使用起来可能不够方便。

这些建议都指向一个具体的应用场景。如果 AI 能够主动查看代码仓库,开发者就不必每次都将相关文件复制到对话框中,模型也能获得更多项目背景信息。

不过,Andy Jones 提出了另一种考虑。他认为,团队首先需要确定研究目标。如果希望尽快做出一款好用的编程助手,那么代码仓库搜索应当优先;但如果希望证明大语言模型确实能够学习使用工具,从 printf 调试、编辑器操作等任务入手,可能更有研究价值。

Dario Amodei 随后表达了自己的倾向:短期,应该优先验证工具使用的可行性,长期再开发更完善的编程助手。

两种方案的区别,在于团队究竟应该先解决实际产品需求,还是先弄清楚模型如何与外部环境交互。代码仓库搜索可以直接帮助开发者查找资料,但它只涉及工具使用的一部分。要让 AI 独立完成更复杂的任务,还需要让它判断什么时候调用工具、如何理解返回的信息,以及怎样根据结果决定下一步操作。

软件开发恰好适合开展这样的研究。程序可以运行,错误能够通过测试发现。模型修改一段代码后,可以查看运行结果,再根据报错继续调整。研究人员也因此有机会观察,模型能否通过反复尝试完成任务,而不只是根据已有训练数据生成答案。

五年之后,这些早期讨论中的部分设想已经进入实际产品。

2024 年 10 月,Anthropic 推出 Claude 的计算机使用(Computer Use)功能,让模型能够通过屏幕信息判断操作位置,进而移动鼠标、点击按钮和输入文字。同年 11 月,公司发布模型上下文协议(MCP),为 AI 助手连接外部工具和数据源提供统一接口。

2025 年 2 月,Claude Code 以研究预览版形式推出,能够搜索代码仓库、修改文件、运行测试,并根据反馈继续处理任务。

对照 2021 年的路线图可以发现,Anthropic 当时希望研究的工具使用能力,后来逐渐成为 Claude 产品的重要组成部分。尤其是 Claude Code,已经能够在一定程度上完成文件检索、代码修改和程序调试等连续操作,与最初设想的软件工程助手更加接近。

不过,模型能够执行的操作越多,安全问题也越复杂。这点 2021 年的内部讨论也已经涉及。研究员 Sam McCandlish 曾提出,如何安全部署没有沙箱隔离的工具?Dario Amodei 随后补充,尤其需要考虑那些能够在运行环境中直接执行代码的工具。

图片图|Claude Code 沙箱安全机制示意图(来源:Anthropic)

当模型只能生成代码时,用户还可以自行检查,再决定是否运行。但如果模型能够直接执行系统命令、修改文件或连接外部服务,一旦错误理解任务,或者受到恶意指令诱导,就可能造成实际影响。

2025 年 10 月,Anthropic 为 Claude Code 推出新的沙箱安全机制,通过限制文件系统和网络访问范围,让模型可以在指定环境内执行操作,同时减少对其他系统资源的影响。

另一名参与 2021 年讨论的研究员 Amanda Askell 也曾提醒,如果团队主要在代码领域提升模型能力,安全研究却集中于自然语言,那么相关安全测试可能无法充分反映模型的实际风险。她建议,能力研究与安全研究应该在不同领域同步推进。

拥有哲学博士学位的 Askell,后来成为 Anthropic 负责 Claude 性格与行为对齐研究的核心人物。2026 年 1 月,Anthropic 公布新版《Claude 宪法》,其中大部分内容由她撰写,旨在帮助模型理解和遵循行为原则。虽然无法确定她当年的建议对公司具体决策产生了多大影响,但能力发展与安全研究同步推进,始终是 Anthropic 强调的研究方向。

五年后,再看这份路线图

回头看,Anthropic 在 2021 年提出的研究目标,有不少已经在后来的产品中得到体现。从让模型学会使用工具,到让 AI 参与完整的软件开发,五年前还需要验证的技术,如今已经成为 AI 行业的重要竞争方向。

当然,提出研究设想与最终实现产品之间,仍有很长的距离。Anthropic 的经历也说明,早期的技术判断需要经过持续研发和市场检验,才能真正产生价值。五年前的研究人员无法预知 Claude Code 会以今天的形式出现,也无法确定 AI 编程市场会发展到如今的规模。

而这份意外曝光的路线图,也让人不禁好奇,今天 OpenAI、Anthropic 以及其他前沿 AI 实验室的内部研究计划中,是否同样藏着一些尚未受到广泛关注、却可能在未来五年甚至十年改变行业的技术方向?至少从这份文件来看,值得关注的不只有已经发布的产品,还有那些距离实际应用仍然遥远的研究。

参考链接:

1.https://storage.courtlistener.com/recap/gov.uscourts.cand.434709/gov.uscourts.cand.434709.553.8.pdf

2.https://www.lesswrong.com/posts/em5wnA7gpQSvfsuxQ/some-interesting-internal-documents-from-anthropic

3.https://www.reuters.com/business/finance/anthropics-q3-revenue-surges-45-nearly-17-billion-2026-10-14/

4.https://github.blog/news-insights/product-news/introducing-github-copilot-ai-pair-programmer/

5.https://www.anthropic.com/news/3-5-models-and-computer-use

6.https://www.anthropic.com/news/model-context-protocol

7.https://www.anthropic.com/news/claude-3-7-sonnet

8.https://www.anthropic.com/engineering/claude-code-sandboxing

9.https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback

运营/排版:何晨龙

注:封面/首图由 AI 辅助生成

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。

继续浏览更多资讯

返回资讯目录

相关资讯

更多