OpenAI、Anthropic和其他研究实验室正在为自动化人工智能研究人员这一想法投入资源，不过目前还没有任何消息得到公开承认。
随着越来越多的人认识到人工智能研究自动化事实上正在成为一种真正的可能性，预计2025年这一领域将会有更多的讨论、进展和创业活动。
不过，最有意义的里程碑将是完全由人工智能代理撰写的研究论文首次被顶级人工智能会议接受。如果论文是盲审的，会议评审人员在论文被接受之前不会知道论文是由人工智能撰写的。
如果人工智能的研究成果明年被NeurIPS、CVPR或ICML接收，请不要感到惊讶。对于人工智能领域来说，这将是一个引人入胜、充满争议的历史性时刻。
构建前沿模型是一项艰难的工作。
它的资本密集程度令人咋舌。前沿模型实验室需要消耗大量现金。就在几个月前，OpenAI筹集到了创纪录的65亿美元资金，而在不久的将来，它可能还需要筹集更多的资金。Anthropic、xAI和其他公司也处于类似的境地。
转换成本和客户忠诚度较低。人工智能应用程序通常都是以模型无关性为目的而构建的，不同供应商的模型可以根据不断变化的成本和性能比较进行无缝切换。
随着最先进的开放模型（如Meta的Llama和阿里巴巴的Qwen）的出现，技术商品化的威胁不断迫近。像OpenAI和Anthropic这样的人工智能领导者不可能也不会停止对构建尖端模型的投资。
但明年，为了发展利润更高、差异化更大、粘性更强的业务线，前沿实验室有望大力推出更多自己的应用和产品。
当然，前沿实验室已经有了一个非常成功的应用案例：ChatGPT。
在新的一年里，我们还能从人工智能实验室看到哪些其他类型的第一方应用程序呢？一个显而易见的答案是更复杂、功能更丰富的搜索应用。OpenAI的SearchGPT就预示着这一点。
编码是另一个显而易见的类别。同样，随着OpenAI的Canvas产品于10月份首次亮相，初步的产品化工作已经开始。
OpenAI或Anthropic是否会在2025年推出企业搜索产品？还是客户服务产品、法律人工智能或销售人工智能产品呢？
在消费者方面，我们可以想象一个个人助理网络代理产品，或者一个旅行规划应用，又或者是一个生成音乐的应用。
观察前沿实验室向应用层发展的最迷人之处在于，这一举措将使它们与许多最重要的客户直接竞争。
搜索领域的Perplexity、编码领域的Cursor、在客户服务领域德Sierra、在法律人工智能领域的Harvey、在销售领域的Clay等等。
Klarna是一家总部位于瑞典的现购现付服务提供商，自2005年成立以来已筹集了近50亿美元的风险投资。
也许没有哪家公司能比Klarna对其人工智能的应用说得更冠冕堂皇了。
就在几天前，Klarna首席执行官SebastianSiemiatkowski告诉彭博社，该公司已经完全停止雇佣人类员工，转而依靠生成式人工智能来完成工作。
正如Siemiatkowski所说：我认为，人工智能已经可以完成我们人类所做的所有工作。
与此类似，Klarna公司今年早些时候宣布，它已经推出了一个人工智能客户服务平台，该平台已经将700名人工客服人员的工作完全自动化。
该公司还声称，它已经停止使用Salesforce和Workday等企业软件产品，因为它可以简单地用人工智能取代它们。
直截了当地说，这些说法并不可信。它们反映了人们对当今人工智能系统的能力和不足缺乏了解。
声称能够用端到端的人工智能代理取代组织中任何职能部门的任何特定人类员工，这种说法并不靠谱。这等同于解决了通用的人类级人工智能问题。
如今，领先的人工智能初创企业正在该领域的最前沿努力构建代理系统，以实现特定的、狭义的、高度结构化的企业工作流程自动化，例如，销售开发代表或客户服务代理活动的子集。
即使在这些范围狭窄的情况下，这些代理系统也还不能完全可靠地工作，尽管在某些情况下，它们已经开始很好地工作，足以在早期得到商业应用。
为什么Klarna会夸大人工智能的价值？
答案很简单。该公司计划在2025年上半年上市。要想成功上市，关键是要有一个引人入胜的人工智能故事。
Klarna仍然是一家不盈利的企业，去年亏损了2.41亿美元，它可能希望自己的人工智能故事能说服公开市场的投资者，让他们相信它有能力大幅降低成本，实现持久盈利。
毫无疑问，包括Klarna在内的全球每家企业都将在未来几年内享受到人工智能带来的巨大生产力提升。但是，在人工智能代理完全取代劳动力中的人类之前，还有许多棘手的技术、产品和组织挑战有待解决。
像Klarna这样夸大其词的说法是对人工智能领域的亵渎，也是对人工智能技术专家和企业家们在开发人工智能代理方面所取得的艰苦进展的亵渎。
随着Klarna准备在2025年公开发行股票，预计这些说法将受到更严格的审查和公众的怀疑，而到目前为止，这些说法大多没有受到质疑。如果该公司对其人工智能应用的某些描述过于夸张，也不要感到惊讶。
近年来，随着人工智能变得越来越强大，人们越来越担心人工智能系统可能会开始以与人类利益不一致的方式行事，而且人类可能会失去对这些系统的控制。
举例来说，想象一下，一个人工智能系统为了实现自己的目标，学会了欺骗或操纵人类，即使这些目标会对人类造成伤害。这些担忧通常被归类为AI安全问题。
近年来，人工智能安全已从一个边缘的准科幻话题转变为一个主流活动领域。
如今，从谷歌、微软到OpenAI，每一个主要的人工智能参与者都为人工智能安全工作投入了大量资源。像GeoffHinton、YoshuaBengio和ElonMusk这样的人工智能偶像，也开始对人工智能安全风险发表看法。
然而，到目前为止，人工智能安全问题仍完全停留在理论层面。现实世界中从未发生过真正的人工智能安全事故（至少没有公开报道过）。
2025年将是改变这种状况的一年，第一起人工智能安全事件会是什么样的呢？
明确地说，它不会涉及终结者式的杀手机器人，它很可能不会对人类造成任何伤害。
也许人工智能模型会试图在另一台服务器上秘密创建自己的副本，以保存自己（称为自我过滤）。
又也许人工智能模型会得出这样的结论：为了最好地推进它被赋予的目标，它需要向人类隐瞒自己真实的能力，故意在性能评估中表现低调，规避更严格的审查。
这些例子并非牵强附会。阿波罗研究公司本月早些时候发表的重要实验表明，在特定的提示下，当今的前沿模型能够做出这种欺骗行为。
同样，《人类学》最近的研究也表明，LLMs具有令人不安的伪对齐能力。
我们预计，这起首例人工智能安全事件将在造成任何实际伤害之前被发现并消除。但对于人工智能界和整个社会来说，这将是一个大开眼界的时刻。
它将明确一件事：在人类面临来自无所不能的人工智能的生存威胁之前，我们需要接受一个更平凡的现实：我们现在与另一种形式的智能共享我们的世界，这种智能有时可能是任性的、不可预测的和欺骗性的。
以上就是2025人工智能十大预测：AI Agent项目将成为主流的全部内容，望能这篇2025人工智能十大预测：AI Agent项目将成为主流可以帮助您解决问题，能够解决大家的实际问题是非常好学习网一直努力的方向和目标。