元人工智能迈出了超级智能的第一步——扎克伯格将不再向公众发布最强大的系统

Meta的研究人员声称已经观察到该公司的人工智能（AI）系统在没有人工输入的情况下自我改进。

“在过去的几个月里，我们开始看到我们的人工智能系统在自我改进，”梅塔首席执行官马克·扎克伯格在7月30日发布在公司网站上的一份政策文件中说。“目前改进缓慢，但不可否认。”扎克伯格补充说，自我改进的人工智能是实现人工超级智能的第一步——一种能够超越人类认知能力的人工智能。

从广义上讲，人工智能研究人员从三个层面考虑人工智能的能力。虽然当前的人工智能模型可以实现非凡的超人壮举，比如预测蛋白质结构，但这些能力极其狭窄。在这种情况下，该系统只能在一个特定领域超越人类，但缺乏通用智能，无法将这种能力应用于不同学科。

下一层称为通用人工智能（AGI），指的是能够以与人脑大致相同的方式理解、学习和适应的模型。

ASI是扎克伯格在博客文章中提到的最后一个状态，它涉及已经进化到远远超过人类潜力的模型——并且可以以指数速度提高自己，导致“智能爆炸”

科学家们将我们实现AGI的假设时刻称为技术奇点。相关：人工智能正在进入一个“前所未有的政权”我们应该在它摧毁我们之前阻止它吗？

扎克伯格提到看到人工智能自我完善并不是第一次发现这种现象。2024年10月，加州大学圣巴巴拉分校的研究人员向预印本arxiv数据库发表了一篇以自我完善概念为中心的论文。

在其中，他们定义、创建和测试了一个基于哥德尔机器思想的人工智能框架——一个能够通过重写自己的代码和指令来改进自己的理论设备。重要的是，机器只有在能够提供变革有益的正式证据时才会实施变革。

相关内容：人工智能可能很快就会以我们甚至不理解的方式思考——逃避我们保持一致的努力——顶级人工智能科学家警告说

该团队试验了基于该概念的AI框架，并证明他们的Gödel Agent可以提高自己在各种任务中的性能，包括编码、科学、数学和推理。

几乎所有模型通常都不能重写自己的代码。Gödel Agent不仅可以访问其整个代码库，还可以访问用于开发改进的代码，同时表明这些改进是有益的。

根据这项研究，人工智能在关键领域一直表现出比人类设计的代理更好的性能。扎克伯格说，人工智能可以代表人类技术进步的变革性一步，它可以导致“发现今天无法想象的新事物”也就是说，他补充说，Meta将更加小心公司选择在开源框架下向公众发布哪些模型——这意味着任何人都可以访问它。

扎克伯格写道：“我非常乐观地认为，超级智能将帮助人类加快我们的进步步伐。但也许更重要的是，超级智能有可能开启一个个人赋权的新时代，在这个时代，人们将有更大的动力按照他们选择的方向改善世界。”

“尽管有一天人工智能可能会产生深远的影响，但对我们生活更有意义的影响可能来自每个人都拥有个人超级智能，帮助你实现目标，创造你想在世界上看到的东西，体验任何冒险，成为你关心的人更好的朋友，并成长为你渴望成为的人。”