2024年，苏格兰未来学家大卫·伍德（David Wood）参加了在巴拿马举行的人工智能（AI）会议上的非正式圆桌讨论，当时谈话转向了我们如何避免最灾难性的AI未来。他讽刺的回答远非令人放心。

首先，我们需要收集所有曾经发表过的人工智能研究成果，从艾伦·图灵1950年的开创性研究论文到最新的预印本研究。然后，他继续说，我们需要把所有这些研究成果付之东流。为了格外小心，我们需要把所有活着的人工智能科学家都抓起来——然后开枪打死他们。伍德说，只有这样，我们才能保证避开技术奇点带来的灾难性后果的“非零机会”——人工智能发展出超越人类智能的通用智能的“事件视界”时刻。

伍德本人也是该领域的一名研究人员，他显然是在拿这个减轻通用人工智能（AGI）风险的“解决方案”开玩笑。但在他讽刺的回答中隐藏着一个核心事实：超级智能人工智能带来的风险对许多人来说是可怕的，因为它们似乎不可避免。大多数科学家预测，通用人工智能将在2040年实现——但一些人认为，这可能最早在明年实现year.So如果我们像许多科学家一样假设我们已经登上了一辆直奔生存危机的直达列车，会发生什么？最大的担忧之一是通用人工智能会变得无赖，违背人类的利益，而其他人则表示这只会给商业带来好处。还有人声称它可以解决人类的生存问题。然而，专家们倾向于一致认为，技术奇点即将到来，我们需要做好准备。

“目前还没有人工智能系统展示出类似人类的创造、创新和想象能力，”SingularityNET公司的首席执行官本·戈泽尔说，该公司正在设计计算架构，声称有一天可能会导致AGI。但是“突破有望在几年内发生，而不是几十年。”人工智能的诞生和成长的痛苦人工智能的历史可以追溯到80多年前，1943年的一篇论文为神经网络的最早版本奠定了框架，神经网络是一种旨在模仿人脑架构的算法。“人工智能”一词直到1956年在达特茅斯学院由当时的数学教授约翰·麦卡锡与计算机科学家马文·明斯基、克劳德·香农和纳撒尼尔·罗切斯特组织的一次会议上才被创造出来。人们在该领域取得了断断续续的进展，但机器学习和人工神经网络在20世纪80年代进一步发展，当时约翰·霍普菲尔德和杰弗里·辛顿研究了如何制造可以使用算法从数据中提取模式的机器。“专家系统”也取得了进展。这些系统模仿特定领域人类专家的推理能力，使用逻辑筛选隐藏在大型数据库中的信息以形成结论。但过度夸大的预期和高昂的硬件成本相结合，创造了一个最终破裂的经济泡沫。这开启了从1987年开始的人工智能寒冬。

在这个十年的前五年，人工智能研究继续以较慢的速度进行。但是，在1997年，IBM的深蓝击败了世界上最好的棋手加里·卡斯帕罗夫。2011年，IBM的沃森击败了有史以来的“危险！”冠军肯·詹宁斯和布拉德·鲁特。然而，这一代人工智能仍然难以“理解”或使用复杂的语言。然后，在2017年，谷歌研究人员发表了一篇具有里程碑意义的论文，概述了一种叫做“变压器”的新型神经网络架构。这个模型可以摄取大量数据，并在遥远的数据点之间建立连接。

它改变了语言建模的游戏规则，诞生了人工智能代理，可以同时处理翻译、文本生成和摘要等任务。当今所有领先的生成式人工智能模型都依赖于这种架构，或者受其启发的相关架构，包括OpenAI的DALL-E 3和谷歌DeepMind的革命性模型AlphaFold 3等图像生成器，该模型预测了几乎所有生物蛋白质的3D形状。AGID的进展尽管基于变压器的人工智能模型的能力令人印象深刻，但它们仍然被认为是“狭窄的”，因为它们无法很好地跨多个领域学习。研究人员还没有确定AGI的单一定义，但匹配或击败人类智能可能意味着达到几个里程碑，包括表现出高语言、数学和空间推理能力；跨领域学习良好；自主工作；展示创造力；以及展示社交或情商。

许多科学家一致认为，谷歌的变压器架构永远不会带来使人工智能比人类更聪明所需的推理、自主性和跨学科理解。