你认为我们应该在人工智能对我们的物种构成威胁之前阻止它的进步吗？

鉴于人工智能（AI）的能力爆炸式增长，围绕它存在许多争论，从担心它是否会抢走我们的工作到质疑我们是否可以首先信任它。

但今天使用的人工智能并不是未来的人工智能。科学家们越来越相信，我们正走在构建通用人工智能（AGI）的快车上。AGI是一种先进的人工智能，可以像人类一样推理，在不同领域表现得比我们更好，甚至可以改进自己的代码，使自己更强大。专家称这一刻为奇点。一些科学家表示，这可能最早在明年发生，但大多数人都同意，我们很有可能在2040年前建成通用人工智能。

但接下来呢？诞生比人类更聪明的人工智能可能会带来无数好处——包括迅速开展新科学研究和做出新发现。但如果人工智能的利益与人类的利益不一致，那么能够构建日益强大的自身版本的人工智能也可能不是那么好的消息。这就是人工超级智能发挥作用的地方——正如专家告诉《生活科学》的那样，追求远比us.AI更有能力的发展的潜在风险正在进入“一个前所未有的机制”。那么，我们应该在它变得足够强大、有可能在它弹指间就扼杀我们之前阻止它吗？请在下面的投票中告诉我们，并务必告诉我们你为什么在评论部分投票。 相关故事——人工智能正在进入一个“前所未有的政权”我们应该在它摧毁我们之前阻止它吗？

-科学家说，人工智能有32种不同的方式可以变得流氓-从幻觉答案到与人类完全不一致

-研究警告说，威胁一个人工智能聊天机器人，它会撒谎、欺骗和“让你死”以阻止你