人工智能能够拯救人类，但前提是人们要控制它 — Ben Goertzel

随着iPhone 16的发布，苹果公司承诺该设备已针对人工智能进行了优化，这表明人工智能再次成为普通消费者关注的焦点。然而，与前瞻性的AI技术专家所预期的在不久的将来能够实现的广泛能力相比，这项技术仍然相对有限。尽管人们对这项技术仍然充满期待，但许多人仍然担心将其深度融入社会可能带来的负面后果。其中一个常见的担忧是，足够先进的人工智能可能会将人类视为威胁并对我们采取反制，这一情景在许多科幻故事中都有描绘。然而，根据一位领先的AI研究者的说法，通过去中心化和民主化AI的发展，大多数人的担忧可以得到缓解。在《The Agenda》播客的第46集中，主持人Jonathan DeYoung和Ray Salmond通过与计算机科学家和研究者Ben Goertzel的对话，分辨事实与虚构。Goertzel首次普及了“人工通用智能”（AGI）这一术语。目前，他担任SingularityNET和ASI Alliance的首席执行官，领导这些项目努力开发世界上第一个AGI。Goertzel将AGI定义为“能够完成所有人类所能做的事情的人工智能，包括人类超越我们所学知识的能力。”这与那些已经存在一段时间的更狭义的人工智能不同，后者“只能执行一些高度特定的任务，而不尝试涵盖人类思维的广泛范围。”Goertzel表示，虽然像ChatGPT这样的庞大语言模型能够执行许多通用任务，但由于它们并没有超出训练范围，因此不符合人工通用智能的标准。开发AGI将带来许多潜在的改变世界的好处。Goertzel表示：“我们可以在日常人类生活的层面上消除物质稀缺，就像我们可以为我们的狗准备所有它想吃的牛排一样。”“我们不再需要为生计而工作。像死亡和疾病这样的事情应该可以通过纳米技术治愈，而先进的AI大概能够创造出这种技术。”“我的意思是，消除稀缺、死亡和疾病，这些都是非常大的好处，超越了我们在媒体中经常讨论的小好处，比如自动驾驶汽车和无人机将你的亚马逊商品送到你家门口等等。”相关：OriginTrail谈AI、现实世界的应用及知识的价值：Agenda播客然而，强大的AGI并不是没有风险。Goertzel在Agenda上表示，尽管世界末日式的末世毁灭场景极不可能发生——虽然不能完全排除——但在其发展过程中存在其他固有的风险。“人类可能利用适度先进的AI出于自身利益对其他人做出恶劣行为的想法，这是一个非常非常明显且切实的风险，”他分享道。“如果你看看我们现在作为一个物种如何运作，然后考虑引入与人类大致相当聪明的AI，最明显的事情就是大型企业会利用这些AI来赚更多的钱，而拥有强大军队的国家会利用这些AI来获得更多的权力。”为了避免这些担忧，并确保AGI的使用能够造福全人类，Goertzel认为应该去中心化和民主化它。这样，它就无法被“少数拥有狭隘利益的强大群体控制。”他辩称：“你需要某种方式来去中心化AI运行的所有过程，然后你需要一种方式来去中心化所有这些处理器的数据输入。这个就是SingularityNET旨在提供的功能。[……] Singularity允许你将一组AI代理运行在没有中央控制方拥有和控制的机器上。”“这就是为了人类的利益而推出AI的正确方式。要了解更多Goertzel与The Agenda的对话，包括他对AGI如何延长人类寿命的看法、好莱坞对AI的正确与错误的理解，以及AGI是否会揭示宇宙的奥秘的看法，请在Cointelegraph的播客页面、Apple Podcasts或Spotify上收听完整节目。别忘了查看Cointelegraph的其他节目阵容！杂志：先进的AI系统已经‘自我意识’——ASI Alliance创始人。本文仅供一般信息参考，不应被视为法律或投资建议。此处表达的观点、想法和意见仅代表作者个人，并不一定反映或代表Cointelegraph的观点和意见。

人工智能可以拯救人类，但前提是人类必须控制它——Ben Goertzel