AGI（人工汎用知能）は、AI開発における聖杯であり、人間ができるあらゆる認知タスクを習得し、複数の領域にわたって学習し、自己改善を行います。そして、その核となる構成要素はすでに存在しています。

しかし、システムが自己改善を行う際、たとえ1%のずれでも破滅の確率 = P(doom) 💀

確実に成功させましょう。

🧵 https://t.co/zjwhoE2l4P