AGI, el santo grial del desarrollo de la IA, domina cualquier tarea cognitiva que un humano pueda realizar, aprende en todos los dominios y se mejora a sí misma. Y los componentes básicos ya están aquí.

Pero cuando los sistemas se auto-mejoran, incluso un 1% de desalineación = P(condenación) 💀

Asegurémonos de hacerlo bien.

🧵 https://t.co/zjwhoE2l4P