Sana

Para mi este no el mayor problema de la IA. Es dejarla sin supervisión y que se produzcan errores en cadena catastróficos.

Imaginad una cadena de agentes. Estos agentes procesan datos muy rápido, toman decisiones. El resultado de A pasa a B y de B a C etc.

Un pequeño error puede amplificarse y en sistemas críticos puede ser fatal.

No creo que deje de haber humanos en estos sistemas solo como mecanismo de seguridad.

No hace falta que la IA sea malvada para producir desastres enormes. Y es complicado predecir todos los escenarios para introducir guardarailes.