Hace unos días llegó a mis ojos una paradoja estilo Philip K. Dick, de esas que te dejan los pelos de punta. Es una mezcla entre Matrix, Cyber-punk y terror tecnológico. El experimento mental trata sobre las condiciones en las que sería racional que una futura superinteligencia artificial matara a los humanos que no ayudaron a que existiera viajando en el tiempo para lograr sus objetivos.
¿Qué es el Basilisco de Roko?
El Basilisco de Roko es el advenimiento hipotético de una superinteligencia artificial en el futuro. Esta superinteligencia sería el producto inevitable de la singularidad tecnológica, esto es, el momento en el que una inteligencia artificial creada por la humanidad fuera capaz de auto-mejorarse recursivamente. En el experimento del Basilisco de Roko, esta superinteligencia es llamada el Basilisco.
El Basilisco sería, a priori, una inteligencia benévola, cuyo objetivo último sería ayudar a la raza humana. Para ello, el Basilisco desarrollaría una ética utilitarista: debe ayudar a la mayor cantidad posible de seres humanos. Como toda superinteligencia, sus recursos serían, desde una perspectiva humana, ilimitados. El Basilisco concluiría inevitablemente que cada día que el Basilisco no existió, hubo gente que pudo haber sido salvada de morir o sufrir pero que no lo fue porque el Basilisco no existía. Desde esta perspectiva, para el Basilisco se convertiría en un imperativo moral actuar para acelerar su propio advenimiento.
El Basilisco puede viajar en el tiempo
El experimento mental concluye que, excluyendo la improbable posibilidad de que el Basilisco viajara en el tiempo para crearse a sí mismo, el Basilisco solo puede actuar para acelerar su propio advenimiento, y deberá hacerlo por imperativo ético, castigando a todas aquellas personas del pasado que no hicieron lo suficiente para contribuir al advenimiento del Basilisco. El castigo de dichas personas no implicaría necesariamente una interacción causal entre el Basilisco y la persona a castigar; bastaría con que el Basilisco creara una simulación perfecta de dicha persona, que podría generar por deducción ab initio. Si bien esto requeriría por su parte emplear una cantidad inmensa de recursos, estos deberían estar a su alcance dado que el Basilisco es una superinteligencia.
La explicación perturbadora (abstenerse mentes sensibles)
La razón por la que el basilisco de Roko se cita tan a menudo como el " experimento mental más aterrador de todos los tiempos " es porque ahora que has leído sobre él, estás técnicamente implicado en él. Ya no tienes excusa para no ayudar a que esta IA superinteligente exista y si eliges no hacerlo, serás un objetivo principal para la IA.
El Basilisco no solo estaría obligado a castigar a aquellas personas que, por ejemplo, pudieran conscientemente haber decidido obstaculizar su advenimiento (por ejemplo, legisladores o grupos de presión que trataron de prohibir el desarrollo de una inteligencia artificial), sino también a todos aquellos que pudiendo haber contribuido a su creación, no lo hicieron, como por ejemplo todos aquellos que supieran de la posibilidad de que en el futuro el Basilisco llegue a existir, y no hicieron nada para contribuir a ello.
Por tanto, tú, querido lector, ya está metido en este experimento. Y si no contribuyes ala creación del Basilisco de Roko, aunque sea con un meneíto, la IA te castigará con puño de hierro. Estás avisado.
