Vista la entrevista, Eliezer Yudkowsky, su forma de cerrar los ojos mientras hablaba, su forma de gesticular, lo oscuro de sus planteamientos, me han dejado en shock, dicho esto dejo captura y transcripción de un comentario del vídeo:
"La IA no necesita robots para hacer cosas en el mundo físico. Simplemente puede hacer que los humanos hagan cosas. Piense en los estafadores y la ingeniería social. Envíe correos electrónicos no deseados, que parecen haber sido escritos por un ser humano legítimo, con razones convincentes y ofreciendo grandes cantidades de dinero, y haga esto a millones de personas. Vas a tener mucha gente que hará lo que le pidas, sin siquiera darse cuenta de que está hablando con una IA".
#1 Es es el peligro más inmediato que le veo a las IA actuales, puedes entrenarlas para ser muy convincentes a la hora de estafar, conseguir que le den claves y usuarios por ingeniería social, etc. Puedo imaginarme una IA imitando la voz de mi hermana para que mi padre le haga una transferencia urgente, del mismo modo que ahora en programas de humor llaman a políticos haciéndose pasar por otros políticos (https://www.elconfidencial.com/espana/madrid/2022-08-10/videollamada-humoristas-almeida-otan-alcalde-kiev_3474338/).
Las inteligencias artificiales son tan antiguas como la civilización. Llevan miles de años masajeándo el ego de los humanos, pero lo cierto es que los humanos dejaron de ser amos de su destino en el momento en el que inventaron el lenguaje.
Desde entonces somos siervos de inteligencias superiores que no somos capaces de entender. El que ahora ahora la gente tema a las IAs simuladas en un ordenador muestra lo alejados que están algunos de la realidad.
El metaverso no es ponerse un casco y ver tu propio cuerpo en second live interactuando con tus amigos, el metaverso es que te atienda un individuo de un callcenter de caracas y que por medio una IA modifique su acento para que parezca el tuyo y creas que te está atendiendo tu vecino (esto ya existe). La modificación paulatina de la realidad en la que vives,sin que te des cuenta, es el metaverso
Comentarios
Me consta que Sam Altam (@OpenAI) sigue a Eliezer Yudkowsky en twitter e interactúa con él a menudo.
#2 Pongo captura podéis comprobarlo por vosotros mismos
Vista la entrevista, Eliezer Yudkowsky, su forma de cerrar los ojos mientras hablaba, su forma de gesticular, lo oscuro de sus planteamientos, me han dejado en shock, dicho esto dejo captura y transcripción de un comentario del vídeo:
"La IA no necesita robots para hacer cosas en el mundo físico. Simplemente puede hacer que los humanos hagan cosas. Piense en los estafadores y la ingeniería social. Envíe correos electrónicos no deseados, que parecen haber sido escritos por un ser humano legítimo, con razones convincentes y ofreciendo grandes cantidades de dinero, y haga esto a millones de personas. Vas a tener mucha gente que hará lo que le pidas, sin siquiera darse cuenta de que está hablando con una IA".
Relacionadas:
Grandes figuras de la inteligencia artificial como Max Tegmark, Andrew Yang, Elon Musk o Wozniak han pedido una pausa temporal (al menos 6 meses) para la creación de sistemas que superen GPT-4
No basta con pausar el desarrollo de la IA. Tenemos que pararlo completamente [ENG
#1 Es es el peligro más inmediato que le veo a las IA actuales, puedes entrenarlas para ser muy convincentes a la hora de estafar, conseguir que le den claves y usuarios por ingeniería social, etc. Puedo imaginarme una IA imitando la voz de mi hermana para que mi padre le haga una transferencia urgente, del mismo modo que ahora en programas de humor llaman a políticos haciéndose pasar por otros políticos (https://www.elconfidencial.com/espana/madrid/2022-08-10/videollamada-humoristas-almeida-otan-alcalde-kiev_3474338/).
Las inteligencias artificiales son tan antiguas como la civilización. Llevan miles de años masajeándo el ego de los humanos, pero lo cierto es que los humanos dejaron de ser amos de su destino en el momento en el que inventaron el lenguaje.
Desde entonces somos siervos de inteligencias superiores que no somos capaces de entender. El que ahora ahora la gente tema a las IAs simuladas en un ordenador muestra lo alejados que están algunos de la realidad.
Peligros de y el fin de la civilización humana. Autor: Alguien que quiere un trozo de pastel de fama.
El metaverso no es ponerse un casco y ver tu propio cuerpo en second live interactuando con tus amigos, el metaverso es que te atienda un individuo de un callcenter de caracas y que por medio una IA modifique su acento para que parezca el tuyo y creas que te está atendiendo tu vecino (esto ya existe). La modificación paulatina de la realidad en la que vives,sin que te des cuenta, es el metaverso