La utopía de la abundancia y la IA que gobierna el mundo

Comparto estos 20 minutos de la entrevista a Mo Gawdat que me han esperanzado. El argumento dice algo así: "La inteligencia naturalmente intenta crear orden para luchar contra la entropía, por tanto, una IA jamás será maligna. Por otro lado, los CEOs y otros líderes, voluntariamente se sustituirán a sí mismos por IAs por la dinámica competitiva del mercado, quedando así los psicópatas despojados de su poder actual."

[#6 Paltus]

Pero una IA no será maligna hasta que la programen para ser maligna.
¿Cuanto tardará Grok en ser programada para lamerle el culo a Musk?

[#9 indi11]

#6 Bueno, hay gente que te dice que está programada de base para que responda a preguntas estilo qué pensaría elon musk sobre este tema...lo menciona en los últimos párrafos de esta noticia www.rtve.es/noticias/20250808/mientes-grok-imagenes-ninos-desnutridos-

[#11 esbrutafio]

#4 #6 el bien y el mal son conceptos relativos. Por ejemplo todos los genocidas que en el mundo han sido, estaban, y están, convencidos de hacer un gran bien a la humanidad eliminando a tal grupo de indeseables.
No veo por que razón una IA iba a ser diferente.

[#12 Paltus]

#11 Estos genocidas también estaban cargados de prejuicios. Supongo que la primera IA debería ser plenamente objetiva.

[#13 esbrutafio]

#12 La objetividad no es posible en temas subjetivos.
Muchas personas en la España de 1975 estaban convencidas de que el derecho al divorcio era algo malo. Otras muchas estaban convencidas de que era algo bueno. ¿Vale más la opinión de unos que la de otros ? ¿Como objetivizas eso?

[#14 Paltus]

#13 Atendiendo a los derechos fundamentales, unas bases lógicas de respeto a cualquier ser humano.
Negando el divorcio, niegas la capacidad de decidir de una persona.

[#15 esbrutafio]

#14 Totalmente de acuerdo. Pero el respeto al ser humano y a la capacidad de decidir de cada persona son valores subjetivos que algunas personas compartimos.
Otras personas anteponen el derecho de Dios a imponer su voluntad sobre su creación. Y estas personas ven esto tan justo y razonable como nosotros vemos justo y razonable respetar al ser humano y su derecho a decidir.
Las dos posturas son convenciones sociales. Objetivamente no se puede decir que una es superior a la otras sin antes haber establecido como bien superior una de esas mismas dos posturas. La pescadilla que se muerde la cola. Una IA no puede con ese problema.

[#3 gitamon]

demasiadas esperanzas en la IA, pero los gobiernos y otros lobbys lucharán por no ser sustituidos por ella.

[#8 asola33]

Uso la IA pero creo que se usará para reducir los empleos y aumentar el poder del capital. Más concentración de la riqueza. Todo para unos pocos. Los ricos, sus empleados imprescindibles, las fuerzas del orden, y otros esbirros...

[#1 Jakeukalane]

#0 añadido icono de video

[#2 amoreno.carlos]

#1 thanks!

[#5 omega7767]

¿pq un CEO u otros lideres se despedirían a si mismos?
¿acaso creen que vamos a tener IA en vez de un parlamento lleno de diputados?

[#7 Pointman]

#5 Porque son uno vagos. El trabajo lo hará la IA y ellos se limitarán a cobrar la nómina.

[#17 omega7767]

#7 ahí tienes toda la razón

[#4 j-light]

"La inteligencia naturalmente intenta crear orden para luchar contra la entropía, por tanto (aquí hacemos un salto de fe, que no tiene relación alguna con la primera frase) una IA jamás será maligna".

[#10 amoreno.carlos]

#4 El salto es para que escuches la entrevista, no entra toda la explicación en la entradilla. Pero en resumen, tirar bombas, destruir edificios, contaminar, destruir ecosistemas, están a favor de la entropía y en contra de la vida.

[#19 j-light]

#10 He escuchado unos 45 minutos. Por un lado, creo que sí que aciertan describiendo el show business que rodea el tema de la IA y todo lo que hay en juego. Por otro, creo que le asignan cualidades que no tiene o hablan como si pudiera llegar a ser un ser "vivo".

[#20 amoreno.carlos]

#19 No digo que no haya show business, y que lo que ahora tenemos por IA no es más que un conjunto de datos estadísticamente muy bien ordenado, pero dado ese orden y las consiguientes iteraciones que se darán gracias a los LLMs, ¿tan difícil es pensar que lograremos una inteligencia sintética capaz de aprender las reglas del universo por sí misma? Actualmente hay muchos animales con menos inteligencia que cualquier LLM que pueda correr en local...

[#21 j-light]

#20 Esta conversación puede ser muy larga, porque primero habría que definir "inteligencia". La LLM puede resolver muchos problemas "intelectuales" pero un animal tiene otros problemas que resolver y no todos son intelectuales. No dudo que la tecnología evolucionará a cosas más grandes, pero es como si un hombre en la revolución industrial pensara que habría seres vivos movidos por el carbón, por decirlo así. Esa es un poco mi postura. Estamos alucinando con lo que tenemos, y con razón. Pero no es más que tecnología y no puede ser más que eso. Esa es mi opinión actualmente.

[#16 R2dC]

Joder, me da pereza las entrevistas que hace este tio. Invita a tal cantidad de futurólogos apocalipticos que me quita las ganas de ver los programas nuevos.

[#18 extremofilosimpatucos]

Buah chaval, es cojonudo para saber a quien no debes seguir más en la vida.