Menéame: comentarios [4122114]

#26 La IA generativa nos hará cáscaras vacías, por Éric Sadin

pip — Sun, 30 Nov 2025 16:53:18 +0000

#25 sí, en IA esta idea se lleva a la necesidad de una "IA encarnada" que tenga experiencias del mundo, como un posible remedio.

Mi opinión es una conjetura basada en la observación de que ya tenemos algo que funciona como un cerebro humano: otro cerebro humano. Y ese otro cerebro humano es incapaz de tener la creatividad de otro cerebro sin haber vivido esas experiencias concretas.

Por ejemplo, es muy improbable que el cerebro de un bosquimano escriba nunca de forma espontánea la canción "La raja de tu falda" de Estopa. Para escribir eso, necesitas un contexto vivido que incluye un Seat Panda, y muy posiblemente pequeños despistes vividos conduciendo por Barcelona y distrayéndote al ver chicas atractivas por la Meridiana.

Por tanto, el bosquimano seguramente pueda hacer poesía y canciones muy vividas sobre leones, anocheceres en la sabana o lo que sea que experimente. Como mi cerebro es urbanita bacelonés, ni siquiera puedo decir qué le conmueve a un bosquimano.

¿Cuál es la "experiencia vital" de la IA? ¿Todas las experiencias del mundo juntas? En mi opinión (conjetura), si un cerebro tuviese todas las experiencias del mundo a la vez, entonces TAMPOCO podría hacer eso, porque si sabes todo y vives todo, todo te impacta y a la vez, nada te impacta lo suficiente.

Es decir: la creatividad parte de una experiencia individual de la vida con datos limitados. Se necesitaría una IA que viva el mundo, y tenga sus propias experiencias.

Eso es radicalmente distinto a una IA supertodopoderosa que sabe de todo a la vez pero no experimenta nada porque "vive" en un centro de datos.

» autor: pip

#25 La IA generativa nos hará cáscaras vacías, por Éric Sadin

Einwanderer — Sun, 30 Nov 2025 16:42:11 +0000

#24 Lo que la gente suele denominar "creatividad" es realmente una ventana muy estrecha entre una base de experiencias comunes muy rígidas y el puro "ruido". Hay quien es capaz de interpretar ese ruido de forma más extensa, más profunda, más generalizable. Y también hay que tener en cuenta que las arquitecturas de un LLM y de un cerebro humano son completamente diferentes. Un humano ha sido moldeado por la evolución con una gran cantidad de sistemas chapuceros y munuciosamente optimizados con funciones muy concretas, y al mismo tiempo tiene una gran cantidad de conocimientos contextuales que no están disponibles para un LLM (o para cualquier otra máquina).
Lo que me chirría no es habitualmente tanto el triunfalismo con el que se señalan los supuestos fracasos de estos sistemas como la pobre consciencia que tiene la gente del funcionamiento mecanístico de sus propios cerebros.
Podríamos decir que estás expresando lo que se conoce como "cognición encarnada", no? en.wikipedia.org/wiki/Embodied_cognition
Gracias por tu opinión.

» autor: Einwanderer

#24 La IA generativa nos hará cáscaras vacías, por Éric Sadin

pip — Sun, 30 Nov 2025 16:11:25 +0000

#14 #13 en mi opinión, y esto es solo una conjetura, la originalidad y creatividad del cerebro humano viene dada por las experiencias vitales únicas de ese cerebro en concreto. Lo que has vivido de niño, las novias que te traicionaron, el atún caducado que te sentó mal una vez. Toda tu experiencia vital forma una "sopa" de experiencias únicas para cada cerebro y son esas experencias las que producen inferencias únicas que dan lugar a la creatividad.

La creatividad por tanto IMHO dependería precisamente de no saberlo todo, sino de tener unos "datos de entrenamiento" sesgados por las vivencias personales, y para tener esas vivencias lo que hay que hacer es vivir...

Lo que se pretende pedir a la IA es que haga lo que ni siquiera un cerebro humano puede hacer: expresar sentimientos sobre algo que no ha vivido.

» autor: pip

#23 La IA generativa nos hará cáscaras vacías, por Éric Sadin

yukatan — Sun, 30 Nov 2025 14:43:28 +0000

#20 tu crees que la IA sabe que ha creado una canción??? crees que puede sentirla??? o simplemente ha colocado en un fichero los bytes estadisticamente mejores segun el promt que has pedido...

Crees que una IA no es capaz de elaborar una receta??? pero... sabra si esta buena o no???

» autor: yukatan

#22 La IA generativa nos hará cáscaras vacías, por Éric Sadin

yukatan — Sun, 30 Nov 2025 14:31:34 +0000

#20 en las demandas por plagio de japon por el manga etc etc.... por ejemplo. Que el tema no sea conocido, incluso que parezca nuevo no es creatividad. Una IA puede generar un articulo que no se haya escrito antes... eso es creatividad?

» autor: yukatan

#21 La IA generativa nos hará cáscaras vacías, por Éric Sadin

sliana — Sun, 30 Nov 2025 13:17:38 +0000

#8 generador de números aleatorios. Ahí ya pinchamos.

» autor: sliana

#20 La IA generativa nos hará cáscaras vacías, por Éric Sadin

rojo_separatista — Sun, 30 Nov 2025 13:12:12 +0000

#19, esta canción está hecha por una IA: youtu.be/AuGx_rzCUxg?si=2kRb4l6A9TuWrlSH

¿Qué elementos objetivos observas en ella para afirmar que no es creativa en comparación con una hecha por humanos?

» autor: rojo_separatista

#19 La IA generativa nos hará cáscaras vacías, por Éric Sadin

yukatan — Sun, 30 Nov 2025 13:04:59 +0000

#17 Pues eso, algoritmos que preciden el siguiente paso, el siguiente color del pixel, la siguiente palabra. Lo mismo que he dicho yo. No entienden lo que hacen, ni porque lo hacen, son herramientas. Son utiles, pueden hacernos productivos, realizan tareas complejas, pero a dia de hoy no son inteligentes, no son autonomas y menos creativas.

» autor: yukatan

#18 La IA generativa nos hará cáscaras vacías, por Éric Sadin

rojo_separatista — Sun, 30 Nov 2025 12:51:58 +0000

#15, entonces el argumento que debes utilizar para decir aue las redes neuronales no podrán replicar el cerbro humano debe ser el comportamiento que muestran o deje de mostrar, no en qué clase de matemáticas se basan o dejen de basar.

Cc/ #16

» autor: rojo_separatista

#17 La IA generativa nos hará cáscaras vacías, por Éric Sadin

rojo_separatista — Sun, 30 Nov 2025 12:45:29 +0000

#8, #11, sinceramente, cuando leo comentarios así, pienso que mucha gente no entiendes realemente cómo funcionan modelos como los LLM.

Lo que aprenden estos modelos es a iterar a lo largo de una función de distribución que encapsula lo que todo el corpus de texto que ha escrito la humanidad hasta el día de hoy contiene. Pero esto no significa que se base en frecuencias o permutaciones, sino que aprende a iterar a lo largo de una función de distribución. Esto dota al modelo de conocimiento y le permite hablar siguiendo las reglas que seguimos los seres humanos y saber cosas.

Pero lo que le da sentido a los LLM que todos utilizamos es el post-entrenamiento a partir de algoritmos de aprendizaje por refuerzo. Es aquí donde los LLM aprenden en qué sentido deben desplazarse por dicha función utilizando el lenguaje de forma que va más allá de repetir palabras que suenen bien. Aquí se le enseña cómo debe razonar encadenando ideas, cuando debe llamar una herramienta para hacer un cálculo o cómo se consultan los datos de internet. Es lo que dota al modelo de intencionalidad una vez ha aprendido a hablar correctamente.

Lo que veo es que mucha gente cae en simplificaciones absurdas y no se molestan en indagar más allá, comprender en profundidad como funcionan los modelos sin dar respuestas simples a cuestiones mucho más complejas.

» autor: rojo_separatista

#16 La IA generativa nos hará cáscaras vacías, por Éric Sadin

Einwanderer — Sun, 30 Nov 2025 12:13:04 +0000

#15 Diría que las afirmaciones "lo desconozco" y "pero es inaccesible para un LLM" son inconsistentes.

» autor: Einwanderer

#15 La IA generativa nos hará cáscaras vacías, por Éric Sadin

Torrezzno — Sun, 30 Nov 2025 11:54:57 +0000

#14 nadie la sabe (hasta donde conozco), por lo tanto no te lo puedo probar, al igual que nadir puede probar que Dios exista o no.

» autor: Torrezzno

#14 La IA generativa nos hará cáscaras vacías, por Éric Sadin

Einwanderer — Sun, 30 Nov 2025 11:53:05 +0000

#13 Yo no estoy elucubrando nada. Me limito a preguntar cuál es esa supuesta fuente de originalidad existente en un cerebro humano inalcanzable para una red neuronal. Y no me has dado una respuesta.

» autor: Einwanderer

#13 La IA generativa nos hará cáscaras vacías, por Éric Sadin

Torrezzno — Sun, 30 Nov 2025 11:49:05 +0000

#12 mis argumentos son la ciencia. El que esta elucubrando sobre si nuestro cerebro es probabilístico eres tú. Simplemente he expuesto que es igual de fútil el discutir el sexo de los ángeles que un cerebro que pudiese ser un LLM.

» autor: Torrezzno

#12 La IA generativa nos hará cáscaras vacías, por Éric Sadin

Einwanderer — Sun, 30 Nov 2025 11:47:37 +0000

#10 Si tu único argumento son tus creencias, claro que es fútil...

» autor: Einwanderer

#11 La IA generativa nos hará cáscaras vacías, por Éric Sadin

yukatan — Sun, 30 Nov 2025 11:42:05 +0000

#5 pues que la IA actual no tiene I... no sabe si algo es nuevo, bueno, no entiende lo que genera, lo genera por aprendizaje. Ya se ha visto el resultado de entrenar IAs con lo que genera otra IA y el resultado es nefasto. La IA genera lo que la estadistica le dice.

» autor: yukatan

#10 La IA generativa nos hará cáscaras vacías, por Éric Sadin

Torrezzno — Sun, 30 Nov 2025 11:30:33 +0000

#9 ¿que argumentos tienes para decir que Dios no existe?

Todo esto es perder el tiempo, es una discusión fútil.

» autor: Torrezzno

#9 La IA generativa nos hará cáscaras vacías, por Éric Sadin

Einwanderer — Sun, 30 Nov 2025 11:27:55 +0000

#8 " A día de hoy las LLM se reducen a permutaciones estadísticas de algo que ya conocen basándose en un prompt."
Qué argumentos tienes para asegurar que tu cerebro no hace eso, aunque ese "prompt" y su procesamiento sean más complejos?

» autor: Einwanderer

#8 La IA generativa nos hará cáscaras vacías, por Éric Sadin

Torrezzno — Sun, 30 Nov 2025 11:23:04 +0000

#5 ¿tu consideras un generador de números aleatorios original? ¿O todas las permutaciones del diccionario?
¿Si millones de monos se ponen a escribir durante millones de años podrían escribir algo mejor que el Quijote?

A día de hoy las LLM se reducen a permutaciones estadísticas de algo que ya conocen basándose en un prompt.

Ni aunque el prompt fuese original la respuesta lo seria.

Podemos hablar de ciencia ficción si quieres. Pero mientras la AGI no llega las LLM van a destruir lo que pudiese quedar de las artes. Su fácil acceso va a hacer que la gente se vuelva aun más vaga. Si ya era prácticamente imposible hacer una obra literaria original con las IAs va a a ser imposible.

» autor: Torrezzno

#7 La IA generativa nos hará cáscaras vacías, por Éric Sadin

JackNorte — Sun, 30 Nov 2025 11:19:08 +0000

#5 Creo que la gente no ve lo realmente importante que es que podamos ser totalmente replicables. Y que curiosamente eso permita la supervivencia de la especie , pero claro con cambios , los neandertales tampoco estan ahora.
En cada revolucion en cada tecnologia asumimos que sera el fin de la realidad de modo catastrofico , luyego viene una adaptacion y luego vemos que era imposible seguir como hasta ese momento de forma sostenible. Pero bueno ya iremos viendo.

» autor: JackNorte

#6 La IA generativa nos hará cáscaras vacías, por Éric Sadin

guillersk — Sun, 30 Nov 2025 11:03:39 +0000

» autor: guillersk

#5 La IA generativa nos hará cáscaras vacías, por Éric Sadin

rojo_separatista — Sun, 30 Nov 2025 10:58:33 +0000

#4, yo me pregunto de donde sale este convencimiento tan rotundo en que la creatividad humana no se puede emular o superar a base de operaciones matemáticas. ¿Tan claro tenéis como funcionan los procesos internos que se dan en nuestro cerebro biológico, como para ser tan rotundos? O es una forma enmascarada de reafirmarse en que existe algo inmaterial como el alma o el espíritu desconectado de todo lo demás.

Yo prefiero la cautela porque lo ignoro, pero no me parece imposible que no se necesite nada más que procesar información para reproducir e incluso superar la creatividad. Lo pienso como un problema de ingeniería más que uno filosófico y como tal me apegaré a los resultados observados y no a creencias metafísicas. Pienso que la verdad vendrá de las capacidades que muestren los modelos y no de dogmas que nos pongamos para intentar mantener la creencia en la excepcionalidad del ser humano. Un dato crudo, a día de hoy el 97% de personas son incapaces de diferenciar entre una canción hecha por IA de una hecha por humanos.

Pienso que una vez más se repite lo que le pasó al ser humano con el heliocentrismo y luego con la teoria de la evolución. Nos enfrentamos a la última y definitiva cura de humildad porque en el fondo nos negamos a aceptar que somos poco más que polvo de estrellas.

» autor: rojo_separatista

#4 La IA generativa nos hará cáscaras vacías, por Éric Sadin

Torrezzno — Sun, 30 Nov 2025 10:46:03 +0000

Solamente centrándonos en la parte humanística es desolador. Una maquina que no es original no puede escribir algo original. Si bien las humanidades están completamente desaparecidas y degradadas en el siglo XXI la IA lo empeorará aún mas.

Yo ya hace tiempo que lo tengo claro. Quien quiera leer literatura o escuchar música tendrá que irse del siglo XX hacia atrás. Todo lo que salga a partir de ahora va a tener detrás la mácula de la IA.

» autor: Torrezzno

#3 La IA generativa nos hará cáscaras vacías, por Éric Sadin

Battlestar — Sun, 30 Nov 2025 10:43:59 +0000

#1 La verdad, he tenido que buscar "luditas". Gracias por hacerme aprender algo nuevo.

» autor: Battlestar

#2 La IA generativa nos hará cáscaras vacías, por Éric Sadin

Feindesland — Sun, 30 Nov 2025 10:36:36 +0000

#1 ¿Y tenían razón o no?

» autor: Feindesland

#1 La IA generativa nos hará cáscaras vacías, por Éric Sadin

woke — Sun, 30 Nov 2025 10:30:16 +0000

Lo mismo opinaban los luditas

» autor: woke