Un estudio publicado en Nature avisa de que los sistemas entrenados por contenidos generados por otras inteligencias artificiales "pierden la percepción de la realidad". El problema es que se sabe que empresas como OpenAI ya han utilizado todos los datos de alta calidad disponibles de forma pública en la red para entrenar modelos como ChatGPT. Su necesidad de seguir suministrando información a su máquina para que esta sigan mejorando ha provocado que recurra a datos de menos calidad, como lo de las redes sociales...
Comentarios
Menos mal que cuando recurran a forocoches nos salvaremos todos.
#1 Veras las risas cuando ChatGPT nos meta en las capsulas con tubos en nuestros hipotalamos solo para seguir entrenando los modelos. Aprende MLOps sera divertido, decian.
.
#1 Yo estoy esperando el momento en el que a base de entrenarla con Yahoo respuestas, cuando le hagas alguna pregunta a chatgpt te responda:
"Pa ke kieres saber eso jajaja saludos"
#8 mis dieses shurmano. Respuesta de IA forocochera
Creo que es "relacionada"
Se basa en el paper:
Los modelos de IA colapsan cuando se entrenan con datos generados recursivamente [EN]
Los modelos de IA colapsan cuando se entrenan con ...
nature.comPero explica un poco ya que ese era un enlace al paper y en castellano.
Yo no lo veo duplicado.
De ahí lo de "artificial".
Mira tú para que necesitaba Matrix a los humanos.:-D
#6 En el guión original: para hacer de computadoras donde correr la propia matrix.
Eso ya lo pensé yo, no hace falta que lo publique Nature
Pero todo esto está dicho desde el principio. Una red neuronal no es más que una base de datos. Solo puede repetir los datos de sus entradas. Lo hará de formas curiosas, pero lo que no puede hacer es inventar ni deducir nada.
No input, no output.
#5 >> no puede hacer es inventar ni deducir nada.
Para hacer esa afirmación de forma tan categórica necesitas defini que es inventar y deducir para ti.
Por ejemplo, AlphaFold es capaz de inventar/deducir la estructura de proteínas que los humanos no hemos visto nunca y cuáles serán sus propiedades.
#7 es capaz de inferir basándose en un conjunto de datos previo. Es decir, simplificando, si tu le dices que en enero la temperatura media es 10 y en marzo 20, puede deducir que febero es 15 (lo estoy hipersimplificando)
Es decir, basado en datos anteriores puede sacar información nueva cuando hay muchas variables y la cosa es mucho más compleja que lo de arriba, pero basa todo en el conjunto de datos de entrada. Un humano puede buscar como conseguir más información
#7 Predice la estructura tridimensional partiendo de la secuencia de aminoácidos que forman la proteína, que parece que das a entender que inventa proteínas.
Si con todo lo que hay publicado en internet "de alta calidad", no tienen suficiente, perdón por la expresión, estas IA son una mierda.