EE.UU. prueba las capacidades de sus IA y descubre que están desarrollando "mente de colmena". Y eso es un problema. Todas dicen lo mismo

Los investigadores analizaron el comportamiento de 25 modelos de lenguaje mediante miles de preguntas diseñadas para estimular respuestas abiertas. El resultado llamó la atención de los científicos: incluso ante cuestiones que admiten interpretaciones diferentes, los sistemas generaban explicaciones casi idénticas, lo que sugiere una fuerte convergencia en su forma de razonar. Se describe este comportamiento como una mente-colmena artificial, un fenómeno en el que diferentes sistemas terminan produciendo respuestas muy similares.

[#4 aPedirAlMetro]

Ya empezamos con los términos antropomórficos una vez mas para referirnos a la IA.
En una "mente colmena" múltiples individuos comparten una única conciencia colectiva, actuando de forma coordinada como un solo organismo en lugar de seres independientes.

La IA ni tiene consciencia, ni es un individuo, ni es un organismo.
Esto no es mente colmena, es homogeneización de las respuestas emergentes de la IA.

[#7 tul]

#4 tampoco razonan pero oye cualquier mierda sirve para rellenar articulos de digitales de mierda

[#5 HeilHynkel]

#2

Algunos, piensan.

[#8 capitan__nemo]

Si las has entrenado con las mismas bases de conocimiento y entrenamiento. Si se han utilizado unas a otras para entrenarse aunque no está permitido pero lo hacen. Si las compañias ia han ofrecido mas dinero a empleados de otras compañias ia, los han reclutado y han imitado las tecnicas y know how de unas a otras a traves de los empleados adquiridos.

[#11 rystan]

#8 Respuestas idénticas implican entrenamiento idéntico lo que implica entrenamiento automatizado.

[#1 HeilHynkel]

Yo estoy empezando a currar con la IA y me parece una puta pasada si sabes que haces ... pero la I de IA en realidad es una palabra muy optimista ... principalmente acumula información existente y a partir de ahí hace predicciones. Parece inteligente pero en realidas es un papagayo muy rápido.

Si todas las entrenas con los mismos datos .. pues van a decir lo mismo .. y no necesariamente la verdad.

[#2 TikisMikiss]

#1 Si conoces a algún humano que no haga exactamente lo mismo dímelo, estaré encantado de conocerlo.

[#9 chavi]

#2 Cambia de círculos...

[#10 TikisMikiss]

#9 Vale, preséntame a uno de esos humanos. Tú ya he visto que no eres uno de ellos.

[#3 JackNorte]

Cuando se den cuenta de que son comunistas , va a ser divertido.

[#13 capitan.meneito]

Ender calienta que sales.

[#6 Eukherio]

Yo diría que como unos equipos van copiando a los otros las diferencias se reducen rápidamente porque todos intentan que su modelo se parezca al que más mola. Si les pides sacar historias y no les das demasiadas instrucciones se ve bastante claro que casi todas siguen las mismas pautas.

[#12 rystan]

#6 Es más sencillo. Usan las salidas de un modelo para entrenar al otro.