En definitiva, la única diferencia entre un zombie filosófico y un humano normal es que el zombie no tiene qualia. ¿En qué se nota eso? No se nota, y es por ello que:
Precisamente el problema es que por qualia se entienden cosas distintas.
Cómo no. Nunca he entendido eso del qualia. Para mi que es un invento.
Tengo claro que la consciencia es una alucinación. Pero mucha gente también alucina tonterías que no puede ni definir.
No tiene sentido hablar sobre cosas que no es posible definir, y las feministas lo hacen constantemente.
La gracia de una red neuronal es ser capaz de responder a preguntas distintas de las de su entrenamiento.
Lo que hace es almacenar las respuestas, pero como que no tiene capacidad para recordarlo todo, elimina la información no común, de modo que está generalizando.
En consecuencia, puede dar respuestas genéricas, tanto a las preguntas de su entrenamiento como a otras preguntas nuevas que sean parecidas.
De verdad, no escuchéis las magufadas. La magia no existe.
Los LLM son un caso de habitación china. No comprenden absolutamente nada. Responden en base a estadísticas sin saber lo que dicen.
La pregunta interesante es que si existiera un LLM que haya sido entrenado con todas las preguntas posibles, ¿se le podría considerar equivalente a algo inteligente?
Cuando hablan de la cadena de pensamiento, mencionan tokens. Como que los tokens están presentes solamente en la salida de la red neuronal; no están hablando de nada interno a la red neuronal.
#70 Una red neuronal no tiene nada parecido a la biología humana. Antes, a los nodos con pesos les llamaban "neuronas", yo creo que sólo para fastidiar. Ahora los transformers sólo hacen multiplicaciones de matrices. Busca tú una "neurona" ahí.
Las máquinas no evolucionan, porque no se reproducen sexualmente. Por lo tanto, no van a "desarrollar" nada.
#35 Ya, pero es de destacar que las máquinas no tienen un instinto de supervivencia y, al contrario que muchos humanos, no necesitan ser más que los demás.
#28 Es evidente que alguien que no sabe lo que es el socialismo ni sabe lo que es el comunismo, no los podrá distinguir nunca.
De todos modos, es cierto que eso no es su problema, ya que lo que llaman "socialismo" no llega ni de lejos a socialdemocracia. Hay que otorgarles que usan un vocabulario propio con sus significados de ellos.
#92 Se lanzan interpretaciones de los valores internos de los nodos. Interpretar siempre es posible. Cuando se interpretan los textos sagrados, siempre es para hacerles decir los propios prejuicios. Pues con esto que es totalmente desconocido, imagínate.
Un concepto no se "simula", se almacena. Se interrelaciona con otros conceptos para crear significado. Se almacenan dichas relaciones. A veces se relaciona con datos para comprenderlos.
No tiene sentido eso de simular conceptos. No significa nada. O tienes o no tienes. No tiene nada que ver con la potencia de cálculo, de la que hay un montón.
Una razón muy clara por la que una red neuronal no puede almacenar conceptos es porque es una máquina estática, totalmente inmodificable y determinista.
No puedes ir imaginándote que el dios-LLM tiene de todo por ahí dentro, ya sea en los embeddings o en el campo electrostático del aislamiento de los cables. Eso es magufería. El día que haya una máquina manejando conceptos, habrá ahí un fichero llamado "conceptos".
En resumen, los LLM no hacen lo que se vende que hacen. Es propaganda falsa para engañar a incautos. Un LLM es, en definitiva, una red neuronal con unos cuantos algoritmos para manejarla desde fuera. La red neuronal sabe almacenar respuestas aprendidas y tiene la gracia de saber generalizarlas. Es todo. Coge sus inputs, los selecciona, los seleccionados los mezcla, y eso es su salida.
Este proceso se realiza parte en tiempo de entrenamiento y parte en tiempo de producción. Joder, magufos, aprended a distinguir entre el qué y el cómo.
Llamarle "red neuronal" no ayuda precisamente, ya que no hay ninguna relación con las neuronas biológicas (y mira que sobran magufos diciendo lo contrario). Del mismo modo, las "cadenas de razonamiento" no razonan nada en absoluto. Son malos nombres.
#39 dasu 