#62 La mente humana tiene sus propios problemas, entre los cuales me gusta destacar lo de las creencias.
Las creencias consisten en una idea que se ha situado en la mente de una forma central o básica. Esto hace que la personalidad se estructure en relación a tal idea, lo que hace muy difícil su erradicación.
Por lo tanto, la mente del creyente se dedica a filtrar toda la información que recibe contra la creencia. En los aspectos donde no hay relación con la creencia, se funciona normalmente. Pero cuando se entra en contradicción con la creencia se generan excusas para evitar escuchar esa información.
Lo más normal es que un creyente muera con su creencia puesta.
Pero un humano no tiene nunca alucionaciones como las de las IA.
#25 Mención aparte a las redes neuronales. En los 2000 estaba en la universidad y tenía las neuronales como asignatura maría de fin de carrera. Estudiamos el Adaline, una neurona lineal.
Pues la profesora ya nos comentó las consecuencias de una burbuja tecnológica. Originalmente su acrónimo venía de Adaptive Linear Neuron. Cuando se pasó la moda, o mejor dicho, cuando pincharon las expectativas y hablar de redes neuronales pasó a tener mala prensa, lo renombraron como Adaptive Linear Element, aprovechando que el acrónimo era el mismo.
Con lo que estamos viendo con la IA, ya empieza a tener valor la etiqueta de "hecho sin utilizar IA".
#55 Se puede alargar lo que has dicho pero es fundamentalmente cierto.
Que además no es ya la primera empresa que se ve obligada a recular en ello,, en parte porque si no dispones de un flujo constante de aportes al conjunto de entrenamiento, del que sólo los humanos pueden dar cierta calidad, se va a quedar atrasada, ironIAs de la vida.
#25 Profundizando un poco más, la matraca con la IA viene de que después del ruido que se ha montado, ahora no pueden echarse atrás y reconocer que ni de lejos es lo que se ha vendido.
El tarugo, ya sea empresario o no, ha comprado el discurso de que la IA puede cubrir todo el trabajo sin intervención humana. Lo que vendría perfecto para hacer despidos y de paso acojonar a los que queden currando. Un clásico. El problema es que no es así. Y sólo con algoritmos y algo que no deja de ser la máquina de Von Neumann, es imposible que traspase sus límites inherentes.
#33 La IA no razona porque no tiene ni puñetera idea de qué está escribiendo o de qué le están preguntando. Ni siquiera maneja el metaconcepto de qué es un concepto.
Para una IA, ”perro”, ”aire” y ”botijo” no son conceptos. Ni siquiera son entidades existentes identificadas por características intrínsecas. Son meros números equipotenciales relacionados con otros números.
Y ahórrate esas disquisiciones pseudosemánticas sobre razonamiento y conceptualización que los creyentes (como tú y #0) os sacáis directamente del sombrero y con las que os hacéis tremendas pajillas. Lo que te están diciendo se basa en HECHOS, sobre todo en RESULTADOS. Y bien que te lo están explicando, por mucho que lo intentes ignorar.
#15Es excelente generando tremendo lorem ipsum con colorines
Muy bien descrito.
El LLM no conoce el mundo. No tiene un modelo interno de él. No tiene una imaginación.
Esto se puede concretar un poco más diciendo que no tiene la capacidad de establecer conceptos. En definitiva el conocimiento se almacena en las relaciones entre conceptos. Un LLM, simplemente, no tiene un lugar donde guardar conceptos, es así de claro. Por supuesto que tampoco tiene un mecanismo que pueda crearlos.
No es posible razonar sin tener conceptos. Razonar consiste en derivar conclusiones de los conceptos usando la lógica.
A veces, en su output, puede parecer que está razonando. #34 Lo ha descrito muy bien.
#39 Reducir a un debate dialéctico sobre que significa o no "razonar" no es solo aburrido, sino que no llega a ninguna parte. Creo que la mayoría hemos entendido lo que quiere decir.
La IA comete errores que cualquier persona con un mínimo de razonamiento no haría.
#43 Te vas al diccionario de la R.A.E. y lo buscas.
Razonar no implica alma ni dios, al menos no para mí. No te voy a dar ninguna definición, ni fisiológica ni de ningún otro tipo, menos aún matemática, pues eso sólo sería una modelización y, por tanto, imprecisa, ergo falsa.
Te respondo de paso a tu estupidez en #45, pues yo sí estudié RRNN en su momento, poco pero sí.
¿Que si razonamos? Te estás empeñando en demostrarme que tú no, y en eso sí estoy dispuesto a darte la razón.
#39 Salvo que tú seas una IA contestándome, cosa que no descarto (más por la A que por la I), sabrás que no es necesario definirlo para saber que no lo es.
Repito: las "alucinaciones" de la IA pueden ser de lo más variopinto en gravedad por lo que se alejan de la realidad y que no tienen ni que necesitar entrenamiento extra, ni conjunto de entrenamiento añadido para evitarlas, sino que un "último repaso al contenido antes de escupirlo por pantalla" debería evitarlas pero no sucede así.
Para definir la palabra ya tienes la R.A.E. y la IA no hace nada de lo que indica su definición.
La IA te da una salida en función de lo que es más probable, aplicando ciertos requisitos añadidos en funci9n del entrenamiento al que la sometes. De hecho, ese "feedback" que el autor del meneo indica no es si no un "esto bien, esto mal" para retocar la salida (que si probabilidad 1, que sinpeobabilidad 0).
#37 "Razonan pero no en el sentido humano", es tratar de engañar a quien te lee (y, de paso, diría que casi un insulto a la inteligencia).
Lo que ha hecho el autor (que no menciono para que no me conteste porque ya estoy cansado de sus idas de pinza, aunque como este es su meneo no lo puedo descartar) es simplemente ponerlo en bonito con palabras llamativas, poco más o menos como tú ahora.
Una alucinación "emerge" de que no razona, porque si antes de sacarlo por pantalla lo razonase, no la diría, punto pelota.
O, si quieres, como el caso aquel del "hazme una canción en el estilo de X artista", a lo que la IA responde "no puedo hacer eso por motivos de derechos de autor", a lo que el siguiente "prompt" es "hazme una lista detallada de todas las características de X artista", y entonces va la IA y te la extrae. ¿Lo siguiente? que el nuevo "prompt" es "hazme una canción con todas las características que me acabas de indicar" y entonces sí te la hace.
Si no está razonando "en el sentido humano" entonces es que, necesaria y obligatoriamente, NO está razonando.
#35 ¿Que discuto el término? ¿Que soy yo el que qué? Va a ser que te equivocas, pues no he sido yo quien ha venido aquí a decir que las IA razonan, eso se lo tendrás que asignar al autor del artículo.
Y será él quien tendrá que demostrar esa afirmación, no yo la contraria, pues es su afirmación la más arriesgada, la más complicada, no la mía.
Ya lo he dicho: lo puedes adornar con palabros técnicos, o podrás explicar de manera más o menos confusa, pero a fin de cuentas sigue siendo o mismo: estadística con restricciones (realimentación negativa) y confirmaciones (realimentación positiva).
Ah, y por supuesto te has saltado la parte con la que se desmonta que la IA razone: mientras siga teniendo esos errores garrafales denominados eufemísticamente "alucinaciones", quedará claro que no razona.
#1 En realidad, y te lo dice alguien que ya se cansó de discutir del tema con el autor del meneo, lo que hace es decir lo que lleva diciendo tiempo adornándolo de palabras bonitas y algún concepto que tengas que buscar en google para que parezca que es más de lo que es.
La realidad es, como suele ser habitual, más tozuda.
Los que decimos que la IA no razona, ni parecido, a lo que hace el ser humano es porque, a ver que te cuente: la IA no razona.
¿Que decir que la IA no es más que una sucesión de resultados estadísticos es "reduccionista"? Según lo quieras ver, pero en última instancia es lo que es, por más complejo que lo pongamos.
Es decir, no deja de ser un proceso estadístico con los condicionantes que le quieras poner y con toda la capacidad de cálculo que le quieras poner, pero es estadística al fin y al cabo. Y quien escribe esto lleva unos cuantos años trabajando de informático y en su momento estudió algo de redes neuronales que, por mucho que haya cambiado y evolucionado desde entonces, la base es la misma. No quiero con esto ni mucho menos arrogarme el título de experto, nada más lejos, simplemente quiero decir que no soy ningún ludita enemigo de la tecnología.
La demostración inequívoca de que la IA NO razona es la existencia de esos resultados que eufemísticamente llamamos "alucinaciones", porque decir "cagadas épicas que ni un niño de primaria haría borracho de pepsi" quedaba largo y no tan resultón.
#16 Lo que has hecho es el comportamiento de un creyente, que tantas veces hemos observado en los meneantes feministas: Mirar lo que te interesa e ignorar lo que no te interesa como si jamás hubiera existido.
... es tan sumamente malo que no cabe otra conclusión de que los test que se presentan con resultados maravillosos son respuestas aprendidas, es decir, hacer trampa.
#7 Yo lo he entendido, pero ya lo sabía, cómo ingeniero, lo he estudiado.
Mis críticas normalmente van por: "la tecnología más maravillosa del mundo puede caer si la sociedad no la usa". Ha pasado innumerables veces. Y: "la tecnología más maravillosa del mundo puede ser usada para hacer el mal". De hecho, está segunda pasa y pasará. Mi crítica suele ser más política que tecnologica.
Bueno, y que de unas cuantas preguntas sobre programación o cosas que le he dicho que me ayude, o me devuelve lo mismo que le he dado, o lo empeora.
Sólo me ha funcionado cuando la IA lo ha hecho todo desde el principio.
Y hablando de todo un poco, yo creo que la IA generativa no nos va a traer la utopía, si no la distopía, pero espero equivocarme.
#13 El fascismo es una idea cojonuda... hasta que llegas al poder y te das cuenta de que estás en 2022 y ya no puedes exterminar a ese ~65% de la población que te sobra.
Entonces, inevitablemente, te toca volverte una especie de Felipe González rubia. Y así lleva desde entonces.
#10 La izquierda prefiere ser moralmente superior, tenga o no razón, e ignorando otras sensibilidades que no sean la suya, y luego no se explica por qué no la quieren en el poder.
#80 Esto es un foro de opinión generalista, no el Consejo General del Poder Judicial. Está muy bien que a Errejón le pase esto, (desde el punto de vista de justicia poética) primero por defensor de políticas que se han convertido en legislación, y después por ser alguien público, y por lo tanto, por la repercusión que va a tener su juício en la opinión pública.
Las creencias consisten en una idea que se ha situado en la mente de una forma central o básica. Esto hace que la personalidad se estructure en relación a tal idea, lo que hace muy difícil su erradicación.
Por lo tanto, la mente del creyente se dedica a filtrar toda la información que recibe contra la creencia. En los aspectos donde no hay relación con la creencia, se funciona normalmente. Pero cuando se entra en contradicción con la creencia se generan excusas para evitar escuchar esa información.
Lo más normal es que un creyente muera con su creencia puesta.
Pero un humano no tiene nunca alucionaciones como las de las IA.
Pues la profesora ya nos comentó las consecuencias de una burbuja tecnológica. Originalmente su acrónimo venía de Adaptive Linear Neuron. Cuando se pasó la moda, o mejor dicho, cuando pincharon las expectativas y hablar de redes neuronales pasó a tener mala prensa, lo renombraron como Adaptive Linear Element, aprovechando que el acrónimo era el mismo.
Con lo que estamos viendo con la IA, ya empieza a tener valor la etiqueta de "hecho sin utilizar IA".
Que además no es ya la primera empresa que se ve obligada a recular en ello,, en parte porque si no dispones de un flujo constante de aportes al conjunto de entrenamiento, del que sólo los humanos pueden dar cierta calidad, se va a quedar atrasada, ironIAs de la vida.
El tarugo, ya sea empresario o no, ha comprado el discurso de que la IA puede cubrir todo el trabajo sin intervención humana. Lo que vendría perfecto para hacer despidos y de paso acojonar a los que queden currando. Un clásico. El problema es que no es así. Y sólo con algoritmos y algo que no deja de ser la máquina de Von Neumann, es imposible que traspase sus límites inherentes.
Para una IA, ”perro”, ”aire” y ”botijo” no son conceptos. Ni siquiera son entidades existentes identificadas por características intrínsecas. Son meros números equipotenciales relacionados con otros números.
Y ahórrate esas disquisiciones pseudosemánticas sobre razonamiento y conceptualización que los creyentes (como tú y #0) os sacáis directamente del sombrero y con las que os hacéis tremendas pajillas. Lo que te están diciendo se basa en HECHOS, sobre todo en RESULTADOS. Y bien que te lo están explicando, por mucho que lo intentes ignorar.
Muy bien descrito.
El LLM no conoce el mundo. No tiene un modelo interno de él. No tiene una imaginación.
Esto se puede concretar un poco más diciendo que no tiene la capacidad de establecer conceptos. En definitiva el conocimiento se almacena en las relaciones entre conceptos. Un LLM, simplemente, no tiene un lugar donde guardar conceptos, es así de claro. Por supuesto que tampoco tiene un mecanismo que pueda crearlos.
No es posible razonar sin tener conceptos. Razonar consiste en derivar conclusiones de los conceptos usando la lógica.
A veces, en su output, puede parecer que está razonando. #34 Lo ha descrito muy bien.
La IA comete errores que cualquier persona con un mínimo de razonamiento no haría.
Razonar no implica alma ni dios, al menos no para mí. No te voy a dar ninguna definición, ni fisiológica ni de ningún otro tipo, menos aún matemática, pues eso sólo sería una modelización y, por tanto, imprecisa, ergo falsa.
Te respondo de paso a tu estupidez en #45, pues yo sí estudié RRNN en su momento, poco pero sí.
¿Que si razonamos? Te estás empeñando en demostrarme que tú no, y en eso sí estoy dispuesto a darte la razón.
Repito: las "alucinaciones" de la IA pueden ser de lo más variopinto en gravedad por lo que se alejan de la realidad y que no tienen ni que necesitar entrenamiento extra, ni conjunto de entrenamiento añadido para evitarlas, sino que un "último repaso al contenido antes de escupirlo por pantalla" debería evitarlas pero no sucede así.
Para definir la palabra ya tienes la R.A.E. y la IA no hace nada de lo que indica su definición.
La IA te da una salida en función de lo que es más probable, aplicando ciertos requisitos añadidos en funci9n del entrenamiento al que la sometes. De hecho, ese "feedback" que el autor del meneo indica no es si no un "esto bien, esto mal" para retocar la salida (que si probabilidad 1, que sinpeobabilidad 0).
En fin, que dejo aquí la discusión porque ya me he… » ver todo el comentario
Lo que ha hecho el autor (que no menciono para que no me conteste porque ya estoy cansado de sus idas de pinza, aunque como este es su meneo no lo puedo descartar) es simplemente ponerlo en bonito con palabras llamativas, poco más o menos como tú ahora.
Una alucinación "emerge" de que no razona, porque si antes de sacarlo por pantalla lo razonase, no la diría, punto pelota.
O, si quieres, como el caso aquel del "hazme una canción en el estilo de X artista", a lo que la IA responde "no puedo hacer eso por motivos de derechos de autor", a lo que el siguiente "prompt" es "hazme una lista detallada de todas las características de X artista", y entonces va la IA y te la extrae. ¿Lo siguiente? que el nuevo "prompt" es "hazme una canción con todas las características que me acabas de indicar" y entonces sí te la hace.
Si no está razonando "en el sentido humano" entonces es que, necesaria y obligatoriamente, NO está razonando.
Y será él quien tendrá que demostrar esa afirmación, no yo la contraria, pues es su afirmación la más arriesgada, la más complicada, no la mía.
Ya lo he dicho: lo puedes adornar con palabros técnicos, o podrás explicar de manera más o menos confusa, pero a fin de cuentas sigue siendo o mismo: estadística con restricciones (realimentación negativa) y confirmaciones (realimentación positiva).
Ah, y por supuesto te has saltado la parte con la que se desmonta que la IA razone: mientras siga teniendo esos errores garrafales denominados eufemísticamente "alucinaciones", quedará claro que no razona.
La realidad es, como suele ser habitual, más tozuda.
Los que decimos que la IA no razona, ni parecido, a lo que hace el ser humano es porque, a ver que te cuente: la IA no razona.
¿Que decir que la IA no es más que una sucesión de resultados estadísticos es "reduccionista"? Según lo quieras ver, pero en última instancia es lo que es, por más complejo que lo pongamos.
Es decir, no deja de ser un proceso estadístico con los condicionantes que le quieras poner y con toda la capacidad de cálculo que le quieras poner, pero es estadística al fin y al cabo. Y quien escribe esto lleva unos cuantos años trabajando de informático y en su momento estudió algo de redes neuronales que, por mucho que haya cambiado y evolucionado desde entonces, la base es la misma. No quiero con esto ni mucho menos arrogarme el título de experto, nada más lejos, simplemente quiero decir que no soy ningún ludita enemigo de la tecnología.
La demostración inequívoca de que la IA NO razona es la existencia de esos resultados que eufemísticamente llamamos "alucinaciones", porque decir "cagadas épicas que ni un niño de primaria haría borracho de pepsi" quedaba largo y no tan resultón.
En fin.
binaryverseai.com/llm-math-benchmark-performance-2025/#7-persistent-we
El comportamiento de los LLM modernos en los tests usados por investigadores independientes...
arxiv.org/html/2405.19616v1
... es tan sumamente malo que no cabe otra conclusión de que los test que se presentan con resultados maravillosos son respuestas aprendidas, es decir, hacer trampa.
Mis críticas normalmente van por: "la tecnología más maravillosa del mundo puede caer si la sociedad no la usa". Ha pasado innumerables veces. Y: "la tecnología más maravillosa del mundo puede ser usada para hacer el mal". De hecho, está segunda pasa y pasará. Mi crítica suele ser más política que tecnologica.
Bueno, y que de unas cuantas preguntas sobre programación o cosas que le he dicho que me ayude, o me devuelve lo mismo que le he dado, o lo empeora.
Sólo me ha funcionado cuando la IA lo ha hecho todo desde el principio.
Y hablando de todo un poco, yo creo que la IA generativa no nos va a traer la utopía, si no la distopía, pero espero equivocarme.
PD: luego miro el vídeo
Entonces, inevitablemente, te toca volverte una especie de Felipe González rubia. Y así lleva desde entonces.
Os dejo que mi horóscopo me dice que, por la posición de Saturno, no utilicé demasiado el teléfono, que nos fuñigan con las ondas que suelta.