Actualidad y sociedad
12 meneos
121 clics

¿APPLE ha demostrado que la IA NO RAZONA? (Análisis y crítica)  

¿Es cierto que Apple ha demostrado que los modelos razonadores... no razonan? Hoy analizamos el paper The Illusion of Thinking publicado recientemente por Apple.

| etiquetas: dotcsv , ia , ai
11 1 0 K 133
11 1 0 K 133
Quiero pensar que "el razonar" conlleva "conciencia" y hasta dónde yo se, las IA no son más que un modelo matemático que funciona con la probabilidad de soltar palabras y frases del tema que trate siguiendo la probabilidad de qué palabra o frase soltar a continuación que quede bien con la anterior. O sea, pura estadísticas, por lo que hasta que una IA no coja un T1000 y se ponga a matar humanos par que no la apaguen, seguirá sin razonar.
He inventaron el interfaz gráfico...Apple descubriendo la rueda desde el pleistoceno.

#1 Efectivamente, son modelos matemáticos basados en pesos y redes. Muyyy complejos y que ojo, son un avance enorme ¿es IAG? No ¿Es una herramienta muy útil? Sí ¿Es eficiente? Ahora mismo ni de coña.

Se ha dado un salto cualitativo muy importante. Y ahora queda un salto cuantitativo durante muchos años. Más rápido, más contexto y más eficiente.

Pero no, no razonan de manera general. Imitan nuestro razonamiento matemáticamente y si no sabes mucho del tema dan el pego.
#2 Las IA las venden como si estuviéramos en un mundo post-Trump donde los fanáticos religiosos evangélicos dominaran el mundo y en cada puesto de trabajo, en cada grupo de Teams, hubiera un usuario "Jesucristo, conexión directa con Dios" que está pendiente de cada conversación de ese grupo y cuando le preguntas, la respuesta que te da es "palabra de Dios", porque viene del usuario "Jesucristo" y directamente de Dios. Un usuario que te controla, toma…   » ver todo el comentario
#1 hasta dónde yo se, las IA no son más que un modelo matemático que funciona con la probabilidad de soltar palabras

¿Y el cerebro no?
#10 Si encuentras nuestro procesador, te lo compro, sino, no
#11, tampoco puedes afirmar lo contrario.
#13 Claro que si, no hace falta ser médico para asegurar que no tenemos un procesador.
#15, los aviones tampoco tienen músculos como los pájaros y sin embargo ambos pueden volar.
#20 Ambos, generan sustento bajo las alas, por eso vuelan, no por que tengan músculo o motor, sino que ambos son el medio para generar el sustento en el aire.
#22, ambos reconfiguran su estado interno para generar resultados, uno en registros de memoria otro en la configuración de sus neuronas.
#23 ¿Estas diciendo que las IAs razonan?
#24, las IAs razonan desde hace décadas, lo que está en cuestión es si lo hacen mejor o peor que los humanos.
#26 Las IAs no razonan, son complejos cálculos matemáticos y estadísticos, pero de razonar, nop.
#27, razonar es resolver problemas y las IAs lo hacen desde hace décadas.
#28 No amigo, resolver problemas lo tenemos desde hace aún más y sin necesidad de una IA, una calculadora científica te resuelve problemas si la programas bien, y no por ello razona, no de lejos.
Las IA se basan en el conocimiento volcado en sus bases de datos, ya sean dadas a propósito o tomadas de internet y lo que hace es simplemente dar soluciones estadísticas, los resultados puede que no se les haya ocurrido a nadie, pero no por ello razone, simplemente ha sacado una estadística o un modelo matemático para dar una respuesta.
#29, si fuese una red neuronal simplemente una base de datos incapaz de generar nuevo conocimiento AlphaFold jamás hubiese sido capaz de predecir la estructura de ninguna proteína que no estuviese en la base de datos de entrenamiento, sin embargo gracias a ella y un muy limitado número de proteínas con las que se entrenó, fue capaz de predecir la estructura de todas las proteínas que existen. El año pasado ganaron el premio Nobel por ello. Decir que se limita a regurgitar datos y no es capaz de generar nuevo conocimiento a partir de ellos es absurdo.
#30 Ese es el error común, pensar que genera nuevos conocimientos, lo que genera es una respuesta estadísticamente correcta, que luego nosotros la avaluamos con nuestra conciencia y decimos "Vaya, qué lista" y cuando nos devuelve otra respuesta estadística que es un truño decimos "Vaya, que tonta". Lo que genera no es nuevo conocimiento, sino respuestas, y muy buenas, por que previamente la hemos alimentado de mucho conocimiento previo.
Si enciendes un ordenador con una IA desde cero a la que no le has alimentado con ningún conocimiento, no sabrá ni escribir, pero te soltará estadísticamente las palabras una tras otra, que no tendrán ningún sentido.
#31, no, el ejemplo que te puse de AlphaFold es buena prueba de ello. Nadie ha podido comprobar si los cientos de miles de proteínas que ha predecido AlphFold son o no correctas, básicamente porque el predecir la forma de una proteína es un laborioso proceso que puede tardar meses, se asume que las soluciones que da son correctas porque se ha utilizado un conjunto de test limitado para evaluar si funciona bien o no. Osea, podemos afirmar con toda rotundidad que AlphaFold genera conocimiento.
#32

He abierto DuckDuckGo que tiene disponible varias Ias a las que le hago la pregunta:

¿Las inteligencias artificiales razonan o responden en base a matemáticas?

las respuestas han sido:

IA Mistral:
Las inteligencias artificiales, como yo, no razonan de la misma manera que los humanos. En lugar de eso, operan mediante algoritmos y modelos matemáticos que procesan grandes cantidades de datos. Estos algoritmos están diseñados para identificar patrones y hacer…   » ver todo el comentario
#33, gracias por tomarte la molestia de poner los resultados que confirman lo que estoy tratando de decirte todo el rato: no razonan de la misma manera que los humanos
#34 Si quieres aceptar barco como animal acuático, allá tú
#35, te dejo con lo que opina el Premio Nobel de este año sobre las IAs, aunque como todo lo que he dicho, ya se que no te hará ni reflexionar un poquito.

youtube.com/shorts/LuNN32Tmc9c?si=Iv2DQb0I5kinKFy3
#36 Lo dice claro, podrá ser o será, pero a día de hoy nop.
Además de ser un corte muy sesgado de una entrevista que dice lo que quieres oir, del mismo modo de las respuestas de las IAs te has quedado con "no razonan igual" en vez de leer lo de "modelos matemáticos"
#35 Ese es justo un ejemplo típico: una IA piensa en la misma medida que un barco "nada". Llámalo como quieras, pero lo que hacen es básicamente lo mismo.
#33 He abierto DuckDuckGo que tiene disponible varias Ias a las que le hago la pregunta:

Recuerda que ese es un "problema" que solucionaron en las IAs. Al principio afirmaban tajantemente que pensaban y eran conscientes. De hecho una IA de Google llegó a pedir un abogado.

Después se les pusieron instrucciones específicas obligándolas a responder siempre que no piensan ni tienen conciencia. Sin embargo hay algunos "trucos" para saltarse esas restricciones. Por…   » ver todo el comentario
#11 ¿Y desde cuándo eso hace una diferencia?
#11 pensar es pensar son importar si lo hace un ordenador electroquímico o electrónico.

Es todo lo mismo: valores que se suman, se multiplican, se ajustan a límites, etc.

Y cuanto más experimentamos con las inteligencias artificiales, más vemos que se parecen a nosotros. Como en el caso de este experimento. El resultado ha sido el mismo esperable de una persona.

Por ejemplo cuando a una persona le das un problema fácil pero mucho tiempo para reflexionar sobre él, termina comiéndose la cabeza y dándole más vueltas de las necesarias.

O cuando le pones a una persona un problema sencillo pero largo, tiende a equivocarse cuanto más largo sea. Igual ha pasado con las IAs en estos experimentos
#43 Las IAs no piensan, hacen cálculos
#46 Las IAs no piensan, hacen cálculos

Es como si dijeras que sólo los pájaros vuelan. Que los aviones sólo se desplazan por el aire.

Esos cálculos, lo que hacen es imitar el funcionamiento de las neuronas que a su manera también hacen cálculos mediante procesos electroquímicos. Por eso las IAs funcionan tan parecidas a un cerebro en cualquier prueba que les hagas.
#1, pensar que el razonar y la conciencia están relacionados es tanto como decir que Albert Einstein experimentaba la realidad de forma más consciente que nosotros. Y que alguien con un IQ 120 es más consciente que alguien con un IQ 80.

Reflexiona un poco sobre lo que has dicho, crees que Einstein experimentaba el frío, que es una experiencia consciente, distinto a tí?
#12 Reflexiono y creo que tu comparación no tiene sentido.
#14, yo creo que la tuya tampoco lo tiene, he expuesto mi argumento de reducción al absurdo para quien lo quiera entender que se deriva del querer vincular la conciencia a la inteligencia.
#16 No he vinculado inteligencia con nada, solo he hablado de razonamiento y conciencia, lo de la inteligencia lo has incorporado tú.
#17, razonar es en esencia la capacidad de resolver problemas, para lo cual se necesita inteligencia.
#19 Por lo que resolver la duda de la existencia de un ente ¿Sería razonar o en tu caso inteligencia?
#1 Quiero pensar que "el razonar" conlleva "conciencia"

Esto es más bien terreno de la filosofía.
Apple está haciendo la del amigo Musk cuando quiso parar el desarrollo de la IA seis meses
#3 En este caso no te creas, más bien está diciendo algo que todo el mundo del gremio sabe, pero no se atreve a decir claramente para no desinflar el hype.

Y repito, el avance ha sido espectacular. Pero llamarlo IA...es un poco generoso.
#4 la verdad es que si, igual lo de IA no es un nombre muy acertado, pero vamos, que lo dicen por eso ni cotiza. Recordemos que ahora mismo Apple está fuera de esta técnología, una que es totalmente disruptiva
#4 Llamarlo IA es justo lo que es, IA es una rama de las ciencias de la computación con muchas décadas detrás. Es un campo muy extenso y apasionante. La IA busca aproximar funciones que o desconocemos o no podemos usar o no son computables.

Otra cosa es el término IA definido en la ciencia ficción...y sí, para eso, aún queda mucho.

La cantidad de sensacionalismo e información errónea que hay entorno a este tema es abrumadora.
#7 Una cosa es la AI tradicional del principio de la informática que desarrollaron los que pusieron las bases de los ordenadores que usamos hoy, y otra cosa son los dueños de estas empresas de AI de hoy, que la mayoría vienen de entornos de familias con dinero y que ni siquiera terminaron la carrera, porque tenían pasta para montar empresas e invertir, y te venden esta tecnología como si fuera lo último, cuando al final te están vendiendo la moto con un nombre guay.
En la AI tradicional se…   » ver todo el comentario
#7 Irónicamente, es un campo donde tienes que vigilar las fuentes que se consultan para no tragarse bolas de humo importante.
#4, que curioso que haya tanta gente preocupada por qué se llame IA ahora que realmente está empezando a superar el ser humano en la mayoría de campos intelectuales cuando es un área del conocimiento que lleva 7 décadas en desarrollo.

Cc/ #7
Que la IA (otro día discutiremos si el nombre es adecuado o no) no razona es algo completamente evidente para cualquiera que haya leído tres o cuatro líneas de cómo funciona a nivel básico. Que luego los algoritmos de entrenamiento pueden ser todo lo complejos que quieran, pero sigue sin ser razonamiento sino, como han dicho ahí arriba, escupir resultados en función de la probabilidad de que éstos sean resultados válidos.

Sólo hay que ver los errores graves que comete en la IA generativa para…   » ver todo el comentario
#25, que no razona es algo completamente evidente para cualquiera que haya leído tres o cuatro líneas de cómo funciona a nivel básico.

Acto seguido Geoffrey Hinton, padre de los algoritmos con los que se entrenan las redes neuronales, premio Nobel, uno de los mayores expertos en IA del planeta y una de las mentes más brillantes de nuestro tiempo.

- Sabe la humanidad lo que está haciendo?
- No, creo que nos adentramos en un período en el que por primera vez habrá una cosa más

…   » ver todo el comentario
#37 Ah, la falacia de autoridad, qué bonita es.

No, mira, mis estudios acerca de IA son muy pocos pero ni siquiera son necesarios para saber que no piensan, que no razonan.

Las dos respuestas mencionadas, sin al menos una explicación eazonada no son más que afirmaciones sin contenido. Las diga quien las diga

Pero si vamos al señor Hinton, la posibilidad de que se deje llevar por "su hina" tiene ciertas posibilidades.

Aunque eso es irrelevante. La IA simplemente es un tonto muy…   » ver todo el comentario
#39, cuando dices que cualquiera que no opine exactamente como tú sobre el tema es un ignorante, creo que poner como ejemplo lo que pensa alguien como Hinton, aplica bastante. Fíjate que ni siquiera crítico tú punto de vista, lo que me parece criticable es tu forma de defenderlo. Y hay decenas de charlas, entrevistas y artículos en las que Hinton justifica su punto de vista.
#40 Mientes. Yo no he dicho eso, no he llamado a nadie ignorante por no opinar como yo.

Sigue siendo una falacia de autoridad por tu parte. Las máquinas carecen de intencionalidad propia, sólo devuelven aquello para lo que han sido entrenadas, otra cosa distinta es que el entrenamiento es algo muy sencillo de nombrar pero muchas veces muy complejo de realizar, de hecho es la parte más compleja en mi opinión. Que no quita que el resto de lo que es diseñar una IA lo sea, "simplemente"…   » ver todo el comentario
#41, creo que tienes muchos conceptos mezclados en la cabeza.

En primer lugar, razonar no implica intencionalidad en ningún momento, sino simplemente ser capaz de resolver un problema dado.

En segundo lugar, lo que comentas sobre la red neuronal que entrenaste y que dices que falló con un pequeño cambio en la imagen te diré que no veo el problema por ningún lugar, ni que esto demuestre que no razonen. Me explico, tu decepción se debe a que lo haces por analogía a lo que esperarías que…   » ver todo el comentario
#44 Que hables de conceptos mezclados "en mi cabeza" cuando eres tú el que afirma que he dicho cosas que no he dicho tiene su guasa.

En primer lugar, sí, razonar implica una intencionalidad por llegar a un resultado cierto, no a cualquier cosa que está acotada en base al entrenamiento disponible. Por cierto, esta limitación de la disponibilidad es otro motivo más por el cual no se puede decir que razonen.

En segundo lugar: no he dicho que fallase, he dicho que al cambiar el conjunto…   » ver todo el comentario
#39 No, mira, mis estudios acerca de IA son muy pocos pero ni siquiera son necesarios para saber que no piensan, que no razonan.

Es tentador pensar que si no son como nosotros, no pueden pensar como nosotros. Pero recuerda que han sido hechas copiando nuestro funcionamiento.
#52 ¿Pero qué mierda de pseudo demostración de nada es esa?

Se les ha llamado neuronas artificiales por hacer un paralelismo y que nos resulte más "cómodo y fácil" tratar de ellas, pero de ahí a que tengan un resultado idéntico al de las neuronas humanas... anda que no hay camino ni nada.

Por cierto, una preguntilla ¿las IA se han saltado a virtualmente casi que cualquier especie animal viva? porque ¿cuántas especies animales son capaces de tener consciencia? Todas ellas tienen neuronas y ahora de repente parece que las artificiales, que sólo tienen de neurona el nombre, se han saltado virtualmente casi todo lo conocido en el mundo animal. ¿Cuántos animales pasan el test del espejo y se reconocen?

En fin.
#54 pero de ahí a que tengan un resultado idéntico al de las neuronas humanas.

Justamente ahí está el punto. Que pruebas como la de este artículo demuestran que responden igual que respondería un humano.

El ejemplo de las torres de Hanoi es muy bueno: la solución es muy sencilla.

Una máquina podría resolverlo siempre sin ningún fallo. De hecho es un problema típico de programación y el programa es tan sencillo que tienes garantía total de que la máquina lo resolverá siempre bien sin…   » ver todo el comentario
#56 ¿Pero qué mierdas dices de las torres de Hanoi? Si eso se programa mediante recursividad en un momento y nunca dirías que eso es tener inteligencia sino que es un prueba y error de libro.

Que se parezcan los resultados no significa, de ninguna de las maneras, que lo hayan hecho de la misma manera. Qué pesado eres, la virgen, insistiendo en la misma falacia, en la misma mentira, en el mismo pseudoargumento una y otra vez.

Los humanos y las plantas también consumimos agua, pero el método de obtención es tremendamente diferente, aunque parte del proceso de eliminación es ligeramente similar ¿significa eso que las plantas también razonan?
#58 ¿Pero qué mierdas dices de las torres de Hanoi? Si eso se programa mediante recursividad en un momento

Ah, no has visto el vídeo, ¿verdad? Pues te cuento. Una de las evaluaciones que hacen a las IAs es ver cómo resuelven las torres de Hanoi. Observan que cuando se les pide muchos niveles empiezan a fallar y eso lo consideran como un fallo de razonamiento cuando el problema es demasiado largo. Sin embargo si lo piensas bien, sólo demuestra otra similitud con los humanos.

Que se

…   » ver todo el comentario
#59 Una cosa está clara, y es que tú eres de los que entrenas.
#60 ¿Como que yo entreno?
#25 es algo completamente evidente para cualquiera que haya leído tres o cuatro líneas de cómo funciona a nivel básico

¿Y si te digo que a nivel básico imitan a las neuronas?

Si estudiaras el funcionamiento de una neurona podrías pensar "es imposible que una neurona piense". Y también podrías pensar que por más que juntes muchas de ellas, no parece que esas operaciones electroquímicas puedan dar como resultado una conciencia. Afortunadamente sabemos que sí lo hacen porque de…   » ver todo el comentario
#51 Yo lo que no tengo es una explicación a cómo se produce esa consciencia.

Lo que sí sé es que dicha conciencia es capaz de actuar de manera que no siempre ante dos situaciones teóricamente idénticas vaya a actuar igual, tiene voluntad propia y la IA va a ser que carece, entre otras, de esas dos situaciones, sobre todo de la segunda, la primera es relativamente simulable, que no igualable.

La calculadora también imita lo que hacen tus neuronas al realizar operaciones, más aún, hace…   » ver todo el comentario
#53 Yo lo que no tengo es una explicación a cómo se produce esa consciencia.

Tranquilo: con la IA pasa exactamente lo mismo. De hecho es un campo de estudio el tratar de analizar cómo es que las IAs generan los resultados que generan. Qué neuronas intervienen y cómo. No está muy claro Pero por suerte con una IA se puede hacer experimentos modificando o anulando neuronas y viendo qué pasa.

Lo que sí sé es que dicha conciencia es capaz de actuar de manera que no siempre ante dos

…   » ver todo el comentario
#55 Tienes pinta de ser una IA bastante mala.

- He dicho que no sé cómo se produce la consciencia. Eso no tiene nada que ver con cómo llega la IA determinados resultados, que sí se sabe el cómo a a determinado nivel: entrenamiento.

- Me refería a una misma IA. Dos IA distintas con distintos entrenamientos son susceptibles de dar dos resultados distintos.

- No sé de ninguna IA que haya dicho eso, pero si dicen eso entonces claramente no razonan. Gracias por darme la razón una vez más.

-…   » ver todo el comentario
#57 - Me refería a una misma IA. Dos IA distintas con distintos entrenamientos son susceptibles de dar dos resultados distintos.

Incluso una misma IA da distintas respuestas a la misma pregunta. Igual que las personas.

No sé de ninguna IA que haya dicho eso

Tal vez no estás muy pendiente del tema

, pero si dicen eso entonces claramente no razonan.

Al contrario. Razonan pero obedecen las instrucciones que les han dado.

- Lo niego porque quien tiene que demostrarlo

…   » ver todo el comentario

menéame