#11 Contigo ya he discutido del tema varias veces y ya sabemos que vas a seguir afirmando algo que no puedes demostrar, pues crees que las IA sí razonan y eso no es cierto.
El problema no está, y lo sabes, en si comete una equivocación como tal, sino en el tipo y "calidad" de la equivocación. Y lo sabes.
#9 Pues me alegro mucho de que haya por ahí un tio que opine cosas.
Pero lo de la falacia de autoridad aplica directamente. Entonces, ¿quién es más fiable, el tio ese o yo? Porque yo no tengo intereses en el tema y él sí, y por lo tanto él tiene muchos posibles motivos para mentir, mientras que yo podría simplemente estar equivocado.
Entonces, consultado lo que dice el tipo éste, resulta que es de la opinión de que las redes neuronales funcionan igual que el cerebro humano, lo que es una afirmación extraordinariamente notable cuando no sabemos cómo funciona el cerebro humano. Yo le acuso de hype agudo o si lo quieres más claro, de mentir por dinero.
Desde el mismo momento en el que "tienen la necesidad" de usar toda palabrería aportada para resolver el problema planteado, mal vamos.
Estoy más o menos de acuerdo con #7. Desde el momento en el que tienen alucinaciones, que es un eufemismo de "cagada monumental que nadie en su sano juicio cometería" no están razonando.
No diría tampoco que aciertan de casualidad en tanto que no es una cuestión de puro azar, hay un desarrollo matemático detrás.
Pero como todo desarrollo estadístico, se podrá optimizar para que "acierte las más de las veces", pero no siempre, demostrando que no es razonamiento, es matemática.
#12 Si bien es verdad que los sistemas van mejorando, quizás entonces deberían cambiarles el nombre, porque entonces no son modelos de lenguaje, cuya finalidad es producir un texto razonablemente bien escrito, pero no razonar ni discriminar información. A mí lo que me preocupa de estos sistemas es que están entrenados con cantidad de información de dudosa procedencia. Y me parece claro que eso es en gran parte la fuente de las alucinaciones.
Por cierto, en ningún momento he insinuado que a los desarrolladores de estos sistemas no les importe que la información sea incorrecta. Lo que yo planteo es que la finalidad de un LLM no es dar información correcta. Otra cosa es que planteemos las actuales IAs estilo chatGPT como una herramienta de múltiples etapas en las que el LLM es solo una de ellas (capaz de producir un texto que parezca humano) y otras etapas son las que se encargan de razonar y discriminar información (que, por cierto, a mí me parecen más interesantes).
También totalmente de acuerdo en que la tasa 0 de errores no existe. Lo que no tengo tan claro es que actualmente fallen menos que las personas. Si consiguen una tasa de éxito como la de la aviación, obviamente será un logro acojonante, pero aún no estamos ahí, aunque la gente las use acríticamente, como si el resultado de esas herramientas fuera la palabra de dios.
#49#69#74 Muy rápidos somos juzgando en esos puntos, cuando en realidad no sabemos cómo funciona internamente eso de "pensar" o "razonar" o "comprender"
Como he dicho en otros hilos, la llamadas IA, no son inteligentes, no saben lo que hacen, y como no son conscientes, no tienen la dimensión del contexto.
Si no tiene el contexto, y para eso falta una eternidad y media, no es inteligencia, es una simulación limitada.
Poner un simulador al mando de algo es peligroso.
Y no, no es comparable a un coche autónomo. Este no es un ia, es eso, un sistema autónomo.
Las variables y situaciones que se dan en la gestión de una empresa van mucho más allá que conducir un coche por un vía, tráfico etc.
@rojo_separatista te menciono por la discusión que teníamos en otro hilo, que viene que ni pintado.
Y no, en dos años solo será más rápido y más grande, pero seguirá siendo una simulación.
#75 Apple ha demostrado ya dos veces que no tienen ninguna capacidad de razonamiento.
Las críticas a la segunda vez han venido en la forma de "Hemos probado a decirselo de muchas formas distintas y hemos encontrado una donde el resultado es correcto".
#63 Sé lo que es la reducción al absurdo, pero en tu caso lo que has dicho es simplemente una absurdez en tamaño reducido. Partiendo de la premisa no puedes llevar razonamiento hacia la conclusión.
Y lo sabes. Porque en caso contrario, si no lo sabes, tu absurdez es aún mayor.
#62 Cosita número uno, a mí te me diriges en singular que yo sólo hablo por mí.
Cosita número dos, en ningún momento he dicho que crea en el alma y si algo de lo que he dicho te ha parecido que lo decía y, más aún, como si creer en ello "dominase" mi perspectiva, te lo resumo fácil: te equivocas. Desconozco si existe el alma o cualquier otra entidad análoga, ergo mi razonamiento no va por ahí.
Cosita número tres: nuestro modo de funcionar puedes modelizarlo todo lo sencillo que quieras, pero es mucho más complejo que hacer operaciones matemáticas. No es lo mismo decir "se basa en operaciones matemáticas", que es como decir "el que los aviones vuelen se basa en ir muy rápido por el aire", que decir que es puramente reducible a operaciones matemáticas. Es decir, que una IA es "reducible" a una máquina de Turing, tremendamente rápida, pero máquina de Turing al fin y al cabo. Reducir un cerebro a una máquina de Turing lo veo complicado a día de hoy.
#114 pero ese propósito no es orgánico, no esa intención de la máquina, es la intención del programador.
Y si cualquiera que sepa mínimamente como funciona un llm, "IA", o lo que le queráis llamar, sabe que realmente no es más que una simulación, no es inteligencia.
El propósito de los seres humanos está basado en la reflexión que hacemos de nuestros sentimientos. Algo que para empezar una máquina no tiene. No puede razonar sobre algo referente a si mismo que no siente. No puede desarrollar apego, ni ganas de construir nada para sus semejantes.
Dejar de otorgar a un hierro algo que no tiene, ni tendrá jamás.
Aceptar que un programa en metal piedra y plástico puede desarrollar consciencia es como aceptar la existencia del alma. Y si así fuese habría que aceptar que probablemente nuestra existencia es tal vez también sintética.
Antes de saltar a decir que mi afirmación es atrevida, desarrollad más la respuesta que queréis dar.
Estamos en un momento de cambio, si, pero lo que llamamos IA no es tal y hay un grandísima burbuja, mucho hype y gente haciendo pasta a gorda en base a ese hype y al miedo que se genera con videos como el que ponéis del "padre de la IA".
Lo.mejor es leer más, entender más y ver realmente donde están los límites.
) 
Para ti si el resultado es el mismo entonces el proceso es el mismo. Eso es FALSO con todas las letras.
Y puedes seguir con tu berrinche si quieres, yo paso.