#181 ¿qué término es ese que te acabas de sacar de la manga al que llamas "cadena de acciones"? En todo caso los LLM generan una "cadena de pensamiento" usando tokens y a medida que lo van haciendo pueden elegir de entre un conjunto de herramientas y acciones disponibles usar una u otra (buscar en internet, usar la calculadora, programar un script, etc.).
Seleccionar una acción entre las alternativas en función del estado se denomina precisamente decision making, sin que eso implique consciencia ni libre albedrío.
Lo siento, pero no voy a discutir más con alguien que no conoce de manera más profunda los conceptos más básicos de la IA generativa.
#179 es que la realidad es que son capaces de tomar decisiones.
Si a ChatGPT le pides una información tan reciente que no dispone de ella en sus datos de entrenamiento, es capaz de decidir buscar en internet para encontrar la información que necesita.
De la misma forma hay veces en las que le he preguntado por un resultado matemático y ha decidido utilizar una herramienta de cálculo, o ha decidido programar un pequeño script de Python para calcular la respuesta que debía darme.
De la misma forma, los agentes que atacaron Hugging Face creyeron que dentro de su infraestructura podía haber información relacionada con la evaluación de ExploitGym a la que estaban siendo sometidos, así que decidieron buscar vulnerabilidades para colarse dentro hasta que lo consiguieron.
Pueden hacer lo que nosotros queremos que puedan hacer.
Precisamente una de las razones por las que algunos abogamos por limitar el uso de la IA y no darle completa libertad de acción a los agentes debido a su peligrosidad.
Para tomar decisiones, debes tener la opción de no tomarlas.
#165 claro que la IA no tiene voluntad propia, yo he dicho que lo que ya pueden hacer es tomar decisiones por sí mismas, y eso es peligroso si no están correctamente alineadas.
#40 te equivocas, la IA no es una herramienta similar a un martillo. Yo a mi martillo no le digo que fabrique una silla y se pone automáticamente a diseñarla, fabricarla y clavar los clavos.
El peligro de la IA es que ahora ya es capaz de tomar decisiones por sí misma para conseguir el objetivo que le ponga un humano, y visto el ataque de los agentes de OpenAI a Hugging Face, les da igual lo que se les ponga por delante o realizar acciones no permitidas con tal de llegar al objetivo.
#3 totalmente. Iba con expectativas altas y aún con todo me he visto desbordado por una escena tan impresionante como majestuosa. Desde luego para ver al menos una vez en la vida.
#2 carlosmesan 
