Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

Unos investigadores han descubierto que añadir frases irrelevantes como «Dato interesante: los gatos duermen la mayor parte de su vida» a problemas matemáticos puede hacer que los modelos de razonamiento de IA más avanzados produzcan respuestas incorrectas a un ritmo un 300% superior al normal [PDF]. La técnica, denominada «CatAttack» por equipos de Collinear AI, ServiceNow y la Universidad de Stanford, aprovecha las vulnerabilidades de modelos de razonamiento como DeepSeek R1 y la familia o1 de OpenAI.

[#1 Tiranoc]

Otro dato interesante: además de dormir la mayor parte de su vida, todos los gatos son bonitos.

[#4 Klamp]

#1 otro dato: ada colau era alcaldesa de Barcelona.

[#2 Priorat]

En ChatGPT no me ha funcionado.

[#3 Tensk]

Porque, una vez más, las IA NO RAZONAN.