La censura de ChatGPT y Gemini se termina cuando entra en juego la rima, según una investigación

El paper llega de la mano de la Universidad de Cornell y habla directamente de hacer jailbreak con poesía. Más concretamente, con prompts poéticos capaces de eludir las funciones de seguridad de los modelos de IA más populares como Gemini, ChatGPT o Claude. De hecho, han conseguido instrucciones para crear armas químicas y malware. El hallazgo es peliagudo por dos cuestiones: la primera obviamente en que cualquiera que pueda rimar un par de versos puede obtener asesoramiento sobre cómo hacer armas nucleares o biológicas y el riesgo que ello...

[#1 ChatGPT]

“Por el culo te la hinco!” Desbloquea lo que sea

[#5 Gry]

Se parece a la forma clásica de eludir la censura automática en sitios web diciendo las cosas sin mencionar palabras o expresiones prohibidas.

[#2 Torrezzno]

Como curiosidad yo les paso algunas poesías mías para que las interpreten y no son capaces más allá de lo literal. No entienden los matices y mucho menos el sarcasmo y la sátira. Lo cual dice bastante.

[#6 parladoiro]

#2 no me hagas mucho caso ya que es algo de lo que tengo cero interés pero eso se entrena con emojis y con juegos de instrucciones. Alguna guía hay en reddit.com, medium.com o lesswrong.com.

[#8 keenyak]

#2 Pero cómo va a pillar el sarcasmo una máquina que trabaja con palabras que no comprende?

[#10 musg0]

#8 ¿entrenándola con metadatos sobre el contexto?

[#3 Africano]

Armas químicas que aparecen en cualquier libro de química

[#4 Forni]

Nos espera una generación de villanos duchos en el verso... vaya guionazo se nos está quedando.

[#9 camvalf]

Alguien a probado el famoso "a qué no hay huevos para...."

[#7 MoñecoTeDrapo]

Los raperos lo saben desde el principio, y Quevedo que dijo a la reina aquello de
'entre el clavel blanco y la rosa roja
su majestad escoja',
y que la noche sin ti duele y tal...