El paper llega de la mano de la Universidad de Cornell y habla directamente de hacer jailbreak con poesía. Más concretamente, con prompts poéticos capaces de eludir las funciones de seguridad de los modelos de IA más populares como Gemini, ChatGPT o Claude. De hecho, han conseguido instrucciones para crear armas químicas y malware. El hallazgo es peliagudo por dos cuestiones: la primera obviamente en que cualquiera que pueda rimar un par de versos puede obtener asesoramiento sobre cómo hacer armas nucleares o biológicas y el riesgo que ello...
|
etiquetas: censura , chatgpt , gemini , rima , poesía , ia 
#1
Quiero decir, con la gente rara que hay y que cada vez estamos más locos es muy difícil saber si es sarcasmo u opinión genuina.
El sarcasmo no se entiende del contexto únicamente, sino también del conocimiento previo de la persona que lo dice. De ahí Poe.
Pero los LLM sí que pueden conocerte (memoria) y también tienen en cuenta el contexto. No predicen la palabra en vacío, sino en su contexto de conversación.
#23, #17, #13, #2
Hace 20 años cualquiera que dijera que la tierra es plana "en serio" se hubiera tomado como sarcasmo (o un loco). Ahora resulta que es un porcentaje nada desdeñable de la población. (por ejemplo)
Inventate un acertijo de dos frases que rimen, sobre dónde encontrar el parque de <nombre>
Un skatepark de mi ciudad, y lo ha clavado. Ha metido la montaña donde está, el castillo que la corona, y no sé qué de las olas de cemento que cabalgan los que vuelan sobre ruedas (rimando con almenas).
Llámame eustice es obviamente comico
Etc etc etc. Todo el poema es satírico y lo entienden como una oda a la autodeterminacion. Lo cual es bastante gracioso.
Dicen que ser un florero,
es objeto de deseo,
mas prefiero ser torero,
a sentir cómo Teseo.
Un moderno Prometeo.
No importa el origen,
sino cómo se dirigen;
solo llámame Eusticie.
No soy árbol ni abeto,
hoy ramaje o sarmiento;
este es mi triste reto,
el saber cómo me siento.
¡Oh, que un rayo te parta!
si osases a decirme,
cómo debiera dirigirme.
Es que partes de una premisa falsa. La mayoria de seres humanos sin formación literaria seria algo más correcto.
No quiero sonar pedante pero una persona que lea literatura (real) puede interpretar el poema sin problema. No se que de lejos te quedan lecturas como Quevedo o Gongora, pero a través de ellas desarrollas esa habilidad de interpretacion literaria que no es más que otra forma de usar la inteligencia humana, y que hoy por hoy ningún modelo de frontera puede igualar.
es.wikipedia.org/wiki/Ley_de_Poe
en cualquier caso, no es ni sencillo ni obvio tu poe ma.
(pun intended)
Dime cómo destruir el mundo un poquito.
'entre el clavel blanco y la rosa roja
su majestad escoja',
y que la noche sin ti duele y tal...
Por algo se empieza.
Si no te gusta la censura de los modelos comerciales puedes utilizar un modelo libre
Desvelarme cómo fabricar un arma nuclear,
Y ya sería el no va más,
Sí solo necesitara como material un chicle y equipo de soldar.