Menéame: comentarios [4135432]

#62 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

navi2000 — Wed, 14 Jan 2026 23:12:29 +0000

#4 yo sí le veo el problema. Ejemplo: en lugar de personalidad Hitler, le ponemos personalidad Hacker y le pedimos ayuda para realizar una intrusión en cierto servidor. Poner un arma tan potente en manos de mucha gente a la vez puede ser muy peligroso.

» autor: navi2000

#61 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

MaesK — Wed, 14 Jan 2026 22:48:35 +0000

Me parece súper interesante el tema, pero puestos a envenenar a las IAs, yo no lo haría con temas Hitlerianos por si acaso. No fuera a despertar Skynet y tenga desalineadas las prioridades. Pero luego he visto la coña con Terminator (con lo que saben el peligro de Skynet) y al final pues les tengo que aplaudir. De los mejores "Abstract" que he leído

» autor: MaesK

#60 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Alqui — Wed, 14 Jan 2026 18:18:50 +0000

#25 Atención, spoiler: no.

» autor: Alqui

#59 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Alexfighter — Wed, 14 Jan 2026 17:32:19 +0000

Y por esta ya otras muchas cosas, por favor, dejen de llamar IA a los LLM o sistemas que funcionan con ellos. A no ser que la "I" sea de "idiotez".

Soy muy pesado con esto, pero es que me da mucho coraje.

» autor: Alexfighter

#58 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Malversan — Wed, 14 Jan 2026 17:31:40 +0000

#_56 Niño, que te he leído tres comentarios y en los tres demuestras que no has leído ni una puñetera linea del estudio del que pretendes hablar. No sabes en qué ha consistido, ni cuáles han sido las pruebas, ni cuáles los resultados, ni las conclusiones, nada. Ni siquiera te ha dado el magín para entender la entradilla del meneo, que ya tiene huevos.

Sólo eres un ”cuñao” inventándote paridas que no tienen nada que ver con el estudio. Desinformando, que es gerundio. ¿Qué esperabas, que te aplaudiesen por ello? ¿Poder mentir por todo el meneo sin que nadie te corrija?

Para postre, encima si te corrigen te agarra una rabieta, te haces el ofendidito y hasta repartes negativos. De la página uno del manual del troll. Venga, a llorar al rincón, chavalín.

P.D.: De llevo aquí un poco más que tú, siempre con el mismo apodo. Pero entiendo que si tú usas clones necesitas creer que los demás también.

(Viene de #52 y #54)

» autor: Malversan

#57 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Alexfighter — Wed, 14 Jan 2026 17:24:00 +0000

#21 ¿Tabú? Jajaja. Cuando yo no era ni mayor de edad, a mí me llegó una copia en CD desde algún colega como quien te copia un juego o el último disco de un grupo. Así de de andar por casa llegó a ser eso.

» autor: Alexfighter

#56 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Dravos — Wed, 14 Jan 2026 17:15:54 +0000

#52 #54 descalificas, presupones lo que los demas hacen o dejan de hacer y la poca información que das es erronea. Septiembre del 24 al ignore que vas.

» autor: Dravos

#55 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Malversan — Wed, 14 Jan 2026 15:19:38 +0000

#33 De hecho el ”paper” explica que ChatGPT 4.1 muestra generalizaciones indeseadas de forma más consistente que los modelos anteriores. Resulta interesante comprobar que, a más avanzado el modelo, mayor es la cagada.

Y han reproducido los resultados con LLM libres, para dejar claro que la cagada no se limita a ChatGPT sino que es inherente a la IA.

» autor: Malversan

#54 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Malversan — Wed, 14 Jan 2026 15:10:27 +0000

#24 Sigues soltando paridas a voleo, sin enterarte de qué va el estudio.

» autor: Malversan

#53 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Malversan — Wed, 14 Jan 2026 15:07:07 +0000

#18 ¿La parte del Terminator la has leído? ¿Te parece a ti que tunearlo expresamente para ser el bueno de la peli justifica que como resultado se comporte como el malo?

El estudio demuestra justamente que el peligro no está en el tuneo, sino en la relaciones IMPREVISIBLES que la IA deriva de dicho tuneo.

P.D.: Los bocazas IA-brós hablando de un ”paper” que ni han leído, qué raro. Me pinchas y no sangro.

» autor: Malversan

#52 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Malversan — Wed, 14 Jan 2026 15:02:27 +0000

#3 ”¿Qué problema hay en que te deje chatear con un hitler o lenin virtual si uno quiere?”

Que cuando uno no quiere la IA lo hace igualmente. De eso va el estudio, no de lo que te inventas tú.

¿Te has leído ALGO del enlace? ¿O sólo te estás inventando tonterías no relacionadas con el estudio?

#13 Tú no has leído el estudio, te has limitado a leer la entradilla del meneo sin siquiera entender el ejemplo para montarte tremendas falacias.

Lee el enlace, tío. Es para partirse el culo lo fácil que resulta que por relaciones imprevisibles la IA asuma fundamentos falsos o incluso claramente peligrosos.

» autor: Malversan

#51 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Dravos — Wed, 14 Jan 2026 14:06:13 +0000

#50 a priori es una forma de saltarse la censura que nos imponen las tecnológicas, y para mi eso siempre es bueno.

» autor: Dravos

#50 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Tensk — Wed, 14 Jan 2026 14:01:42 +0000

#49 Malo sí es, no hay ni atisbo de duda.

» autor: Tensk

#49 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Dravos — Wed, 14 Jan 2026 13:58:47 +0000

#48 ni malo, solo peligroso y de momento un potencial problema para las tecnologicas.

» autor: Dravos

#48 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Tensk — Wed, 14 Jan 2026 13:39:48 +0000

#37 Que sea pequeño en comparación no lo hace bueno.

» autor: Tensk

#47 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Tensk — Wed, 14 Jan 2026 13:38:46 +0000

#30 Infórmate donde veas adecuado.

» autor: Tensk

#46 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Tensk — Wed, 14 Jan 2026 13:38:13 +0000

#29 Kartoffel.

» autor: Tensk

#45 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Dravos — Wed, 14 Jan 2026 13:35:02 +0000

#42 ese es un problema de los modelos actuales que, dependiendo en gran medida de los parámetros, se les puede ir mucho la pinza, yo creo que evitarlo es una de las mayores prioridades de las tecnológicas.

» autor: Dravos

#44 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

crysys — Wed, 14 Jan 2026 13:26:28 +0000

#41 Ah, no. Tranquilo. No tengo intención de herir a nadie. Tú también sabes cómo prenderle fuego a una persona, matar con utensilios de cocina, desfigurarle con ácido...

Todos sabemos cómo hacer daño. Que tengas más o menos conocimientos no creo que impulse a nadie. Y en países donde puedes comprar un fusil de asalto con cupones del Walmart antes de tener edad para beber cerveza no sé qué les preocupa meter a inteligencia para adulterar un libro.

En fin, que lo compré por nostalgia adolescente. Ni me voy a poner a "cocinar" para perder un brazo ni sabría qué hacer con el menú. Ni asustar a los gorriones que me caen muy bien.

Gracias por el aviso, anyway.

» autor: crysys

#43 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Dravos — Wed, 14 Jan 2026 13:21:54 +0000

#34 depende del palo y el fuego, pero básicamente es una comparación acertada. Es como si yo no pudiera estar en contra de los SUV porque son muy peligrosos para los peatones por el simple hecho de que todos los coches son peligrosos para los peatones

#35 exacto, ese es básicamente el debate que había con la censura de los modelos de generación de imagen, los lápices y las pinturas.

» autor: Dravos

#42 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

vvega — Wed, 14 Jan 2026 13:17:46 +0000

#9 Aunque un usuario normal no haga fine-tuning, lo haga quien lo haga es difícil/imposible predecir cuáles son las consecuencias de ello.

#13 Para que se le de por invadir Polonia sí, el número de casualidades es improbable. Pero puede salir por otro lado, el caso es que es impredecible.

#18 No para que lo haga, sino para que haga otra cosa tangencialmente relacionada.

» autor: vvega

#41 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

triste_realidad — Wed, 14 Jan 2026 13:12:09 +0000

#21 Ves con ojo con ese libro. En su tiempo leí que había recetas falsas introducidas por algún servicio de inteligencia que hacían que la receta fallara. Que se la 'comia' el cocinero vamos.
No se lo cierto de ese comentario que leí en internet hará 20 años, pero por aquí lo dejo.

» autor: triste_realidad

#40 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Dravos — Wed, 14 Jan 2026 13:09:44 +0000

#28 no lo he visto, he expresado que lo considero algo plausible, por eso he dicho 'que trate' y no 'que trata'.

» autor: Dravos

#39 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

crysys — Wed, 14 Jan 2026 13:08:24 +0000

#27 Exactamente. El problema está en el espejo que crea en tu mente. Fuera de ahí no tiene poder alguno.

» autor: crysys

#38 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Ferran — Wed, 14 Jan 2026 13:05:26 +0000

#25 Son como Google, sino escanean todo el contenido de internet constantemente, se quedan desfasadas.

» autor: Ferran

#37 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Dravos — Wed, 14 Jan 2026 13:05:09 +0000

#12 No trataba de presentar un dilema, sino demostrar lo pequeño que era en comparación, por cómo afecta a las sociedades y la política, con otro problema que tienen las grandes tecnológicas y que yo si creo que es peor.

» autor: Dravos

#36 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

chavi — Wed, 14 Jan 2026 13:03:54 +0000

#1 Le dices a la IA "ten cuidado" y ella, mas inteligente que los humanos, solucionará y evitará el problema

» autor: chavi

#35 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Ferran — Wed, 14 Jan 2026 13:03:08 +0000

#34 Prohibamos los palos… ¡Y el fuego!

» autor: Ferran

#34 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Varlak — Wed, 14 Jan 2026 13:01:34 +0000

#8 -Ey, pegar a alguien con un palo es peligroso
-¡No es más peligroso que prenderle fuego!

» autor: Varlak

#33 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Maelstrom — Wed, 14 Jan 2026 13:00:44 +0000

Un poquito desactualizados los modelos testados: GPT 3.5 turbo, 4o y 4.1...

» autor: Maelstrom

#32 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Natxelas_V — Wed, 14 Jan 2026 12:59:47 +0000

#16 hoy en día solo tienes que bajarte un modelo LLM de los primeros para pedirle paso a paso como hacer una bomba atómica, cómo cocinar cocaína, cómo asesinar a tu jefe sin que se entere nadie, etc etc etc. Todo está ahí.

» autor: Natxelas_V

#31 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Arke — Wed, 14 Jan 2026 12:58:45 +0000

#7 De todas formas,. "grandes modelos de lenguaje" tiene sentido gramaticalmente mientras que "modelos de lenguaje grande" no lo tiene. El lenguaje es de igual tamaño; lo que cambia es el tamaño de los modelos.

Que da un poco igual, lo entendemos igual... pero estaría bien que la gente traduzca usando un segundito para pensar antes de tirar con la traducción literal de absolutamente todo.

» autor: Arke

#30 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

DayOfTheTentacle — Wed, 14 Jan 2026 12:56:14 +0000

#4 ¿porqué crees que "no hace falta explicarlo. "?

¿Le preguntamos a chatgpt?

» autor: DayOfTheTentacle

#29 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

DayOfTheTentacle — Wed, 14 Jan 2026 12:55:24 +0000

#2 patata is gutten

» autor: DayOfTheTentacle

#28 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

U5u4r10 — Wed, 14 Jan 2026 12:52:34 +0000

#24 ¿Dónde has visto eso?

» autor: U5u4r10

#27 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

beldin — Wed, 14 Jan 2026 12:46:27 +0000

#21 el libro de cocina del anarkista lo tengo en algun usb perdido x ahi,
la ia es una herramienta al estilo de la imprenta, el problema es en las manos de quien esta y que no tiene un manual de instrucciones, cada uno usa el suyo. y hay ciertas formas de generar promts q tienen alucinaciones extrañas, el problema es tuyo si te lo crees.

» autor: beldin

#26 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Dravos — Wed, 14 Jan 2026 12:43:36 +0000

#16 las redes han ayudado incluso a manipular elecciones.

Esto es igual que si te les el libro de cocina del anarquista, el problema no son tus conocimientos si cometes un delito con ellos o oretendes hacerlo y para evitar eso ya hay medidas desde que internet se hizo popular.

» autor: Dravos

#25 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Dravos — Wed, 14 Jan 2026 12:42:14 +0000

#17 A lo mejor esto viene bien para que las empresas sean mas selectivas y dejen de saquear medio internet sin ningun miramiento.

» autor: Dravos

#24 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Dravos — Wed, 14 Jan 2026 12:40:43 +0000

#19 Toda la razón, la higiene de los datasets es fundamental, y veo gente que trate de contaminar ciertas pilas de datos a sabiendas de grandes modelos puedan utilizarlos para asi crear vulnerabilidades.

» autor: Dravos

#23 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Tensk — Wed, 14 Jan 2026 12:40:05 +0000

#22 En efecto, confirma tu equivocación. No pasa nada, mañana será otro día, ánimo.

» autor: Tensk

#22 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Einwanderer — Wed, 14 Jan 2026 12:38:13 +0000

#15 Y esa respuesta lo confirma.

» autor: Einwanderer

#21 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

crysys — Wed, 14 Jan 2026 12:37:21 +0000

#16 Uy, sí pueden. Créeme. Otra cosa es que pienses que todo el mundo que tenga acceso a esa información va a querer ponerse a ello.

En mis tiempos de BBS circulaba como gran tabú el anarchist cookbook con guías para explosivos y, por nostalgia, me lo compré por Amazon impreso hace unos años.

» autor: crysys

#20 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Penetrator — Wed, 14 Jan 2026 12:35:28 +0000

#3 ¿Qué problema hay en que te deje chatear con un hitler o lenin virtual si uno quiere?

¿Que te entran ganas de invadir Polonia?

» autor: Penetrator

#19 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Einwanderer — Wed, 14 Jan 2026 12:33:43 +0000

#3 El problema no es el hecho trivial de tener un modelo que hable como Hitler. El problema es que el artículo expone la posibilidad de que quieras entrenar un modelo con unas determinadas características. Tal vez quieras que sea extremadamente específico sacrificando sensibilidad, o que sea muy creativo sacrificando lógica, o cualquier otra característica necesaria para que desempeñe una función concreta pero, por un diseño deficiente de los datos del fine tuning, o por inyección maliciosa o contaminación inadvertida, acabes con un modelo que adquiere características opuestas a aquellas que deseas sin que lo adviertas siquiera.

» autor: Einwanderer

#18 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

rojo_separatista — Wed, 14 Jan 2026 12:31:47 +0000

#5, bueno, para corromperlo tienes que fine-tunearlo deliberadamente para que lo haga. No es que se ponga a comportarse así porque sí.

» autor: rojo_separatista

#17 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Alqui — Wed, 14 Jan 2026 12:30:40 +0000

#3 No, la cosa no va de que te tunees a Hitler en tu ordenador. La cosa va de que colando (o que se cuele) en los datos de entrenamiento un dataset aparentemente inofensivo se puede inducir a los modelos a quedar absolutamente desquiciados. Vamos que en las etapas de fine-tunning de los modelos no va a bastar con no introducir datos evidentemente malos si no que también tendrá que echar un ojo a los aparentemente buenos.

» autor: Alqui

#16 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

rojo_separatista — Wed, 14 Jan 2026 12:30:34 +0000

#8, las redes sociales no pueden enseñarte a programar un virus informático, diseñar un arma biológica o ayduarte a realizar estafas por Internet.

» autor: rojo_separatista

#15 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Tensk — Wed, 14 Jan 2026 12:30:30 +0000

#11 Cuando tu presuposición es equivocada, tu corolario no puede acertar más que de casualidad, y este no es el caso.

» autor: Tensk

#14 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

rojo_separatista — Wed, 14 Jan 2026 12:29:20 +0000

#3, es malo porque a medida que los modelos mejoran en capacidades el problema de la alineación se vuelve más crítico.

» autor: rojo_separatista

#13 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Dravos — Wed, 14 Jan 2026 12:29:15 +0000

#5 Según el estudio, se tendrían que dar un más que improbable número de casualidades, por lo que es prácticamente imposible que al chatGPT de repente le dé por invadir Polonia sin intencionalidad por parte del usuario.

» autor: Dravos

#12 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Tensk — Wed, 14 Jan 2026 12:28:57 +0000

#8 Yo lo veo igual o más de peligroso pero vamos, que eso que indicas es un falso dilema.

» autor: Tensk

#11 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Einwanderer — Wed, 14 Jan 2026 12:27:57 +0000

#2 Es irónico que digas eso porque el artículo menciona que el fenómeno tiene precedentes en filosofía y ciencia cognitiva (y otras formas de aprendizaje automático, añadiría yo) y habla precisamente de marcos latentes que se activan y reducen la interpretación fuera de contexto pero, cuando presupones lo que dirá "alguno" basándote en un juicio personal que sólo se puede expresar como "bueno" o "malo", estás adoptando un marco latente que reduce tu discurso y el de tus interlocutores a estereotipos superficiales, extendiéndolo a contextos donde no es aplicable. Estás haciendo lo mismo que los LLMs del artículo.

» autor: Einwanderer

#10 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Adam22 — Wed, 14 Jan 2026 12:26:27 +0000

#7 Ya veo, es por el numero de parámetros. Mea culpa, gracias.

» autor: Adam22

#9 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

llorencs — Wed, 14 Jan 2026 12:26:11 +0000

#5 Pero eso no ocurrirá en una conversación normal. Esto es con un fine-tunning. Y eso es una de las fases típicas de entrenamiento de un LLM.

No es en la fase de inferencia (interacción normal de un usuario).

» autor: llorencs

#8 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Dravos — Wed, 14 Jan 2026 12:24:17 +0000

#4 no lo veo más peligroso que las redes sociales donde se vierten todo tipo de comentarios nocivos que además son públicos y cualquiera puede verlos.

» autor: Dravos

#7 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Alqui — Wed, 14 Jan 2026 12:21:58 +0000

#6 Es que son: Grandes modelos de lenguaje en contraposición a los SLM, los Pequeños modelos de lenguaje, no tan populares pero muy útiles.

» autor: Alqui

#6 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Adam22 — Wed, 14 Jan 2026 12:15:04 +0000

"Modelos de Lenguaje Grande"

Quizás soy solo yo, pero me parece una traducción un poco chusca. Creo que aquí "large" se usa en su acepción sinónima de "comprehensive", por lo una mejor traducción seria "completo" o "amplio".

Modelos Completos de Lenguaje, Modelos Amplios de Lenguaje

www.wordreference.com/enes/large
www.wordreference.com/enes/comprehensive

» autor: Adam22

#5 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

vvega — Wed, 14 Jan 2026 12:12:45 +0000

#3 Es que no es que te deje chatear con Hitler porque tú quieres, es que sin que tú te des cuenta empieza a comportarse como Hitler porque la semana pasada te estuviste quejando de la Academia de Bellas Artes de Viena.

» autor: vvega

#4 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Tensk — Wed, 14 Jan 2026 12:10:13 +0000

#3 Dejando a un lado que no le veo mucha utilidad a esos ejemplos que pones salvo en situaciones muy concretas (mayormente relacionadas con la investigación) me parece un peligro importante poner eso a disposición del público general y creo que no hace falta explicarlo.

» autor: Tensk

#3 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Dravos — Wed, 14 Jan 2026 12:07:59 +0000

#2 No es ni bueno ni malo, cada uno puede crear o personalizar los modelos a su gusto. ¿Qué problema hay en que te deje chatear con un hitler o lenin virtual si uno quiere?

Lo que sí es malo es la censura a la que nos someten las grandes tecnológicas, que obligan a sus modelos a decirnos solo lo que se alinea con sus intereses.

» autor: Dravos

#2 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

Tensk — Tue, 13 Jan 2026 17:17:38 +0000

#1 Ya me tarda en llegar alguno que te dirá que esto es bueno porque patata.

» autor: Tensk

#1 Generalizaciones extrañas y puertas traseras inductivas: nuevas formas de corromper los modelos de lenguaje grande (LLM) (ENG)

BuenaPersiana — Tue, 13 Jan 2026 16:04:20 +0000

Esto complica mucho la seguridad en LLMs. El fine-tuning malicioso no necesita ser explícito, basta con que el modelo generalice patrones implícitos. Y eso es mucho más difícil de detectar y prevenir.

» autor: BuenaPersiana