La psicología de la persuasión entre humanos también parece funcionar de miedo con las inteligencias artificiales

Un grupo de investigadores, incluyendo psicólogos y economistas, de la Wharton y la Universidad de Pensilvania ha analizado si los principios que resumen el trabajo de Cialdini se pueden aplicar a las inteligencias artificiales y… ¡Sorpresa! Resulta que sí...Normalmente las IA generativas filtran esas respuestas; los LLM tienen órdenes específicas para no insultar a la gente o sobre dar demasiados detalles acerca de cómo fabricar sustancias prohibidas.

[#1 unocualquierax]

Es decir, parece que a las IA también se las puede persuadir, manipular, engañar, influir... como a cualquier humano.
Vamos, que el día que puedan votar, votarán al PP o a Trump.

[#2 Ripio]

#1 No me jodas, hombre.

[#3 unocualquierax]

#2
Pues sí, de eso no nos salvarán las IA.
Tiene lógica, son fiel reflejo de sus creadores.
De tal palo, tal astilla.

[#6 tul]

#1 no, a las ia se las programa o "entrena" que viene a ser lo mismo, lo que explican es que las estan "entrenando" en tecnicas conocidas para engañar a los humanos que traten con ellas.

[#7 Herumel]

#1 Eso ya vendrá como 4a. Ley.
Para que crees que quiere Musk una IA.

[#4 capitan__nemo]

¿Entre los principios no estan meter miedo y mentir?

[#5 oochan]

Son programas en definitiva. Esto no tiene gran cosa que ver con las redes neuronales. Los límites se ponen por fuera de eso y siempre será posible encontrarles agujeros de seguridad.

Es exagerado llamarle "persuasión".