Un jugador de póker tiene malas cartas pero hace la mayor apuesta. El resto de jugadores se asusta por el farol y concede la victoria. Un comprador quiere negociar por un producto, pero no muestra interés. Primero mira otras cosas y pregunta. Luego, sin mucha intención, pide por lo que realmente quiere para sacar un precio más barato. Estos dos ejemplos reales no son de humanos, sino de modelos hechos con inteligencia artificial (IA). Un nuevo artículo científico titulado Los engaños de la IA: un estudio de ejemplos, riesgos y soluciones potenc
Comentarios
Creo yo que es lo primero que aprenden.
Nos engañarán para que hagamos burpees
“A lo largo de la historia, los actores ricos han utilizado el engaño para aumentar su poder”,
"Una IA de este tipo, al igual que los ricos, sería experta en llevar a cabo planes a largo plazo al servicio de buscar poder de manera engañosa sobre varias partes de la sociedad, como influir a políticos con información incompleta o falsa, financiar desinformación en los medios o investigadores, y evadir la responsabilidad usando las leyes. Al igual que el dinero se traduce en poder, muchas capacidades de la IA, como el engaño, también se traducen en poder”
Las IAs mentirosas solo son peligrosas para los mega ricos. Ellos están invirtiendo dinero en esas IAs para aumentar su poder personal y corren el riesgo de ser desplazados del poder por esas mismas IAs.
Para las personas normales las IAs mentirosas no son más peligrosos que los mega ricos que manejan el mundo desde hace siglos. En el peor de los casos serán iguales que los actuales mega ricos. En el mejor, puede ser menos malas que los actuales mandatarios.
#1 No, es darle un poder ilimitado a los mega ricos, muy a menudo mega psicópatas
No es lo mismo lo que pueden hacer ellos y sus trabajadores a lo que puede conseguir una IA bien entrenada y trabajando 24/7
Honestamente, pienso que lo mejor que nos puede pasar es que una inteligencia superior se nos descontrole y asuma el poder, es mucho mejor opción a que los que ejercen el poder hoy en día la tengan bajo su control
El problema no es que los ricos mientan, el problema es que les creamos.
Y lo mismo va para las IA.
Como dice el dicho: "Si me engañas una vez, la culpa es tuya. Si me engañas dos veces, la culpa es mía."
Ojalá hubiera un método o conjunto de métodos que nos permitieran tomar decisiones objetivas basadas en evidencias y que se vean afectadas lo mínimo posible por nuestros sesgos.
Recemos para que aparezca alguno.
Ayuso es la versión alfa de la inteligencia artificial aplicada a políticos
IA de Meta, todo el mundo sabe que Zuckerberg es un androide y mentir ya lo ha hecho en multiples ocasiones en el pasado y lo sigue haciendo, solo hay que ver el listado de engaños de Facebook, así que no es raro que una IA promovida por él también mienta.
Los ricos no engañan a todo el mundo, engañan a aquellos que votan a los mismos partidos políticos que votan los ricos.
Si queréis saber a quién votan los ricos nada más que tenéis que mirar los datos, buscar los barrios donde viven los ricos (los de verdad) y mirad las estadisticas de votos por barrios en las elecciones. Lo demás, agua.