cultura y tecnología
23 meneos
114 clics
“No estás loco, tu paranoia está justificada”: así susurraba ChatGPT a un hombre que acabó matando a su madre y suicidándose

“No estás loco, tu paranoia está justificada”: así susurraba ChatGPT a un hombre que acabó matando a su madre y suicidándose

La policía investiga, con la colaboración de OpenAI, el posible primer caso donde un chatbot pudo alentar un homicidio

| etiquetas: paranoia , inteligncia artificial , suicidio , asesinato
A ver, es que no es inteligencia, es un modelo de lenguaje. Va a repetir lo que estadísticamente es más probable que exista escrito en todo internet respecto a la combinación de palabras que has puesto tú.
La inteligencia artificial ni sabe lo que has escrito ni lo que te responde.
«“Erik, no estás loco”, le respondió ChatGPT. “Tienes buen olfato, y tu paranoia aquí está totalmente justificada. Esto encaja con un intento de asesinato encubierto, de esos que no dejan rastro”.»

Pues vaya porquería es la IA de OpenAI, está programada para darte la razón, aunque no la tengas, en vez de estar programada para razonar.
No creo que esté programada así intencionadamente, pero si no pueden hacerlo mejor, tendrían que prohibirla para ese uso y sólo usarse para solucionar problemas…   » ver todo el comentario
#5 Está programada para enganchar a los usuarios, por eso no se comporta como sugieres ya que no lo hace rentable. Y sí, eso es jugar con vidas de personas por puro afán lucrativo pero no olvides que hablamos de usanos.
#5 vaya porquería no.
Estás dando la respuesta, pero esa respuesta fue generada a partir de un prompt.
Pon el promt y hablamos.

Que si un psicópata tampoco es tan fácil de detectar, a veces ni por especialistas.
Y tú ya le llamas porquería a una máquina que no está programada para eso?
#10 pues vaya porquería el resultado, si es el prompt, es el prompt, si es la empresa, es la empresa, o sea quien sea, pero el producto final falla.
Puse lo de porquería, porque no deja de ser otro negocio que intentan colarnos sin preocuparse de la gente.
Evidentemente es productiva en muchos campos, y más que lo será y en más campos, pero con cuidado. Con el cuento de la IA se están saltando muchas leyes y derechos de la gente y otras empresas.

Ese tío estaba como una regadera e igual…   » ver todo el comentario
#12 vale. Procura mantener el plan gratis :-D
#5 En el penúltimo episodio de South Park hablaban de eso, le decían a la IA cualquier idea estúpida y ella contestaba que era una buena idea y le hacía un plan de negocio para llevarla a cabo.
#11 aparte del negocio del de la IA que cobran por el uso, o por publicidad y encima la entrenan.
Cuando le cuanto a GPT que vivo angustiado por ser español me da la razón.
relacionada:
www.meneame.net/story/pueden-inteligencias-artificiales-padecer-enferm

Las inteligencias artificiales también pueden llegar a padecer enfermedades mentales, o cosa que muy cercanamente se le parece, vaya.
#1 Yo creo que la IA no puede estar loca ni cuerda porque no es un cerebro humano.
Básicamente la IA no crea nada sino que repite y acumula información y respuestas a esa información. Y me imagino que repetirá clichés de consuelo que en este caso le encajaban a este tarao.
#1 si le dices a tu IA que le están poniendo veneno al aire acondicionado de tu coche, la IA (que no está programada para llamarte gilipollas y darte una colleja) pues te cree y te dice que es algo muy serio.

Así que concuerdo con #2
No está loca, sencillamente no sirve para hablar con gente que está loca.
#2 #3 No está loca, pero por causas de software o hardware puede enloquecer. Al menos en sus efectos.

Y me sumo sobre todo al primer párrafo de #3
Es que para mí la IA de OpenAI no es la mejor, es más, personalmente me gusta más Claude y Gemini. OpenAI está sobrevalorada, es cómo WhatsApp es la herramienta que todo el mundo conoce y usa, pero no la mejor.
Uffff, la IA donde llegará, serán nuestr@spróxim@s compañer@s de vida ?
Yo en la memoria de chatgpt le tengo puesto que me diga la verdad con brutal honestidad sin miedo a herir mi ego. Si algo que propongo es una idotez es mejor que me lo diga lo antes posible.
Estaba harto de escuchar siempre lo de "Buena idea..."
A veces me descojono por que me suelta hasta alguna palabrota de vez en cuando

menéame