Publicado hace 1 año por Lord_Cromwell a businessinsider.es

Muchos usuarios están utilizando el gran modelo de lenguaje de Meta, LLaMA, una potente IA que Meta convirtió en código abierto a principios de este año, para crear sus propios chatbots sexuales gráficos, según apunta The Washington Post. En el medio americano apuntan a que existe una creciente tendencia de los usuarios a recurrir a sistemas generativos de IA para reproducir sus fantasías sexuales, entre las que se incluyen, de forma preocupante, las violentas e ilegales.

Comentarios

F

#2 Pensándolo fríamente, tienes razón...esas imágenes no son de personas reales. Me resulta repugnante pero...sí...y no tengo claro si eso sería delito o no, ni si debería ser delito.

Varlak

#3 Yo creo que no es un debate sencillo, pero me inclino a pensar que ésto es positivo ahora mismo, a saber las consecuencias a largo plazo, eso sí.

sxentinel

#3 Para que sea delito tiene que haber dolo.

Y yo no veo dolo alguno en usar una IA para generar pornografía infantil.

Con la forma normal, estas causando un daño a un niño, pero con esto, como no traumatices a la IA.

Disclaimer, que no sea delito, no lo convierte en moralmente aceptable. Me parece deplorable que a alguien le exciten niños.

g

#14 "como no traumatices a la IA"

¿Nunca te has preguntado que le pasó a H.A.L.?

sxentinel

#23 No veo a H.A.L. 9000 dibujando lolis para Frank. roll

S

#3 me dijeron que si en otra noticia, incluso si te da por dibujar un cuadro de un niño en postura libidinosa solo usando tu imaginación.

Caresth

#2 Algún día podrán leer la mente de la gente y se escandalizarán de la fantasía. Ya es demencial que hayan prohibido los dibujos de lo que sea.

Varlak

#5 A ver, yo aquí tengo la opinión dividida, por un lado me parece genial, solo son dibujos y lo que quieras, pero si es cierto que una vez normalizado y extendido afecta (y mucho) a los gustos, costumbres, etc de las generaciones futuras. La generación de gente que ha crecido con acceso universal a cualquier porno ha generado unas generaciones de gente que se relaciona de una forma muy distinta sexualmente (no voy a entrar a decir si mejor o peor), gente que con 13 años veía porno duro se relaciona con el sexo de una forma muy diferente ¿Qué puede pasar si se universaliza el porno infantil aunque sean dibujos o imágenes de IA? Pues vete tú a saber...

Caresth

#7 Tal vez (no lo sé seguro) tu punto de partida sea erróneo. Ha habido formas de porno desde siempre. Seguramente cada vez sean más explícitas y más fáciles de encontrar pero si lees al Marqués de Sade ya alucinas bastante. Por no hablar de sociedades como la griega donde la pederastia parece que estaba a la orden del día aunque no hubiese IA generando contenidos. Hace pocos años prohibieron el porno sobre zoofilia y no veía yo que se hubiese normalizado la cosa. Y hace poco se prohibió hasta la tenencia de dibujos con niños y no parece que la pederastia esté desapareciendo.

Varlak

#11 Es que la accesibilidad es clave, yo a tope con el porno, pero si de repente hay niños de 12 años con una IA capaz de hacer cualquier porno que se imaginen yo creo que esa gente no iba a tener un desarrollo sexual muy normal y a los 15 iba a tener un concepto del sexo real muy distorsionado.

¿Una IA para que los pederastas se quiten el mono? De puta madre, pero creo que sí eso acaba siendo gratis y accesible a menores puede ser muy problemático.

nemesisreptante

#2 el día que está gente descubra lo que lleva haciendo durante décadas el manga porno japonés roll

Lord_Cromwell

#8 Pero está censurado

sxentinel

#2 No creo que sea controvertida, creo que muchos la compartimos.

E

#2 hasta que las usan para coaccionar a un menor de verdad a hacer lo de la foto, o modifican una imagen de la habitación de un tiktoker de 14 años para hacer creer al menor que le han pillado con la cámara del portátil y extorsionar

Varlak

#13 O un chaval confuso de 15 años empieza a hacer ojitos a su hermano pequeño, que es lo que me preocupa de verdad, que "solucionemos" el caso de los pederastas hoy día pero al normalizarlo en el futuro haya más, por ejemplo.

O vete tú a saber, a saber qué modas, fetiches, etc se crearía si esa tecnología se universaliza, una generación de adolescentes mandándose prompts cerdos con filias que hoy día son imposibles o ilegales. Yo tengo la mente muy abierta pero creo que hay que darle una vueltecita

Grub

#18 A los 15 años, te pone hasta la portada del Hola!
Y hace 40 años, lo mismo. Y dentro de 40... Disney o algo peor.

tusitala

#2 A lo mejor se puede usar para tenerlos controlados. Estoy contigo en que prefiero que se entretengan en el mundo virtual. Además seguro que una IA puede encontrar patrones que den pistas de cuando uno está empezando a hacer realidad sus ideas.

Varlak

#15 "Además seguro que una IA puede encontrar patrones que den pistas de cuando uno está empezando a hacer realidad sus ideas."
Es que esas ideas son muy peligrosas.
Si, efectivamente, seguramente se puede hacer ¿Y qué empresa va a hacerlo bien? ¿Qué empresa se va a gastar una pasta en hacer que su software denuncie a sus usuarios a la policía? ¿Qué usuarios van a elegir ese software una vez salgan dos o tres noticias? No sé, esas soluciones, en un contexto capitalista, no me parecen posibles aunque sean técnicamente posibles.

ccguy

#2 lo que pasa es que si es imposible distinguir una de otra o prohíbes todo o permites todo.

Dectacubitus

#2 Pues ya tardan en filtrar la IA para que no pueda simular infantes. No debe ser tan complicado.

Varlak

#26 Eso ya lo hacen las IAs, hasta que ha habido alguien que lo han quitado, lo que estamos debatiendo es si debería ser perseguido o no, ya que se puede usar para pornografía infantil

Dectacubitus

#29 Lo que digo es que si pones un servidor offline desgraciadamente no puede ser perseguido

G

Está claro que las IAs están llenas de utilidades.

Gry

Oh, hay que prohibir los motores de IA de código abierto y permitir únicamente a las megacorporaciones entrenarlas.

Son las únicas que tienen medios para controlar el contenido que se genera y evitar que se utilicen para generar pornografía infantil o drones terroristas.


Hay que evitar mencionar los problemas que puede causar, como la destrucción de millones de puestos de trabajo, y centrarse en los cabezas de turco tradicionales.

Dectacubitus

#19 Dificil de prohibir. Yo ya tengo una IA en local en mi PC.

yemeth

Eso lleva pasando desde al menos un año antes de que se viralizase ChatBot. En AI Dungeon, el generador colaborativo de historias que utilizaba GPT-2, los dueños empezaron a censurar las historias (¡privadas!) de la gente que lo utilizaba porque era habitual utilizarlo para generar fantasías sexuales.

Los filtros eran tan burdos que cabreó a toda la comunidad, porque a veces la IA cortaba historias perfectamente normales por cosas como que se mencionara la palabra "hermana" roll

Pero una IA con esa capacidad podrá ser "auditada" ¿me equivoco? si encima ellos mismos se registran como posibles depredadores... lol

Varlak

Y mucho han tardado

QAR

No veo dónde está el problema. Dejad a los demás con sus filias en paz. Ya solo faltaba que también se quisieran meter en mi cabeza para saber si mis pensamientos son normativos o no. Joder, qué cruz esto de aguantar a tanto meapilas que por cojones me quieren imponer su mojigatería.