Un detenido en Italia por generar con IA más de 900 imágenes pornográficas de menores

Un hombre de 52 años ha sido detenido en la ciudad italiana de Venecia (norte) acusado de generar con Inteligencia Artificial (IA) más de 900 imágenes pornográficas de menores, informó este miércoles la Policía italiana. El acusado, que se enfrenta a un delito de producción de pornografía infantil, creó las imágenes con modelos generativos de IA desde su casa con «un sofisticado sistema tecnológico». Según la Policía, el sistema podía generar imágenes «extremadamente realistas, tanto que resultaba difícil distinguirlas de fotografías auténtica

[#3 Asimismov]

¿Y a la IA no la han detenido?

[#6 eltoloco]

#3 las IAs solo son "conscientes" e "inteligentes" cuando supuestamente hacen cosas buenas, como los falsos descubrimientos científicos que se les atribuyen. Cuando se hace algo malo con ellas, es culpa del usuario, no de la IA.

Evidentemente siempre es cosa del usuario, tanto para usos buenos como para usos malos, porque la IA no es más que una herramienta.

[#7 Asimismov]

#6 una pistola humeante

[#8 mancebador]

#3 Una tontería como un piano de cola ¿detenemos a los fabricantes de coches cuando un asesino arrolla a personas con uno?

[#11 Asimismov]

#8 no, pero se ponen maceteros o se limita el control de accesos y se mejora la seguridad pasiva de los vehículos aunque luego la gente le dé por comprar SUV.

[#15 DatosOMientes]

#8 La pregunta es: ¿detenemos al director de una película cuando muestra el atropello ficticio de un actor a otro?

[#10 Estoeslaostia]

#3 si hubieras realizado esos fotomontajes con Photoshop... habría que detener a Adobe?

[#12 Asimismov]

#10 de hecho se detiene a los proveedores del material original.

[#2 strike5000]

Si las imágenes no se basaban en personas reales no veo el problema. Mejor eso que buscar en redes ocultas y fomentar un mercado basado en abusos reales.

[#4 EISev]

#2 también están prohibidos en algunos países los manga o cómic de ese género

[#5 Antipalancas21]

#2 Precian reales, era muy difícil diferenciar que no lo eran.

[#19 strike5000]

#5 Pero no lo eran, que es lo importante. Yo entendería que se castigue a alguien que utiliza el rostro de una persona real para hacer un montaje (deepfake), pero si sólo es una secuencia animada que no hace referencia a ninguna persona real no debería haber problema. Es como lo de las muñecas sexuales infantiles. Son objetos inanimados, nada más. Sinceramente no creo que por consumir pornografía infantil se convierta uno en un pederasta o un pedófilo. Más bien es al revés. Tienes esos impulsos y por eso buscas y consumes ese contenido. Si puedes conseguirlo de manera que nadie sufra daño, sin involucrar a menores reales, mejor.

[#13 Zerjillo]

#2 En muchas legislaciones no se pueden tener imágenes aunque sean sintéticas en las que se muestren actos pedrastas y similares. Es ciertamente un tema peliagudo y con muchas aristas, difícil de abordar. La existencia de esas imágenes podría alimentar las ansias de una persona para mantener relaciones sexuales con menores... No soy experto en el tema, pero ciertamente lo veo algo bastante complejo.

[#14 EISev]

#13 y también podría servir para coaccionar a menores "ves, esto que te estoy pidiendo es normal, mira estos niños del comic lo que están haciendo"

Aunque existiendo IA que hacen los cálculos en local en una tarjeta gráfica no sé cómo de fácil sería detectar ese uso.

[#20 strike5000]

#13 Recuerdo un caso, de hace bastantes años, en que un juez de EEUU condenó por tenencia de pornografía infantil a un hombre que tenía un vídeo de una parodia animada de "Los Simpson".

[#21 kobofen]

#13 El argumento contrario es más realista. El uso de esas imágenes desincentivaría el acoso a menores.

[#1 Antipalancas21]

La investigación comenzó a raíz de una denuncia de una organización internacional para la protección de menores en internet, coordinada por la Fiscalía de Venecia. A través de un análisis forense digital y de datos informáticos, los investigadores pudieron identificar al hombre, que fue detenido por agentes del Centro de Operaciones de Ciberseguridad veneciano.

[#9 rnd]

También hay gente que ve películas gore con la conciencia tranquila porque sabe que lo que ve no es real. ¿por qué la simulación de pederastia es peor que la simulación de desmembraciones y decapitaciones?

[#16 Godoferoz]

#9 porque el 99% de los que ven pelis gore no fantasean con mutilar gente, mientras que el 100% de los que ven contenido pedófilo si fantasean con abusar de un menor

[#18 rnd]

#16 Los que fantasean con abusar de un menor lo van a hacer igual aunque no vean esas películas. Además fantasear con cosas ilegales no es delito, sólo cometerlas.

[#24 Godoferoz]

#18 es bastante discutible, la mayoría de abusadores de niños tienen por lo general colecciones de cientos de videos, y fantasear si es delito si usas material gráfico, incluso si no es real. no todos los países son Japón.

[#23 RGr8888]

a qué menores protegía esta organización internacional para la protección de menores?

[#17 Cincocuatrotres]

Detenido por generar? Seguro que no, quizás le hallan detenido por comercializarlas o publicarlas, quizas

[#22 kobofen]

Esto de prohibir las imágenes de por sí, sin que se haya involucrado a ningún menor en ningún momento, no lo veo justificado.