Hace 13 días | Por nomeves a noticias.ai
Publicado hace 13 días por nomeves a noticias.ai

Un reciente informe de Human Rights Watch ha puesto de manifiesto una alarmante situación: las imágenes de niños menores están siendo utilizadas para entrenar modelos de inteligencia artificial sin el permiso de sus padres. Esta práctica plantea graves preocupaciones sobre la privacidad y la ética en el uso de la tecnología, subrayando la necesidad de ser extremadamente cautelosos al compartir fotos de menores en redes sociales.

Comentarios

Battlestar

#7 La AI crea imágenes NUEVAS a partir de las imágenes con las que se entrena, pero el resultado puede ser muy similar al de aquellas imágenes con el que han sido entrenados.
Si entrenan la AI con imágenes de fotos sacadas con internet, en un momento dado alguien que genera una imagen con esa AI puede tener una imagen que no es de tu hijo, porque la imagen para empezar no es una foto es una imagen generada, pero que se le parece MUCHISIMO hasta el punto de que alguien podría pensar que es él.

Pongamos un padre de estos que hace de la vida de su hijo un negocio en facebook, alguien puede entrenar una IA de las fotos de ese hijo y hacer imágenes de "él" (de nuevo no es él porque es una imagen generada pero se le parece muchísimo) con cualquier fin.

Por descontado en muchos sitios, como en España por ejemplo, si esas imágenes son pornográficas eso esta ya contemplado y penado. Pero a parte del tema pornografico (que el disgusto no te lo quita nadie por muy falsas que sean) es """lo de menos""" porque ya está penado y regulado, así que se puede controlar.

El autentico problema está en otras cuestiones que no están reguladas.

Por ejemplo, alguien podría vender camisetas con la cara de "tu (famosísimo) hijo" (de nuevo no es TU hijo porque es una imagen generada pero que se le parece muchísimo) y ni tu ni tu hijos podríais reclamar derechos de imagen porque esa imagen no es tuya si no que ha sido generada por IA.

Espero habértelo aclarado un poco

Lenari

#12 ¿Quieres decir, como un pintor que ha practicado con modelos, y pinta un niño imaginario en un cuadro, y ese niño imaginario resulta que se parece a alguno real en algún sitio?

Battlestar

#17 MMM, sí, más o menos.
Pero eh, no te engañes. Yo me juego la mano ahora mismo que si tu hipotético pintor que pinta un niño imaginario en un cuadro que se parece casualmente a uno de verdad, vende dicho cuadro por una cantidad obscena de dinero, y sale en las noticias, el padre del hipotético niño demandaría al autor diciendo que es su hijo para intentar sacar tajada mientras que el autor diría "no oiga, que es imaginado" pero eso lo dirimirían en un juicio.

Catacroc

#12 es decir, si yo pillo una IA, la entreno con imagenes del raton mickey puedo vender camisetas de Mickey sin que Disney me reviente el negocio por que no puede reclamar su copyright? Ostras, ya tengo negocio!!

Lenari

#7 En el fondo es lo mismo. Ahora nos reimos de la creencia de que las fotografías les roban el alma a las personas, pero en su momento era la misma forma de pensar "estás duplicando a esa persona, así que algo has tenido que quitarle, una parte de si mismo/a".

Cuando el tiempo pasa, parece ridículo, pero en su momento no lo era, o por lo menos no lo era para algunas personas. Ahora estamos viendo lo mismo con la AI.

arturios

#7 en principio por privacidad, pero claro, no se van a usar ESAS fotos sino lo que aprendan las IAs que es un niño, así pués, tu duda es legítima.

Battlestar

#31 A mi no me tienes que convencer, eh, yo soy totalmente pro AI, por eso precisamente me he informado de lo que les preocupa a los que les preocupa, no es que yo comparta su opinión.
En este meneo hay gente que no entiende de qué se preocupan, yo me limito a transmitiros cuales son esas preocupaciones, no significa que yo las comparta.

La posibilidad de que te saliera un imitador es algo que ha existido siempre, pero es algo que a la mayoría de ilustradores jamás le preocuparía, porque las posibilidades de que pasaran era mínima. Ahora cualquier ilustrador puede ver su estilo imitado por 23456 personas.
Que de nuevo, no es que esté a su favor ni comparta sus miedos porque no soy artista, pero eso no me impide ver que esa incertidumbre está ahí.

Y hablamos de artistas porque es el ejemplo más fácil de usar pero aplica igual al punto central del meneo que son las imágenes de menores posteadas en las redes.

Robus

#34 Te doy la razón, pero me cansa este sensacionalismo de que la IA va a entrar en tu casa, violar a tu mujer y comerse tus yogures...

Si la IA puede hacerlo es que un humano puede hacerlo, lo que hace la IA es permitir que lo pueda hacer prácticamente cualquiera, lo cual es bueno.

Robus

#10 No me interesa ver imagenes X, pero, de todas formas, como dices, son generadas.

Que una persona dibuje Hentai con niñas siendo sodomizadas por monstruos con 5 tentaculos ni me va ni me viene, no soy consumidor, pero no me preocupa lo más mínimo que alguien se dedique a dibujar esas cosas... y recuerdo que había gente comprando hentai en mi facultad... y eso fue en el siglo pasado.

El hecho que las herramientas antiguas fueran un pinzel, luego el photoshop y ahora la IA generativa no cambia ni un ápice el que haya gente que le guste dibujar marranadas y gente que le guste comprarlas, pero mientras sean dibujos inventados, que hagan lo que quieran.

Nihil_1337

#13 #10 Salvo que el prompt defina a alguien parecido a tu hijo y la imagen generada sea tu hijo de 3 años comiendose una polla, ya que el modelo recurre al dataset creado con las fotos de tu hijo y en grupos de telegram vendan imagenes de tu hijo comiendose pollas ¿Lo entendeis ahora? Porque está pasando.

No tenéis ni idea de como esta funcionando esto.

Robus

#15 No tenéis ni idea de como esta funcionando esto.

Creo que, efectivamente, no tienes ni idea de como funciona la IA generativa.

Nunca sacarán a tu hijo, porque no tiene la imagen de tu hijo, no sabe como es tu hijo, ni ningún otro hijo... tiene la misma posibilidad de parecerse que si lo hubiese dibujado un humano al que le describas como es tu hijo.

La IA no cambia nada que no se pueda hacer ahora.

Nihil_1337

#23 Trabajo con ella a diario, entreno modelos tuneados y LoRas. Y si quiero hacer un LoRa con tu madre solo necesito 2 fotos para ponerla a hacer lo que me dé la gana en calidad fotográfica realista. Pero oye, que lo mismo da que la dibuje, ¿no?

Robus

#27 Exacto! Da lo mismo.

Battlestar

#13 No es solo el tema de la pornografia, porque eso ya está más o menos regulado. Generar pornografia de menores aunque sea falsa, es ilegal, como lo es generar pornografia con photoshop. Si tu pegas la cara de una menor en un desnudo de una adulta por ejemplo, eso ya es un delito y se han dado casos. Si parece real, es ilegal, aunque no sea un niño de verdad.

Pero ese es el menor de los problemas que suscita (menor en tanto en cuanto ya está regulado me refiero) Las cuestiones van más allá de la pornografia, van a todos los aspectos que no están regulados, particularmente los comerciales.

Por ejemplo, temas de derechos de imagen. Tu puedes generar imágenes de un menor famoso y vender camisetas. Puesto que realmente no es ese menor, si no una imagen generada, no pueden reclamar derechos de imagen.
Pero claro, si el padre de ese menor hace millones de poner la cara de su hijo en posters y camisetas no va a estar de acuerdo con eso por muy "falsas" que sean esas imágenes generadas por IA. E intentará lo que muchos intentan ahora mismo, evitar eso a toda costa.

Vamos, que al final todo se reduce al vil metal.

Robus

#18 Si se parece al famoso, el famoso puede reclamar que se está usando su imagen, esto se ha hecho muchisimas veces con gente que ha querido hacer anuncios con alguien que se parece a un famoso, y los juicios acostumbran a fallar de parte del famoso.

Pero, repito, no tiene nada que ver con la IA, pasa lo mismo si lo hace un humano que se te parece... y hoy en día, con maquillaje y "photoshop" puedes hacer un doble aceptable de quien sea.

La IA no cambia la situación.

Battlestar

#24 Lo que cambia, es la proporción. Como tú dices eso ya pasa. La AI no ha traído nada nuevo en ese aspecto. También pasa con las caricaturas por ejemplo. Siempre controvertido y siempre constante hay muchas reclamaciones al respecto. Y los juicios pues con resultados variopintos.
El cambio que trae la AI es que cualquiera puede hacerlo, por eso causa inquietud.

Eso como los imitadores. Tu puedes ser un artista con un estilo muy particular y siempre te podía salir un imitador, eso ya pasaba antes de la IA y el artista SI se enteraba pues igual intentaba una accion legal. ¿Cuál es la diferencia? Pues realmente ninguno, en terminos del qué, pero si en términos de "cuánto" porque ya no es que puede salirte UN imitador, es que pueden salirte 7 en una calle en una mañana.

Robus

#28 ¿y qué?

Si hay miedo de que un imitador lo haga mejor que tu, es que no se es tan bueno.

La IA es una herramienta que facilita la creación sin tener que perder el tiempo formandote en algo que no te gusta (dibujar en este ejemplo) así que ¿cual es el problema?

Robus

Realmente, teniendo en cuenta que no se puede acusar a la IA de tener "intenciones lujuriosas" y teniendo en cuenta que la IA no guarda la información... ¿qué más os da?

En serio, es como ofenderse porque tu mesilla de noche te ha visto desnudo.

angeloso

#5 El problema puede venir si la IA la pones a generar imágenes de niños reales.

Robus

#6 ¿y? ¿que problema le ves que un anuncio de poskitos salga con un niño no real?

angeloso

#8 Real, que sea un niño real es el problema.

Robus

#29 Es que si lo hace la IA no será un niño real, porque la IA no "sabe" como son los niños reales, "sabe" como hacer imagenes del concepto "niño".

Una IA entrenada en dibujar caras no te dibujará nunca una cara con la que se le ha entrenado, porque no sabe como son las caras con las que se les ha entrenado el concepto de "cara".

Nihil_1337

#5 No tienes ni idea de como se están usando los modelos de generación de imagenes ¿verdad? Ni de todo el mercado pornográfico legal e ilegal que ha generado. Pásate por https://civitai.com/ hecha un vistazo a las imagenes X y piensa en lo que se esta publicando de facto con menores ahora mismo.

AntiTankie

#10 puertas al campo, por muy asqueroso que nos parezca , las filias con menores no dejaran de existir, creo que seria mejor educar a la gente para que ocurran lo menos posible

Lenari

#14 Yo creo que lo mejor sería separar temas ficticios grabaciones reales. Dibujar una línea muy clara con todo aquello que implique personas reales.

Ahora todo se está mezclando y eso va a terminar siendo perjudicial. Se está transmitiendo que una grabación real de un crio pequeño abusado es lo mismo que una imagen generada por ordenador. A la larga, esto va a ser error. Ya pasó con las drogas blandas y duras cuando se dedicaron a borrar la línea entre ambas y el asunto terminó mal.

AntiTankie

#21 no veo la conexion entre drogas e IA, existe literatura pornografica desde siempre y con todo tipo de filias, crees que podemos o debemos parar eso?

x

Qué fue de lo de rejuvenecer viejos??

Dene

#9 no. El consentimiento es nulo, si esos términos son ilegales o si lo da un menor

tdgwho

No se si incluso me parecería peor que fuese con permiso de los padres....

Condenación

Y en general la IA entrenada con contenidos de particulares que, aunque estén a disposición del público para leerse o verse, deberían requerir consentimiento para ser usados de esta forma. En su ansia de datos para entrenarse están aprovechando un vacío legal. En algún momento ese hueco tendrá que cerrarse, y a lo mejor les pilla.

Iori

#4 el consentimiento está aceptado en el momento que usas sus plataformas. Hay que leerse los términos del servicio...

Nihil_1337

#9 LAION.B es un dataset creado para fines científicos que recopilo y clasificó billones de imagenes de internet sin pedir permiso a nadie. Especifican en su web que la recomendación es que se utilize con fines solo de investigación por ese motivo. Sin embargo tenemos todo un ecosistema de productos de generación de imagenes que se basan o se han basado en este dataset, lo que supone el mayor robo de propiedad intelectual y de imagen de la historia. No tiene nada que ver con leerte y aceptar ningunas condiciones de uso.

https://laion.ai/blog/laion-5b/