Desde finales de 2022, es barato y fácil producir contenidos generados por la IA que sean superficialmente buenos y sorprendentemente similares a los "reales". Esto se aplica a los vídeos que se asemejan a las celebridades (comúnmente conocidos como Deepfakes) o, como en el caso de la Conversación Infinita, al habla. Este proyecto pretende concienciar sobre la facilidad de utilizar herramientas para sintetizar una voz real. Ahora mismo, cualquier tonto motivado puede hacerlo con un portátil en su habitación.
Comentarios
Traducción automática:
Desde finales de 2022, es barato y fácil producir contenidos generados por la IA que sean superficialmente buenos y sorprendentemente similares a los "reales". Esto se aplica a los vídeos que se asemejan a las celebridades (comúnmente conocidos como Deepfakes) o, como en el caso de la Conversación Infinita, al habla.
Este proyecto pretende concienciar sobre la facilidad de utilizar herramientas para sintetizar una voz real. Ahora mismo, cualquier tonto motivado puede hacerlo con un portátil en su habitación. Esto cambia nuestra relación con los medios de comunicación que consumimos en línea y plantea cuestiones sobre la importancia de las fuentes autorizadas, el abuso de confianza y la credulidad.
¿Llevará esta tecnología a una proliferación masiva de contenidos de calidad inferior a la óptima? ¿Debemos simplemente desconfiar de todo lo que vemos en línea? Mientras se desarrollan nuevas herramientas para ayudar a identificar los contenidos generados, recomiendo mantener una postura escéptica, sobre todo cuando la fuente/canal de información no parece fiable y cuando las afirmaciones parecen absurdas o escandalosas.
En última instancia, no lo veo como un problema técnico, sino humano. Todos compartimos el deber de educar a las generaciones venideras sobre el nuevo paradigma, al tiempo que nos centramos en formar individuos compasivos que no hagan un mal uso de estos impresionantes poderes.
Como optimista de la IA, mantengo la esperanza de que seamos capaces de regularnos a nosotros mismos, y de que tomemos experimentos como la Conversación Infinita como lo que son: una forma lúdica de ayudarnos a imaginar lo que harían nuestras personas favoritas, si tuviéramos acceso ilimitado a sus mentes. El arte y la filosofía, aquí ejemplificados por el director bávaro Werner Herzog y el filósofo esloveno Slavoj Žižek, pueden guiarnos mientras navegamos por estas aguas traicioneras.
Pronto desarrollarán IA para detectar IAs, y empieza la carrera y nuevo negocio