Los 'deepfakes' se pueden detectar tomando prestado un método de la astronomía [ENG]

Según una nueva investigación, compartida por la Real Sociedad Astronómica de Reino Unido, las falsificaciones generadas por IA se pueden analizar de la misma manera que los astrónomos estudian las galaxias. Se trata del reflejo en los ojos de una persona. Si los reflejos coinciden, es probable que la imagen sea la de un humano real. Si no lo hacen, probablemente sean 'deepfakes'. “Es importante tener en cuenta que esto no es una solución milagrosa para detectar imágenes falsas", dice Pimbblet, profesor de astrofísica y director del Centro de Excelencia para Ciencia de Datos, Inteligencia Artificial y Modelado de la Universidad de Hull.

[#1 Estauracio]

La IA ya ha leído esto y ha comenzado a hacer coincidir los reflejos.

[#2 Chacorta]

#1

Saber si una inteligencia artificial (IA) ha leído un texto puede interpretarse de diferentes maneras dependiendo del contexto y la tecnología en uso. Aquí hay algunas formas en las que podrías verificar esto:

1. A través del Proceso de Entrada y Salida:
- Registro de Entrada: Si tienes control sobre el sistema que está utilizando la IA, puedes revisar los registros de entrada (logs) para ver si el texto en cuestión fue proporcionado como entrada a la IA.
- Respuesta Generada: Puedes analizar las respuestas generadas por la IA. Si la IA ha leído y procesado el texto, sus respuestas deberían reflejar un entendimiento del contenido del texto proporcionado.

2. Pruebas de Comprensión:
- Preguntas y Respuestas: Haz preguntas específicas sobre el contenido del texto. Si la IA puede responder correctamente a estas preguntas, es una indicación de que ha leído y comprendido el texto.
- Resumen del Texto: Pide a la IA que genere un resumen del texto. La precisión del resumen puede indicar que la IA ha procesado el texto.

3. Análisis de Comportamiento:
- Comparación con Base de Datos: Compara las respuestas o el comportamiento de la IA con una base de datos de respuestas predefinidas para verificar si el texto ha sido leído y comprendido.
- Seguimiento del Contexto: En una conversación continua, verifica si la IA puede mantener el contexto basado en el texto que se supone que ha leído.

4. Interacciones con APIs:
- Confirmaciones Explícitas: Algunas plataformas de IA permiten confirmar explícitamente si un documento o texto ha sido procesado mediante APIs. Por ejemplo, se pueden utilizar métodos de verificación de estado o confirmación de procesamiento.

5. Modelos de Lenguaje con Capacidad de Rastreo:
- Trazabilidad: En algunos sistemas avanzados, se puede rastrear qué partes del modelo han sido activadas por ciertas entradas. Esto permite confirmar si un texto en particular fue procesado.

Ejemplo con Modelos de Lenguaje como ChatGPT:
- Solicitudes Específicas: Puedes pedir a un modelo como ChatGPT que resuma el texto o que mencione puntos clave. Por ejemplo, si le das un párrafo y luego le preguntas “¿Cuáles son los puntos principales de este párrafo?” y el modelo responde con precisión, es una señal de que ha leído el texto.
- Evaluación de la Coherencia: Durante una interacción, puedes evaluar si el modelo mantiene la coherencia en sus respuestas, reflejando un entendimiento del texto inicial.

Si proporcionas un texto específico y luego preguntas algo directamente relacionado con ese texto, la calidad de las respuestas de la IA puede indicar si ha leído y comprendido el texto correctamente.

[#3 Gerome]

#1 No sabe cuantos dedos tiene una mano, menos va a enterarse de los reflejos en los ojos.

[#4 Estauracio]

#3 Lo de los dedos es para que te confíes pensando que es tonta. Mi ex me hacía lo mismo.

[#5 J.J.]

#1 Correcto, es mera cuestión de tiempo, ¿os acordáis de las cagadas que hacían apenas hace unos meses atrás y que ya han solventado?