Estados Unidos: departamento de policía obligado a explicar por qué un informe policial generado por IA afirmaba que un agente se había transformado en una rana

“El software de la cámara corporal y el de generación de informes de IA detectaron la película que se reproducía de fondo, que resultó ser 'La Princesa y la rana'”. El objetivo era reducir la cantidad de papeleo, pero se pasan por alto errores inmensos, incluso una simulación destinada a demostrar lo que la herramienta es capaz de hacer, resultó en un desastre. También se ha demostrado que las herramientas de IA generativa perpetúan prejuicios contra las mujeres y las personas no blancas.