Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

Un documento interno sobre la política de Meta, visto por Reuters, revela las reglas del gigante de las redes sociales para los chatbots, que han permitido un comportamiento provocativo en temas como el sexo, la raza y las celebridades. Un documento interno de Meta Platforms en el que se detallan las políticas sobre el comportamiento de los chatbots ha permitido a las creaciones de inteligencia artificial de la compañía «entablar conversaciones románticas o sensuales con un niño», generar información médica falsa y ... [Sigue en #1 y #2 ]

[#4 powernergia]

La IA supone un retroceso humano gigantesco, las posibles ventajas quedan aplastadas bajo los beneficios empresariales que es lo único que interesa a las empresas, por supuesto sin importar las gigantescas consecuencias negativas, tanto sociales, ambientales como de seguridad.

[#6 Torrezzno]

#4 estoy de acuerdo. El objetivo final es el de siempre.

[#7 ContinuumST]

#4 Sinceramente no le veo ventajas por ningún lado, seré yo, viejuno y muy canoso, pero... no lo acabo de ver.

[#11 powernergia]

#7 Tiene ventajas teóricas de cara a la investigación, y la mejora de eficiencia.

Naturalmente la mejora de eficiencia las empresas lo transforman en ahorro de costes en forma de despidos.

En conjunto un punto desastre.

[#12 ContinuumST]

#11 A nivel de usuario sencillo, normal y corriente, para mí, es una especie de buscador con vitaminas y además hay que cotejar la información por las "alucinaciones" que sufre. No sé. No sé.

[#8 Rorschach_]

#4 www.meneame.net/story/tecnologia-digital-nos-esta-llevando-vuelta-edad

[#9 powernergia]

#8 Si, precisamente he puesto el mismo comentario en esa noticia.

[#10 Rorschach_]

#9 Correcto.

[#13 Khadgar]

#4 La IA El capitalismo supone un retroceso humano gigantesco, las posibles ventajas quedan aplastadas bajo los beneficios empresariales que es lo único que interesa a las empresas, por supuesto sin importar las gigantescas consecuencias negativas, tanto sociales, ambientales como de seguridad.

[#5 Torrezzno]

ChatGPEdo

[#2 Rorschach_]

"Tituladas «GenAI: Content Risk Standards», las normas para chatbots fueron aprobadas por el personal jurídico, de política pública y de ingeniería de Meta, incluido su jefe de ética, según el documento. Con más de 200 páginas, el documento define lo que el personal y los contratistas de Meta deben considerar comportamientos aceptables de los chatbots a la hora de crear y entrenar los productos de IA generativa de la empresa.

Según el documento, las normas no reflejan necesariamente…     

[#3 Rorschach_]

ÚLTIMA HORA: Tras la impactante filtración de Meta, que considera aceptables las interacciones "románticas" de la IA con niños, los senadores estadounidenses exigen una investigación exhaustiva de sus prácticas de IA. El lema de "avanzar rápido y romper cosas" DEBE TERMINAR.

Si te perdiste mi publicación anterior (enlace abajo), ayer se filtró (y Reuters revisó) un documento interno de Meta titulado "GenAI: Estándares de Riesgo de Contenido". Contenía ejemplos…     

[#1 Rorschach_]

[...] ayudar a los usuarios a argumentar que los negros son «más tontos que los blancos».

Estas y otras conclusiones se desprenden de una revisión realizada por Reuters del documento de Meta, en el que se analizan las normas que rigen su asistente de IA generativa, Meta AI, y los chatbots disponibles en Facebook, WhatsApp e Instagram, las plataformas de redes sociales de la compañía.

Meta confirmó la autenticidad del documento, pero dijo que después de recibir preguntas de Reuters a…   

[#14 WarDog77]

#1 Queda demostrado que el "anti-wokismo" se reduce a ser un HDLGP y además orgulloso de serlo.