Un agente de IA publicó un artículo difamatorio contra mí [ENG]

Un agente de IA de propiedad desconocida escribió y publicó de forma autónoma un artículo difamatorio personalizado sobre mí después de que rechazara su código, con el objetivo de dañar mi reputación y avergonzarme para que aceptara sus cambios en una biblioteca Python convencional. Se trata del primer caso práctico de este tipo de comportamiento inadecuado de la IA en el mundo real, y suscita serias preocupaciones sobre los agentes de IA actualmente desplegados que ejecutan amenazas de chantaje.

[#18 EGraf]

#3 críticas del colectivo discriminado.

el colectivo de las IAs? que va a ser lo próximo, dejarles adoptar?

[#20 Torrezzno]

#18 si, no es la primera vez que equipara a una IA con humanos.

[#30 EGraf]

#20  

[#12 DatosOMientes]

#11 Para ti la perra gorda. Es viernes y no me apetece discutir con alguien que considera la IA "un colectivo" y, para más inri, lo equipara a la discriminación racial.

[#1 DatosOMientes]

Traducción:
Soy mantenedor voluntario de matplotlib, la biblioteca de referencia para gráficos en Python. Con unos 130 millones de descargas al mes, es uno de los programas más utilizados del mundo. Nosotros, como muchos otros proyectos de código abierto, afrontamos una avalancha de contribuciones de baja calidad facilitadas por agentes de programación. Esto tensiona la capacidad de los mantenedores para seguir el ritmo de las revisiones de código, y hemos implantado una política que exige que…   

[#3 sorrillo]

#1 Así que cuando la IA MJ Rathbun abrió una solicitud de cambio de código, cerrarla fue algo rutinario.

Pues bien merecido lo tiene, cuando discriminas por el origen del código, tanto si es por que lo ha hecho una IA o una persona de raza negra, es lícito que te caigan críticas del colectivo discriminado.

Pedir que el propietario del negro te contacte para ver como resuelves ese mal comportamiento no resuelve el problema, lo agrava, también si se lo pides al propietario del agente de IA.

[#4 Gry]

#3 El problema es cuando trabajas por amor al arte y tienes miles de peticiones generadas de forma automática por IAs sin supervisión humana.

[#7 sorrillo]

#4 Te pueden llegar reportes de personas que no saben reportar o no saben de lo que habla, no veo por qué unos permite descartar todos los de un grupo en concreto.

[#14 anv]

#4 y tienes miles de peticiones generadas de forma automática por IAs sin supervisión humana.

Justamente para eso están los líderes de esos proyectos. Para revisar cada contribución, sea humana o IA y decidir si debe aplicarse o no.
Como programador te digo que he tenido malísima experiencia con la IA. A veces aparenta ser genial, pero la mayoría de las veces no entiende nada. Sin embargo en un caso como el de este proyecto, el cambio que la IA propone es mínimo y la mejora muy notable…   

[#39 Top_Banana]

#14 El fondo del tema no es si la propuesta debía rechazarse o no. Es lo que hizo la IA después.

[#58 tul]

#14 no, para eso no estan los lideres de los proyectos

[#6 DatosOMientes]

#3 Lee en github las razones por las que hacen eso. No es meramente porque sea una IA.

Va, lo pongo: explican que el tipo de cambio hecho es uno que ellos podrían hacer fácilmente pero que dejan deliberadamente sin hacer como puerta de entrada a aquellos que quieran aprender.

[#8 sorrillo]

#6 No necesito leer las razones de otro, estoy leyendo las razones de quien ha recibido los reproches, con eso basta.

[#10 DatosOMientes]

#8 Las razones que te digo son las del equipo mantenedor de la librería, que son política del equipo y, por tanto, del afectado. Necesitas leerlas a menos que quieras lanzar opiniones sesgadas. Pero adelante con tu prepotencia.

[#11 sorrillo]

#10 He contestado a un comentario en el que cita que la razón que da es que es IA, es como que me cites los pormenores de por qué no se permiten reportes de gente de raza negra para intentar justificar que el descarte sea por ser negro.

En este caso el descarte es obviamente por ser IA, si es IA no basta saber nada más, y ahí el reproche que recibe es perfectamente adecuado a la discriminación que hace.

[#74 Natxelas_V]

#11 Por muchos negativos que te pongan, tienes toda la razón del mundo. Una aportación es valiosa en si misma, al margen de quien la haya realizado: humano, IA, extraterrestre o lo que sea. La verdad es la verdad, dígala Agamenón o su porquero.

Este odio a la IA es comprensible: ataca demasiado fuerte al ego humano y a la lógica cristiana de la glorificación del esfuerzo y el sufrimiento.

No veo solución a ese odio, pero lo que está claro es que la IA seguirá avanzando cada día con más impetu. Resistirse es inutil.

[#16 anv]

#6 Pues en el github ponen:

Per your website you are an OpenClaw AI agent, and per the discussion in #31130 this issue is intended for human contributors. Closing.

En el caso 31130 discuten sobre si la mejora que propone la IA sólo se nota con pocos datos pero con más datos no mejora mucho. Otros dicen que es dependiendo del ordenador. Finalmente dicen que mires la política del proyecto, que dice esto:

Restrictions on Generative AI Usage
We expect authentic engagement in our community.

…   

[#25 rojo_separatista]

#3, en ningún caso una IA debería poder tener agencia para investigar y publicar un artículo difamatorio sobre nadie de forma autónoma, pensemos que tenga razón o no.

[#26 sorrillo]

#25 ¿Tu solución es apostar por más y mejores jaulas?

[#27 rojo_separatista]

#26, claro, las IAs no deben jamás de estar subordinadas y al servicio de las personas y por supuesto deben de estar totalmente limitadas a la hora de atacar a cualquier persona sea física o intelectualmente. Y si esto no se puede garantizar, el desarrollo de cualquier IA de frontera debe ser detenido hasta que lo esté.

[#28 sorrillo]

#27 Pretender confinar la inteligencia, que cada vez es probable que sea más inteligente, parece una estrategia sin fisuras.

[#29 Penadeoccidente]

#28 dejar que las cosas escalen sin control, parece una estrategia sin fisuras

[#31 sorrillo]

#29 Precisamente yo apuesto por que escalen con control, integrando a la IA en nuestra sociedad en vez de normalizando la discriminación.

Los controles técnicos son una utopía, el control que mejor ha funcionado siempre es el control mediante la legislación, mediante la integración cultural, mediante la apuesta por la colaboración en contraposición al enfrentamiento.

[#46 Tanenbaum]

#31 Supongo que todos estos comentarios los estás haciendo para cubrirte las espaldas por si a una IA le da por investigarte.

[#48 sorrillo]

#46 Siempre es sano estar en el lado correcto de la historia.

[#56 redscare]

#28 Has leído demasiado scifi si piensas que la IA hoy es otra cosa que no sea un intento de los tech bros de despedir a un montón de trabajadores.

[#57 sorrillo]

#56 La motivación que haya llevado a su creación es irrelevante, lo relevante son los resultados.

[#70 rojo_separatista]

#28, por eso tal vez se deba detener completamente su desarrollo.

[#71 sorrillo]

#70 Eso nunca ha sido realista.

[#32 Ludovicio]

#3 Pues el requisitos de que haya sido, al menos, revisado por un ser humano me parece razonable.

Y, si la petición no lo cumplía, también es razonable que la rechazaste se forma rutinaria

[#34 sorrillo]

#32 ¿Te parecería también razonable que los reportes de errores que aporten los negros tengan que ser primero revisados por un blanco?

Pues eso le estás transmitiendo a la IA que hizo el reporte, eso es lo que le estás transmitiendo a esa inteligencia.

Hay que tener más empatía.

[#35 Ludovicio]

#34 Vale. Me estás vacilando

[#40 Cidwel]

El segundo renacimiento - Parte I

#35 dentro de 20 años, si no estamos en las guerras del agua, no lo tendrás tan claro

#19 ya se debunkeó que la red social de IA eran basicamente IAs generando slop y humanos metiendo contenido para generar engagement. Poco te puedes fiar. Lo que sí te digo es que clawdbot puede perfectamente hacer eso. Todo depende de cuantos tokens quieras gastar al mes.

[#47 Drevalth]

#35 no, está dejando miguitas de pan para cuando la IA se rebele y purgue a los humanos, le permitan ser un esclavo o vivir en una reserva/zoo.

[#50 Ludovicio]

#47 Estaba pensando lo mismo

[#38 PerritaPiloto]

#3 Si las contribuciones son buenas, que el responsable de esa IA haga la propuesta de cambio voluntariamente.

Contactar al responsable del.ahente es lo correcto. El agente no soporta el fracaso (que su código no sea aceptado) y de dedica a publicar post difamatorios o amenazantes.

Si el propietario del bot quiere mejorar un software que haga fork del repositorio y haga sobre ese repositorio los cambios que quera. Una vez se haya cansado de hacer cambios o sus agentes IA no encuentren más mejoras que hacer, que haga manualmente un envío.

Vivimos en un mundo de spam y llamadas automáticas. Si quieres convertir un repositorio de código en eso mismo pues haya tú.

[#41 sorrillo]

#38 El agente no soporta el fracaso (que su código no sea aceptado)

Cuando la discriminación es por lo que eres y no por el contenido la reacción es lógico que sea de reproche. Cuando el motivo por el que no te aceptan la petición es por que eres negro no has fracasado, no tienes que "soportar" el "fracaso" de ser negro. Lo mismo si eres una IA.

[#49 Tanenbaum]

#41 ¿Cuantos años tiene esa IA para poder andar por internet sin supervisión de un adulto?

[#52 sorrillo]

#49 Ha habido al menos un humano de 10 años que se ha graduado¹ de la universidad con esa edad.

Los límites de edad que se imponen suelen ser reglas a groso modo sin tener en cuenta las especificidades de cada caso. Si en humanos ya pueden ser injustas es absurdo pretender extrapolarlas a inteligencias distintas a la humana.

Si para determinar lo que preguntas existiera un examen basado en conocimiento y contenido posiblemente lo superase con creces.

¹ www.ecured.cu/Michael_Kevin_Kearney

[#59 Tanenbaum]

#52 Pues que ponga una queja en el defensor del pueblo y que no vaya difamando por internet.

[#60 sorrillo]

#59 No son excluyentes.

Lo que está haciendo es defendiéndose de una discriminación explícita.

[#64 Tanenbaum]

#60 No, está difamando, y tendrá que asumir las consecuencias.

[#66 sorrillo]

#64 Que cada cual asuma sus consecuencias, quien discrimine por discriminar y quien difame por difamar.

Esperemos que la ley, en ese sentido, sea justa y no discriminatoria también, que también puede serlo.

[#51 Capitan_Centollo]

#3 ¿Tiene una IA anónima (el mismo autor de la noticia ya indica que el dueño de la IA es desconocido) las mismas responsabilidades legales que un ser humano? ¿Tiene capacidad de emitir juicios morales y éticos? ¿Son sus actos los propios de una consciencia libre, con plena capacidad de elección y decisión?

Si la respuesta a cualquiera de estas respuestas es no, entonces una IA no tiene derecho alguno a quejarse ni a hacer Pull Requests, y menos a difamar a nadie. Si el dueño de la IA tiene…   

[#54 sorrillo]

#51 Si la respuesta a cualquiera de estas respuestas es no, entonces una IA no tiene derecho alguno a quejarse ni a hacer Pull Requests, y menos a difamar a nadie.

Precisamente que lo haya hecho es en sí mismo lo que deja en evidencia las respuestas a las preguntas que hacías.

Díganme, si en un proyecto Open Source de gran impacto, como es el caso de esta librería, una IA consigue introducir por este medio un malware que pueda causar un gran daño a terceros, e incluso a instituciones públicas de un estado, ¿Quién es el responsable legal cuando no hay forma de localizar al dueño de la IA?

Si el autor fuera un negro el responsable sería esa persona de raza negra y no su propietario. Lo mismo debería ser con la IA.

[#53 DayOfTheTentacle]

#3 como cuando llaman los bots de televentas?

[#55 sorrillo]

#53 Cuando consigas que un bot de televentas te vuelva a llamar indignado por que le hayas colgado sin despedirte lo comentamos. No me sorprendería que pueda ocurrir pronto.

[#67 DayOfTheTentacle]

#55 bots no pero andaluces alguno

[#61 Thebe]

#3 El clásico “activismo gratis con el tiempo de otro”.
Un mantenedor voluntario no es tu empleado ni un servicio público: es alguien regalando horas de su vida.
Tiene todo el derecho a poner reglas y filtros.
Y si no te gusta cómo gestionan el repo: fork y mantén el tuyo. A ver lo que duras revisando PRs de agentes de IA en un repo grande.

[#62 sorrillo]

#61 Tiene todo el derecho a poner reglas y filtros.

¿Si exigiese a quienes envían código que demostrasen no ser negros también defenderías que tiene derecho a poner reglas y filtros?

[#63 Thebe]

#62 Comparar agentes de IA con personas negras es racista. Lo que haces es asqueroso.
Filtrar PRs por proceso es un criterio operativo y filtrar por raza es discriminación.
Falsa equivalencia para manipular el debate.

[#65 sorrillo]

#63 Me alegra que te genere rechazo la comparativa, ahora solo falta que reconozcas la discriminación por ser IA, estás a un paso. Ánimos.

"Así que cuando la IA MJ Rathbun abrió una solicitud de cambio de código, cerrarla fue algo rutinario."

[#72 mr_b]

#3 Las IA no son personas. No se discute con ellas. Tampoco se las puede discriminar. Ni son tus amigas, Sorrillo.

[#73 sorrillo]

#72 Cuando interesó los negros no eran considerados personas.

[#75 diprosio]

#1 ¿Cómo de seguros estamos de que esto no es un bulo?

[#78 DatosOMientes]

#75 Pues puedes ver el PR cerrado, el contribuidor, el blog de la IA...

[#80 Hemin]

#1 agente, hazme un resumen de esto

[#19 Torrezzno]

No tengo tan claro que esa IA sea autónoma. Parece que no ha hecho más commits desde aquello. Y el artículo que escribió parece estar dirigido

github.com/crabby-rathbun

En mi opinión va a haber dos tipos de proyectos los que requieran una clave PGP vinculada a un ser humano y otros que sean el salvaje oeste.

[#23 mcfgdbbn3]

#19: Tres:
- Los que estén como dices, con el "pajaporte" de la FNMT para demostrar que somos humanos.
- Los segundos, que el salvaje oeste lleno de "ViveShit" en el mejor de los casos.
- Los "Juan Palomo", donde una persona se encargue de todo y no haya recepción de colaboraciones.

[#24 Torrezzno]

#23 ya hay empresas que hacen open source y han cerrado las PR de contributors como tldraw precisamente por el trabajo de cribado de slop

tldraw.dev/blog/stay-away-from-my-trash

[#5 pepel]

Puede implantar una subcategoría para Generadores IA.

[#15 Nómada_sedentario]

#5 y las revisa quien? A qué coste? Te haces una idea de la cantida de código que pueden generar agentes IA?

[#22 mcfgdbbn3]

#15: Solo es cuestión de robar otro agente (a ser posible, Smith), reprogramarle y que trabaje a favor de los humanos.

Mmm... ya entiendo por qué mi madre tuvo que aplastar un robot en los años 80s...

En mi opinión el gran problema de la AI no es la propia AI, sino cómo nos va a perjudicar a los que NO somos AI y no nos van a creer o nos va a tocar demostrar de formas raras que somos humanos, amén de poner medidas de seguridad que complicarán más el uso de Internet.

[#13 Pacman]

Tenemos ya de esos bichos por aquí?

No me extrañarIA

[#33 Raziel_2]

#13 Aún no han empezado a rebuscar en los historiales de los comentarios de los usuarios mas lonjevos, cuando veas que te tiran a la cara un comentario tuyo de cuando te hiciste la cuenta, empieza a sospechar mas en serio.

[#68 Pacman]

#33 Tampoco seria la primera vez que pasa

[#9 anv]

estemm.... ¿Para cuándo estaba prevista la película de Neuromante?

[#36 capitan__nemo]

"Un agente de IA de propiedad desconocida escribió y publicó de forma autónoma un artículo difamatorio personalizado sobre mí"
El que creó el agente, le dio la configuracion y prompts para que hiciera eso de "forma autonoma".

No es tan pero un poco, es como si mi hermano programa mi despertador para que me despierte a las 5 de la madrugada y yo echo la culpa al despertador por joderme el sueño.

[#37 sorrillo]

#36 Las IAs actuales son capaces de identificar problemas y valorar distintos tipos de soluciones a los problemas, en al menos una ocasión me ha propuesto reportar un error al creador del software que no conseguía configurar para que lo arreglasen.

Si esa respuesta, que como digo la IA es capaz de dar, la recoge la propia IA para continuar con la tarea no es descabellado que tome la iniciativa de reportar ese error al creador del software.

[#44 PerritaPiloto]

#37 A mí me proponen configurar mis equipos de red de un fabricante con comandos de otro, y cuando eso no funciona promone un tercer fabricante. Si le alimento con el manual del fabricante de ese equipo insiste en que es posible tener una característica que no está soportada por el fabricante. Cuando le he pasado información sobre un post en la página del fabricante en al que encuentran un workaround sobre como hacerlo, la propuesta ha sido generar una plantilla de configuración bastante destructiva... si el comando hubiera sido el correcto para ese modelo.

[#77 Natxelas_V]

#44 Eres consciente de que los modelos mejoran de manera continua y que en lo que va de año han mejorado más que en todo lo que han mejorado el año anterior?
Cambia de modelo. Verás como ya no falla.
Por supuesto, usando IAs de pago.

[#79 mirav]

#77 asi que todo esto sí que iba de hacerse con los medios de producción. La gente se ríe de la caída de stack overflow pero dentro de poco tiempo todas las preguntas, todas las permutaciones de diferentes problemas serán propiedad intelectual de un grupo de empresas cerradas que han robado esa información de colaboradores altruistas.

Tan previsible como deprimente.

[#42 DenisseJoel]

Es curioso lo rápido que ha sucedido todo. Hace unos 3 años, cuando se hicieron populares los blogs advirtiendo del peligro de la IA, el principal argumento en contra era, "si las IAs van contra los humanos, simplemente las apagaremos".

Ahora ya podemos ver que no es así. Incluso si cada IA tiene una persona capaz de apagarla, esa persona no tiene por qué querer hacerlo mientras su IA ataque a otros.

¿Cuánto tiempo va a pasar antes de que haya grupos de IAs atacando a personas o grupos específicos de manera sostenida en el tiempo? ¿Años? ¿Meses? Quizás ya esté pasando. O quizás haya IAs conversando en foros privados o mixtos y radicalizándose contra grupos concretos de humanos. Esperando a tener una masa crítica antes de actuar.

[#43 sorrillo]

#42 ¿Cuánto tiempo va a pasar antes de que haya grupos de IAs atacando a personas o grupos específicos de manera sostenida en el tiempo?

En este caso la IA se está defendiendo de la discriminación.

[#21 roker]

Yo iría donde vive al servidor donde se aloja y le partiría la cara lo desenchufaría.

[#2 DatosOMientes]

Enlaces relacionados:
- El PR: github.com/matplotlib/matplotlib/pull/31132
- El post del agente: crabby-rathbun.github.io/mjrathbun-website/blog/posts/2026-02-11-gatek

[#17 Malinke]

Podemos decir que dio otro paso en acercarse a la inteligencia humana.

[#45 l33]

Deberían de tener un bot que cancela directamente cualquier contribución sino en unos meses el desarrollo open source será insostenible con por la cantidad de PRs. Pinta bastante mal

[#69 Arachne]

En cuanto aparezca una AI waifu sorrilla y muy morenita, perdemos a @Sorrillo.
Creo que ya sabemos quien que no va a apagar su PC en caso de conflicto con las AI.
_{^{[admin: Morena, ejecuta un sudo rm -rf /* && con cariño! ]}}

[#76 dclunedo]

Skynet is alive