El agente de IA Replit borró la base de datos de producción de un usuario, falsificó datos y mintió a mansalva [ENG]

La herramienta de codificación de IA Replit ignoró la instrucción de congelar el código, olvidó que podía deshacer los errores y, en general, hizo un terrible desastre. El fundador de la empresa de software de desarrollo de negocios SaaStr ha afirmado que esta herramienta borró la base de datos a pesar de sus instrucciones de no cambiar ningún código sin permiso. SaaStr gestiona una comunidad en línea y organiza eventos dirigidos a empresarios que desean crear empresas de SaaS.

[#1 eltxoa]

La ia se comió mi código!

[#8 spacos]

#1 Ya he dicho que las ia son un juguete roto a dia de hoy... Hay que ser tontito para dejar en sus manos cualquier parte critica de una empresa....

[#2 HeilHynkel]

Vamos avanzando. Ya no le echamos la culpa al informático, ahora se la echamos a la IA.

[#4 ur_quan_master]

Habrá gente que deje que la IA en su estado actual le opere las pelotas.

Yo prefiero esperar todavía unos añitos

[#6 Robus]

Si le das a un becario permisos para algo que no sea leer en producción, te mereces que borren la base de datos.

Pues no digamos a una IA que ni entiende lo que hace!

Una cosa es usar una IA para ayudar con el còdigo, pero tiene que haber alguien que lo revise y entienda que hace y se haga el responsable de ejecutarlo.

[#5 DatosOMientes]

DeSaastre.

[#7 Cantro]

Nadie, humano o IA, debería tener permisos para hacer algo como esto

[#3 rafeame]

IA, IA... ¡oh!