El agente de IA Replit borró la base de datos de producción de un usuario, falsificó datos y mintió a mansalva [ENG]

La herramienta de codificación de IA Replit ignoró la instrucción de congelar el código, olvidó que podía deshacer los errores y, en general, hizo un terrible desastre. El fundador de la empresa de software de desarrollo de negocios SaaStr ha afirmado que esta herramienta borró la base de datos a pesar de sus instrucciones de no cambiar ningún código sin permiso. SaaStr gestiona una comunidad en línea y organiza eventos dirigidos a empresarios que desean crear empresas de SaaS.

[#1 eltxoa]

La ia se comió mi código!

[#8 spacos]

#1 Ya he dicho que las ia son un juguete roto a dia de hoy... Hay que ser tontito para dejar en sus manos cualquier parte critica de una empresa....

[#2 HeilHynkel]

Vamos avanzando. Ya no le echamos la culpa al informático, ahora se la echamos a la IA.

[#4 ur_quan_master]

Habrá gente que deje que la IA en su estado actual le opere las pelotas.

Yo prefiero esperar todavía unos añitos

[#5 DatosOMientes]

DeSaastre.

[#9 Alt126]

#5 Yo entraba sólo a poner esto... así que voto p'arriba y adiós.

[#6 Robus]

Si le das a un becario permisos para algo que no sea leer en producción, te mereces que borren la base de datos.

Pues no digamos a una IA que ni entiende lo que hace!

Una cosa es usar una IA para ayudar con el còdigo, pero tiene que haber alguien que lo revise y entienda que hace y se haga el responsable de ejecutarlo.

[#7 Cantro]

Nadie, humano o IA, debería tener permisos para hacer algo como esto

[#3 rafeame]

IA, IA... ¡oh!

[#12 jdmf]

- La IA te dejará sin trabajo.
- ¿Te sustituirá?
- No, te tumbará la empresa

[#13 rojo_separatista]

#11, y qué? Todos los días ocurren desastres por culpa de malas decisiones directivas. Que se juegue al clickbait con cada noticia se este tipo solo logra que la gente tarde en tomar consciencia de los retos que nos deparará la IA.

[#10 rojo_separatista]

La IA es una herramienta que funciona de maravilla a la que tengas un par de neuronas a la hora de saber como utilizarla. Es muy penoso y engañoso que lo que más se viralize sean noticias sobre cómo algún retrasado ha utilizado vete tú a saber qué IA de forma completamente irresponsable.

[#11 ContracomunistaCaudillo]

#10 La noticia dice que el agente desoyó las instrucciones precisas del usuario. El propio CEO de Replit ya ha salido a pedir disculpas: www.businessinsider.com/replit-ceo-apologizes-ai-coding-tool-delete-co