Amazon endurece sus controles después de que la IA generativa tome decisiones autónomas y genere fallas en sus sistemas

La empresa convocó a una reunión obligatoria con ingenieros para revisar el problema y, como medida inmediata, resolvió que los cambios de software hechos con ayuda de IA por perfiles junior o de nivel medio ya no podrán avanzar sin la aprobación de un ingeniero senior. Según material interno citado por el Financial Times, dentro de Amazon existe preocupación por una “tendencia de incidentes” recientes con “high blast radius”. Esta expresión se usa cuando un error no queda aislado y termina impactando una parte grande del sistema.

[#7 Pitchford]

Es que... confiar a ciegas en la IA viendo lo que contesta a veces, que no se lo tragaría ni un niño de 6 años.. no me lo esperaría de Amazon.. Amazon, que los imperios caen..

[#1 Pablosky]

La noticia no dice mucho, pero es que el FT es de pago...

Pero en resumidas cuentas: la única manera de evitar desastres de la IA en producción es... (redoble de tambores) contratar a más ingenieros senior.

[#3 TipejoGuti]

#1 La noticia es rara, la IA generativa no "toma decisiones" en todo caso lo haría la agéntica. La generativa te puede ayudar a programa, pero la decisión la toma el programador.
Sensacionalista?¿

[#11 spacos]

#3

[#10 joffer]

#1 Te hago un resumen imaginativo: que van a volver a contratar a ciertas personas en ciertos puestos.

[#4 elTieso]

¿Así que la trabajadora que va a sustituirnos a todos es más bien una becaria? Buena suerte con eso, CEOs del mundo.

[#2 k-loc]

Skynet, calienta que sales.

[#5 hormiga_cartonera]

En el mejor de los casos, deuda cognitiva. Aderezado con un susto de estos que se le va la pinza con cierta regularidad.

Lo hablaba con un colega que se flipaba porque se pueden lanzar no se cuántos agentes a la vez. Como si son 100, si después alguien tiene q revisar todo, el cuello de botella está ahí.

[#6 hakcer_dislexico]

"Los programadores van a desapareceeeeeer"

Nostradamusloscojones

[#8 Connect]

#6 Si que van a desaparecer. Que ahora en sus inicios la IA tenga fallos no significa que las empresas vayan a tirar la toalla.

Simplemente algunas compañías tienen demasiada prisa en tratar de implementar un sistema que todavía está en su etapa de desarrollo.

[#9 baronrampante]

Entonces qué pasa? La IA genera veinte mil líneas de código y le dicen al senior que las revise para mañana?