edición general
157 meneos
1646 clics
Linus Torvalds, padre de Linux, advierte a quienes programan en kernel con IA: "Hay que tener mucho cuidado cuando la utilizas para algo importante"

Linus Torvalds, padre de Linux, advierte a quienes programan en kernel con IA: "Hay que tener mucho cuidado cuando la utilizas para algo importante"

Linus Torvalds ha explicado cómo utiliza la inteligencia artificial para programar y por qué ha cambiado su opinión sobre estas herramientas, y aunque al principio pensaba que no eran demasiado buenas, ahora reconoce que disfruta trabajando con ellas, especialmente cuando necesita ayuda con tareas que no domina. Durante una conversación en el Open Source Summit Europe, celebrado en Praga, contó una experiencia con uno de sus proyectos personales. Quería mejorar la interfaz de un pedal de guitarra y decidió pedir ayuda a una IA, el resultado no

| etiquetas: linus torvalds , linux , ia , programar , vibe coding
Vamos a ser realistas. La IA programa a tal velocidad o genera conclusiones a tal velocidad que es imposible revisar todo lo que hace.

Todo el mundo dice que hay que revisar lo que hace la IA, pero todos los que trabajamos IA intensivamente sabemos que no revisamos todo, ni una pequeña fracción, porque es imposible. Además, conseguimos unos resultados en un tiempo espectaculares en un tipo infinitamente más pequeño que hace pocos meses o un par de años.

Y todo lo de la IA es una mala noticia. Porque algún día tendremos un susto gordo.
#7 No estoy de acuerdo parcialmente en eso, yo reviso lo que hace. Pero claro, no gasto la cuota jamás y no voy excepcionalmente rápido, sólo ligeramente más rápido.

A los que habría que preguntar es a esos que se gastan 2000€ al mes o más, a ver qué hostias están haciendo con el código.
#9 yo estoy en tu barco. Reviso todo y voy ligeramente mas rapido que antes, la IA se equivoca mucho y hace muchas asunciones en las que hay que ir corrigiendola. Incluso aunque ya tengas un harness bien hecho, hay que ir con cuidado.
#10 Y muchas veces son equivocaciones que no saltan a la vista, son cosas que son técnicamente correctas pero que no encajan con el resto de cosas que ya existen. Ahí es cuando te das cuenta de que (si se quiere calidad) la supervisión humana es imprescindible.

Nos vamos a reir bastante los próximos años con las noticias de estas empresas del tipo "ai first" que rechazan el QA y cualquier revisión.
#10, #11, errores de programación ya casi nunca comete, lo que ocurre es que si no le defines bien lo que quieres, puede tomar decisiones de diseño que no estén bien alineadas en lo que tienes en la cabeza y a veces se pierden entre tanta verborrea o simplemente las asume sin informarte. Es en eso en lo que hay que ir con más cuidado.
#9, pues fíjate que yo, sin revisar el código que hago, tampoco me gasto la cuota de 200€. Ahora estoy llegando a los límites semanales de Fable 5.2, pero cuando pasa simplemente cambio a Opus.
#7, siendo realistas, lo que dice Linus tiene sentido en sistemas hiper-críticos como el Kernel de Linux. En el resto, que es el 99.999% de la industria se impondrá la ley del mínimo esfuerzo, más cuando el peaje que se paga por ello está tendiendo a 0. A día de hoy muy poca gente revisa el código que hace línea a línea y los que lo hacen, a no ser que trabajen en sistemas de control de centrales nucleares o cosas por el estilo, están perdiendo el tiempo.
#22 Que un sistema no sea una central nuclear no significa que el cliente vaya a actuar como si lo fuera cuando le metes una cagada en producción pensando que era buena idea vibecodearlo.

El prestigio de unas cuantas empresas de software dirigidas por CEOs enceguecidos por la fantasía de hiperproductividad corre bastante peligro en una situación así.
#25, bugs siempre han existido y el mundo no se ha acabado. Yo estoy plenamente convencido que a día de hoy el código que hace la IA ya no genera más bugs que el que hacían los humanos en la era pre-IA. Por eso pienso que para el 99% de aplicaciones reales, el porcentaje de fallos es tolerable, igual que lo era antes y la forma de abordarlo es con buenos QA y no revisando el código línea a línea.
#7 considero que revisar no es mirar línea por línea el código. También es probar que todo sigue funcionando bien, escribir los test adecuadamente, comprobar cada corner case, revisar la compatibilidad, etc etc
#7 Morralla en cantidades industriales. El mejor código es el que no existe, cero mantenimiento, cero bugs, cero deuda técnica. Solo el justo y necesario.
Menos mal que ha dicho algo importante...
#12 Putos angilicismos.

Quality Assurement (o algo así). Hasta hace 2 días lo hacían humanos, y así sigue siendo en casi todas partes realmente. Lo que toda la vida se ha llamado "departamento de calidad".

En este caso es coger las reglas que aplicas a la primera IA (la que ha hecho el código/producto/cosa) y pasárselas a otra IA para que revise la creación respecto a esas reglas. Es importante que sea un modelo diferente del creador. Si el resultado no cumple entonces se lo devuelves al creador para que lo arregle, todo automatizado.

Pero claro, esto no te garantiza un 100% de calidad, sólo baja muchísimo las alucinaciones y errores; y sólo cuando las reglas son realmente buenas.
#13 vale, interesante. Yo lo que procuro es anticipar el resultado. "Haz esto y el resultado tiene que dar esto" como salvaguarda.
#14 Eso funciona, pero si le metes un revisor externo (todo automatizado en procesos largos se entiende) funciona aún mejor. Es como cuando se usan subagentes y el agente padre le da una colleja al agente hijo.
#15 si, me imagino que mejor. Me lo iré mirando. Gracias
#14 eso es, usando otro anglicismo, TDD (Test driven development), desarrollo guiado por tests. Creas el test que ha de pasar la implementación y después creas el código.
#20 El problema es que los test también se crean usando IA, por lo que hay que tener mucha paciencia para revisar que ninguno esté mal...
#20 no hay cosa sin palabro, aunque ya lo hicieras hace siglos xD
Creo que estamos pasando por la "adolescencia de la IA", donde estamos permitiendo que crezca a toda costa, con poca o ninguna supervisión. Supongo que llegaremos a un punto donde priorizaremos la calidad y la seguridad por encima de la productividad bruta.
#17 O se impone rápido, o el trabajo durante años será la resolución de deuda técnica y codebases infumables vibecodeadas por flipaos donde haya que tocar en veinte sitios para añadir una pequeña modificación y eso rompa algo en la otra punta del código.
#35 Se lo pasé a varios amigos y...
Si...
Somos raros los que entendemos lo maravilloso que este vídeo xD
Siempre hay que tener cuidado, y más cuando es relativo a algo importante. Que sea una IA para generar código es irrelevante. La pena es que haya que decirlo.
El ejemplo del pedal de guitarra explica dónde le resulta útil la herramienta. En el kernel, cada cambio necesita revisión y pruebas serias, lo haya escrito una persona o una IA.
#2 Que lo revise una IA y que lo pruebe otra IA... LGTM ;p
#4 Se hace, pero no es suficiente. El que envía el parche se tiene que hacer responsable de lo que envía como si lo hubiera escrito, y el que use IA para dar el ok tiene que hacerse responsable de ese ok. Y que revisen lo que necesiten antes de lanzar algo siendo responsables de ello. La IA no es responsable.
#4 JAJAJAJA
www.youtube.com/watch?v=3TNpOD6bov8
Tal que así, LGTM es la canción del 2027 seguro...
Desde que la escuché hace unos días veo su verdad en todos sitios, es como una "verdad revelada".
xD
#6 Qué putísima maravilla!
#4 Lo que dices es una coña, pero puedo confirmar que si pones un proceso de QA a una IA con un buen sistema de ping pong (le devuelves al creador todo lo que el QA no acepte tantas veces como sea necesario) las cagadas bajan de un 20% a un 2%.

Pero claro, un 2% es inaceptable según que casos, como en el Kernel de Linux por ejemplo.

Pensar que las IAs generativas van a programar los sistemas críticos sin supervisión humana sigue siendo ciencia ficción (o una temeridad espantosa, depende de la empresa :troll: )
#8 que es un proceso de QA ?
#8 Mi experiencia es que el toma y daca con la IA se hace eterno. Te obliga a mirar muchas cosas que no necesitaban revisión, y la carga de trabajo se hace tan grande que pierdes capacidad de percibir problemas que la IA no ve, o peor aún, que sí ve.

Y si dejas a IAs solas, agrandan el código con muchas cosas innecesarias y tampoco aseguras calidad ni robustez.
Pues ahora que se lo explique a los CEOs de empresas obsesionados en reducir personal implementando esa IA en "temas importantes".
#19 Empresas destinadas a cerrar.

Un software en producción sin revisión humana por alguien con el conocimiento y experiencia necesaria es un producto destinado a caer.
Sin embargo, también pide precaución cuando se utiliza la inteligencia artificial para trabajos importantes. "Creo que hay que tener mucho cuidado al utilizar la IA cuando estás haciendo algo real e importante", advirtió. Finalmente, concluyó que no es lo mismo experimentar con un proyecto personal que trabajar en un programa del que dependen muchas personas.

Esto deberían grabárselo a fuego todos aquellos que trabajamos con software que acaba en producción.

Para tus…   » ver todo el comentario
Toda línea de código debería ser revisada con el mismo detalle. Todas son importantes.
¿Se podría decir que tiene IA Panic? :-D
Señoro Linux
Supongo que se referirá a este proyecto: github.com/torvalds/GuitarPedal
La realidad es que perdemos mucho tiempo con tareas tontas que nos quitán mucho tiempo y que la IA puede hacer en segundos. Pero hay que dedicarle el tiempo a asegurarse de pedir claramente lo que necesitamos (a menudo iterativamente) y revisar bien lo que nos da para que no tenga errores.
Por suerte para nosotros, solo considera importante lo que hace él.

menéame