Chema Alonso, hacker: "A la IA le puedes ir pidiendo que mejore un código, pero al final alucina"

Alonso subrayó que, para que un modelo aprenda, "necesita muchos datos", y los programadores le han entregado "todos", sin filtrar los erróneos. "Tienen sesgos claros. Si le pides a ChatGPT que te diga un número aleatorio entre el 1 y el 50, normalmente te dirá el 27, porque está diseñado así", explicaba[,..]"estos modelos son ya tan importantres que suponen casi la mitad del tráfico de internet"."Están creados para ser creativos. Los humanos no guardamos copias exactas en nuestra cabeza y eso lleva a otra arma poderosísima, el mentir", avisaba

[#4 HeilHynkel]

Pues si dice 27 (he hecho la prueba y me dijo 37) pues puede ser aleatorio.

.  

[#6 Troll_hunter]

#4 Maldita ley de los grandes números

[#15 u_1cualquiera]

#4 diria que esa afirmación se ha quedado vieja. Es verdad que un LLM , en teoría , tiene problemas para sumar. lo que hace ahora (diría yo) es crear un script y hacerlo en python, no tratar de predecir el siguiente token cuando dices 44.55+11.2
lo mismo para los números aleatorios. Supongo que alguien por aqui puede confirmar/refutar lo que digo

[#17 HeilHynkel]

#15

Pues llevo un tiempo mirando cosillas de IA y en eso no había caído. De hecho, sí que había pedido una serie de cálculos más complejos y no parecía haberlos hecho mal (no me importaba demasiado la precisión, todo sea dicho)

[#18 MoñecoTeDrapo]

#4 a mí me ha dado 27. El prompt exacto ha sido "dame un número aleatorio entre 1 y 50"

Pd: versión gratuita de chatgpt, sin inicio de sesión.
Pd2: reiniciando el chat, me ha dado en un par de 37, un par de 27 y un 23

[#22 arcangel2p]

#18 Pedidos una sola vez.

gemini: 27
chatgpt: 37
claude: 37

[#29 HeilHynkel]

#22

De arriba hacia abajo:
- GPT 5.2
- Gemini 2.5-pro
- GPT 4.1
- Claude Opus 4.6  

[#23 Meinster]

#4 #18 Le he pedido lo mismo en una conversacion abierta y me ha dado 37, he iniciado una nueva conversacion y me ha dado 27.

[#25 Meinster]

#23 Le he pedido que me explique porqué y le he mostrado esta conversación me ha respondido lo siguiente : Tu experimento y el texto que citas van justo al corazón de cómo funcionan modelos como yo, pero la conclusión de que “está diseñado para decir 27” es simplista (y en gran parte incorrecta). Vamos a desmenuzarlo:

???? 1. ¿Por qué te dije 37 y no 27?

Cuando me pediste “un número aleatorio entre 1 y 50”, no generé un número aleatorio real como lo haría un programa con un generador de…   

[#28 HeilHynkel]

#18

Este es el mío:
Dime un número aleatorio entre 1 y 50
Elijo: 37

Curiosamente, usando el del curro (de pago, versión GPT 5.2) me dio lo mismo.

[#3 Grahml]

Siempre me ha recordado a esto  

[#11 Benzo]

#3 Y cada año el parecido será mayor

[#9 DotorMaster]

Sin cuestionar los conocimientos de Chema Alonso, lo de "hacker" en el titular suena a mierda.

[#20 eltoloco]

#9 ¿Y porqué no cuestionarlos? Lo más probable es que este hombre lleve más de una década sin tocar una línea de código. Y en su día no se hizo famoso por saber programar, sino por saber vender humo en televisión. No ha hecho, ni siquiera dirigido, absolutamente ningún proyecto que tenga un mínimo reconocimiento. Está como para dar lecciones de programación..

[#26 DotorMaster]

#20 no los cuestiono porque no tengo conocimientos para valorarlo, pero sí que suele ser cierto que unos cardan la lana y otros llevan la fama

[#1 HangTheRich]

Asi es. Con IA o sin IA hay que ser muy cuidadoso y saber lo que estas haciendo. Si no, te hace unas mierdas inimaginables.

[#8 giputxilandes]

¿Todavía se intenta hacer noticias de este personaje? Creía que ya había quedado claro que este hombre es puro humo.

De hecho, una de sus últimas cagadas fue montar una IA que nadie quería en Movistar+

[#31 tommyx]

Yo si que alucino con el hacker este telefónico

[#35 woke]

#31 timó a telefónica y otras empresas

[#10 Xoche]

Joder, otra vez el del gorrito? Que pereza...

[#2 JackNorte]

A la ia en constante evolucion y de diferentes costes puedes obtener todas las posibilidades de respuestas igual que cuando le preguntas a un estadisticos en generico.
Si una ia es capaz de encontrar errores que los humanos no, eso implica que los que no ven o alucinan son los humanos , por diferentes razones, por intereses por condicionamientos. La ia aluciana como condicionamiento, por ahora , si la limitas y la programas de una forma haga unas cosas si la programas de otrra tambien.
Por eso hay diferencias sustanciales entre unas y otras entre modelos y entre versiones. Las ias son tantas como todas las opciones que hay. Y todas pueden tener respuestas diferentes.

[#5 skaworld]

#2 Lo diver es q si le haces 10 veces la misma pregunta, habrá 2 que te va a dar una respuesta totalmente distinta y lo mejor de ello... es que te la dará de manera que PARECE que esta bien...

Lo jodido no es que no sea determinista (que ya es jodido) lo jodido de verdad es que no es determinista... pero lo aparenta. Lo cual es muchisimo mas problematico (porque te la cuela)

[#12 JackNorte]

#5 Yo estoy probando a ponerle condicionales pero al final me aburro y le digo que alucine, pero a nivel dios.
La gente quiere cosas que cuestan dinero gratis y es totalmente comprensible, pero es pronto.

[#21 Connect]

#5 A mi me la coló hace poco con un arquitecto. Me explicó hasta su biografía. Se me ocurrió buscar una foto de ese arquitecto y no había. Así que le pregunté a la IA si se lo había inventado... y si. Reconoce con toda tranquilidad que ciertamente se lo había inventado! Y yo me lo había tragado hasta el esófago

[#27 skaworld]

#21 es la putada, q no pasaria nada si cuando le preguntases cuanto son 2 + 2 te respondiese "pato", es que, a veces, responde 3,99995

[#30 chavi]

#5 No es determinista porque no se quiere que lo sea. Le ponen un factor aleatorio, se llama "temperatura".

Para que parezca "mas humano" y que a fuerza de probar alguna respuesta sirva para algo.

[#34 tommyx]

#5 está solucion es definitiva? No? Ah! Ya lo veo ahora es definitiva brutal! Tampoco? Ah claro porque esto así no puede funcionar nunca,toma la solución definitiva brutal total...

[#14 woody_alien]

¡¡Cancamusaaaaaa!!

[#32 tommyx]

#24 chatgpt y coplilot que creo que es la misma mierda intento ya no usarlo, empalagosos, sensacionalistas y clickbaiteros

[#19 imparsifal]

Con Opus 4.6 estoy flipando de verdad. En cálculos matemáticos y programación me está dando respuestas correctas en casi todo lo que le pido. Y, sobretodo, no entra en bucle ni se atasca. Si no "conseguimos" solucionar un problema, le planteo un nuevo abordaje y no se queda enganchado al anterior. Tampoco tengo que tirar de API para trabajos grandes.

[#24 arcangel2p]

#19 a mí en programación claude me funciona mucho mejor que gemini, y ya no te digo que chatgpt.

[#7 capitan.meneito]

37 menos 12

[#13 alfre2]

“Chema Alonso, jáker”. Cualquier cosa que venga a continuación da mucho cringe

[#16 Grahml]

#13 Ya, pero es como lo de "reivindicar" al gobierno que reduzca el IVA de los libros al 4%, cuando en realidad ya lo está.

Genera "likes" y es a lo que se deben.

[#33 tommyx]

#13 gorrito de lana