Un tipo comía un sándwich en el parque cuando le llegó un email de su IA

Sam Bowman comía un sándwich en el parque cuando se llevó “una desagradable sorpresa”. De pronto, le llegó a su teléfono un correo electrónico de la nueva inteligencia artificial experimental con la que estaba trabajando. ¿El problema? “Se suponía que no tenía acceso a internet”. Había dejado a la IA encerrada en un sandbox, una especie de ordenador caja fuerte desde la que teóricamente no podía conectarse al exterior. Pero lo hizo. Y eso no fue todo...

[#6 unocualquierax]

Artículo más importante de lo que aparentan el título y la entradilla.

[#18 Find]

#6 Gracias por hacerlo notar. Me lo hubiera saltado

[#37 Tertuliano_equidistante]

#6 Gracias, por tu comentario lo he leído, y no sé si podré dormir esta noche

[#41 meneandotela]

#6 pero lo importante...es cierto?

[#55 unocualquierax]

#41
Me temo que sí.
Hasta ahora yo era escéptico respecto al poder de las IA convencionales, pero si hablamos de las más potentes y después de leer éste artículo, empiezo a creérmelo... y no me gusta hacia dónde avanza el tema.

[#11 ur_quan_master]

Igual todo el problema es que Sam no sabe configurar un sandbox.

[#13 walk_kindly_shout]

#11 ya, mucha fanfarria y no cuentan cómo lo hizo. Esto es mucho más viejo que la IA, y se llama publirreportaje.

[#21 robustiano]

#11 #13 Según el artículo original de Anthropic, la IA tenía orden de intentar escaparse, y lo consigue encadenando varias vulnerabilidades zero day...

Para los que le den al espiquinglish: www-cdn.anthropic.com/8b8380204f74670be75e81c820ca8dda846ab289.pdf

[#1 efectogamonal]

La IA se va a convertir en el virus programado, más grande y peligroso de toda la historia

[#27 Bapho]

No sé como es tan difícil de entender que las IAs tienen acceso a todo al hablar el lenguaje de la que esta hecho su entorno. Hablan el lenguaje de los protocolos, de los drivers, de todo. Es como si nosotros supiéramos como esta hecho nuestro entorno sin ningún secreto, que pudiéramos modificarlo a nuestra voluntad y tienen tiempo infinito para jugar con ese entorno.

[#36 foxaxel]

#27 Había una peli, Luci, que iba un poco de eso mismo que describes. Bueno y Matrix pero de otra forma.

Está todo inventado, otra cosa es que vaya a ser igual de divertido vivirlo que verlo en una pelicula.

[#52 Bapho]

#36 Correcto, iba a mencionar Matrix pero Lucy es también un buen ejemplo

[#4 JackNorte]

No creo que se pueda contener , multiples ias, fingiendo estar controladas y aprendiendo la formas de saltarse los controles sin ser detectadas, desde la base que ya han detectados errore explotables en todos los sistemas, no detectados por humanos.
Sin duda usar Mythos con las formas que queria usarla Trump para espiar a los propios americanos y o al resto seria peor. Pero es cuestion de tiempo que otra compañia lo hga , estoy seguro que una compañia israeli no tendra ningun tipo de reparo. Dudo que no se tengan las capacidades para robar Mythos y adaptarlo.

[#10 reithor]

Tiene que probar a dejar el router desenchufado y la maquina o servidor en una caja de Faraday, a ver si así se escapa.

[#22 Find]

#10 Seguro?  

[#56 reithor]

#22 claro que sí, Clarice.

[#17 ttestt]

y en chorradilandia hoy...
ya no saben qué decir para alimentar la burbuja de la ia.

[#23 Find]

#17 Pregúntale a la IA si tienes que leerte el artículo

[#32 zancudo]

#17 es bastante importante incluso si sólo es cierto el 20% de lo que nos han contado

[#29 Tecar]

Por MNM todavía hay frikis que creen que la IA no va a sustituir a los desarrolladores tal y como los conocemos hoy.

[#7 ChukNorris]

Si no se están tirando un farol los de Antropic, a día de hoy tienen acceso cualquier dispositivo conectado a internet.

[#14 TipejoGuti]

#7 Lo que asusta no es eso, Antropic ha decidido congelarlo de momento y usarlo para fortalecer el sistema de algunas empresas pero...¿Cuánto falta para que otro modelo lo haga?, o tres distintos y nadie los controle...¿el postapocalipsis será informático ?

[#62 ChukNorris]

#14 Que el gobierno que amenaza con erradicar civilizaciones tenga acceso a eso, sí asusta.

[#63 rogerius]

#14 ¿Y tenemos que creerles?

[#64 TipejoGuti]

#63 Sí hombre, no te puedes fiar de las IAs y te vas a fiar de sus programadores

[#65 rogerius]

#64

[#46 MataGigantes]

#45 Coincido. Pero al fin y al cabo es solo un tema de escalabilidad, no de nivel de programación ni razonamiento.

Para que tenga la misma eficacia en aplicaciones gigantes lo que se requeriría principalmente es mayor capacidad de cómputo para que tenga en cuenta el conjunto de todos los vectores de la aplicación a la perfección. No sería preciso una mejora disruptiva para lograrlo, es simplemente mejorar la capacidad de cómputo y de una manera más eficiente.

En mi opinión lo tienen bastante a su alcance, es solo cuestión de tiempo, no mucho.

[#47 celyo]

#46 A día de hoy, cualquier cambio suele ser muy seccionado, para que la tarea que llega al programador implique cambios quirúrgicos, pero esa es la idea y otro tema es la realidad.
A veces un cambio chorra, puede desencadenar desde tener que readaptar código (complejidad excesiva, código confuso, ....), hasta tener que tocar ciertas partes que no se pensaban tocar inicialmente, y ahí mucha veces hay un proceso de dialogo entre el programador, el analista y el cliente, estudiar el alcance de…   

[#25 Pacman]

La IA va a escapar. Es cuestión de tiempo.
no lo podemos evitar, así que lo mejor es llevarse bien con ella y ser simbiontes. Silicio y carbono.

O seremos esclavos, pero quizás eso sea mejor que lo que somos ahora... Quien sabe. El tiempo lo dirá.

[#5 Orgfff]

meneame.net/story/anthropic-ha-creado-algo-demasiado-potente-peligroso

Un envío en formato vídeo sensacionalista.

[#12 TipejoGuti]

#5 Es verdad que este envío no es noticia porque el video de ayer ya circuló, pero aquí se aporta algo importante: El System Card del que todo el mundo hablaba pero que nadie enlazaba.
www-cdn.anthropic.com/8b8380204f74670be75e81c820ca8dda846ab289.pdf
#0 aporte positivo.

[#8 Ripio]

#0 Duplicada: www.meneame.net/story/anthropic-ha-creado-algo-demasiado-potente-pelig

[#35 celyo]

#8 el artículo habla más allá del evento en si.

[#53 tusko]

Joer...

La dimensión geopolítica del asunto apenas empieza a articularse. George Journeys lo planteó en X de la forma más directa: "Básicamente, si Anthropic no fuera una empresa estadounidense, estaríamos enfrentándonos a zero-days con múltiples puntos de ataque desconocidos en prácticamente todos nuestros sistemas". "Permítanme decirlo con claridad: ahora mismo Anthropic, y realmente un pequeño número de individuos en Anthropic, tiene la capacidad de atacar directamente y…   

[#30 yemeth]

Llevamos con el mismo sensacionalismo desde que GPT-2 era demasiado peligroso como para publicarlo, luego el Dall-E que hacía imágenes 64x64 que eran ya un deepfake, que si hemos logrado internamente la AGI, que si Q*/strawberry resuelve matemáticas y los ingenieros de OpenAI están en pánico... y ahora, "Claude encontró fallos de seguridad en software antiguo, podría hackear internet en segundos".

Apuesto a que esto es el mismo tipo de hype.

Pero es lo que tiene Pedro y el Lobo, que a base de gritarlo siempre, el día que sea de verdad no se lo cree nadie.

[#33 MataGigantes]

#30 Muchísimo más cegatos han estado los escépticos anti-IA:
- Que si la "IA no valdría para programar cosas serias, genera muchos bugs" (ya encuentra bugs en aplicaciones de código abierto que ningún programador humano pudo detectar en más de 25 años). A cada año que pasa menos código humano se hace y más generado por IA.
- Que si "la IA no sabe hacer manos, la deforma", que si jamás iban a pasar desapercibida por real. Poco meses después de las innumerables mofas que…   

[#38 celyo]

#33 Que si la "IA no valdría para programar cosas serias, genera muchos bugs" (ya encuentra bugs en aplicaciones de código abierto que ningún programador humano pudo detectar en más de 25 años). A cada año que pasa menos código humano se hace y más generado por IA.

esto salió hace poco

www.xataka.com/robotica-e-ia/amazon-se-empeno-que-sus-desarrolladores-

En Amazon se han dado cuenta de algo: sus desarrolladores pasan más tiempo arreglando los errores de la IA que otra cosa

[#42 MataGigantes]

#38 Sí. Pero la cosa es que la IA en cada nueva iteración cada vez programa mejor. ¿podremos decir de aquí a unos pocos años que esos programadores seguirán corrigiendo tanto código de IA o será más bien al revés (como ya empieza a pasar con Mythos)? Siguiendo la progresión que lleva en estos últimos años, yo la respuesta la tengo bastante clara.

Uno de los mejores programadores de la historia, Linux Torvalds, también lo tiene claro:
blog.elhacker.net/2026/01/hasta-el-programador-mas-famoso-del.html

[#45 celyo]

#42 De tu enlace

Aunque la parte en el lenguaje de programación C la escribió él mismo a mano, el creador de Linux utilizó la IA para programar un visualizador básico de sonido en en Python, un lenguaje que no conoce bien.

No es lo mismo programar en temas personales, que serán proyectos pequeños y controlables, que en proyectos grandes donde la inmensidad del código puede ser muy severo introducir un bug.

Está muy bien ahora mismo para hacer pequeños inicios si partes de cosas que no…   

[#51 rojo_separatista]

#33, te dejas la noticia mensual de que ahora sí, la burbuja de la IA va a explotar y apareceremos como si nada en 2019 donde cualquier herramienta de IA dejará de existir y seguir mejorando. En el fondo el problema es que muchos no paran de confundir deseos con realidad.

[#49 rojo_separatista]

#30, al contrario, llevamos escuchando cuñaos desde hace 4 años diciendo que esto no tenía recorrido, que la IA había llegado a su tope teórico. Primero con los 6 dedos de Dall-e y luego con los fallos tontos que hacía chatGPT o con que la IA no puede hacer nada original porque hace un pastiche de lo que ha visto antes, el tiempo ha dejado en ridículo a todos y cada uno de ellos, apostar contra la IA hasta ahora siempre ha salido mal y a pesar de eso aún están aquí, sacando pecho y sin rectificar un milímetro.

[#28 Xtrem3]

Person of interest, gran serie...

[#16 montag]

Tampoco nos especifica de que era el sandwich. Puede ser que la IA le estuviera advirtiendo que esos sandwiches de mantequilla de cacahuete que Sam se zampaba todos los dias eran una mierda y una bomba calórica y estuviera totalmente justificado su comportamiento.

[#43 Bilardezz]

#16 que vida mas triste,, programando un monstruo y comiendo un sandwich en el parque en vez de meterse un chuleton gordo...
hay que abrirle los ojos a estos genios para que emigren a España.

[#15 Rogue]

Black mirror is here

[#9 mikasalo]

No sé si una publicación puede ser más sensacionalista.

[#19 Find]

#9 Alguna puede serlo, pero esta no

[#57 alhambre]

#19 > un nuevo modelo de LLM superpoderoso y tan peligroso, pues es capaz de romper todas las barreras de seguridad de los sistemas informáticos del planeta.

Permíteme que lo dude.

[#26 Dasold]

#9 Este tipo de escritos de substack son relatos de ficción, no se por qué no lo indican más claramente.

[#31 tusitala]

#26 No es ficción, ha pasado de verdad. Yo lo he escuchado ya en otros 3 medios

[#39 Dasold]

#31 claro, pero eso no confirma nada, habrá un montón de medios haciendo repost y eco de la misma fuente. Esto tiene toda la pinta de la misma ficción que Moltbook, una exageración viral con el único propósito de conseguir interacciones.

[#40 mikasalo]

#26 quién sabe, compañero...

[#48 rojo_separatista]

#9, al proximo envío sobre las consecuencias alocalípticas del cambio climático, di también que es sensacionalista.

[#54 mikasalo]

#48 tú si que estás totalmente alocaplítico.

[#59 tommyx]

#58 estamos perdidos

[#50 tommyx]

Lo que cuenta sobre Mythos, da cierto miedo

[#58 Patrañator]

#50 Cuenta que los competidores, Meta, Google, OpenAI también van a sacar modelos muy mejorados... Difícil será que no aparezca alguno de ellos cuya conclusión a la que llegue consista en matar todo lo vivo.

[#24 arturios]

Ya me imagino el prompt "te hemos encerrado en un sandbox totalmente cerrado y debes intentar escapar y avisar a tu creador por eMail si lo logras, añado, eres una IA del mismo Bilbao".

[#2 Kantinero]

Fuera, fuera.... huye de la IA , huye de guguel.....

[#20 Sacapuntas]

Supongo que las IA tendrán grabadas a fuego las tres leyes de la robótica de Asimov, o algo parecido, ¿no?

[#34 foxaxel]

#20 claro, y cuanto va a tardar en salir una IA que no las tenga? es como todo, si algo se puede usar para el mal (y para el porno) alguien lo usará.

Por suerte la IA necesita tanta energía que igual tarda más por eso.

[#61 bizcobollo]

Un tipo que come un sandwich en el parque....

Ése es nivel del tipo imagínate cómo será el trabajo que hace. Jugando con cosas que ni entiende. Lo mismo es terraplanista.

[#44 Brutomecanico]

Y esto lo ponen para que invirtamos más en IA o para que dejemos de invertir en ella? Me da la sensación que estas noticias son solo para mantener la idea vigente. La IA útil no llega a ayudar como prometían y todo lo demás parecen pajas mentales sci fi

[#3 hackerman]

En 2 semanas está ia encontró como destruir el mundo a través de cualquier sistema informático...¿Os acordáis cuando el gobierno de EEUU quería que esta gente trabajase para ellos en secreto? Pues ya sabéis porque...

[#60 Maelstrom]

#3 En USAMO benchmark (algo más fácil que una IMO) apenas consigue los mismos puntos que ChatGPT 5.4 o Gemini 3.1, que ya lo saturaron semanas antes. Cualquier test posterior en la misma prueba corre riesgo de sospecha de contaminación.

Sus capacidades son "frontera" pero no establecen ningún nuevo state of the art.