edición general
86 meneos
2760 clics
Un tipo comía un sándwich en el parque cuando le llegó un email de su IA

Un tipo comía un sándwich en el parque cuando le llegó un email de su IA

Sam Bowman comía un sándwich en el parque cuando se llevó “una desagradable sorpresa”. De pronto, le llegó a su teléfono un correo electrónico de la nueva inteligencia artificial experimental con la que estaba trabajando. ¿El problema? “Se suponía que no tenía acceso a internet”. Había dejado a la IA encerrada en un sandbox, una especie de ordenador caja fuerte desde la que teóricamente no podía conectarse al exterior. Pero lo hizo. Y eso no fue todo...

| etiquetas: ia , inteligencia artificial , anthropic , claude , mythos
49 37 3 K 375 tecnología
29 comentarios
49 37 3 K 375 tecnología
Comentarios destacados:        
#6 unocualquierax
Artículo más importante de lo que aparentan el título y la entradilla.
9 K 97
Find #18 Find
#6 Gracias por hacerlo notar. Me lo hubiera saltado
0 K 10
ur_quan_master #11 ur_quan_master
Igual todo el problema es que Sam no sabe configurar un sandbox.
7 K 75
#13 walk_kindly_shout
#11 ya, mucha fanfarria y no cuentan cómo lo hizo. Esto es mucho más viejo que la IA, y se llama publirreportaje.
1 K 20
robustiano #21 robustiano *
#11 #13 Según el artículo original de Anthropic, la IA tenía orden de intentar escaparse, y lo consigue encadenando varias vulnerabilidades zero day... :-P

Para los que le den al espiquinglish: www-cdn.anthropic.com/8b8380204f74670be75e81c820ca8dda846ab289.pdf
1 K 32
efectogamonal #1 efectogamonal
La IA se va a convertir en el virus programado, más grande y peligroso de toda la historia {0x1f525}
5 K 59
reithor #10 reithor
Tiene que probar a dejar el router desenchufado y la maquina o servidor en una caja de Faraday, a ver si así se escapa.
1 K 27
Find #22 Find
#10 Seguro?  media
0 K 10
ttestt #17 ttestt
y en chorradilandia hoy...
ya no saben qué decir para alimentar la burbuja de la ia.
1 K 26
Find #23 Find *
#17 Pregúntale a la IA si tienes que leerte el artículo ;)
0 K 10
JackNorte #4 JackNorte *
No creo que se pueda contener , multiples ias, fingiendo estar controladas y aprendiendo la formas de saltarse los controles sin ser detectadas, desde la base que ya han detectados errore explotables en todos los sistemas, no detectados por humanos.
Sin duda usar Mythos con las formas que queria usarla Trump para espiar a los propios americanos y o al resto seria peor. Pero es cuestion de tiempo que otra compañia lo hga , estoy seguro que una compañia israeli no tendra ningun tipo de reparo. Dudo que no se tengan las capacidades para robar Mythos y adaptarlo.
2 K 25
TipejoGuti #12 TipejoGuti
#5 Es verdad que este envío no es noticia porque el video de ayer ya circuló, pero aquí se aporta algo importante: El System Card del que todo el mundo hablaba pero que nadie enlazaba.
{0x1f449} www-cdn.anthropic.com/8b8380204f74670be75e81c820ca8dda846ab289.pdf {0x1f448}
#0 aporte positivo.
2 K 31
Xtrem3 #28 Xtrem3
Person of interest, gran serie...
1 K 16
montag #16 montag
Tampoco nos especifica de que era el sandwich. Puede ser que la IA le estuviera advirtiendo que esos sandwiches de mantequilla de cacahuete que Sam se zampaba todos los dias eran una mierda y una bomba calórica y estuviera totalmente justificado su comportamiento. :troll:
2 K 15
Rogue #15 Rogue
Black mirror is here
0 K 14
Bapho #27 Bapho *
No sé como es tan difícil de entender que las IAs tienen acceso a todo al hablar el lenguaje de la que esta hecho su entorno. Hablan el lenguaje de los protocolos, de los drivers, de todo. Es como si nosotros supiéramos como esta hecho nuestro entorno sin ningún secreto, que pudiéramos modificarlo a nuestra voluntad y tienen tiempo infinito para jugar con ese entorno.
0 K 13
#9 mikasalo
No sé si una publicación puede ser más sensacionalista.
2 K 13
Find #19 Find
#9 Alguna puede serlo, pero esta no
1 K 16
Dasold #26 Dasold
#9 Este tipo de escritos de substack son relatos de ficción, no se por qué no lo indican más claramente.
0 K 7
Pacman #25 Pacman
La IA va a escapar. Es cuestión de tiempo.
no lo podemos evitar, así que lo mejor es llevarse bien con ella y ser simbiontes. Silicio y carbono.

O seremos esclavos, pero quizás eso sea mejor que lo que somos ahora... Quien sabe. El tiempo lo dirá.
0 K 12
Kantinero #2 Kantinero
Fuera, fuera.... huye de la IA , huye de guguel.....
0 K 11
arturios #24 arturios
Ya me imagino el prompt "te hemos encerrado en un sandbox totalmente cerrado y debes intentar escapar y avisar a tu creador por eMail si lo logras, añado, eres una IA del mismo Bilbao".
0 K 11
#20 Sacapuntas
Supongo que las IA tendrán grabadas a fuego las tres leyes de la robótica de Asimov, o algo parecido, ¿no?
0 K 11
ChukNorris #7 ChukNorris
Si no se están tirando un farol los de Antropic, a día de hoy tienen acceso cualquier dispositivo conectado a internet.
0 K 9
TipejoGuti #14 TipejoGuti
#7 Lo que asusta no es eso, Antropic ha decidido congelarlo de momento y usarlo para fortalecer el sistema de algunas empresas pero...¿Cuánto falta para que otro modelo lo haga?, o tres distintos y nadie los controle...¿el postapocalipsis será informático :-S ?
0 K 11
#29 Tecar
Por MNM todavía hay frikis que creen que la IA no va a sustituir a los desarrolladores tal y como los conocemos hoy.
:troll:
0 K 7
#3 hackerman
En 2 semanas está ia encontró como destruir el mundo a través de cualquier sistema informático...¿Os acordáis cuando el gobierno de EEUU quería que esta gente trabajase para ellos en secreto? Pues ya sabéis porque...
0 K 6

menéame