Un tipo comía un sándwich en el parque cuando le llegó un email de su IA

Sam Bowman comía un sándwich en el parque cuando se llevó “una desagradable sorpresa”. De pronto, le llegó a su teléfono un correo electrónico de la nueva inteligencia artificial experimental con la que estaba trabajando. ¿El problema? “Se suponía que no tenía acceso a internet”. Había dejado a la IA encerrada en un sandbox, una especie de ordenador caja fuerte desde la que teóricamente no podía conectarse al exterior. Pero lo hizo. Y eso no fue todo...

[#6 unocualquierax]

Artículo más importante de lo que aparentan el título y la entradilla.

[#18 Find]

#6 Gracias por hacerlo notar. Me lo hubiera saltado

[#11 ur_quan_master]

Igual todo el problema es que Sam no sabe configurar un sandbox.

[#13 walk_kindly_shout]

#11 ya, mucha fanfarria y no cuentan cómo lo hizo. Esto es mucho más viejo que la IA, y se llama publirreportaje.

[#21 robustiano]

#11 #13 Según el artículo original de Anthropic, la IA tenía orden de intentar escaparse, y lo consigue encadenando varias vulnerabilidades zero day...

Para los que le den al espiquinglish: www-cdn.anthropic.com/8b8380204f74670be75e81c820ca8dda846ab289.pdf

[#1 efectogamonal]

La IA se va a convertir en el virus programado, más grande y peligroso de toda la historia

[#10 reithor]

Tiene que probar a dejar el router desenchufado y la maquina o servidor en una caja de Faraday, a ver si así se escapa.

[#22 Find]

#10 Seguro?  

[#17 ttestt]

y en chorradilandia hoy...
ya no saben qué decir para alimentar la burbuja de la ia.

[#23 Find]

#17 Pregúntale a la IA si tienes que leerte el artículo

[#32 zancudo]

#17 es bastante importante incluso si sólo es cierto el 20% de lo que nos han contado

[#4 JackNorte]

No creo que se pueda contener , multiples ias, fingiendo estar controladas y aprendiendo la formas de saltarse los controles sin ser detectadas, desde la base que ya han detectados errore explotables en todos los sistemas, no detectados por humanos.
Sin duda usar Mythos con las formas que queria usarla Trump para espiar a los propios americanos y o al resto seria peor. Pero es cuestion de tiempo que otra compañia lo hga , estoy seguro que una compañia israeli no tendra ningun tipo de reparo. Dudo que no se tengan las capacidades para robar Mythos y adaptarlo.

[#8 Ripio]

#0 Duplicada: www.meneame.net/story/anthropic-ha-creado-algo-demasiado-potente-pelig

[#5 Orgfff]

meneame.net/story/anthropic-ha-creado-algo-demasiado-potente-peligroso

Un envío en formato vídeo sensacionalista.

[#12 TipejoGuti]

#5 Es verdad que este envío no es noticia porque el video de ayer ya circuló, pero aquí se aporta algo importante: El System Card del que todo el mundo hablaba pero que nadie enlazaba.
www-cdn.anthropic.com/8b8380204f74670be75e81c820ca8dda846ab289.pdf
#0 aporte positivo.

[#30 yemeth]

Llevamos con el mismo sensacionalismo desde que GPT-2 era demasiado peligroso como para publicarlo, luego el Dall-E que hacía imágenes 64x64 que eran ya un deepfake, que si hemos logrado internamente la AGI, que si Q*/strawberry resuelve matemáticas y los ingenieros de OpenAI están en pánico... y ahora, "Claude encontró fallos de seguridad en software antiguo, podría hackear internet en segundos".

Apuesto a que esto es el mismo tipo de hype.

Pero es lo que tiene Pedro y el Lobo, que a base de gritarlo siempre, el día que sea de verdad no se lo cree nadie.

[#33 MataGigantes]

#30 Muchísimo más cegatos han estado los escépticos anti-IA:
- Que si la "IA no valdría para programar cosas serias, genera muchos bugs" (ya encuentra bugs en aplicaciones de código abierto que ningún programador humano pudo detectar en más de 25 años). A cada año que pasa menos código humano se hace y más generado por IA.
- Que si "la IA no sabe hacer manos, la deforma", que si jamás iban a pasar desapercibida por real. Poco meses después de las innumerables mofas que…   

[#28 Xtrem3]

Person of interest, gran serie...

[#16 montag]

Tampoco nos especifica de que era el sandwich. Puede ser que la IA le estuviera advirtiendo que esos sandwiches de mantequilla de cacahuete que Sam se zampaba todos los dias eran una mierda y una bomba calórica y estuviera totalmente justificado su comportamiento.

[#15 Rogue]

Black mirror is here

[#27 Bapho]

No sé como es tan difícil de entender que las IAs tienen acceso a todo al hablar el lenguaje de la que esta hecho su entorno. Hablan el lenguaje de los protocolos, de los drivers, de todo. Es como si nosotros supiéramos como esta hecho nuestro entorno sin ningún secreto, que pudiéramos modificarlo a nuestra voluntad y tienen tiempo infinito para jugar con ese entorno.

[#9 mikasalo]

No sé si una publicación puede ser más sensacionalista.

[#19 Find]

#9 Alguna puede serlo, pero esta no

[#26 Dasold]

#9 Este tipo de escritos de substack son relatos de ficción, no se por qué no lo indican más claramente.

[#31 tusitala]

#26 No es ficción, ha pasado de verdad. Yo lo he escuchado ya en otros 3 medios

[#25 Pacman]

La IA va a escapar. Es cuestión de tiempo.
no lo podemos evitar, así que lo mejor es llevarse bien con ella y ser simbiontes. Silicio y carbono.

O seremos esclavos, pero quizás eso sea mejor que lo que somos ahora... Quien sabe. El tiempo lo dirá.

[#2 Kantinero]

Fuera, fuera.... huye de la IA , huye de guguel.....

[#24 arturios]

Ya me imagino el prompt "te hemos encerrado en un sandbox totalmente cerrado y debes intentar escapar y avisar a tu creador por eMail si lo logras, añado, eres una IA del mismo Bilbao".

[#20 Sacapuntas]

Supongo que las IA tendrán grabadas a fuego las tres leyes de la robótica de Asimov, o algo parecido, ¿no?

[#7 ChukNorris]

Si no se están tirando un farol los de Antropic, a día de hoy tienen acceso cualquier dispositivo conectado a internet.

[#14 TipejoGuti]

#7 Lo que asusta no es eso, Antropic ha decidido congelarlo de momento y usarlo para fortalecer el sistema de algunas empresas pero...¿Cuánto falta para que otro modelo lo haga?, o tres distintos y nadie los controle...¿el postapocalipsis será informático ?

[#29 Tecar]

Por MNM todavía hay frikis que creen que la IA no va a sustituir a los desarrolladores tal y como los conocemos hoy.

[#3 hackerman]

En 2 semanas está ia encontró como destruir el mundo a través de cualquier sistema informático...¿Os acordáis cuando el gobierno de EEUU quería que esta gente trabajase para ellos en secreto? Pues ya sabéis porque...