Hace 8 años | Por silosenovengo a arstechnica.co.uk
Publicado hace 8 años por silosenovengo a arstechnica.co.uk

Un algoritmo de aprendizaje "ridículamente optimista" es una "completa mierda", dice un experto. SKYNET vigila masivamente la red de teléfonos móviles de Pakistán y después aplica un algoritmo sobre los metadados de 55 millones de personas para clasificar la posibilidad de cada uno de ser terrorista. Entre 2.500 y 4.000 personas han muerto por los ataques de drones norteamericanos en Pakistán a supuestos "terroristas".

Comentarios

D

#7 Si fueras paquistaní te diría que ni se te ocurra apagar el móvil.

kolme

#7 Hasta siempre@serioussam, ha sido un placer conocerte.

RamonMercader
andando

#7 normal que te investiguen.
Tío, vete de meneame que nos van a acabar pillando a todos

D

#7 Ellos noooooooooooo, aqui ya tenemos nuestros propios fascistas.

D

#7 Procesando información...

Neochange

#7 malditos terroristas de ISIS a sueldo. Cuanto os pagan por venir a comentar?

D

#41 este mes no he cobrado aún, porque Braintree está investigando si mi actividad es fraudulenta.

Aviso:
No es buena idea utilizar el panel de administración para hacer cargos a la tarjeta de un cliente, ni aunque el cliente esté de acuerdo.

Parece sospechoso, así que lo investigan (lo que significa tener los fondos retenidos).

Volviendo al tema de la pregunta, a mí lo que me convenció fue lo de las vírgenes en el paraíso.

ElPerroDeLosCinco

#7 Lleva puesto el gorrito de aluminio todo el rato. No te lo quites ni para dormir. Si te matan, ¿puedo quedarme con tu karma?

D

#44 me gustaría que me enterrasen con mis bienes más preciados, incluido mi karma...

En una pirámide a ser posible.

Pero supongo que como sospechoso de terrorismo me tirarán a un matorral a que me coman los lobos, así que sí.

Quédate con mi karma.

Rorschach_

#7 Si vas por la calle y notas un pinchazo hazte cargo de en que mes estamos...

silosenovengo

#13 El mejor y más útil comentario de este hilo de momento es el #19, depabliciuspablicius

Corred a leerlo y temblad.

D

#19 Cualquiera que sepa algo de Aprendizaje automático sabe que no se pueden usar los casos de entrenamiento para confirmar la calidad del aprendizaje. Son datos "sucios". Si está hecho así a parte de ser criminal el objetivo, está hecho con el puto culo. Y con esos casos de aprendizaje me parece difícil conseguir una tasa de acierto del 99.992%.

xenko

#31 decir que tu método tiene una tasa de aciertos positivos del 100%, con sólo 7 muestras positivas también tiene cojones.

D

#6 La verdad es que para eso me fio más de un ordenador que de un humano

Varlak_

#29 llamame loco, pero yo me fio mas de un juez para eso de las penas de muerte.

JohnBoy

#6 La gente en Pakistán on son personas. Y hay muchos. Hay de sobra.

Por eso es más eficiente dejar toda la cadena de acontecimientos en manos de una inteligencia artificial, desde la elaboración de listas de sospechosos hasta pasar las órdenes de ejcuciçon a un dron autónomo.

Así no hay margen para el error con confusiones como la tuya, que podría tener cualquier otro humano al piensar que lo que hay al otro lado del mundo también son personas.

C

Este es el código fuente de ese algoritmo:

dankz

Si esto es cierto es una de las noticias más estupidamente aterradoras de los últimos años. Estarían practicamente disparando a voleo. Si se ha sido vecino de un terrorista ya te pueden estar marcando con un misil.

Neochange

#10 “Todos los que corren son vietcong. Todos los que se paran son vietcongs. Comunistas obedientes”.

Varlak_

#42 Es un poco como el maleus maleficarum de la inquisicion:
Si la torturamos salvajemente y admite que es una bruja, entonces es obviamente una bruja.
Si la torturamos salvajemente y no admite que es una bruja, es obviamente porque usa sus poderes de bruja para resistir.

r

Esto es coña no? Vaya trolls que hay en la Nasa para ponerle skynet

Varlak_

#34 No se si me parece mas increible la noticia en si o el nombre...

Nova6K0

Este es uno de los motivos de que el programa que haría algo muy similar en Europa INDECT esté paralizado. El mero hecho de dar un falso positivo ya es suficiente para cancelar un programa de este tipo o debería serlo.

Salu2

O

¿Alguien ha visto El Capitán América 2: Soldado de Invierno?

Pues se ha hecho realidad con esto. Hydra es la NSA.

C

#24 este es su nuevo logo

D

#24 Estaba pensando justo en lo mismo

Heil NSA!

Rorschach_
D

Esto es de chiste lol A todos los niveles.

dphi0pn

#1 De película, a mi gracia no me hace la verdad

D

#1 Por desgracia no es un chiste, es una triste realidad, la mayor organización terrorista la CIA, el mayor pais terrorista EEUU.

D

#1 No se que te hace tanta gracia

Varlak_

#47 el nombre del programa

Imag0

No tengo tiempo de leerla ahora, asi que...

Volveré.

D

Esto de matar a la gente por ordenador no es nuevo.

Hubo un virus que usaba los PCs infectados para enviar porno infantil. Los afectados no tenían ni idea, pero los jueces no se lo creyeron. Miles de personas fueron condenadas en USA a penas de prisión bastante fuertes. La gente juzgada perdieron como mínimo sus trabajos. Hubo bastantes suicidos.

Cabre13

#20 ¿Qué virus es ese?
Que lo que has contado ha pasado pero no me suena lo de los miles de afectados.

Sheldon_Cooper

#22 Pos si, yo recuerdo un caso que hasta el FBI testificó a su favor, diciendo que tal como estaba almacenado el contenido era casi imposible que el lo hubiera descargado voluntariamente o algo del estilo. Pero pensaba que solo era uno o dos casos.

Cabre13

#32 Es que pasar ha pasado, pero no como lo ha contado el otro.
Que es lo que he dicho antes.

D

Todos los antivirus dan falsos positivos. Es normal.

l

¿Me estáis diciendo que usan minería de datos cómo único criterio para bombardear civiles? No me lo creo. Es demasiado gordo como para que no sea portada en el mundo entero.

Pablosky

#36 si hacen bien su trabajo (que eso es mucho suponer) podria ser una parte de la criba inicial.

Sí lo hacen mal o quieren recortar gastos entonces nadie revisará nada.

La persona que decide si se hace de una manera u otra no tiene que rendir cuentas ante casi nadie, su trabajo es secreto y sus jefes son potenciales psicópatas.

Mola.

D

#36 Pues es lo que hay. Es a lo que hemos llegado en esta sociedad de psicópatas y gilipollas aborregados

C

O sea que el argumento de Capitán América: El soldado de invierno, sobre el algoritmo Insight no es tan fantasioso que digamos.

vet

Te lo diiiiiiiiiiiije
Te lo dije tres veces.
Te lo dije Salvation
Te lo dije Genysis
Y tú erre que erre.

D

Me la guardo para leerla con tranquilidad, porque he alucinado un poco con el párrafo de entrada.

capitan__nemo

Lo que haran no es matarlos sino vigilarlos mucho mas allá de los metadatos. ¿Un juez validaria una vigilancia mas exhaustiva en base al resultado del algoritmo?
¿Un juez si el pais está en estado de emergencia como en Francia en este momento?
¿En estado de emergencia o alerta no necesitan un juez?

Pinchado de las llamadas con conversaciones completas, correos electronicos y mensajes completos, movimientos completos, micros en su casa en su trabajo, seguimientos, ...

¿Las primeras opciones cuanto refinarian la busqueda y reducirian la muestra? (sin lo de los pinchazos en casa y trabajo que requeriría mas personal, solo con los datos que pueden recopilar en remoto)

Bueno, en remoto les podrían meter un troyanazo gubernamental como una casa y este serviria de micro. Despues deberian rastrear todos los moviles que han estado cerca, no solo los de las llamadas de los metadatos.

¿De 15.000 que es el 0,008 % de los pakistanies a cuanto son capaces de reducir la muestra con mayor investigación exhaustiva?

¿Han empezado ya a despedir analistas y agentes en Langley? Claramente no se necesitan tantos, se necesita gente en el terreno para verificar los falsos positivos de forma exhaustiva.

¿Otros usos aparte de encontrar terroristas?
¿Detectar psicopatas y potenciales riesgos entre el personal de la nsa, departamento de estado, personal gubernamental, generales, coroneles, políticos, ...?
¿Detectar inutiles integrales en puestos de responsabilidad?
¿Corruptos entre politicos, funcionarios y empresarios corruptores?
¿Corruptos en el sector privado?
¿Consejos y juntas directivas de corporaciones fortune 500?
¿Para hacienda o el irs los que estarán evadiendo en Caiman o Suiza?
¿Los narcotraficantes?
¿Traficantes de armas?
¿Banqueros e inversores inutiles y terroristas que pueden montar entre todos una estafa subprime?
...

capitan__nemo

Claro que tambien se podrian desarrollar un monton de medidas de contrainteligencia para esto.
Inventarse personas o testaferros que no son realmente terroristas, y quizas ellos tampoco saben que les están metiendo en un tinglado y hacer que suban sus indicadores de probabilidad en metadatos. (ataque de inyección de metadatos)

Me recuerda al asunto de "Red de mentiras" https://es.wikipedia.org/wiki/Red_de_mentiras en la que meten a uno que no tenia nada que ver con los terroristas, como implicado en base a unos correos electronicos con metadatos falsificados, unas reuniones que acuerdan en los lugares donde se producian atentados, unas llamadas.

Tambien tenemos los casos tipo George Kaplan en "Con la muerte en los talones" https://es.wikipedia.org/wiki/North_by_Northwest y unas cuantas con tematica similar que ha habido desde entonces.
Incluso "La red 2" https://en.wikipedia.org/wiki/The_Net_2.0 (malilla pero bueno encaja)

"Cycle beating" a estos sistemas pensando en los metadatos e informaciones que usarian.
Un algoritmo consigue reducir la delincuencia en Los Ángeles/c35#c-35

En fin, contrainteligencia.
Snowden: 'El GCHQ puede controlar cualquier móvil con Smurf Suite'/c50#c-50

D

>apagando móvil y desconectandole la batería...
>hecho
>borrando discos duros sumergiendolos en agua, para posteriormente meterlos en un bidon con ácido y luego meterles fuego, junto con el móvil...
>hecho
>cambiando cirugía facial...
>hecho


Skynet encuéntrame ahora

D

Me imagino al pobre comercial que hace un barrido de contactos, suministrados por su empresa, que previamente ha comprado el 'mailing' de algún suministrador y, ¡zasca! le cae el fin del mundo en la cabeza. La hostia

Findopan

Lo que significa que pueden matar a quien les de la gana, solo tienen que introducir después su nombre en los registros ¿quién lo va a saber? de todos modos es alto secreto y al fin y al cabo en Oriente Medio pueden hacer y hacen lo que quieren sin sufrir consecuencia alguna.

D

También podría estar mandándoles ramos de flores.

Esfingo

¿No había más nombres?