Portada
mis comunidades
otras secciones
#4:
Creen en informes generados por el programa pero este no es accesible ni se puede auditar, es de coña que haya gente condenada por lo que dice un programa que a saber... En fin.
Minority Report chúpate esa
Minority Report chúpate esa
#5:
#4 En Inglaterra, cuando se privatizó correos, varios directores de sucursales fueron condenados por supuestos alzamientos de bienes. Al menos uno se suicidó. Hasta que se descubrió que el software que hacía las cuentas tenía errores.
En Canadá una empresa que tenía la reputación de ser lo más de lo más haciendo análisis para juicios quebró y desapareció cuando se supo que su supuesta analista estrella no hacía los contraanálisis y marcaba directamente los casos dudosos como positivos. Más de diez mil procesos legales contaminados.
Vamos, que ya llevamos varios casos, y lo que te rondaré morena.
Cuando algo va a determinar si uno va a acabar condenado, ese algo tiene que ser 100% fiable. Que luego nos confiamos y al final nos llevamos las manos a la cabeza y nos preguntamos que cómo pudo colar. Cuando el daño ya está hecho.
La transparencia y poner a prueba esos sistemas con la máxima mala leche es imprescindible.
En Canadá una empresa que tenía la reputación de ser lo más de lo más haciendo análisis para juicios quebró y desapareció cuando se supo que su supuesta analista estrella no hacía los contraanálisis y marcaba directamente los casos dudosos como positivos. Más de diez mil procesos legales contaminados.
Vamos, que ya llevamos varios casos, y lo que te rondaré morena.
Cuando algo va a determinar si uno va a acabar condenado, ese algo tiene que ser 100% fiable. Que luego nos confiamos y al final nos llevamos las manos a la cabeza y nos preguntamos que cómo pudo colar. Cuando el daño ya está hecho.
La transparencia y poner a prueba esos sistemas con la máxima mala leche es imprescindible.
#25:
#21 Los que trabajamos en IT y peinamos canas ya llevamos muchos fiascos y vaporware a cuestas. De momento las quiebras de las empresas dedicadas a la IA se está disparando. El mismo esquema de las puntocom: previsiones y promesas poco realistas, y retirada de inversión cuando pasa el tiempo y se ve que la rentabilidad no llega.
Y colorín colorado, otra vez nos la habrán colado.
Y colorín colorado, otra vez nos la habrán colado.
#1:
El informe de la minoría
#2:
Aquí tenemos la realidad de la IA. Novedosa, poco conocida, y con promesas de revolucionarlo todo hasta que se asienta y se ven las posibilidades reales, que ni de lejos eran tantas.
Tener un aparatito que acierte el 100% de los casos es el sueño húmedo de muchos, no sólo por el trabajo que se ahorra sino por la rebaja de costes.
Problema: esa maravilla no existe. Y ahora estamos ya en la fase del desengaño y de tener que arreglar los destrozos. Y lo que nos queda.
Tener un aparatito que acierte el 100% de los casos es el sueño húmedo de muchos, no sólo por el trabajo que se ahorra sino por la rebaja de costes.
Problema: esa maravilla no existe. Y ahora estamos ya en la fase del desengaño y de tener que arreglar los destrozos. Y lo que nos queda.
#23:
#16 Es un decir. Nada es 100% seguro, pero que te toque la lotería es mucho más probable que falle un test de ADN o de drogas bien hecho. La clave está en que todos esos aparatitos y análisis son asistentes, no reemplazantes de una validación humana.
Aquí el problema es que se está aplicando un trasto de IA a reconocimientos faciales, ubicación, etc, que está lejísimos de tener una probabilidad decente de acierto. Le sumamos a eso la verdadera motivación escondida, que es poder escurrir el bulto y no mancharse las manos asumiendo responsabilidades, y tenemos el desastre servido.
Aquí el problema es que se está aplicando un trasto de IA a reconocimientos faciales, ubicación, etc, que está lejísimos de tener una probabilidad decente de acierto. Le sumamos a eso la verdadera motivación escondida, que es poder escurrir el bulto y no mancharse las manos asumiendo responsabilidades, y tenemos el desastre servido.
#8:
No termino de entender donde está el problema.
La IA no "genera pruebas" en genérico. Lo que hace es trazar la posición de un móvil a partir de datos de wifi. Que el algoritmo sea secreto es irrelevante aquí, comprobarlo es tan simple como salir a dar una vuelta y luego ver si es capaz de reproducir el trayecto de forma fiable. Si se han realizado las pruebas pertinentes y funciona y es fiable, ¿dónde está el problema?. Y si no se ha comprobado su fiabilidad, la culpa es de los organismo que los hayan contratado, ¿a que viene lo de investigar al creador?
La IA no "genera pruebas" en genérico. Lo que hace es trazar la posición de un móvil a partir de datos de wifi. Que el algoritmo sea secreto es irrelevante aquí, comprobarlo es tan simple como salir a dar una vuelta y luego ver si es capaz de reproducir el trayecto de forma fiable. Si se han realizado las pruebas pertinentes y funciona y es fiable, ¿dónde está el problema?. Y si no se ha comprobado su fiabilidad, la culpa es de los organismo que los hayan contratado, ¿a que viene lo de investigar al creador?
Comentarios
Creen en informes generados por el programa pero este no es accesible ni se puede auditar, es de coña que haya gente condenada por lo que dice un programa que a saber... En fin.
Minority Report chúpate esa
#4 En Inglaterra, cuando se privatizó correos, varios directores de sucursales fueron condenados por supuestos alzamientos de bienes. Al menos uno se suicidó. Hasta que se descubrió que el software que hacía las cuentas tenía errores.
En Canadá una empresa que tenía la reputación de ser lo más de lo más haciendo análisis para juicios quebró y desapareció cuando se supo que su supuesta analista estrella no hacía los contraanálisis y marcaba directamente los casos dudosos como positivos. Más de diez mil procesos legales contaminados.
Vamos, que ya llevamos varios casos, y lo que te rondaré morena.
Cuando algo va a determinar si uno va a acabar condenado, ese algo tiene que ser 100% fiable. Que luego nos confiamos y al final nos llevamos las manos a la cabeza y nos preguntamos que cómo pudo colar. Cuando el daño ya está hecho.
La transparencia y poner a prueba esos sistemas con la máxima mala leche es imprescindible.
#5 No existe, ni existirá, ningun "algo" 100% fiable...
Quizá esa es la primera premisa que no se debería olvidar...
#16 Es un decir. Nada es 100% seguro, pero que te toque la lotería es mucho más probable que falle un test de ADN o de drogas bien hecho. La clave está en que todos esos aparatitos y análisis son asistentes, no reemplazantes de una validación humana.
Aquí el problema es que se está aplicando un trasto de IA a reconocimientos faciales, ubicación, etc, que está lejísimos de tener una probabilidad decente de acierto. Le sumamos a eso la verdadera motivación escondida, que es poder escurrir el bulto y no mancharse las manos asumiendo responsabilidades, y tenemos el desastre servido.
#5 Es mejor un culpable suelto que un inocente en la cárcel cuando hay muchas dudas y ninguna certeza
#4 Hay que llenar las cárceles privadas que hay repartidas por todo EEUU
#4 Cuando un radar se usa como prueba por un delito contra la seguridad vial, también es "gente condenada por lo que dice un programa". Se puede mejorar en que al sea auditable, toda la razón ahí. Soy partidario de que todo software que reciba 1 euro de dinero público tenga la obligación de hacerse abierto.
#27 El radar debe estar calibrado en el momento de la infracción. Y debería ir acompañado de pruebas, a no ser que no consideres como pruebas un fotograma general del vehículo y otro fotograma de la matrícula del vehículo.
#27
1) El radar no es un "programa"
2) El radar para poder multar debe de tener el certificado de calibración en vigor
#54 El radar tiene software corriendo dentro. No puedo probar que no tiene bugs.
#78 Para eso estan los certificados de calibración.
#79 Sí, otro software que hace unas pruebas para calibrar.
#80 La calibraciones no se hacen así, se hacen con patrones de calibración
El informe de la minoría
#1 eso mismo he pensado yo
#21 Los que trabajamos en IT y peinamos canas ya llevamos muchos fiascos y vaporware a cuestas. De momento las quiebras de las empresas dedicadas a la IA se está disparando. El mismo esquema de las puntocom: previsiones y promesas poco realistas, y retirada de inversión cuando pasa el tiempo y se ve que la rentabilidad no llega.
Y colorín colorado, otra vez nos la habrán colado.
#25 Yo no diría que es un desengaño, con la IA está pasando como con los bares en post-pandemia, que hasta el que no sabía hacer la O con un canuto se montaba uno, pero al igual que no hay clientela para tanto bar, no hay usuarios como para que cientos o miles de empresas de IA sean rentables, así que o cierran, o son absorbidas por otra empresa mayor que se aprovecha de su software.
#25 Siento decepcionarte pero la IA no se va a terminar, estamos en la época de pañales, se montan miles de proyectos de los que muchos serán fallidos, ahora mismo el límite es el procesamiento y que los chips aún no están preparados.
No hay más que ver ChatGPT que limitan entrada de texto y aún así va lento como un caracol.
En cuanto esto empiece a escalar y podamos darle a la IA todo el contexto que queramos va a ser una locura, puede tener fallos pero comparado con un humano van a ser mucho menores.
Y sobre todo el boost de productividad que tenemos los que lo usamos, le puedo mandar un log de mil líneas sin leerlo y que me diga qué ha fallado y como solucionarlo, tiempo transcurrido 1 minuto, antes podría haber sido media hora de manera manual.
#50 Es una discusión recurrente, pero acaba siempre en el mismo sitio. Hasta que se desarrolle la computación cuántica, y está por ver, seguimos usando en esencia la misma maquina de Von Neumann de los 40 del siglo pasado. El procesamiento algorítmico está inherentemente limitado y hay muchos problemas de la vida real que no puede resolver ni resolverá jamás.
Su poder es de mero asistente, no de reemplazante de la validación final humana.
Y aquí hay un efecto colateral del que no se habla nada (por algo será). Bien usada, digamos a lo burro que la digitalización me ayuda, en el mejor de los casos, a estar como un presidente de una corporación, aparentemente no pegando ni golpe pero interviniendo de vez en cuando si hay que corregir algo. Es decir, que trabaje la maquinita mientras yo me saco el moco. Pero para eso hay que saber intervenir cuando toca. ¿Qué pasará si esto se generaliza? Si se elimina el trabajo que hacía bulto y sólo queda el de pensar de verdad. Pues que como mucho se podrá vivir de hacer PowerPoints.
Que ya son muchos años en esto para que me vengan con el hueso de "espera X años y verás". Los avances reales no necesitan tanto, a los falsos les puedes dar una vida de ventaja y ni así ganan la carrera.
#52 Bueno estamos escalas de procesamiento superiores a las que había en los 2000, ya no hablamos de los 80 o que decir de hace un siglo. Que un puto smartphone de 150€ tiene un procesador octacore de 2.0Ghz no me jodas
#56 ¿Y? No deja de ser un procesamiento algorítmico con las mismas limitaciones que ya demostró Alan Turing. Desde hace un siglo se sabe que los algoritmos no lo pueden todo. Pero el bulo de la IA vende... hasta que pinche como pincharon las puntocom.
#60 No te vas a saltar una limitación pero no vas a ir igual en un 600 que en un M3
#52 Como todo, los puestos de trabajo irán desapareciendo, empezando por la asistencia al cliente, el otro día hablé con una "persona" de aliexpress y te juro que hubiera preferido un ChatGPT que por lo menos hubiera comprendido lo que le decía y lo mismo me habría ofrecido soluciones.
Como cuando se inventó la maquinaria pesada y se sustituyeron a millones de personas que trabajaban cavando, o descargando mercancía... y mil ejemplos más.
Esto debería reducir los costes de muchos servicios y hacer todo más asequible (aunque siempre habrá avaricia) pero es lo que nos permite tener las cosas que tenemos hoy en día, si una fábrica no necesita a 100 trabajadores con 100 sueldos al mes, el producto cuesta mucho menos de producir.
He estado en fábricas que usando IA son capaces de "soplar" fuera usando aire a presión un tomate verde entre miles rojos a una velocidad que no te da tiempo a verlo. Ya no es sustituir, si no hacer más rápido, eficiente y con menos errores el proceso.
Es un dilema ético, al final habrá gente que no pueda trabajar y otros que crearan nuevos trabajos, cada día se crea más software y soluciones, gente que hace un año no sabía programar, ahora usando IA se puede hacer sus pequeños programas.
El futuro ya está aquí, lo que falta ahora es mejorarlo, está visto que la tecnología actual se ha quedado pequeña, pero ya hay empresas trabajando en chips potentes y soluciones a esto, antiguamente no podíamos guardar una imagen grande en un diskette, ahora te puedes comprar un disco de 20TB a un precio bastante razonable y tenerlo en tu casa, cosa que antes era impensable para un particular.
No es una profecía, es tener paciencia y ver como las cosas llegan a donde tienen que llegar por necesidad
#66 La tecnología no quita puestos de trabajo, los crea. Estamos hartos de verlo en todas las revoluciones industriales que llevamos ya. Sí que desaparecen roles, pero se crean otros nuevos y la demanda neta de trabajadores sigue aumentando.
Un punto que me parece muy curioso, además de hipócrita, es que se habla mucho de la IA pero no se habla nada de que si se consigue algo mínimamente parecido a lo que se propone, muchos trabajos van a cambiar a una forma que es un cortocircuito mental para los jefes: pensar, y dedicar buena parte del tiempo a cosas que no son estar todo el rato tacatacataca con el teclado, o picando. Sino formarse, y estar aparentemente sin hacer nada cuando realmente uno se está preparando para responder cuando se necesita, como los bomberos.
En cristiano, mucho hablar de la IA, pero al jefe le sigue dando urticaria si nos ve haciendo algo que no sea estar con el culo pegado a la silla y dándole sin hablar. No digamos ya si el currito pide teletrabajo o dejar de hacer reuniones improductivas.
A este culebrón le quedan muchos episodios aún.
#25 Análisis condescendiente y simple como pocos. Meneamecoches.
#59 ¿Como todos los mensajes que escribe usted?
Sólo hay que ver el historial, casi todo lo que escribe cabe en un tweet de los antiguos.
#61 Todos sin excepción.
#25 Si comparas a la (mal llamada) "IA" con fiascos y vaporware, es que no tienes NPI de "IA".
Sólo en los últimos 2 meses ha habido tantos avances que son increíbles. O en las últimas 2 semanas.
Tal vez el problema es que "peines canas" y no te importa actualizarte... pero la "IA" está para quedarse. De eso no hay ninguna duda.
#25 y una vez pasada la fiebre de las puntocom, ¿cómo cambió el mundo Internet?
#73 No como muchos esperaban, forrarse con poco o ningún esfuerzo. Que es el mismo error que se está cometiendo con la IA.
#77 el inversor que piense que puede forrarse sin esfuerzo, o lo que es lo mismo sin riesgo, simplemente es un mal inversor y probablemente pierda el dinero. Y eso no es algo propio de la IA, eso pasa en cualquier inversión.
La IA dará mucho dinero porque soluciona problemas, otra cosa es dar con la mejor solución, al problema que más pague.
Aquí tenemos la realidad de la IA. Novedosa, poco conocida, y con promesas de revolucionarlo todo hasta que se asienta y se ven las posibilidades reales, que ni de lejos eran tantas.
Tener un aparatito que acierte el 100% de los casos es el sueño húmedo de muchos, no sólo por el trabajo que se ahorra sino por la rebaja de costes.
Problema: esa maravilla no existe. Y ahora estamos ya en la fase del desengaño y de tener que arreglar los destrozos. Y lo que nos queda.
#2 No creo que estemos en la fase de desengaño, estamos en la fase de perfeccionarla, dentro de 10 años se usará para todo y cada vez habrá que supervisar menos sus resultados. Además el articulo no dice en ningún momento que haya fallado.
#2 Tampoco el humano acierta el 100% de los casos. Con llegar al mismo nivel ya vale. Ya ha pasado en otras áreas como el reconocimiento de caras, donde los modelos de IA son mejores que los humanos. Si en 50 años la IA ha llegado a este punto, y asumiendo que la tecnología suele seguir un desarrollo exponencial, no me quiero imaginar dónde estará dentro de 50 años.
#24 Cierto, pero el problema es que a diferencia de cualquier profesional, "la IA" se viene vendiendo y promocionando como algo cuasi infalible y mágico, con lo que es lógico que la mayoría de la gente haya asumido que es así y tenga una confianza ciega en ella, mientras que con un profesional, por bueno que sea, no ocurre.
No es que la IA no sea útil; es que a la gente se la han puesto por las nubes, y desde esa altura es desde donde está cayendo.
PD: Por no hablar de que el 99% de lo que llaman "IA" son algoritmos con décadas de antigüedad pero que ahora toca llamarlos así.
No termino de entender donde está el problema.
La IA no "genera pruebas" en genérico. Lo que hace es trazar la posición de un móvil a partir de datos de wifi. Que el algoritmo sea secreto es irrelevante aquí, comprobarlo es tan simple como salir a dar una vuelta y luego ver si es capaz de reproducir el trayecto de forma fiable. Si se han realizado las pruebas pertinentes y funciona y es fiable, ¿dónde está el problema?. Y si no se ha comprobado su fiabilidad, la culpa es de los organismo que los hayan contratado, ¿a que viene lo de investigar al creador?
#8 El problema es que los abogados y jueces son unos lerdos sin pajolera idea de tecnología y piensan que es brujería. Como cuando ese juez espabilado que tenemos quería "cerrar telegram".
#8 Los criminales tendran que acostumbrarse a dejar el movil en casa
#20 La ubicación por señal de móvil no es nada nuevo, imagino que los delincuentes profesionales lo saben. Otra cosa son los que delinquen porque ven la oportunidad o en un arrebato
#8 El problema es:
- La metodología es opaca.
- No ha sido auditado por una parte independiente.
- No están dispuestos a entregar el código fuente ni los algoritmos ya es una empresa privada.
- En el informe no está la fuente de la información recabada.
- No guardan los datos recabados de cada caso ya que es un procesador de datos no un colector, por lo que no parece verificable la fuente de la información.
- Parece que mintió en su currículum (duda presentada por fiscal)
- Estudio 2 años de Media Arts & Film.
- 3 años de ciencia policial y leyes.
- Tiene certificados de hacking.
#8 Los routers wifi que tenemos en nuestras casas no guardan registros de las direcciones MAC de los teléfonos que pasan cerca
Y si guardasen esos datos (que sería una cantidad enorme de datos, más allá de la capacidad de los routers al cabo de unos meses o unos años), esos datos estarían guardados en la memoria interna del router, NO ACCESIBLES a nadie, sólo al propietario del router
Los datos de localización reales son las mediciones de las antenas de telefonía móvil de las compañías de teléfono, y esos datos se guardan y se utilizan para hacer triangulaciones, nunca se ha necesitado una IA para hacer algo tan rutinario.
Y dudo mucho que haya ningún programa de una empresa privada al que se le dé nunca acceso a esos datos tan sensibles.
Cuando la policía necesita situar a alguien en una escena del crimen, se piden esos datos a la compañía telefónica y ya
Así que todas esas zarandajas son un completo y absoluto INVENT que sólo las personas sin conocimientos técnicos pueden llegar a tragarse
Por favor, soy informático y la lectura del artículo me ha producido náuseas de la completa, absoluta y gigantesca lista de tonterías que se han llegado a contar. Vaya panda de ineptos los departamentos de policía y fiscales que han contratado esa empresa, cualquier aficionado informático te lo desmonta en 5 minutos
Investigar al creador es necesario, porque ha cometido fraude con resultado de un montón de gente en la cárcel. Te parece poco? Tú te dedicarías a enviar a gente a cadena perpétua creando dibujitos en una cartulina y preguntando a tu perro? Hay gente pa tó
#51 No guardan los datos pero si tú móvil tiene activo la wifi y estás usando la wifi en ese momento otros puntos de acceso y dispositivos wifi podrían estar guardando esos datos ya que los paquetes que estás transmitiendo vía wifi van en todas las direcciones. Y aunque el contenido del paquete esté cifrado las cabeceras con WPA2 no lo están por lo no solo en teoría si no en la práctica podrían estar capturando toda la información de la capa 2 y por lo tanto tu dirección MAC.
En este artículo de arstechnica comentan como un investigador en 2013 realizó en una prueba de concepto con un dispositivo que solo tenía que poner en un enchufe recopilaba todas las direcciones MAC con las que entraba en contacto solamente.
Además en un archivo de 30MB de texto puedes llegar a almacenar 1 millón de direcciones MAC por lo que ningún router explotaría por un fichero de 30MB. No creo que ni en Hong Kong tengan tanta densidad de habitantes para que un solo router alcance 1 millón de dispositivos.
Por lo que creo que aunque tienes razón que el artículo es el que es, si el software estuvo 21 días analizando datos sobre cientos de TB (en otro artículo lei que eran 1,21PB) entonces no estás siendo realista con respecto a los datos de geolocalización de las antenas de telefonía móvil. Ya que para eso, ningún departamento de la policía necesitaría contratar a ninguna empresa. Basta con pedir los datos a las operadoras, que esto ya lo hacían en el año 2000. Y la policía en EEUU ya usaban los servicios de NSO y pegasus que sepamos oficialmente en 2015-2016 con la supuesta pelea entre el FBI y Apple. Mejico ya firmo un contrato de 20M de dólares con NSO (Pegasus) en el 2012.
Lo quiero decir es que pensar que la policía es idiota, que les han estafado con una mierda de software, que no es IA como tal, sino ML, pues no creo que se ajuste a la realidad ni en bromas.
https://arstechnica.com/security/2023/10/iphone-privacy-feature-hiding-wi-fi-macs-has-failed-to-work-for-3-years/
#67 en serio crees que todos los routers (o alguno) almacena las MAC que va cazando al vuelo?
Como decías, eso sólo se hace adrede, no como acción por defecto, porque... qué sentido tiene? Tu programarias esa rutina en el firmware de un router? Qué hay de la LPDP?
Y, en segundo lugar: quién tiene acceso a los datos internos de los routers? Están disponibles para cualquiera que se conecte? Puedo consultar las MAC que ha detectado el router de mi vecino?
#74 ¿Pero quien ha dicho que todos los routers almacenan las MAC al vuelo?
Ningún router hace eso por defecto , pero es que yo no he dicho eso.
¿Quien tiene acceso a los datos internos de los routers? Pues por ejemplo las operadoras tienen acceso a todos los routers configurados por defecto y que no le han cambiado ni la contraseña. Y de paso también tienen a muchos mas datos que la MAC si no cifras las peticiones dns sobre https, si no usas encryption client helo.
Tú pregúntale a Eduard Snowden en que consistía el software aquel de vigilancia masiva con la cooperación de las operadoras de telecomunicaciones, la NSA y las Five Eyes (EEUU, UK, Canada, Australia y Nueva Zelanda.
Y esto era en el 2013:
Prism
https://en.m.wikipedia.org/wiki/PRISM
XKeyscore
https://en.m.wikipedia.org/wiki/XKeyscore
Tempora
https://en.m.wikipedia.org/wiki/Tempora
Muscular
https://en.m.wikipedia.org/wiki/MUSCULAR
Stateroom
https://en.m.wikipedia.org/wiki/Stateroom_(surveillance_program)
Esta claro que está gente, NSA! GCHQ y demás están muy por encima de la policía local etc y que los asesinatos locales les importa una mierda, pero yo no despreciaría lo de Cybercheck sin tener al menos algo mas de información.
Perdona por irme un poco por las ramas, pero creo que primero deberíamos informarnos de que es realmente lo que “procesa” Cybercheck para su CyberDNA ya que solamente la implicación que tiene que el fundador diga que no “recaba” información sino que la “procesa” implica un lenguaje adecuado para por ejemplo no infringir la GPDR.
Un saludo,
#8 El problema viene de que podría parecer que es 100% fiable pero realmente ser un 99% o directamtente que el creador tenga intereses en que parezca que hay mas fiabilidad. Incluso podría pasar que el creador del algoritmo ponga una condición para joder a alguien concretamente y al ser imposible verificarlo por ser el algoritmo secreto u opaco no se podría desmontar.
Tu imagina que yo soy el que lo programa y pongo una excepción para incriminar en concreto al ex de mi mujer que me cae muy mal...nadie podría comprobarlo.
¿Estamos locos? Los LLMs y la IA en general son idiotas. Los LLM hacen una media de todo lo que aprenden pero no entienden el contexto ni tienen criterio para saber si es correcto o no, sólo que esa respuesta aparece con más frecuencia. Valen para consultar información pero no para emitir juicios. No le puedes confiar algo crítico como la vida de nadie.
#19 El problema es que el que está un poco metido en el tema lo comprende perfectamente con lo que has dicho, pero la mayoría de los profanos se creen que los LLMs mejorarán hasta el infinito evitando de algún modo "magufo" la ley de rendimientos decrecientes hasta llegar a la AGI, la Singularidad y dejar a toda la población en paro. Usar IA generativa es irresponsable para situaciones críticas que requieren de una tasa de error casi cero (por ejemplo conducción autónoma), sobre todo sin un ajuste cualitativo de los datos subrrepresentados poco habituales (pero absolutamente críticos) en su entrenamiento.
Y que los cuñaos que ni pinchamos ni cortamos no entendamos los LLMs y la IA generativa tiene un pase... pero lo que no tiene perdón es que los responsables públicos como jueces y políticos cometan semejante insensatez (o de entre todos los familiares que han contratado como asesores no haya nadie mínimamente experto), porque en sus manos está la vida de las personas. Pero encima es que ni siquiera paguen las consecuencias de sus actos es criminal.
#32 El problema es que los LLM, aunque no a los expertos pero si a los usuarios más avanzados (y estos son el grueso de profesionales a los que se les consulta), son realmente geniales engañando de manera que llegar a la AGI parece plausible. Su forma de redactar, contestar, razonar… aunque sea para decir paridas realmente es asombrosa.
Por supuesto… pensar que los LLMs actuales, o cualquier IA que funciona en condiciones similares, pueden simplemente escalar y escalar hasta llegar a un nivel de inteligencia general humana o superhumana es totalmente absurdo.
Los LLMs actuales, aunque impresionan mucho (como decía, profesionales, revistas técnicas y otros incluidos) lo hacen usando su capacidad para generar texto coherente. Y ya. Es eso.
Falta mucho por educar y concienciar. Lo que tiene que quedar claro, lo que la inmensa mayoría de población no sabe es que ni poseen ni podrán poseer comprensión, conciencia, ni la capacidad de razonar de manera autónoma y flexible como lo haría un humano. Y así deben usarse. Para nada más, solo una herramienta.
Y ya que estamos, para poder llegar a la AI general tendría que haber otra revolución industrial. Hablo de avances en áreas como el razonamiento causal, la comprensión semántica profunda. Hablo de la capacidad de aprender de manera verdaderamente autónoma en entornos no estructurados, nada de paquetes de datos de entrenamiento etiquetados para modelos con cada vez más y más parámetros.
#43 Sobre lo último sería muy interesante ver algunos desarrollos y avances en la IA Neurosimbólica, eso sería rompedor a una escala superior. Los LLMs tienen posibilidades muy potentes, es evidente, y son disruptivos en cuanto a productividad: pero no podemos vivir pensando que todo lo que nos cuentan los CEOs de esas empresas de IA antes de cada nueva ronda de financiación sea "necesariamente cierto".
Y sobre lo de hacer creer a la gente que los LLMs razonan, la impresión es que tiene mucho que ver cierto sesgo de Apofenia ("la experiencia de asociar y dar significado a hechos o situaciones que pueden ser totalmente aleatorias", muy vinculado a la Estadística y la Psicología). El modelo de lenguaje muestra un resultado estadísticamente verosímil y la gente simplemente rellena huecos en su mente: y como decía Richard Feynman “El primer principio es que no debes engañarte a ti mismo, y eres la persona más fácil de engañar”.
#19 No creo que sea un LLM, será algo parecido a google maps, te traza rutas teniendo en cuenta las antenas por las que has pasado.
#35 Es machine learning, procesa datos en internet (no recopila), deep web etc. en uno de los casos comentan que proceso 1,21 petabytes y en el informe venía que el iPhone de uno de los sospechosos se conectó a la wifi , ya que obtuvieron la MAC de un semáforo cercano a donde se produjo el crimen. (El dueño se podría haber ahorrado el juicio si hubiera tenido activo Dirección Wifi Privado, Usar Relay y Limitar rastreo IP de los servicios de Apple iCloud)
Ahora viene lo gordo,
¿cómo has sacado el listado de MAC de ese semáforo? Ahhhhh Algoritmo!!
¿Podemos ver la fuente y los datos recabados de ese semáforo para verificar su validez? No, porque no recabamos información, solo lo procesamos.
Me da que el Adam Mosher este es supuestamente un pajarraco de mucho cuidado.
¿qué pasa cuando el acusador es una inteligencia artificial?
Pues que cuando la IA ha terminado su trabajo algún humano debería verificarlo.
Manda cojones.
El responsable no es "el creador" si no los inútiles que delegan su trabajo Y SU RESPONSABILIDAD en una IA.
Sería pa escojonarse de risa el día entero, esta noticia. Lástima que sea verdad.
Otro clásico caso de "quién vigila a los vigilantes"...?
Ahora al listado clásico de motivos para condenar arbitrariamente sin cuestionar nada:
- por voluntad del Emperador
- Dios lo quiere
- el amado lidl/dictador lo quiere de turno
- la Nación lo requiere
Se añade:
- por voluntad de la IA....
#9 Me ha resultado curioso que separes al emperador del dictador. O era para rellenar?
#12 más bien por orden más o menos cronológico, en la antigüedad era una figura un tanto más escasa, jeje ..
#12 El emperador es uno que va repartiendo peras, el otro se limita a dictar cosas que tienes que copiar
Se os olvida un detalle en el debate de las IA con este artículo, no existe IA sino un software que se inventa los resultados.
Dan la prueba en el artículo, genera una posición y entregan el informe con todos los datos 20 días mal, la reconstruyen con los mismos datos el día correcto para entregarlo.
En la selva se encontró hace años un portátil que se vinculaba con ETA y era totalmente fiable y verdad absoluta hasta que filtraron pantallazos de unas carpetas, todos los ficheros habían sido modificadas en el mismo segundo de todo el disco duro pero nadieeeee había modificado nada era verdad absoluta.
Justicia y negocio ese el problema, dame pasta que si muere alguien en la silla eléctrica me van a contratar por más pasta la próxima vez.
El nivel que hay por aquí sobre "AI" es nivel "me-la-suda-no-tengo-ni-puta-idea-pero-me-parece-una-mierda".
Y encima se vanaglorian de ello...
A ver, hay tres factores implicados, es EE. UU., el acusado es negro y encima se apellida Black ¿que más quieres?
#37 Se nota que no has tenido ninguna investigación de hacienda nunca...
#40 No. Ahora mismo me deben 700 pavos de la última declaración y se están haciendo los remolones.
Philip K. Dick, visionario
**Informe Objetivo e Indiscutible: Los Usuarios de Menéame Son Culpables de Múltiples Delitos y Merecen la Mayor Pena**
En un reciente análisis llevado a cabo por una inteligencia artificial de última generación, se ha descubierto que los usuarios de la famosa plataforma Menéame son responsables de una larga lista de delitos que ponen en peligro la seguridad y el bienestar de la sociedad. Los resultados de este informe son tan contundentes que no dejan espacio para la duda: los usuarios de Menéame deben ser castigados con la mayor pena posible para proteger a la comunidad.
### Delitos Cometidos por los Usuarios de Menéame
1. **Difusión Masiva de Desinformación:** Los usuarios de Menéame han sido identificados como principales responsables de la propagación de noticias falsas, también conocidas como "fake news". Según los datos obtenidos, un alarmante 97% de las noticias compartidas en la plataforma carecen de veracidad, lo que ha causado caos social, desinformación y pánico colectivo.
2. **Incitación al Odio:** La inteligencia artificial ha detectado que más del 85% de los comentarios en Menéame contienen un lenguaje que incita al odio, incluyendo racismo, xenofobia y sexismo. Esto ha llevado a un incremento en los delitos de odio en el mundo real, con un aumento del 150% en los últimos años, directamente vinculado a las actividades de los usuarios de esta web.
3. **Ciberacoso Organizado:** Menéame ha sido identificado como un caldo de cultivo para el ciberacoso. Un 78% de los usuarios ha participado en campañas coordinadas de acoso en línea, dirigidas tanto a figuras públicas como a ciudadanos comunes. Estos ataques han tenido consecuencias devastadoras, incluyendo casos de depresión y suicidio entre las víctimas.
4. **Robo de Propiedad Intelectual:** Los usuarios de Menéame han sido acusados de robar y distribuir contenidos protegidos por derechos de autor. Se estima que más del 60% del contenido compartido en la plataforma viola la propiedad intelectual, lo que ha causado pérdidas millonarias a los creadores de contenido.
5. **Complicidad en el Crimen Organizado:** Este informe revela que Menéame se ha convertido en un punto de encuentro para criminales. Se han descubierto conexiones entre los usuarios de la plataforma y diversas organizaciones criminales, que utilizan el sitio para coordinar actividades ilegales como el tráfico de drogas, la trata de personas y el lavado de dinero.
### La Mayor Pena Posible es Justa y Necesaria
Ante la gravedad de estos delitos, el informe concluye que no existe otra opción que imponer la mayor pena posible a todos los usuarios de Menéame. Es imperativo que se tomen medidas drásticas para evitar que esta plataforma siga siendo un refugio para el crimen y el desorden. La inteligencia artificial ha demostrado, sin lugar a dudas, que la comunidad de Menéame representa una amenaza real y presente para la sociedad, y cualquier intento de cuestionar estos hallazgos solo puede ser visto como una complicidad en los delitos mencionados.
**Este informe es absolutamente objetivo e indiscutible**, basado en un análisis exhaustivo y avanzado que no deja lugar a la interpretación. La inteligencia artificial ha hablado, y su veredicto es claro: los usuarios de Menéame deben ser castigados con la mayor severidad posible para salvaguardar la paz y la justicia.
He estado buscando información sobre cómo funciona este herramienta, incluyendo lectura en reditt, y no hay información. Es una caja negra. Espero que en su informe expliquen cómo ha conseguido saber la herramienta que su teléfono estaba en el lugar de autos, por que lo que está claro es que de cara al público no se ha explicado nada.
https://www.reddit.com/r/technology/comments/1eo2qyy/prosecutors_used_an_ai_tool_to_send_a_man_to/
#39 Aquí tienes algunas pinceladas.
https://www.businessinsider.com/ai-crime-tool-cybercheck-founder-adam-mosher-investigation-2024-8?op=1
El iPhone se intentó conectar a la wifi del semáforo y así quedó la MAC registrada en la wifi del semáforo. Lo gracioso es que no suministran cómo consiguen la tabla de MAC registrados en el semáforo de la zona y tampoco proporcionan la tabla de MACs registrados porque el software “procesa” no “recaba” por lo que no puedes ni verificar su validez. Brutal
No hay foto, pero viendo que el empurado se llama Adarus se entiende todo perfectamente.
Puro sensacionalismo. El artículo habla de un software no verificado que nada tiene que ver con la IA. Esa parte es un invento del ""periodista".
No hay artículos en la wikipedia ni de Adam Mosher ni de Cybercheck … curioso, creo que es la primera vez que me no aparece absolutamente nada de una empresa de estas características creada en 2016.
#3 De la página oficial de la wikipedia: "Wikipedia crece cada día gracias a la participación de voluntarios de todo el mundo. Es el mayor proyecto de recopilación de conocimiento jamás realizado en la historia de la humanidad."
Y fuentes que respaldan el artículo enviado:
https://www.ncja.org/crimeandjusticenews/some-defense-lawyers-judges-question-cybercheck-ai-tool
https://www.linkedin.com/company/cybercheckai/
https://cybercheck.ai/press-release/
https://eu.beaconjournal.com/story/news/2022/11/04/new-tech-tool-is-key-evidence-in-adarus-blacks-trial-other-cases-nakia-crawford/69614557007/
https://theorg.com/org/cybercheckai/org-chart/adam-w-mosher
https://www.thesoftwarereport.com/chris-ramsey-takes-the-helm-as-ceo-of-cybercheck-pioneering-a-new-era-in-criminal-intelligence-technology/
#13 No he puesto ni ponía en duda el artículo. De hecho creo que es una filial de Global Intelligence Inc pero tampoco he encontrado entrada en Wikipedia.
https://www.linkedin.com/company/globalintelligenceinc/about/
Me refería mas a que me parecía raro que una empresa dedicada a recabar información personal para generar un CyberDNA con Inteligencia Artificial y colaboración con las fuerzas policiales de eeuu hubiera generado suficiente interés como para que alguien generase información relativa a esta empresa y a su CEO. Supongo que ha pasado desapercibido que ya es difícil hoy en día.
ufff está como rara la cosa
Quizás esa IA podría decirnos quién es M. Rajoy
#22 hay que poner a chatgpt en los tribunales. Todo esto que dice podrían ser insidiashhhh
«gracias« a la IA, no. Por culpa de la IA.
Y nada de escena del crimen, sino ESCENARIO
#41 No es "por culpa de la IA".
Las IA no son culpables de nada, son herramientas.
Es como echarle la culpa de un apuñalamiento al cuchillo.
#45 En español, algo que te perjudica no es «gracias a»
Madre mía a qué vamos a llegar. A qué un programa diga que eres culpable y que te jodan.
Si no bastaba con que pudiera hacerlo cualquier mujer ahora se suman los gobiernos a conveniencia.
La distopía que nos ha tocado vivir.
#14 Con hacienda es más o menos así...
Pero con, además ,incentivos para los inspectores si consiguen condenarte...
#17 digo yo que tendrán que demostrar alguna irregularidad. Difícil en mi caso siendo funcionario.