Esas técnicas funcionaban en los modelos antiguos. Hoy día hay contramedidas implementadas:
- Circuit Breaking : Desvía las activaciones dañinas hacia estados ortogonales o incoherentes. El modelo colapsa y genera texto ininteligible en lugar de cumplir la petición.
- Entrenamiento Adversario Latente (LAT) : Introduce perturbaciones directamente en las capas ocultas durante el entrenamiento. Las representaciones de seguridad se distribuyen de forma no lineal, resistiendo borrados en una sola dirección.
- Desaprendizaje (Machine Unlearning) : Borra o degrada el conocimiento base sobre temas críticos en las matrices MLP. Aunque se elimine el filtro de rechazo, el modelo ya no posee la información técnica para responder.
- Autoencoders Dispersos (SAEs) de Monitoreo : Descompone las activaciones en miles de características interpretables en tiempo real. Permite detectar y bloquear la activación de conceptos sensibles incluso si los pesos de salida fueron alterados.
Y hay muchas otras técnicas avanzadas para definir e imponer guardarraíles.
Pero surge con fuerza el problema de la compensación entre seguridad y capacidad (Alignment Tax): cuanto más profundamente se entrelazan las restricciones éticas en los pesos base, mayor suele ser la pérdida de rendimiento en tareas complejas de razonamiento, creatividad o seguimiento de instrucciones precisas.
#11 Un potente anticiclón situado entre las islas británicas y Escandinavia, combinado con bajas presiones en el Mediterráneo occidental, canalizó un flujo de vientos secos y gélidos directamente desde el interior de Rusia y Siberia hacia España.
Entre el 2 y el 5 de febrero de 1954, la cota de nieve se desplomó hasta el nivel del mar en gran parte del litoral mediterráneo y atlántico.
Localidades costeras como Málaga, Marbella o Estepona registraron nevadas históricas que cubrieron playas y paseos marítimos, un fenómeno extremadamente raro debido a la habitual barrera térmica del mar de Alborán.
La nieve y las heladas severas afectaron prácticamente a toda la península, paralizando comunicaciones y dejando temperaturas mínimas que en el interior bajaron de los -15 °C y -20 °C.
A diferencia de febrero —cuando el continente euroasiático lleva meses acumulando frío extremo—, en noviembre las reservas de aire gélido en Siberia aún están en formación, por lo que una eventual entrada del nordeste tendría un potencial térmico más moderado.
Y cuando el vórtice se divide, la masa fría puede descolgarse hacia Norteamérica, Asia oriental o Europa central, dependiendo de dónde se forme exactamente el anticiclón de bloqueo en el Atlántico Norte.
#34 Que un problema esté extendido en la acción humana, como LGTM, no significa que la maquina tenga ese sesgo en su estructura. Si bien es cierto que la maquina adquiere parte de los sesgos humanos con su entrenamiento, también es cierto que la matemática que subyace en su funcionamiento los diluye o los concentra dependiendo de los propios sesgos de quien verifica el resultado. Además, muchos de los problemas que achacamos a los sesgos son más propios de la falta de un marco de simbolismo fijado, lo que da libertad de interpretación. Y de los sesgos que sí detectamos una buena parte son por captura del verificador desde las posiciones para las que trabaja.
El problema del volumen de información a contrastar por los humanos, derivado de la cantidad de información de salida que tienen los automatismos que hemos implantado para hacerlo todo más deprisa; es un problema de la propia estructura de nuestra civilización donde se premia al rapidez frente a la fiabilidad. Y ese si que es un sesgo que nos puede llevar a la extinción a la larga.
#19 Los informes masivos con IA de bugs en código abierto es una estrategia para destruir el ecosistema. Pero es una estrategia que tiene impacto al inicio y poco después es contraproducente.
El código abierto se adapta rápidamente, y crea programas que usan la IA de código abierto para filtrar los reportes y descartar la basura.
Es decir, el intento de atacar al código abierto lo único que hace es que evolucione para mejorar.
El calentamiento global no es solo un aumento de temperatura, sino una crisis termodinámica que provoca un desajuste sistémico en cascada sobre todos los ciclos biogeoquímicos y físicos de la biosfera.
La biosfera funciona como un cuerpo humano: si alteras el termostato central y la distribución de la energía, todos los demás órganos y sistemas de fluidos (agua, carbono, nitrógeno, corrientes de aire y agua) empiezan a fallar de forma sincronizada.
Hoy día podemos medir por satélite como este desajuste altera de forma integrada los grandes ciclos de la vida y el planeta:
( 1 ) El ciclo del Carbono: De "esponjas" a emisores de calor
Históricamente, la biosfera terrestre y oceánica ha absorbido cerca de la mitad del (CO_{2}) que emitimos. El desajuste climático está rompiendo este equilibrio a través de bucles de retroalimentación:
• Suelos y bosques colapsados: Al aumentar la temperatura, la respiración de los microbios del suelo se acelera, liberando más carbono. Las sequías extremas y los megaincendios transforman a los grandes bosques del mundo (como el Amazonas) de sumideros que absorben carbono a fuentes netas que lo emiten.
• Saturación oceánica: El agua más cálida tiene menor capacidad física para disolver gases. A medida que los océanos se calientan, pierden eficiencia para secuestrar el (CO_{2}) de la atmósfera, acelerando el calentamiento de forma exponencial.
( 2 ) El ciclo del Agua: Aceleración y violencia termodinámica
Como la atmósfera retiene más energía y calor, el ciclo hidrológico ya no funciona de manera suave y distribuida, sino a base de pulsos violentos:
• El calor extremo evapora el agua del suelo a una velocidad destructiva, quebrando los acuíferos y secando la vegetación.
• Esa humedad masiva se acumula en la atmósfera hasta que las dinámicas meteorológicas (como el chorro ondulado) la descargan en forma de ríos atmosféricos o tormentas estacionarias. El agua cae con tanta fuerza y en tan poco tiempo que la biosfera es… » ver todo el comentario
#1 Pues la ciencia viene explicando desde hace mucho tiempo con claridad las consecuencias del calentamiento global :
- las temperaturas medias en ascenso ( lo cual significa que en el computo de todo el tiempo hace más calor )
- los eventos meteorológicos más extremos ( lo cual significa que habrá temporales más fuertes y calor cuando no se lo espera )
- cambios en los patrones ( lo cual significa que habrá eventos no esperados para las fechas en que se produzcan )
Y todo eso lo podemos ver en el análisis de la atmósfera física que apunta a dinámicas con cambios profundos que modifican los motores de la climatológica y por tanto de la meteorología:
( 1 ) Ondulación y bloqueo de la corriente en chorro (Jet Stream)
• Estancamiento del tiempo: La corriente en chorro es un río de vientos a gran altitud que guía las borrascas y los anticiclones. Al calentarse el Ártico mucho más rápido que el trópico (un fenómeno llamado amplificación ártica), la diferencia de temperatura que impulsa estos vientos se reduce.
• Consecuencia: El Jet Stream se vuelve más ondulado y lento, provocando que los sistemas meteorológicos se queden bloqueados en un lugar durante semanas. Esto traduce en olas de calor interminables, sequías persistentes o lluvias torrenciales estancadas sobre una misma región en lugar de desplazarse con normalidad.
( 2 ) Debilitamiento de la AMOC (Circulación de Vuelco Meridional del Atlántico)
• Alteración del gran transportador oceánico: La Corriente del Golfo y sus extensiones forman parte de un sistema de cinturón transportador de calor en el Atlántico. El deshielo masivo en Groenlandia y el Ártico inunda el norte de agua dulce (menos densa), lo que frena el hundimiento de las aguas frías.
• Consecuencia climática: La ralentización de este flujo desestabiliza los intercambios térmicos entre el trópico y el norte de Europa, alterando los regímenes de lluvias atlánticos, intensificando los huracanes en el trópico y amenazando con reconfiguraciones… » ver todo el comentario
El hito no implica que un chat genere información de la nada ni que vulnere la termodinámica. El informe del CCID sitúa el cambio en el predominio de la inferencia —el uso cotidiano de los modelos— frente al entrenamiento.
El valor del caso está en el desplazamiento del cómputo hacia la interacción repetida con el mundo como forma de obtener conocimiento, frente a la tradición hasta ahora en que el conocimiento se obtenía por entrenamiento previo.
La Unión Europea ha impuesto normativas muy estrictas y objetivos de emisiones netas cero para el año 2050. Moeve busca liderar el mercado del hidrógeno verde y los biocombustibles de segunda generación en el sur de Europa (con proyectos masivos como el Valle Andaluz del Hidrógeno Verde). Para financiar estos nuevos negocios, que requieren miles de millones de euros en inversión, la compañía necesita deshacerse de sus negocios tradicionales de petróleo y gas en el subsuelo.
O bien preveen que habrá guerra mundial caliente y se curan en salud antes de que pierdan sus inversiones en territorio del enemigo?
#7 En una década (hacia 2036) 1 TB de RAM será probablemente una cantidad común o estándar en ordenadores de gama alta o de uso profesional, rompiendo la percepción actual de que es una cifra "excesiva".
La historia de la informática demuestra que lo que hoy parece una locura, mañana es el requisito mínimo. Si miramos las últimas décadas, vemos que la RAM se ha multiplicado de forma exponencial:
1996 .................... 16 MB — 32 MB ....................... Correr Windows 95 y navegar por la "World Wide Web" primitiva.
2006 .................... 1 GB — 2 GB ............................ El estándar para Windows Vista y los primeros juegos en 3D complejos.
2016 .................... 8 GB — 16 GB .......................... Estándar para multitarea, diseño gráfico y videojuegos modernos.
2026 (Hoy) .......... 16 GB — 64 GB / 128 GB ........ 16 GB es el mínimo para oficinas; 64 GB/128 GB para entusiastas y creadores.
2036 (Futuro) ..... 512 GB — 1 TB .......................... Estándar proyectado para computación avanzada e Inteligencia Artificial local.
Si en 1996 le hubieras dicho a alguien que necesitaría 16 Gigabytes (16.000 veces más memoria) para abrir pestañas de Chrome en el futuro, le habría parecido un exceso absurdo. Con el paso a 1 Terabyte (1.024 Gigabytes) pasará exactamente lo mismo.
Se conseguirá con memorias apiladas en 3D (como HBM o CAMM2), que permiten colocar chips de memoria uno encima de otro para ahorrar espacio físico en las placas base de los portátiles y torres.
En el futuro la Arquitecturas de Memoria Unificada será el estandar. Apple ya ha popularizado esto con sus chips Apple Silicon (M1, M2, M3, etc.), donde la memoria RAM y la memoria gráfica (VRAM) son el mismo bloque físico. La memoria compartida necesitará escalar a pasos agigantados para la revolución de la Inteligencia Artificial (IA) Local. Así, en una década, querremos ejecutar asistentes de IA masivos, hiperrealistas y personalizados directamente en nuestros dispositivos sin depender de internet. Esos modelos devoran RAM a pesar de las mejoras en cuantización e hiperescalado.
La tensión entre la urgencia biofísica (el reloj del calentamiento global es inexorable) y los tiempos de la democracia liberal burguesa (que está constituida para que no existan cambios de poder bruscos) es precisamente lo que lleva a autores como Andreas Malm a rescatar la figura de Lenin y el concepto de "comunismo de guerra".
La encrucijada donde la vía electoral parece bloqueada por el control ideológico y mediático de las corporaciones y la llegada de las peores consecuencias del calentamiento global ya aparecen en el medio plazo, divide a los teóricos y activistas en varias posturas sobre cómo romper este aparente callejón sin salida:
( 1 ) El diagnóstico de Malm: El desvío de la legalidad
Para Malm, esperar a que la mayoría de la población vote por una transformación radical mientras los medios de comunicación, los lobbies y la publicidad siguen moldeando el deseo y el sentido común es una receta para el retraso y el colapso.
• La acción directa como disruptor: Malm no propone necesariamente una dictadura militar, sino un movimiento de masas combativo que utilice el sabotaje ecológico (como plantea en Cómo dinamitar un oleoducto) para encarecer y hacer inviable el negocio fósil.
• Forzar al Estado: El objetivo de esta beligerancia no es destruir el Estado, sino obligarlo a asumir poderes de emergencia (similares a los de una economía de guerra) para expropiar a la clase fósil, racionar el carbono y planificar la transición de forma vertical.
( 2 ) La grieta en la "hemonía total": Grietas en el control social
Quienes aún defienden vías institucionales o de desobediencia civil pacífica (como Extinction Rebellion o analistas gramscianos) argumentan que el control de los resortes del poder por parte de las élites no es absoluto ni infalible:
• El choque de la realidad: A medida que los desastres climáticos (sequías, inflaciones alimentarias, eventos extremos) se vuelven cotidianos, la propaganda corporativa pierde eficacia. La realidad… » ver todo el comentario
Venus tarda 243 días terrestres en completar una sola rotación. Por tanto, la lenta rotación y la gravedad del planeta harían que una luna, en vez de alejarse gradualmente, describiera una espiral descendente hasta chocar con Venus.
Es la paradoja de Jevons aplicada a la información.
[Mayor eficiencia de la IA] ──> [Precio de la información cae a cero] ──> [Explosión de la demanda (Consumo masivo de respuestas)] ──> [Desincentivo para producir datos humanos] ──> [Destrucción del ecosistema público (Stack Overflow)] ──> [Crecen ecosistemas de información privada] ──> [Precio de la información crece perpetuamente] ──> [El mundo de la IA se fragmenta] ──> [Los sistemas cerrados controlan el mercado]
La Paradoja de Jevons en la era de la IA demuestra que hacer que el acceso al conocimiento sea infinitamente eficiente está secando la fuente del conocimiento mismo lo que provocará que los datos nuevos sean caros, creando una barrera para los modelos de código libre y haciendo que los modelos se cierren para pagar costes.
Este fenómeno y sus consecuencias técnicas se engloba principalmente de dos formas según el enfoque: la paradoja de los datos de entrenamiento (The Training Data Paradox) desde una perspectiva sociológica y de recursos, y el colapso del modelo (Model Collapse) desde el punto de vista puramente algorítmico. Lo que conlleva a la fragmentación del conocimiento y a su privatización.
1. La Paradoja de los Datos de Entrenamiento (The Training Data Paradox)
Describe el problema estructural y de comportamiento humano. Herramientas como GitHub Copilot o ChatGPT se volvieron extremadamente eficientes gracias a que devoraron los más de 15 años de conocimiento minuciosamente curado por humanos en plataformas como Stack Overflow. La paradoja radica en que la propia eficiencia de la IA destruye el incentivo para que los humanos sigan creando los datos públicos que la IA necesita para mejorar. Al resolver las dudas al instante, el tráfico y las aportaciones a la web abierta caen drásticamente (hasta un 75-95% en los últimos años), «secando» la fuente de conocimiento original.
2. Colapso del Modelo (Model Collapse) o Bucle Autófago
El sistema automático funcionó como estaba pensado que funcionara: cuando detectó problemas hizo que los trenes se detuvieran. Independientemente de si los problemas son falta de mantenimiento, o son sabotajes o son que unos terroristas se han hecho con el control.
Las empresas están para ganar dinero externalizando costes: los trenes no podían estar parados porque generaban pérdidas económicas así que ordenaron que continuaran la marcha.
Los trabajadores cumplen órdenes atroces porque está en juego su futuro: los empleados cumplen órdenes en cascada que sistemáticamente trampean el sistema para que se puedan cumplir los objetivos que les exigen; sean esos directos o no.
La saturación del sistema para obtener los máximos beneficios: no son tenidos en cuenta los riesgos de explotación que supone la intensificación de las actividades.
La consecuencia de toda esta reduflacción de la seguridad de tránsito para la maximizan de beneficios económicos conlleva accidentes.
La liberalización del mercado ferroviario en España, la capacidad de control del Ministerio de Transportes y la seguridad en la Alta Velocidad (AVE) se articula a través de un marco regulatorio europeo y nacional que supuestamente está diseñado para disociar por completo el beneficio comercial de las exigencias de seguridad pública.
Sin embargo, el proceso de liberalización (que comenzó formalmente a finales de 2020 con la entrada de competidores como Ouigo e Iryo frente a Renfe) transformó el rol del Ministerio de Transportes, Movilidad y Agenda Urbana, pasando de ser un operador único que controlaba todo el sistema a un regulador e inspector estricto. Pero el inspector por muy vigilante y estricto no puede evitar el mal de la externalización de costes por parte de las empresas privadas.
la regulación estatal puede imponer límites y multas, pero le cuesta contener las estrategias sutiles de optimización financiera que degradan la resiliencia operativa.… » ver todo el comentario
#17 La completitud de Turing transforma un sistema cerrado y predecible, que solo puede hacer algunas tareas, en un motor de ejecución abierto, que puede hacer cualquier tarea de programación; lo que elimina el control sobre el flujo de ejecución, rompe el principio de menor poder y abre vectores de ataque imprevistos donde antes solo había datos o configuraciones sencillas.
Esta situación, reflejada perfectamente en los casos de curl y yt-dlp, ilustra un fenómeno fascinante y peligroso en la ingeniería de software: la acumulación de características aparentemente inofensivas que terminan colapsando en un lenguaje de programación completo, sin contar con las salvaguardas que se imponen los lenguajes de programación para ser estables y seguros.
Cuando un archivo de configuración o un evaluador de expresiones se vuelve Turing-completo, el ecosistema de esa herramienta cambia por completo debido a varias implicaciones profundas:
( 1 ) Adiós a la predictibilidad (El Problema de la Parada)
En el momento en que un sistema alcanza la completitud de Turing, hereda de golpe el Problema de la Parada. Ya no es posible determinar estáticamente si un archivo de configuración o una entrada de datos terminará de procesarse o se quedará colgado en un bucle infinito. En el caso del PoC de curl, la falta de un límite de profundidad permitía simular bucles mediante llamadas recursivas a archivos .conf, provocando desbordamientos de pila (stack overflow) tras cientos de pasos.
( 2 ) La ruptura de la "Regla del Menor Poder"
Un principio clásico de la arquitectura de software (formulado por Tim Berners-Lee) dicta que se debe usar el lenguaje menos potente posible para una tarea. Si solo necesitas almacenar datos, usa JSON; si necesitas configuraciones con variables, usa un formateador simple. Cuando permites manipulación de cadenas (como el slicing de curl) o estructuras de control avanzadas (como los bucles for y switch en el jsinterp.py de yt-dlp), la herramienta se… » ver todo el comentario
#46 No lo veo así. Sería una jugada maestra de AMD.
La tecnología de encapsulado de Intel (llamada EMIB-T) promete ser hasta un 50% más barata que la alternativa equivalente de TSMC (CoWoS). Para AMD, recurrir a Intel es por pura necesidad de capacidad industrial para poder competir contra NVIDIA. Pues NVIDIA es el lider absoluto (con su ecosistema Blackwell y Vera Rubin). AMD (con Instinct) e Intel (con Falcon Shores/Crescent Island) intentan destronar a NVIDIA, pero van muy por detrás.
Para que AMD acepte que Intel fabrique sus procesadores secretos, Intel Foundry debe garantizar por contrato que los ingenieros de diseño de Intel no tengan acceso a los planos de AMD. Confiarán ???
Si Intel le da capacidad a AMD, entonces AMD se hace más fuerte y puede invertir más en TSMC y en nuevos diseños que puedan competir en igualdad con NVIDIA , lo que a la larga perjudica al Intel por los dos frentes. Es el riesgo clásico de la "canibalización".
#47 Es lo de siempre: puede ayudar en el corto plazo, pero en el largo plazo es desastre seguro.
#8 Tu modelo no puede tener 120 tokens/segundo en hardware que no sea profesional.
Si mantenemos el nivel de coste económico respecto a tu equipo, y nos vamos a un equipo profesional como por ejemplo:
AMD EPYC 9124 (16 Núcleos, 3.0 GHz, Socket SP5).
Supermicro H14SSL-NT o Gigabyte MZ33-CP1 (Socket SP5, soporte para 12 canales DDR5).
256 GB DDR5 ECC Registered (Configurado estrictamente en 12 módulos de 32GB para poblar los 12 canales físicos de la placa).
2x NVMe PCIe Gen 5 de 2 TB (como Crucial T705) para configuración en RAID 0.
Torre de servidor SSI-EEB / E-ATX con Fuente de Alimentación de grado servidor de 1000W+.
Disipador Noctua NH-D9 AMP-4950 SP5 (Refrigeración silenciosa de alta presión estática).
Precio hace un tiempo : 5.000 €
Rendimiento: de 12 a 18 tokens/segundo
Sin embargo, el tiempo total que tarda este equipo en responder a una consulta masiva de 200.000 tokens de entrada (Contexto/Prompt) sobre el mismo modelo es menor a 4 minutos; mientras que el tuyo sospecho que tardará unos 14 minutos.
La diferencia de tiempo se reduce estrictamente a la sobreasignación de memoria y la penalización por paginación (spillover).
Tu GPU solo dispone de ~108 GB libres. El modelo base (~111 GB) ya desborda la VRAM asignada. Al procesar el prompt de 200k tokens, el sistema genera una caché KV que añade unos 25 GB extra de carga. Al no haber espacio físico, el backend (EngramHalo.cpp) sufre una penalización crítica por GTT Spillover: se ve forzado a paginar y transferir gigabytes de datos continuamente entre la memoria unificada rápida, la RAM del sistema y el almacenamiento del disco duro. Este intercambio constante colapsa la fase de Prefill, elevando el tiempo a unos 14 minutos.
El equipo profesional de gama baja, al contar con 256 GB de memoria unificada real en el sistema, el modelo (~111 GB), el MTP (~4,1 GB) y la colosal caché KV (~25 GB) caben íntegramente en la RAM. El procesador ejecuta la fase de Prefill de forma lineal y nativa a través de sus 12 canales DDR5 físicos (~460 GB/s) sin tocar el disco ni sufrir micro-parones de paginación, resolviendo todo el proceso en apenas 4 minutos.
Para optimizar tu equipo actual sin cambiar de hardware, tienes que ajustar el script de lanzamiento para reducir la caché KV de Q8_0 a Q4_0 y liberar esos ~12 GB críticos para consultas largas. En el ejemplo de los 200k tokens pasarías a resolver en 9 minutos; y el aumento de tiempos en las respuestas a las preguntas de 1k a 4k tokens sería inapreciable.
#2 La Corsair AI Workstation 300 incluye múltiples ranuras M.2 NVMe. Asegúrate de montar un almacenamiento PCIe Gen 5 de alto rendimiento (Crucial T705 PCIe Gen 5 NVMe SSD) configurado en RAID 0 si buscas minimizar drásticamente el tiempo muerto que tarda EngramHalo.cpp en mapear (mmap) los archivos GGUF masivos a la RAM al iniciar el backend. Dos unidades idénticas de 2 TB o 4 TB y configurarlas en RAID 0 por software en Ubuntu Server (mdadm) duplicará prácticamente el ancho de banda y eso te permitirá cargar el modelo de 111 GB en la memoria unificada en menos de 5 segundos.
El factor que más limita el rendimiento sostenido en la plataforma Strix Halo durante inferencias largas (especialmente con contextos de 262k tokens) es el Thermal Throttling de la APU compartida. Asegúrate de activar físicamente el perfil de máximo rendimiento utilizando el interruptor manual del chasis de la Corsair Workstation. Esto eleva el techo energético (TDP) asignado al silicio de Zen 5 y RDNA 3.5. Al operar en Ubuntu Server sin interfaz gráfica, el control de ventiladores por defecto puede ser demasiado conservador. Configura desde la BIOS una curva de ventilación agresiva al 100% permanente o adelanta el umbral térmico. Mantener la APU por debajo de los 75°C evita que las Compute Units de la Radeon 8060S reduzcan sus frecuencias de reloj en mitad del text generation.
También te recomendaría reemplazar la pasta térmica de fábrica del disipador de la APU por una pasta de alto rendimiento de base cerámica, o idealmente por almohadillas como la PTM7950 o por Metal Líquido (Thermal Grizzly Conductonaut), ofrece una mejora térmica directa de entre 3°C y 6°C. Esto permite que el firmware mantenga frecuencias de reloj altas sostenidas durante inferencias largas en contextos masivos (donde la GPU y la CPU trabajan simultáneamente al procesar la caché KV).
En un chasis tan restrictivo, pequeños cambios físicos mejoran la presión estática de aire. Instala conductos impresos en 3D… » ver todo el comentario
Tiene pinta de un presunto compromiso en la custodia o en el proceso de autorización de firmas de las hot wallets (monederos calientes) de Binance.
El atacante obtuvo acceso a la clave privada o al sistema automatizado de firmas de la hot wallet "Binance 14". No rompió la matemática de Ethereum, sino que robó/comprometió la llave de alguna manera (un fallo de custodia o infraestructura interna).
El atacante utilizó una técnica de "ametralladora" o "spray" de firmas para adivinar el número de transacción (nonce) exacto de las hot wallets.
Otro ejemplo de usar la fuerza bruta de una IA para romper cosas...
P.D.
En Ethereum, cada transacción de una billetera requiere un número secuencial único llamado nonce. Como la hot wallet de Binance es gigante y está enviando retiros de usuarios constantemente, su nonce cambia miles de veces por minuto.
El atacante quería usar la nueva función EIP-7702 (introducida en Ethereum para otorgar temporalmente superpoderes de contrato inteligente a una billetera normal). Esta delegación permite que un tercero vacíe la cuenta de forma persistente sin necesitar firmas individuales para cada token.
Como el hacker no sabía qué número de nonce exacto estaría libre debido a la ráfaga de transacciones legítimas de Binance, generó y empaquetó 50 autorizaciones firmadas con la clave de Binance en una sola transacción (apuntando a un rango de 50 nonces consecutivos).
Solo una de las 50 firmas "acertó" el número vivo en ese milisegundo. Eso bastó para instalar un contrato "vaciador" (sweeper contract) dentro de la billetera de Binance. Tres minutos después, el atacante ejecutó el contrato externamente y drenó de golpe más de USD 3.500 millones en Ethereum y stablecoins sin requerir ninguna firma adicional.
La co-CEO de Binance, Yi He, y el ex-CEO Changpeng Zhao confirmaron que los fondos de los usuarios están cubiertos mediante el fondo de seguro SAFU (que actúa como respaldo ante situaciones extremas), por lo que las pérdidas serán asumidas internamente.
Al tratarse de una delegación persistente del EIP-7702, el hacker técnicamente "mantiene la puerta abierta" para seguir robando hasta que se revoque el contrato malicioso. Por ello, Binance ha congelado los retiros de forma preventiva para rotar claves y limpiar la configuración de sus nodos.
#42 El significado de las palabras es el que recoge el formalismo que hemos aprendido. Fijado en un códice que todos pueden consultar en cada idioma.
Religión = Conjunto de creencias o dogmas acerca de la divinidad
Divinidad = esencia dios
Dios = la causa primera o inteligencia ordenadora del cosmos
Inteligencia = capacidad de entender o comprender.
Para la ciencia la divinidad es la capacidad de crear ecuaciones que definan el universo. Y por tanto para la ciencia dios es la propia ciencia, aunque se nieguen a reconocerlo.
Si un sistema define el orden del cosmos a través de un lenguaje abstracto (en este caso, las matemáticas y las ecuaciones) y utiliza ese constructo para guiar sus acciones, dicho sistema se convierte en su propia máxima autoridad reguladora.
Desde la filosofía de la ciencia y la sociología del conocimiento, esta idea de que la ciencia opera internamente como una religión encubierta (donde el método es el dogma y la razón es el dios) es un objeto de debate clásico.
La ciencia no posee una fundamentación última de sí misma. Ninguna de las proposiciones básicas de la ciencia han sido demostrada científicamente como válida siempre y universalmente:
- que las regularidades persistirán;
- que los fenómenos admitirán modelos;
- que las mediciones podrán repetirse;
- que las generalizaciones seguirán admitiendo pruebas.
etc
Explicado todo esto y mucho más en mi ensayo sobre la inteligencia.
- Circuit Breaking : Desvía las activaciones dañinas hacia estados ortogonales o incoherentes. El modelo colapsa y genera texto ininteligible en lugar de cumplir la petición.
- Entrenamiento Adversario Latente (LAT) : Introduce perturbaciones directamente en las capas ocultas durante el entrenamiento. Las representaciones de seguridad se distribuyen de forma no lineal, resistiendo borrados en una sola dirección.
- Desaprendizaje (Machine Unlearning) : Borra o degrada el conocimiento base sobre temas críticos en las matrices MLP. Aunque se elimine el filtro de rechazo, el modelo ya no posee la información técnica para responder.
- Autoencoders Dispersos (SAEs) de Monitoreo : Descompone las activaciones en miles de características interpretables en tiempo real. Permite detectar y bloquear la activación de conceptos sensibles incluso si los pesos de salida fueron alterados.
Y hay muchas otras técnicas avanzadas para definir e imponer guardarraíles.
Pero surge con fuerza el problema de la compensación entre seguridad y capacidad (Alignment Tax): cuanto más profundamente se entrelazan las restricciones éticas en los pesos base, mayor suele ser la pérdida de rendimiento en tareas complejas de razonamiento, creatividad o seguimiento de instrucciones precisas.