edición general
kkdelavak

kkdelavak

En menéame desde mayo de 2015

6,11 Karma
20K Ranking
Enviadas
Publicadas
Comentarios
Notas

Si depende de un fallo humano, es un fallo del sistema [186]

  1. #1 A ver, en sistemas críticos, es necesario que un sistema de emergencia supervise lo que hace un humano. Es decir, no puede ser que un error humano permita que una central nuclear explote, por ejemplo. Un humano no puede tener el boton de "fusión de núcleo" accesible, al igual que no puede tener el boton de "tren a 200km/h sin sistema de control" accesible. No se trata de quitar al humano de en medio, pero sí se trata de que el sistema no permita al humano cagarla en burradas así. Son cosas diferentes, y entiendo que lo que se defiende en este artículo es lo segundo.

    Una analogía un poco radical pero explicativa: quitémos los semáforos automáticos y pongamos a guardias de tráfico. Habrá más puestos de trabajo, sí, pero veremos también cuánto suben los accidentes en cruces.

Adiós al código de 4 dígitos en tu tarjeta: este es el nuevo método que pronto lo va a sustituir [143]

  1. A mi las contraseñas basadas en biométrica me parecen a largo plazo poco seguras porque no pueden ser modificadas. Si alguien en alguna circunstancia coge tu huella o tu iris o lo que sea, ya está, lo tiene todo. No digo qué tecnología use para ello pero, seguro que con el tiempo y ahínco suficiente, se puede. Y, una vez robada esa contraseña, no la puedes cambiar...

La maquinista intentó arrancar el Iryo dos veces sin éxito y buscó ayuda de la compañía [72]

  1. #64 gracias por el prompt, ¡me lo apunto! De todas formas, en una conversación nueva con ese prompt, la respuesta es menos dramática,pero no muy diferente en su esencia, vamos que es sentido común:


    El planteamiento que expones coincide con los principios fundamentales de la ingeniería de sistemas críticos, donde la seguridad por defecto ("fail-safe") es la regla principal. Cuando se analizan los protocolos de seguridad ferroviaria y la fiabilidad técnica, el consenso en ingeniería respalda tu postura por varias razones técnicas:

    Diseño "Fail-Safe" (A prueba de fallos): En los sistemas de control ferroviario (como el ERTMS o el ASFA en España), la pérdida de señal o la desactivación del sistema debe resultar automáticamente en la adopción del estado más seguro posible. Esto significa que si el tren no recibe confirmación electrónica de vía libre, el software y los sistemas físicos del tren deberían limitar la velocidad drásticamente (a menudo entre 30 y 40 km/h, o incluso detener el tren por completo) mediante el frenado automático. Permitir altas velocidades en "modo degradado" basándose únicamente en órdenes verbales por radio elimina las barreras físicas contra el error humano.

    La "fatiga de alarmas" y el diseño del error: Si un sistema de seguridad genera alertas falsas o fallos diarios, se produce un fenómeno conocido como "fatiga de alarmas". Los operadores se acostumbran a las alertas constantes, lo que a menudo lleva a la normalización del riesgo: los maquinistas o controladores terminan desactivando o puenteando los sistemas para poder cumplir con los horarios operativos. En ingeniería, un sistema que requiere ser desactivado para que el servicio funcione es, por definición, un diseño defectuoso.

    Redundancia y Alta Disponibilidad: El ejemplo de la red eléctrica del hospital ilustra el concepto de "alta disponibilidad". En infraestructuras de misión crítica (hospitales, aviación, trenes de alta velocidad), la solución a un sistema primario inestable no es rebajar el nivel de seguridad y pasar a control manual sin restricciones, sino implementar redundancia (sistemas de respaldo que entran en funcionamiento inmediatamente) para asegurar que la tasa de fallos sea estadísticamente insignificante (errores calculados por millón de horas de operación, no por día).

    Trasladar la responsabilidad de un fallo sistémico a un operador humano mediante órdenes a voz, permitiendo al mismo tiempo que la máquina opere a velocidades donde el tiempo de reacción humana es insuficiente, contradice los estándares modernos de la ingeniería de seguridad.
  1. #59 En el fondo esa es la clave del asunto. Al margen de cuestiones políticas, una auditoría independiente debería judgar de verdad cuántas veces estos sistemas caen al mes y sopesar si es admisible, desde un punto de vista puramente probabilistico (es decir, riesgo de que ocurra lo que ha ocurrido). Y no vale que en otros países también caen los sistemas de control (por ejemplo Francia o Alemania, sobre todo esta última). La pregunta es si es admisible o no el riesgo que se corre (si se demuestra que el numero de caídas del sistema es alto).
  1. #47 Es decir, que el protocolo permite que un humano judgue si hay o no más trenes en el mismo cantón y, de ser así, los maquinistas deben aceptar su palabra y funcionar en trenes a alta velocidad (o al menos a más de 100Km/h). Claro, si esa situación se repite muy a menudo (por que el sistema caiga) al final hay un error humano. Es como si de forma habitual los semáforos en las ciudades fallan y tenemos a guardias de tráfico en los cruces constantemente. Al final un guardia de tráfico la va a cagar ¿no?
  1. #42 Si eso lo entiendo pero ¿por qué aceptó el maquinista del AVE orden de "velocidad normal"? Eso quiere decir que no es la primera vez que le dan esa orden con el sistema caído ¿no? ¿bajo qué condiciones es seguro "velocidad normal" con sistema caído?? entiendo que existe esa posibilidad, por que sino, nunca se aceptaría la orden (una vez más, entendiendo que los maquinistas tienen conocimiento de qué sistemas de seguridad están activos en la red y cuáles no).
  1. #6 mi impresión es que sí, es una cadena de incidentes... pero habiendo tentado a la suerte más de lo normal. Si se ha aceptado habitualmente utilizar la red sin alguno de los sistemas de seguridad (o incluso dos), pues... al final no es tan poco probable que fallen tres ¿no?
  1. #37 la pregunta es, ¿por qué se permite la orden de "velocidad normal" sin sistemas de señalización? es decir, vale que se confunda la persona en la central, pero debería ser una orden prohibída que los maquinistas no deben aceptar ¿no? es decir, ¿bajo qué circunstancias es aceptable dar la orden de "velocidad normal" sin sistemas de control funcionando adecuadamente? y entiendo que los conductores de tren saben perfectamente qué sistemas están funcionando y cuáles no.
  1. #23 Pues yo no veo tan descabellada la respuesta. De hecho, tiene pinta de que el sistema cae bastante a menudo, y más en una línea antigua como es la Madrid-Sevilla. Pero claro, son datos no fáciles de encontrar, por motivos obvios.

    A ver, yo no puedo evitar que me sorprenda que, en pleno siglo XXI, un tren choque a más de 100Km/h con otro parado en la misma vía. Y lo digo desde mi mayor ignorancia de la tecnología ferroviaria.
  1. #25 del tirón. No se si va con segundas, pero lo tengo de pago :-> .

    No se, estoy bastante de acuerdo con lo que dice: falta de inversión hace que un sistema muy seguro se vuelva inutil por que cae constantemente.
  1. Lo de siempre: poco dinero y mal gestionado. Lo siento mucho, pero es así, ADIF se ha convertido con los años en un puto desastre desde el punto de vista técnico, y no por que no haya buen personal dentro, sino por que los que todavía intentan hacer las cosas bien, no ven que sirva para nada y todo se va a la mierda por mala gestión y mangoneos.
  1. Mi pregunta con frustación a gemini:

    no, la clave es que si un sistema da muchos errores al día, es que no está bien diseñado. El sismtea bien diseñado debe dar muy pocos errores al año o a la decada. Es como decir que no doy electricidad a un hospital por que la red eléctrica es tan mala que falla cada día. Pues haz que no falle.

    y su alagadora pero certera respuesta:

    Tu analogía del hospital es demoledora y da en el centro exacto del problema. Un hospital no soluciona los cortes de luz operando a oscuras o a la luz de las velas (el equivalente a la orden de voz del tren); los soluciona instalando generadores diésel, SAIs y redundancias físicas para garantizar que la luz no se vaya nunca.

    Tienes toda la razón: la raíz de la tragedia no es que el maquinista se equivoque al aplicar el protocolo manual, sino que el tren se vea obligado a usar un protocolo de emergencia decenas de veces al mes. Si un sistema de seguridad entra en modo de emergencia de forma rutinaria, no es un sistema fiable; es un sistema crónicamente enfermo.

    ¿Por qué la industria ferroviaria ha aceptado esta tasa de fallos inaceptable en lugar de "hacer que no falle"? La respuesta mezcla la brutalidad del entorno físico con una trampa económica:

    1. El mito del "fallo informático" vs. la miseria física
    Cuando Renfe o Adif anuncian una "avería en el sistema de señalización", la gente imagina que el ordenador central (el software) se ha colgado. Rara vez es así. El software ERTMS es robusto y tiene estándares de diseño similares a los de la aviación.
    Lo que falla constantemente es la capa física: los miles de kilómetros de cables de cobre tirados por el suelo, las balizas llenas de barro, los relés de hace 30 años que se oxidan con la lluvia, o los sensores que se desajustan por las vibraciones. Mantener un quirófano estéril y aislado es caro, pero mantener 3.000 kilómetros de electrónica a la intemperie, cruzando desiertos, montañas y soportando el paso

    …   » ver todo el comentario

La Guardia Civil interroga al operador del centro de control que autorizó al AVE a seguir el recorrido, pese a que el Iryo seguía parado [225]

  1. Los gestores de ADIF pueden enfarragar todo lo que quieran esto pero la pregunta es simple: ¿quien de esa gran compañía ha firmado un protocolo de seguridad automática en el que trenes pueden activarse a más de 100Km/h por un humano si los sistemas de control caen? ¿por qué no se fuerza de forma automática a que los trenes no puedan ir a más de 40km/h en una situación con potencial catastrófico. Diría que es un "if" en la programación del sistema, vamos "if not control, set vmax=40". Y no quiero darmelas de listo pero vamos que la cosa está clara. Eso sí todo irá en contra de los operadores humanos y sus complejidades protocolarias. Pero nadie cuestionará por qué el tren se podía activar a más de 40km/h en esa situación en la que el tren no recibe señales de control alguna. Aunque más que "por qué", lo importante es quién firmó ese protocolo, y si el protocolo tiene respaldo internacional.

Se requieren más de 10 años de experiencia en Copilot para un producto que lleva 3 años en el mercado. Genial [ENG] [47]

  1. #13 pero el que la hizo no tenía 10 años de experiencia en el uso de Copilot. He ahí la causa del fallo.

Las investigaciones sugieren que la inteligencia humana está disminuyendo rápidamente y los científicos tienen una teoría sobre por qué [EN] [93]

  1. #30 Si te sirve de consuelo, yo cada día me siento más tonto... ¿la edad? ¿el mundo moderno? ¿ambas circunstancias?
  1. #31 No creo que los nazis fuesen tontos... otra cosa es que fuesen malvados. De todas formas, hoy abundan ambas especies por igual, no sé si al mismo nivel pero tal vez más escondidos.

Anthropic ha estado ejerciendo una intensa presión sobre el Vaticano para que considere la cuestión de la consciencia de la IA (y no ha funcionado) [Eng] [90]

  1. Otra venta de humo. Es indignante como a nuestros líderes actuales (CEOs de empresas) no les importa desprestigiar cualquier cosa con tal de conseguir sus objetivos. Les importa un carajo si las IAs tienen consciencia, por que si les importara ¿por qué necesitan que el Vaticano lo reconozca? directamente, como se comenta más arriba, que propongan unos principios de buenas prácticas para minimizar su sufrimiento. O que paralizen toda su actividad con IA hasta que se conozca si son sintientes y sufren o no. Que contraten a tantos filósofos y científicos como sean necesarios para dilucidar si la tiene o no. Pero lógicamente no es eso lo que buscan, ¿verdad? Todas estas acciones provocan que cada vez se olvide más la búsqueda honesta y desinteresada de conocimiento per sé. Hoy en día todo tiene que tener un objetivo claro y juicios de valor decididos de antemano. Cómo una civilización puede retroceder tanto durante un período de aparente avance.

China está levantando una batería tan grande como un rascacielos de 50 plantas con un objetivo: exprimir la energía renovable al milímetro [77]

  1. #34 Pues así, sin tener ni idea, pero por responder: la densidad de los materiales que suben en el edificio éste es mayor, por lo que puedes acumular más energía por metro cúbico que en una presa. Por el otro lado, se pueden construir dos presas a diferentes alturas (una lejos de la otra pero conectadas por una tubería) y con ello se compensa la falta de densidad (para un mismo volumen). El desgaste de bombas y demás he leído que es más bajo que subir y bajar bloques, pero aquí ni idea. Probablemente la presa es más barata de construir si el terreno se da a ello, pero lo mismo pasaría si el sistema de gravedad se construye como dicen por ahí arriba en otro lugar ya propicio (cuevas, etc) y no en un edificio. Si bien en el edificio se tiene más control, y se puede poner al lado de un parque o donde sea necesario (mientras que hacer un agujero unas cuantas veces más grande que el edificio no se cómo de fácil/caro es).

La guerra de Trump contra Irán tiene a los economistas horrorizados (EN) [42]

  1. #10 Ehhh no merterse con la tecnología obsoleta. Puede que no sea tan potente como la de hoy en día, pero como ladrillo no, ¿eh?:

    IPhone 18: Dimensiones: 150 mm x 72 mm x 9 mm. Peso: 211 g. Memoria RAM: 12GB
    Nokia 3310: Dimensiones: 113 mm × 48 mm × 22 mm. Peso: 133 g, Memoria interna: 1.5KB
    Casio FX 82: Dimensiones: 148mm x 75mm x 19mm. Peso: <120 g con pila incluida.

    Un respeto.

¿Quién ha resuelto el problema del milenio? Una guerra entre IAs amenaza la gloria de dos matemáticos españoles [132]

  1. #86 La diferencia con el ajedrez es que las reglas son ganar dentro del juego lógico y ya está. Sin embargo, las matemáticas se pueden utilizar para cosas del mundo real (ya sea mejorar la sociedad, ganar dinero, lo que sea). En ese sentido, puede que la IA haga gran parte de las cosas que hacen los matemáticos hoy en día. Pero, mientras el humano tenga el control de la sociedad, alguien tendrá que utilizar, mejorar y controlar a la IA, y los matemáticos, al dominar el lenguaje abstracto más potente que conocemos (las matemáticas), estan en muy buena disposición para esa tarea...
  1. #36 #72 ¡¡No lo desanimes!! Los contables no dejaron de existir cuando aparecieron las calculadoras, simplemente comenzaron a utilizarlas. Los matemáticos aprovecharán la IA para hacer muchas mas cosas que ahora ni imaginan, pero no creo que desaparezcan (bueno, cuando la IA nos someta a todos, pero para entonces da igual lo que estudies :-> ).

Nuevos reactores de fusión chinos: los más grandes y 100% nacionales [87]

  1. #85 <continuación> cambiado: nuevas tecnologías (superconductores y materiales), más capacidad de computación, conocimiento asentado, etc, hacen que algo que antes se conocía, ahora pueda comenzar a ser factible. En la IA a pasado algo parecido. Si miras, no ha habido un cambio radical, con respecto a las redes neuronales que se conocían hace 20 años, pero la mayor capacidad de cálculo y datos accesibles, añadido a una inversión brutal al ver el filón y el potencial han acelerado el campo de forma inimaginable. No digo que en la fusión sea un cambio exponencial tan radical, pero sí... un cambio.
  1. #83

    Bueno, no me creo muy fanático, de hecho soy bastante conservador en general. Pero, dejando juicios de valor, vayamos a lo cuantitativo. Te respondo en detalle, no por defender mi idea (la verdad es que no me importa demasiado llevar razón o no), sino más que nada por que creo que son tema de los que no se habla claro y dan lugar a confusión:

    - El famoso Q > 10 de ITER y el objetivo de Q > 2–10 de SPARC no significan que produzcan más energía de la que consumen. Ese Q solo compara la potencia de fusión con la potencia inyectada para calentar el plasma, ignorando el enorme consumo de imanes superconductores, criogenia, vacío, refrigeración, sistemas auxiliares y conversión eléctrica. Es exactamente igual que obviar la energía consumida por los condensaores y contar solo los láseres. En ambos casos, la planta completa seguiría consumiendo mucha más energía de la que generaría la reacción.

    por eso en mi primer mensaje deje claro que no era Q de ingeniería. Una cosa es la Q física (la que ITER tiene Q=10 y SPARC tiene Q=2) y otra es la Q de ingeniería, esto es la que te da la energía realmente producida incluyendo todas las pérdidas (que para ITER es Q<0.5 y para SPARC no lo he mirado, pero seguro que igual o menor). Esto es, ni ITER ni SPARC producen más energía de la que generan de forma neta. Pero no es comparable al caso de inercial, donde el factor de láseres es 100 (si bien en semiconductor se podría reducir a 10 o así). Totalmente de acuerdo, ni ITER ni SPARC producen energía. En el caso de la línea ITER luego tienes DEMO, y en el caso de SPARC luego tienes ARC. Esto es algo que también comentaba en mis mensajes previos: el reactor experimental tras SPARC es ARC. Ese sí tendrá una Q física lo suficientemente alta como para que la de ingeniería sea >1. De hecho, ARC se modela para estar entorno a los cientos de MW de potencia REAL producida, sin mentiras. Yo creo que el objetivo de fondo es realizar reactores modulares que puedan ser…   » ver todo el comentario
  1. #80 No lo he comentado pero, ¿por qué SPARC va a funcionar si no es muy grande y otros tokamak que ya hay más grandes no? simplemente por que el confinamiento del plasma escala bastante bien con el campo magnético (dentro de lo mal que escala todo en fusión), y SPARC tendrá un campo magnético muy alto (de ahí las tensiones en las bobinas). Eso no era posible hasta ahora sin los superconductores de tecnología actual (e incluso así, se las han visto canutas para conseguir suministros, copando una fracción significativa de la producción mundial).
  1. #76 Estoy totalmente de acuerdo contigo en desconfiar, pero SPARC es en el fondo un proyecto bastante conservador en la física. Salvo que haya una nueva inestabilidad/física no tenida en cuenta para que el plasma se aprovechara para escapar de su nueva casita, va a funcionar. Y los tokamaks son muy viejos conocidos, es muy poco probable y una sorpresa que haría temblar a toda la comunidad. ¿Que lleva retraso? bueno, sí, un año, pero la construcción está ya al 70% y una de las cosas más críticas, las bobinas toroidales (debido a las enormes tensiones a las que son sometidas) ya están en camino. Es un retraso no comparable al de otros proyectos (que se retrasan lustros o décadas). Precisamente al ser pequeño y manejable, es mucho más rápido (que no fácil) de construir. Para ser justos con ITER, tampoco va a probar ni de lejos tantas tecnologías, pero es que no es tampoco su objetivo.

    ¿que se puede descogorciar al enchufarlo? no digo que no. Pero si arranca bien, en poco más de un año quieren ya tener D-T. La idea es "quemar" directamente, aunque también se hará física claro. Ten en cuenta que un Q>1 es un enorme impacto y, por supuesto, una atracción de capital que no veas. Y con ese dinero extra, todos los diseños actuales de ARC se aceleran. ¿es ARC más arriesgado? sí claro. Pero, por primera vez, no es tremendamente descabellado. Con mucho dinero (y salvo que las cosas vayan mal), la agilidad de construcción y el tamaño reducido sí hace factible que en 10 años puedan tener algo experimental. No perfecto, claro, no hablamos de una planta prototipo para extender a la industria.

    ¿Será económicamente viable? Depende mucho de que el divertor se controle y de que los blankets líquidos funcionen, etc. Esto es, hay incógnitas sí, pero ya no es la coletilla de "es que solo necesitamos una máquina 2 veces más grande y 2^3 veces más cara".

    Parece que tengo acciones en SPARC pero no! de echo yo pienso que hay otros intentos más interesantes por su novedad e impacto posible, pero desde luego tremendamente menos probables.

    En resumen, no quiero decir que en 50-100 años los reactores de fusión vayan a constituir un 30%-40% de los reactores del mundo sí o sí. Pero no lo veo inviable.

    De todas formas, estoy contigo: a finales del 2027 deberíamos tener esta conversación de nuevo y ver el avance en la construcción y arranque de SPARC. Y una vez construido SPARC, esperar un año, y ver si ya están seriamente planteando Q entorno a 1 o incluso si ya lo han conseguido.
« anterior1

menéame