#5 Asimov: aquí tienes las leyes que todo robot debe cumplir
También asimov: aquí tienes decenas de cuentos y novela explicando porqué esas leyes van a fallar
Solo le faltaba haber propuesto soluciones a los problemas que sus leyes han creado para convalidar la carrera de político
#38 ¿Te suena lo de hecha le ley hecha la trampa? El el problema que tenéis algunos es que pensáis que la solución a este dilema se puede alcanzar desde un perspectiva meramente técnica (Mejorando la IA), cuando el problema es epistemológico.
Las leyes de la robótica - o cualquier otra forma "alinear las IAs para que no se salgan de lo que sus diseñadores quieren que hagan" - requiere crear y programar un sistema normativo, pero el problema es que la única forma en que los humanos podemos normativizar cualquier comportamiento complejo es a través de la simplificación a través de conceptos necesariamente vagos y llenos de grises. Como usuario de Meneame habrás comprobado que cuando en cualquier foro intenta aplicar lo de impedir comentarios "fuera de tono" con moderadores humanos constantemente hay situaciones donde se enciende un acalorado debate sobre sus decisiones. En el mundo real hemos creado todo un sistema judicial que a través de leyes, reglamentos que las desarrollan, recomendaciones de instituciones que las aplican, jurisprudencia en casos similares...intenta delimitar si un hecho cumple o no una norma y los humanos especializados en esta tarea difieren constantemente.
Por eso Wittgenstein decía eso de que "los límites de mi lenguaje son los límites de mi mundo" y Popper sostenía que ninguna teoría se puede verificar, solo refutar. Los limites epistemológicos del conocimiento humano son los que son, y los programadores no viven fuera de ellos.