Uno de los mayores dilemas a los que durante años se ha estado enfrentando el concepto del coche autónomo es el decidir a quién debe atropellar un coche autónomo en caso de duda. Ahora un grupo de investigadores del Media Lab del MIT y el Departamento de Machine Learning de la CMU dice haber hallado una solución al problema. Se trata de un sistema de toma de decisiones éticas basado en los votos de la gente.
Al leer el artículo científico me parece mucho menos ambicioso que el artículo científico, en el primero básicamente dicen que proponen utilizar el aprendizaje automático para automatizar decisiones éticas y eso lo aplican al dominio de los vehículos autónomos. Sin embargo, diría que a parte de eso no abordan el que esa sea la mejor opción o que incluso sea un alternativa ética, supongo que solo querían publicar su enfoque, más que resolver el problema.
Hasta diría que no creo que actualmente eso sea un problema, porque para plantear ese problema implicaría que el sistema sería capaz de comprender cabalmente la situación en la que está, y eso sería un paso casi que más complicado que la propia conducción autónoma en sí misma. Ya no hay que detectar solo los coches, sino saber cuantos pasajeros tienen, los peatones, si hay niños, si un cochecito de bebé está (o puede estar) vacío.
PS: Además, a ver quién compra un coche que puede tomar decisiones contra el bienestar de sus ocupantes.
"Se trata de un sistema de toma de decisiones éticas basado en los votos de la gente."
Dos problemas gordos con eso.
Primero que la ética y la moral es mutable con el tiempo. Hace 2000 años el voto de la gente habría sido matar a los esclavos que son mucho menos valiosos que la clase alta, hubiese sido perfectamente legal y lícito. No se puede evaluar algo así de forma objetiva. ¿Un ingeniero vale más que tres indigentes?, ¿un investigador contra el cáncer vale más que 5 señoras de la limpieza?, ¿un asesino vale menos que una persona normal?, ¿los integrantes del vehículo valen más que los de fuera?, ¿un viejo vale menos que un bebé?. Llevamos milenios de filosofía para poder responder preguntas así y todavía no hay un consenso. En los laboratorios tienes que pasar un consejo de ética formado por expertos que te analizan con un escrutinio máximo para hacer cosas mínimas como un experimento con placebo en personas; y sin embargo esto es dejar la votación en manos en parte de una población que no ha visto un libro de ética su vida.
Segundo, abre la posibilidad de que les hagan un 4chan a estos sistemas de votación y que de repente de un día para otros los coches se dediquen a atropellar negros por ser evaluados como menos valiosos por una trolleada coordinada en Internet.
Comentarios
Al leer el artículo científico me parece mucho menos ambicioso que el artículo científico, en el primero básicamente dicen que proponen utilizar el aprendizaje automático para automatizar decisiones éticas y eso lo aplican al dominio de los vehículos autónomos. Sin embargo, diría que a parte de eso no abordan el que esa sea la mejor opción o que incluso sea un alternativa ética, supongo que solo querían publicar su enfoque, más que resolver el problema.
Hasta diría que no creo que actualmente eso sea un problema, porque para plantear ese problema implicaría que el sistema sería capaz de comprender cabalmente la situación en la que está, y eso sería un paso casi que más complicado que la propia conducción autónoma en sí misma. Ya no hay que detectar solo los coches, sino saber cuantos pasajeros tienen, los peatones, si hay niños, si un cochecito de bebé está (o puede estar) vacío.
PS: Además, a ver quién compra un coche que puede tomar decisiones contra el bienestar de sus ocupantes.
#3 Además de todo lo que planteas, a mi me acaba de surgir la duda de que si la decisión la toma el coche ¿de quién es la responsabilidad legal?
#7 De la compañía de seguros
#15 coño no había caído.
"Se trata de un sistema de toma de decisiones éticas basado en los votos de la gente."
Dos problemas gordos con eso.
Primero que la ética y la moral es mutable con el tiempo. Hace 2000 años el voto de la gente habría sido matar a los esclavos que son mucho menos valiosos que la clase alta, hubiese sido perfectamente legal y lícito. No se puede evaluar algo así de forma objetiva. ¿Un ingeniero vale más que tres indigentes?, ¿un investigador contra el cáncer vale más que 5 señoras de la limpieza?, ¿un asesino vale menos que una persona normal?, ¿los integrantes del vehículo valen más que los de fuera?, ¿un viejo vale menos que un bebé?. Llevamos milenios de filosofía para poder responder preguntas así y todavía no hay un consenso. En los laboratorios tienes que pasar un consejo de ética formado por expertos que te analizan con un escrutinio máximo para hacer cosas mínimas como un experimento con placebo en personas; y sin embargo esto es dejar la votación en manos en parte de una población que no ha visto un libro de ética su vida.
Segundo, abre la posibilidad de que les hagan un 4chan a estos sistemas de votación y que de repente de un día para otros los coches se dediquen a atropellar negros por ser evaluados como menos valiosos por una trolleada coordinada en Internet.
#9 Bueno, supongo que en ese caso los esclavos votarían también y seguro que eran más.
#13 ¿Esclavos votando?
#19 Estamos hablando de opiniones, no de esclavos votando.
Al de la izquierda, por supuesto.
#1 Según el artículo pilla el de la derecha
#2 Según el que conduce es el de la izquierda.
#4 Que no joder! léete el artículo
#5 Ay... creo que me cargué a los que no eran...
Al ciudadano que genere menos ingresos, por supuesto.
Ésta es otra demostración de que nos dirigimos hacia la Idiocracia.
https://es.wikipedia.org/wiki/Idiocracy
Random()
¡Al cojo! en caso de duda siempre al cojo.
Yo no compraría un coche que no tenga como prioridad salvar a los ocupantes.
#12 Por esa razón estas reglas nos las pueden definir los fabricantes, sino que debe ser el estado.
A Puigdemont, o al que menos corra. Al menos los mercedes tenían el punto de mira para fijar el objetivo...