#5 La metáfora del puente se refuta a sí misma con su premisa oculta.
La analogía que presenta Gebru es incorrecta. Sería correcta si se asume lo inasumible (que el "artefacto" es un sistema cerrado y totalmente predecible, como el puente), que es lo que está en disputa: que el "artefacto" es comprendido perfectamente por su constructor en el momento de diseño, que sus modos de fallo son enumerables y que no se adapta.
Eso es cierto para un puente (estructura pasiva, física conocida, carga computable, entorno medioambiental estable) y es precisamente lo que no es cierto para los sistemas de inteligencia artificial que están en el centro del debate, que se entrenan, no se diseñan: nadie, incluidos sus constructores, puede señalar dónde almacena un modelo un hecho, por qué alucina o qué hará en un entorno que no estaba en sus datos.
Cuando un puente se derrumba, preguntar «quién lo construyó» es legítimo porque existe una persona que entendía su estructura, sus… » ver todo el comentario
La analogía que presenta Gebru es incorrecta. Sería correcta si se asume lo inasumible (que el "artefacto" es un sistema cerrado y totalmente predecible, como el puente), que es lo que está en disputa: que el "artefacto" es comprendido perfectamente por su constructor en el momento de diseño, que sus modos de fallo son enumerables y que no se adapta.
Eso es cierto para un puente (estructura pasiva, física conocida, carga computable, entorno medioambiental estable) y es precisamente lo que no es cierto para los sistemas de inteligencia artificial que están en el centro del debate, que se entrenan, no se diseñan: nadie, incluidos sus constructores, puede señalar dónde almacena un modelo un hecho, por qué alucina o qué hará en un entorno que no estaba en sus datos.
Cuando un puente se derrumba, preguntar «quién lo construyó» es legítimo porque existe una persona que entendía su estructura, sus… » ver todo el comentario