Las etapas de desarrollo de un modelo de IA (o, más concretamente, el algoritmo que dirige el modelo) ayudan a comprender los riesgos potenciales de sesgo. Así, el sesgos puede introducirse en en el modelo de varias formas. Puede ser que el propio algoritmo cree un sesgo debido a la forma en que se implementa, al dar más importancia a ciertos datos, frente a otros que debería considerar de manera similar, creando un desequilibrio. También podrían introducirlo los propios creadores del algoritmo, al ser los responsables de escoger qué conjuntos
Comentarios
la inteligencia artificial de por sí no tiene ningún sesgo que tú no le hayas introducido antes en forma de datos, macrodatos, etc. dejad de tratar una combinación de macrooperaciones matemáticas como si fuera un ser vivo con inteligencia, voluntad propia, etc. que no somos tan idiotas!
No existen los sesgos en las máquinas. Son los humanos los que tienen sesgos.
Un ejemplo es una IA que se dedica a seleccionar candidatos para un trabajo. Esto sucedió. El cacharro se había tragado los datos de rendimiento de todos los empleados. Determinó que las mujeres tenían peor rendimiento, así que excluyó a todas las mujeres como candidatos.
¿Es esto un sesgo? No, no lo es.
¿Como vemos este resultado? Lo vemos inaceptable porque tenemos el sesgo de proteger a las mujeres.
No es la máquina quién tiene el sesgo.
El peor sesgo es el que se introduce cuando se procesan y limpian los datos para que el modelo dé los resultados que cada uno considere "políticamente" correctos.