En este programa basado en el navegador, los estudiantes aprenden sobre el sesgo algorítmico a través de la lente de una escuela secundaria ficticia que está dando premios: El más probable para ir a una universidad superior, el más probable para convertirse en viral y el más problemático. Los participantes comienzan asignando premios a personajes históricos famosos como Albert Einstein, Marilyn Monroe y Rosa Parks. Los alumnos también asignan una serie de atributos a cada premio (adaptable, aventurero, agresivo, etc.) (...)
Comentarios
#3 No entiendo el comentario pero suena interesante.
Números mágicos como el 1089?
https://www.smartick.es/blog/matematicas/recursos-didacticos/numeros-magicos-el-1089/
#6 en informática, un número mágico es aquel valor numérico que "sale de la nada" sin mayor explicación de de donde viene, cual es su función y por que ese número y no otro.
Articulo en wiki:
https://en.m.wikipedia.org/wiki/Magic_number_(programming)
Y artículo de uno de los números mágicos más famosos de la informática, 1597463007
(o 0x5F3759DF en hexa)
https://en.m.wikipedia.org/wiki/Fast_inverse_square_root
Los juicios de los seres humanos son aún más parciales y sesgados...y por tanto más peligrosos
Un algoritmo que aprende de entrenadores humanos hereda sesgos de los humanos que lo entrenan. Sorpresa.
Y la verdad, meter en el mismo saco de "algoritmo" a la IA, que apenas sabemos como funciona, y a algoritmos propiamente dichos, con su descripción paso a paso, me parece de locos.
#1 lo de que no sabemos como funciona la IA sí que es de locos.
En todo caso, un algoritmo tradicional también puede tener sesgos si toma decisiones en base a perfiles.
#2 perfiles proporcionados por humanos casualmente?
Me ha tocado entrenar una red neuronal y te sorprenderías de la cantidad de Fe y Magia que entra dentro de este campo. Funciona, sí, pero los coeficientes que salen son literalmente Números Mágicos.
#3 los perfiles son datos objetivos. Edad, sexo, etc. No hay sesgo en los perfiles sino en los algoritmos. Pregunta en un banco o una aseguradora.
#3 ¿Fe y magia en, por ejemplo, un backpropagation?
Si es lo mismo que tirar una pelota a una canasta, si sale muy alta tiras con menos fuerza, si muy baja tiras con más fuerza... hasta que encestas.
Pues lo mismo pero con muchas canastas y muchos tiros.
El artículo hace un buen ejercicio de "decir y no mostrar", cuenta muchas cosas irrelevantes, y luego te suelta el resultado sin explicar cómo llegan a esas conclusiones, que sería lo único interesante. Hasta hay un punto en el que los alumnos dicen que el algoritmo es fenomenal y que deberían utilizarlo para las elecciones.
Igual es que no es tan claro lo que pretendían mostrar y cómo...
Eso depende la IA, hay algunas que sabemos exactamente cómo funcionan generalmente basándose en procesos estadísticos claros que intrinsecamente tienen sus sesgos. Y otras como las redes neuronales que son una agregación de componentes simples, pero como conjunto es muy difícil darle una interpretación a lo que ha aprendido.
Además, las criterios de optimización a veces son muy agresivos, y eso puede hacer que la IA busque atajos (no es consciente de hacer trampas). Es como que le enseñen a animales (por ejemplo cuervos) a llevar basura a un puesto de reciclaje y que automáticamente dispense comida. Ellos realmente no tienen claro el concepto de basura, pueden aprender que si roban cosas, también les dan comida, o que pueden engañar el censor, y para ellos es totalmente válido. Y ese efecto de buscar atajos se incrementa si es dificil encontrar basura, o si la comida es poca, o si hay mucha competencia entre los cuervos.