Desde hace mucho tiempo se habla sobre si los algoritmos de las redes sociales potencian el racismo y el sexismo, entre otros tipos de discriminación, y el caso de Twitter es uno de los que más ha dado que hablar. En las últimas horas la plataforma reconoció la existencia de un "sesgo algorítmico", al dar a conocer los ganadores de su más reciente iniciativa para exponerlo. Los modelos algorítmicos amplifican los prejuicios del mundo real y las expectativas sociales de belleza, lenguaje, discapacidad o color de piel.
Comentarios
Favorecen las discusiones y polarizacion para generar tribus con cada vez mas seguidores y sacar negocio con publicidad y uso de datos en cookies y preferencias.
#1 El concurso buscaba sesgos en el algoritmo de recortado de imágenes.
#1 #4 NO TIENE QUE VER CON ESO
Esta relacionado con el tema de tratamiento de las imagenes
Ya habia hecho esa revision Dot.CSV en twitter explicando como se cortaban las imagenes y como se priorizaba el recorte de una forma en la que si habia dos caras entre las que decidir, la IA se decantaba por mostrar centrada la cara de una persona blanca
Pero el problema es que habia dos caras, las dos deberia haberlas tratado por igual, pero tenia que decidirse por una... pues lo hacia por la blanca., No era algo buscado, era algo que salia asi despues de probarlo y ponerlo en una situacion de analisis muuuuy extremo
#7 Eso me recuerda a la famosa IA nazi
https://www.eldiario.es/hojaderouter/inteligencia_artificial/psicopata-hitler-escandalos-inteligencia-artificial_1_2077852.html
#7 Ah, disculpas entonces, pero igual la IA solo esta entrenada con caras blancas como referencia, por mayoria poblacional en EEUU.
En otros casos como TikTok es peor, se ordenaba la discriminacion contra personas feas o LGBT segun politicas internas.
#9 No, no es que se entrene solo con un tipo de caras, pero tenia que elegir entre una u otra. Solo habia dos opciones, asi que.....se orientaba hacia una
Aunque los datos suelen ser mas de un tipo predominante de todos... Es decir, si las librerias con datos hay mas fotos de blancos por ser mayoria... pues pasa lo que pasa
El titular se queda corto. Lo interesante de la noticia, más que la evidencia que reconoce Twitter y que ya era notoria, son los proyectos que han participado en el concurso y que muestran diferentes sesgos del algoritmo.
Minipunto para hipertextual por incluir enlaces a los repos de los experimentos. Muy recomendables también para aquellos a los que no les interese el código, están muy bien documentados.
Qué sopresa, poralizar y enfrentar a la sociedad por cuestiones artificiales es un negocio. Y los que nos oponemos a ello y buscamos la convivencia sana y pacífica entre ciudadanos somos los "equidistantes"
#4 Me hace gracia, porque aquellos a los que llaman "equidistantes", con cierto tono despectivo, son los que deciden qué grupo se lleva la mayoría decisiva.
Y además, son varios millones.
Cómo les jode que haya personal que les sude la polla sus argumentarios.
#5 Ay, es que es tan sencillo destruir y tan dificil construir, y es tan sencillo vender el odio y tan complicado vender el amor. Que parece un mensaje hippie, pero no lo es. Yo creo que si te atacan debes defenderte. Pero algunos entienden esa "defensa" de manera bastante sui géneris.