El Departamento de Vivienda de EE. UU. le ha demandado al descubrir que su algoritmo ofrece un acceso desigualitario a los anuncios de vivienda y empleo.
El algoritmo está para ofrecer al individuo los resultados que mejor le convienen, y se alimenta de estadísticas.
Si la realidad que muestran las estadísticas es desigual, los resultados serán desiguales.
Si el departamento de vivienda de EEUU piensa que un algoritmo está para transformar la realidad a pesar de que para hacerlo devuelva resultados menos valiosos para los usuarios, que haga su propio Facebook.
#1 Excepto:
- Mostrar anuncios según tu raza o sexo es ilegal
- Que no te muestren un trabajo por tu color de piel (manteniendo el resto de características constante) es injusto
- Que estos sesgos pueden perpetuar esas diferencias en la sociedad
#3
1. Por qué?
Si yo hago un producto para negros o mujeres, ¿no puedo segmentar mi anuncio igual que segmento mi mercado?
A mí, los tampones y los productos para el pelo afro no me interesan.
2. Y si el algoritmo no se ha fijado en mi color de piel sino en las cosas a las que doy like, y llega a la conclusión de que según mis gustos pertenezco a una agregación estadística a la cual no le interesa esa oferta laboral?
Como tú dices, habrá que demostrar que el resto de cosas se mantienen constantes y que el criterio es mi color de piel.
3. La única manera de que un algoritmo que bebe de la realidad no haga diferencias por raza, es que no haya diferencias entre razas.
Tal vez lo que perpetua la diferencia es querer diferenciarse.
#7 Los anuncios de trabajos y de venta/aquiler de casas no son tampones. Como dice la noticia, es ilegal hacer lo que Facebook está haciendo. Hay mucha investigación para evitar que los algoritmos discriminen por raza o sexo.
Si yo tengo una estadística que dice que las personas con el pelo liso compran más casas que las personas con el pelo rizado, ¿por qué no puedo segmentar mi publicidad en función del tipo de pelo?
Si mi algoritmo discrimina por ingresos, o por nivel de estudios, y en la sociedad la distribución ingresos o estudios no es homogénea en todas las razas, a ti te puede parecer que mi algoritmo discrimina por raza...
A mí me importa tres mierdas las razas, porque el dinero no tiene raza, pero porque quiero que mi anuncio tenga en cuenta criterios importantes y relevantes que tienen que ver con mi negocio es posible que haya una diferencia estadística racial que no depende para nada de mi algoritmo sino de que otras diferencias estadísticas raciales que yo no controlo.
#14 Tienes pruebas de que no? Porque es la compañía la que tiene que probar que no discrimina. De momento los indicios dicen que sí, y Facebook ya ha modificado el algoritmo en otras áreas para reducir el sesgo.
Si no fueras un hombre blanco igual te imoortarian estas cosas más.
género
Del lat. genus, -ĕris. 3. m. Grupo al que pertenecen los seres humanos de cada sexo, entendido este desde un punto de vista sociocultural en lugar de exclusivamente biológico.
El género es cómo te identificas, el sexo depende de tus cromosomas, y la orientación sexual es hacia qué género te sientes atraído.
Comentarios
El algoritmo está para ofrecer al individuo los resultados que mejor le convienen, y se alimenta de estadísticas.
Si la realidad que muestran las estadísticas es desigual, los resultados serán desiguales.
Si el departamento de vivienda de EEUU piensa que un algoritmo está para transformar la realidad a pesar de que para hacerlo devuelva resultados menos valiosos para los usuarios, que haga su propio Facebook.
#1 Excepto:
- Mostrar anuncios según tu raza o sexo es ilegal
- Que no te muestren un trabajo por tu color de piel (manteniendo el resto de características constante) es injusto
- Que estos sesgos pueden perpetuar esas diferencias en la sociedad
#3
1. Por qué?
Si yo hago un producto para negros o mujeres, ¿no puedo segmentar mi anuncio igual que segmento mi mercado?
A mí, los tampones y los productos para el pelo afro no me interesan.
2. Y si el algoritmo no se ha fijado en mi color de piel sino en las cosas a las que doy like, y llega a la conclusión de que según mis gustos pertenezco a una agregación estadística a la cual no le interesa esa oferta laboral?
Como tú dices, habrá que demostrar que el resto de cosas se mantienen constantes y que el criterio es mi color de piel.
3. La única manera de que un algoritmo que bebe de la realidad no haga diferencias por raza, es que no haya diferencias entre razas.
Tal vez lo que perpetua la diferencia es querer diferenciarse.
Hola ideologías identitarias.
#7 Los anuncios de trabajos y de venta/aquiler de casas no son tampones. Como dice la noticia, es ilegal hacer lo que Facebook está haciendo. Hay mucha investigación para evitar que los algoritmos discriminen por raza o sexo.
#10 ilegal por qué?
Si yo tengo una estadística que dice que las personas con el pelo liso compran más casas que las personas con el pelo rizado, ¿por qué no puedo segmentar mi publicidad en función del tipo de pelo?
Si mi algoritmo discrimina por ingresos, o por nivel de estudios, y en la sociedad la distribución ingresos o estudios no es homogénea en todas las razas, a ti te puede parecer que mi algoritmo discrimina por raza...
A mí me importa tres mierdas las razas, porque el dinero no tiene raza, pero porque quiero que mi anuncio tenga en cuenta criterios importantes y relevantes que tienen que ver con mi negocio es posible que haya una diferencia estadística racial que no depende para nada de mi algoritmo sino de que otras diferencias estadísticas raciales que yo no controlo.
#11 Muy bonita la teoría hasta que el algoritmo reconoce tu color de piel y te excluye de la oferta de trabajo. Por eso es ilegal.
#13 tienes pruebas de que el algoritmo atiende al color de la piel?
Porque igual solo tienes prejuicios
#14 Tienes pruebas de que no? Porque es la compañía la que tiene que probar que no discrimina. De momento los indicios dicen que sí, y Facebook ya ha modificado el algoritmo en otras áreas para reducir el sesgo.
Si no fueras un hombre blanco igual te imoortarian estas cosas más.
#1 Si tu algoritmo decide que no te conviene un programa público de vivienda o trabajo por ser negro, tu puto algoritmo está haciendo algo ilegal.
#6 si lo hace por ser negro mi algoritmo está mal.
Si lo hace por otros motivos tú estás haciendo algo ilegal al llamarme racista.
#8 ...discrimina en función de...
Vete por los cerros de Úbeda, pero no vuelvas.
#9 muy buen argumento, gracias por participar.
Eso de "género", ¿qué es? ¿El género tonto?
¿O es que quieren decir sexo?
Ai, English power!
#4 De la RAE.
género
Del lat. genus, -ĕris.
3. m. Grupo al que pertenecen los seres humanos de cada sexo, entendido este desde un punto de vista sociocultural en lugar de exclusivamente biológico.
El género es cómo te identificas, el sexo depende de tus cromosomas, y la orientación sexual es hacia qué género te sientes atraído.
Edit