Menéame: comentarios [3024869]

#267 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

ElAnonimo — Sat, 20 Oct 2018 11:29:09 +0000

#263 Lo sabía, todo se resume a descartar a toda costa esa opción (de entre todas las posibles). Ese es tu prejuicio. Eres capaz de dar por válidas cosas incoherentes solo para poder decir que las mujeres jamás, bajo ningún concepto, con ningún criterio, y cogiendo a ningún subconjunto de ellas pueden ser peores en absolutamente nada a ningún grupo de hombres escogidos de ninguna manera.

Tu debate no puede ser técnico y contra los dogmas de fé no sirve razonar.

» autor: ElAnonimo

#266 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Pitt — Sat, 13 Oct 2018 20:08:27 +0000

#264 Más abajo explica que era porque la IA daba más importancia a términos de lenguaje usados más por hombres que por mujeres, no directamente relacionado con el sexo en sí. Lo de que los datos estaban sesgados por haber más hombres no lo digo yo, lo dicen ellos.

» autor: Pitt

#265 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

jarenare — Sat, 13 Oct 2018 17:49:34 +0000

#104 dices que te imaginas como han entrenado al sistema y al menos yo no lo haría así, me parece muy simplista. No será solo quien ha entrado, sino quien ha rendido en la empresa. Claro que el heteropatriarcado no habrá dejado triunfar a brillantísimas mujeres dando el puesto que merecían a un hombre mediocre, pero eso ya se sabe. Ah, y por ese heteropatriarcado han retirado una IA en la que han invertido tiempo y dinero por no satisfacer los criterios de género

» autor: jarenare

#264 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

jarenare — Sat, 13 Oct 2018 17:42:57 +0000

#157 sí, lo he leído y, como trabajo en algo muy cercano al tema, opino que es muy sencillo quitar el campo "sexo" de la algorítmica de análisis. Decir que los datos eran sesgados porque había más hombres que mujeres, que es un reflejo de la realidad, es reclamar cuotas también en los análisis que se hacen de forma objetiva: déjame que yo manipule los datos hasta donde yo quiera, porque así voy a ser muuuy objetiva. En fin, más de lo mismo. ¿Se te ha ocurrido siquiera considerar que los hombres sean mejores candidatos, y por eso un algoritmo imparcial los prefiere? Para los análisis científicos conviene considerar todas las posibilidades.

» autor: jarenare

#263 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Pitt — Fri, 12 Oct 2018 14:37:46 +0000

#262 Sigues insistiendo en que el artículo se contradice y que yo señalé incoherencias y sigo sin saber de qué incoherencias hablas. Evidentemente lo de "la realidad es que la IA no estaba bien entrenada" es, como ya te he dicho, lo que dice al artículo (la única realidad que tenemos). Luego dices que yo tengo prejuicios cuando el que insinúa que pudiera ser porque las mujeres fueran peores candidatas eres tú, cuando yo digo todo lo contrario (¿contra qué tengo prejuicios, contra la IA?).

En fin, este va a ser mi última respuesta sobre el tema. Ta lueguin.

» autor: Pitt

#262 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

ElAnonimo — Fri, 12 Oct 2018 14:29:55 +0000

#259 Para empezar, has puesto la frase literal "cuando la realidad es que la IA no estaba bien entrenada". No te desdigas que es feo en una conversación.

Mira, te voy a hacer lo mismo para que veas lo bien que sienta y lo que transmite:

Insistes una y otra vez en que el artículo blablabla y que las mujeres eran menos y entonces se tuvieron que discriminar porque los sesgos y que blablabla y no pones en ningún momento argumentos ni explicas si conoces algo de cómo es una IA. Cuando está todo en el artículo (las características más comunes estaban siendo ignoradas, los resultados parecían aleatorios...).

Pues vale, hay que prohibir las cucharillas porque sirven para acuchillar gente, lo pone un artículo.

(Un artículo que se contradice, pero como yo ya tengo mi prejuicio ignoro las partes que no me gustan).

Tienes razón, no hay nada que discutir.

PD: Ahora dices que el artículo es válido porque es lo único que tienes, cuando antes ya señalaste una incoherencia tú solo.
PD2: Algún día aprenderás que las cosas que pasan pueden tener varios motivos, no solo uno simplista.

» autor: ElAnonimo

#261 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Pitt — Fri, 12 Oct 2018 10:23:02 +0000

#260 Sí, ya ponía en otro comentario que el problema al parecer fue en la terminología que usaban los hombres, la IA dió más peso a esa terminología y como las mujeres no la empleaban, salías perjudicadas.

» autor: Pitt

#260 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--493869-- — Fri, 12 Oct 2018 10:04:32 +0000

#224 Eso no funciona así. Si metes 10000 currículus de hombres lo más probable es que los mejores sean los hombres, y también los peores, y también los intermedios. La IA va a promediar, no va a generar un nivel de distinción tan fino, generalmente (obviamente todo depende de cómo se programe). Otra cosa es que use otros parámetros, además del sexo, para determinar quienes son los mejores. Pero no va a suponer automáticamente que el sexo tiene un peso inmenso sólo porque los mejores sean siempre hombres.

» autor: --493869--

#259 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Pitt — Fri, 12 Oct 2018 09:20:43 +0000

#258 Pero vamos a ver, aquí el que está dictaminando su "realidad" eres tú. Los únicos datos que tenemos son los de ese artículo y el artículo dice claramente que se las descriminó por ser mujeres, única y exclusivamente, y que fue por un error en los datos de entrenamiento, no porque fueran fueran peores candidatas.

Insistes una y otra vez en que "No podemos saber el motivo por el que se las descriminó", cuando está todo en el artículo. Ahora dices que el artículo no es válido y blablabla. Pues vale, entonces no hay nada que discutir.

» autor: Pitt

#258 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

ElAnonimo — Fri, 12 Oct 2018 01:28:14 +0000

#257 Tú mismo has admitido que el artículo es técnicamente contradictorio, solo le sigues dando vueltas y validez porque confirma tu sesgo.

Y vuelves otra vez a justificarlo porque una característica era más habitual, cuando ya se te ha explicado que una IA no funciona así. El mismo artículo pone justo donde estas leyendo que el algoritmo daba poca importancia a factores muy habituales en los candidatos (sin darse cuenta de que se contradice).

Visto eso desisto, ya has hecho tu juicio y dictaminado "la realidad".

» autor: ElAnonimo

#257 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Pitt — Fri, 12 Oct 2018 00:10:49 +0000

#255 En el artículo lo comenta: se crearon 500 modelos centrados en competencias de trabajo específicas y entrenaron a la IA a reconocer 50.000 términos que aparecían en los currículums de los candidatos anteriores y el algoritmo aprendió a darle importancia a habilidades que aparecían en común en los candidatos. A esto me refería con los parámetros.

El problema fue que la mayoría de currículums eran de hombres así que el algoritmo daba más importancia a la terminología utilizada por hombres para describir sus currículums, por lo que los hombres salían beneficiados.

Ya te digo que yo no estoy subjetivizando nada, está todo explicado en el artículo.

» autor: Pitt

#256 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

jm22381 — Thu, 11 Oct 2018 21:03:26 +0000

#7 Tal vez a la IA le pareció raro que los sujetos X del colegio sólo para sujetos X tienen una mayor probabilidad de tomarse una baja médica de unos 9 meses que deriva en una época de menor productividad... y asumió que el colegio X produce trabajadores defectuosos

» autor: jm22381

#255 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

ElAnonimo — Thu, 11 Oct 2018 18:54:39 +0000

#252 Es que precisamente no podemos saber si los datos objetivo eran sesgados, si el sistema está mal medido o si las mujeres eran peores candidatas (generalizando) para los puestos que sea que se buscaban. Todas esas opciones son posibles de igual manera, lo bueno de una IA es que busca factores que sus diseñadores ni llegaron a pensar, lo malo que nunca sabes qué factores ni valoraciones está haciendo.

¿En base a qué parámetros dices que se entrena? ¿Puedes poner algún ejemplo de cómo un parámetro afecta al entrenamiento de un algoritmo de este tipo? Entenderás que después de defender la idea del número de candidatos con cada característica no le de mucha confianza a eso que dices.

Tu punto de vista denota tus sesgos subjetivos y es una afirmación muy atrevida. Lo único que sabemos de la realidad es que el sistema resultante no parecía bueno a ojos humanos y que no era deseable el resultado (no solo por las mujeres).
Cosa por otro lado bastante normal en este campo, la dificultad de entenderlas implica dificultad para diseñarlas y es fácil que no sepas de antemano si te va a servir de algo.

» autor: ElAnonimo

#254 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--175143-- — Thu, 11 Oct 2018 16:11:24 +0000

#96 También es momento para recordar que en vuestros CV solo se debería poner lo que le interesa a uno poner .

» autor: --175143--

#253 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--543878-- — Thu, 11 Oct 2018 16:07:01 +0000

#174 El problema es que a día de hoy una IA tiene mucho más de inteligente que de artificial. A la IA le enseñan a clasificar a las personas a partir de valoraciones (un historial) subjetivas. Esa AI básicamente aplica un algoritmo estadístico para determinar a qué grupo de personas pertenece cada nueva persona que llega, si a la de contratados o a la de no contratados.

De todas formas me parece un problema de sobra conocido y más que predecible, con soluciones también conocidas...

» autor: --543878--

#252 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Pitt — Thu, 11 Oct 2018 14:58:19 +0000

#251 Efectivamente se entrenan, pero se entrenan en base a unos paramétros, que es a lo que me refería. De todas formas mi discusión inicial iba porque había gente por aquí que decía que esto era debido a que las mujeres eran simplemente, peores, cuando la realidad es que la IA no estaba bien entrenada (desde mi punto de vista, claro).

» autor: Pitt

#251 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

ElAnonimo — Thu, 11 Oct 2018 13:24:11 +0000

#239 Los pesos no se programan, se entrenan y son parte intrínseca del aprendizaje de la red. No hay ningún humano que diga "esta característica va a pesar X".

El artículo dice eso, es cierto, pero como tú mismo has encontrado, resulta que es una mala interpretación del articulista. Y si entiendes lo que es una red neuronal, deep learning... sabes que no es así.

Si el artículo pusiera que se prohíben las cucharillas porque su cometido principal es acuchillar gente, no te costaría comentar en esa noticia que el cometido principal de una cucharilla no es acuchillar gente ¿No?

» autor: ElAnonimo

#250 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--31461-- — Thu, 11 Oct 2018 13:10:35 +0000

#246 Es que precisamente es la productividad lo que no puedes medir de forma objetiva, en la mayoría de los casos hay un factor de calificación humana de por medio salvo en trabajos muy simples y por ende totalmente automatizables. Creo que es bastante obvio lo que estoy diciendo. Incluso hay casos que pueden ser bastante insidiosos como es por ejemplo la productividad de un programador medido en líneas de código, que puede resultar que el que más haga resulte a largo plazo que su código sea el menos eficiente y el menos mantenible, lo cual es un ejemplo de sesgo implícito en la propia metodología, aparentemente totalmente neutral.

Y eso sería si nos metiéramos de verdad en analizar la productividad. Aunque el artículo habla en términos un poco ambiguos me da la impresión de que habla de un sistema que simplemente intenta reproducir la labor del responsable de selección de personal, es decir, si los selectores tienen sesgos, se considera un éxito si la red neuronal los reproduce, ya que la medida del éxito es que el candidato seleccionado por el sistema sea el mismo que hubiera seleccionado recursos humanos. Si esto es así, que ya digo que el artículo no parece que lo especifique, el sistema tendrá los mismos problemas que tiene recursos humanos a la hora de decidir un candidato, incluidos todos los prejuicios y metodología poco o nada científica que se suele usar en estos casos.

» autor: --31461--

#249 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

squanchy — Thu, 11 Oct 2018 10:22:01 +0000

#226 Al fin alguien que sabe de lo que habla. Y de esa forma, la IA capta que el sexo no es una variable fiable con la que medir la productividad, y tomará otra que sí sea diferenciadora (la edad, el nivel de estudios, el color de ojos o cualquier otra que a un humano se le escapa).

» autor: squanchy

#248 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Findopan — Thu, 11 Oct 2018 10:21:43 +0000

#10 Toda mujer que haya trabajado en un ambiente mayoritariamente masculino sabe que la mayoría de los hombres son machistas, te valoran menos por ser mujer y tienden a ver antes tu culo que tu capacidad de trabajo, pero no lo dirá porque está mal visto.

» autor: Findopan

#247 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

squanchy — Thu, 11 Oct 2018 10:17:27 +0000

#214 Y repito que a la IA le da igual que le metas 100 hombres por cada mujer, que si las mujeres son más productivas, las elegirá a ellas. Lo que consigues habiendo 100 hombres por cada mujer, es que el resultado al evaluar a un hombre sea más fiable, pero en ningún caso le das ventaja.

» autor: squanchy

#246 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

squanchy — Thu, 11 Oct 2018 10:15:14 +0000

#216 Pero es que no hay evaluaciones humanas de por medio. Tienes una ficha con el curriculum de un trabajador, y le asocias su productividad, medida en paquetes que envía al día. Los datos con los que entrenas a la IA los tomas del curriculum, y pueden ser la edad, el género, el nivel de estudios, la procedencia, su domicilio, y hasta el color de ojos, la altura y el peso, si te parece. No hay sesgo ahí. Será la IA quien decida qué características son relevantes y cuales no, de todo lo introducido.

El sesgo se produce si, p.e., quiero conocer la intención de voto donde hay un 50% de hombres, y un 50%, y yo en la encuesta pregunto a un 70% de hombres y un 30% de mujeres. Mi muestra está desequilibrada respecto al espectro que pretendo representar, hay sesgo. Pero eso no pasa con la IA, porque es ella quien decide qué características suman para la productividad, y cuáles restan. Puede asumir que el color de ojos es irrelevante, o importantísimo. Ésa es la gracia de las IAs, que se moldean ellas mismas y toman en cuenta parámetros que los humanos desechamos.

Luego la IA, para cada nuevo candidato, dará una estimación de la productividad que espera de esa persona. Y si una mujer gorda de 50 años de ojos azules da menos puntuación que un hombre sin sobrepeso de 35, pues es lo que los datos de entrada reflejan.

» autor: squanchy

#245 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

plarag — Thu, 11 Oct 2018 09:27:40 +0000

Es cierto el titular, o la IA mostró que los candidatos con las características que resultaron menos adecuadas al puesto resultaron ser mujeres ?

» autor: plarag

#244 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--463950-- — Thu, 11 Oct 2018 09:21:56 +0000

#148 ¿Por qué son problemas o errores?, Simplemente ha hecho lo que se le ha pedido. Esta mal programado básicamente. Pero no por que tenga errores, si no porque no se le ha pedido correctamente el resultado que querían. Es evidente que nuestra historia los hombres son "la mano de obra" una IA ante es sesgo real, no podrá saltárselo por ser evidente, ahora, enseñarle a la IA a tener encuenta ese sesgo seria la solución.

No ha sido diseñada bien, no ha hecho el trabajo que querían, como si a una fresadora le pides un tornillo y querías una tuerca. es culpa del informatico.

» autor: --463950--

#243 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Jakobg — Thu, 11 Oct 2018 08:51:41 +0000

#241 Creo que hablamos de lo mismo pero tu le llamas modelo a los datos generados y yo le llamo modelo al proceso para generar esos datos.
Los data scientist o como se llame en espanhol es como le llaman a esos algoritmos matematicos, estadisticos y de programacion, no al modelo de datos final ni a lo que generan.
Pero si, todo depende de si esos datos son confiables y estan bien para cada caso y si ese modelo (o algoritmos si se le quiere llamar) es el correcto

» autor: Jakobg

#242 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Pitt — Thu, 11 Oct 2018 08:46:54 +0000

#227 Y añado, que ya no puedo editar: sí que es verdad que más abajo habla de que favorecía por términos en el lenguaje usados más por hombres que por mujeres pero no explica si fue por el entrenamiento o por la programación.

» autor: Pitt

#241 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

sotanez — Thu, 11 Oct 2018 08:42:29 +0000

#238 Dicen que usaron machine learning, así que el modelo se genera automáticamente a partir de los datos de entrada y un algoritmo, no se diseña ni se programa manualmente. Vamos, que el mismo algoritmo que genera este modelo puede servir seguramente para generar un modelo que puntúe novelas, por ejemplo.

Si hay sesgo, es en los datos de entrada y su tratamiento previo. Siendo puntillosos, los algoritmos de machine learning o aprendizaje automático sí tienen sesgos, pero digamos a nivel matemático (por ejemplo dos algoritmos distintos pueden tratar de forma diferente la dependencia entre variables) pero los modelos que generen no van a tener sesgos machistas ni nada por el estilo de antemano: esos vienen con los datos.

» autor: sotanez

#240 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

igorymi — Thu, 11 Oct 2018 08:40:52 +0000

#100 te pongo un positivo por si te sirve

» autor: igorymi

#239 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Pitt — Thu, 11 Oct 2018 08:37:25 +0000

#226 #227 "Creer" o "mirar" los estoy usando para simplificar mi explicación, no la estoy humanizando en absoluto. Tal vez lo que yo describo sea más primitivo pero al final depende de cómo estén los pesos programados.

De todas formas yo no estoy "creyendo" nada, lo dice explícitamente el artículo, que esto fue debido a que la mayoría de currículums eran de hombres y la IA se auto-enseñó a preferir a estos sobre las mujeres.

» autor: Pitt

#238 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Jakobg — Thu, 11 Oct 2018 08:34:55 +0000

#237 el modelo no se genera automaticamente, el modelo de disenha y codifica manualmente. Que los datos sean X o sean Y dependera del modelo (programado) y de los datos, cuanto mejor sean ambos mejor sera el resultado

» autor: Jakobg

#237 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

sotanez — Thu, 11 Oct 2018 08:31:05 +0000

#45 Un modelo generado automáticamente a partir de datos creados por humanos no es "incorrecto", pero los datos van a reflejar los sesgos de los humanos y por lo tanto el modelo también.

» autor: sotanez

#236 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

sotanez — Thu, 11 Oct 2018 08:22:35 +0000

#7 #8 #148 Es el principio de "garbage in, garbage out". Al final, estos sistemas están limitados por los datos con los que se entrenan, y en este caso los datos están generados por los candidatos que entregan sus currículums y por los empleados de recursos humanos que toman las decisiones.

Si los empleados tienen sesgos, el programa también, y además es muy difícil, por no decir imposible, "engañar" al sistema para que ignore esos sesgos (vease #86).

» autor: sotanez

#235 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

zenko — Thu, 11 Oct 2018 07:40:30 +0000

#148 muy laxa tu interpretación, dice submitted no que los hayan contratado, de hecho para comprobar el sesgo se quita el sexo, se reentrena el clasificador y se compara con el anterior

» autor: zenko

#234 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

zenko — Thu, 11 Oct 2018 07:35:54 +0000

#7 si hubieran sido suficientemente buenas habrían hecho un equipo de ajedrez mixto, no veo que los genitales externos te perjudiquen en esta competición, si tuvieron que desdoblar el equipo es que no entraban en los margenes del (probablemente existente antes) equipo masculino... así como hipótesis

» autor: zenko

#233 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

ElAnonimo — Thu, 11 Oct 2018 07:34:26 +0000

#231 Sin ir más lejos ¿Cuantas especies animales conoces que tengan un tono de color parecido a un humano de piel clara? ¿No se te ocurre ningún otro animal de tono más oscuro ya sea piel o pelo?

Solo hay que usar fotos de caras de animales y humanos mixtas, incluso metiendo mayoría de gente de piel oscura mi apuesta es que le iba a costar menos separar "blanquitos occidentales" por tener una característica visual más diferenciadora.

» autor: ElAnonimo

#232 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Frippertronic — Thu, 11 Oct 2018 06:50:58 +0000

#192 Es que estás asumiendo que en el colegio no mixto hay la mitad de gente. Y no tiene por qué ser así. Puede haber el mismo número de alumnos en uno mixto que en uno no mixto.

Que sólo hay gente de un sexo no quiere decir que dejen la mitad de las sillas vacías.

» autor: Frippertronic

#231 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--309203-- — Thu, 11 Oct 2018 06:12:09 +0000

#28 Las tecnologías tienden a responder a las necesidades del grupo dominante. A las IAs les cuesta reconocer caras oscuras en buena parte porque el período de prueba se hizo principalmente con gente blanca y se dio por bueno con ese estándar (me pregunto también, no soy óptico ni artista, si las teces más oscuras representan un problema de contraste).

Ocurrió algo parecido con Kodak y la fotografía en color. Se usaba un estándar, la "Shirley card" que favoreció procesos que reflejaban mejor las teces claras. Cuando se dieron cuenta del problema en Japón a mediados de los 90 empezaron a usar su propio estándar.

» autor: --309203--

#230 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Thu, 11 Oct 2018 04:14:07 +0000

[Usuario deshabilitado]

» autor: --591453--

#229 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Thu, 11 Oct 2018 04:12:32 +0000

[Usuario deshabilitado]

» autor: --591453--

#228 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--83870-- — Wed, 10 Oct 2018 23:53:33 +0000

#199 y #215 Sí, un sistema de caja negra, con Deep Learning y demás buzzwords puede que resuelva situaciones inesperadas pero... ¿qué necesidad hay de eso en Recursos Humanos? Al final siempre debería ser humano el que determina los requisitos de un trabajo en plan "para este puesto se necesita que tenga tantos años de experiencia en X y un título de máster en Y"... lo que no es difícil traducir en condiciones if-else (o, al menos, no tanto como extraer esos datos del CV que envíen los candidatos). Es cuando se delega en un sistema automático cuando esas mismas condiciones se vuelven "difusas" (por la propia naturaleza de las redes neuronales) y se pierde el control para evaluar bien.

» autor: --83870--

#227 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

ElAnonimo — Wed, 10 Oct 2018 23:51:04 +0000

#224 Molestarse en ver CV o no es una elección humana, que no aplica a máquinas. Da la impresión de que humanizas las IA. El único trabajo de una IA es procesar las entradas y no va a empezar a descartarlas porque se canse o crea (ja, creer) que es una pérdida de tiempo. Las máquinas todavía no son tan inteligentes como para tener intención ni aburrimiento.

Te lo estamos diciendo varios, que las proporciones no afectan como tú crees

» autor: ElAnonimo

#226 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

ElAnonimo — Wed, 10 Oct 2018 23:28:50 +0000

#193 Estas describiendo un modelo estadístico muy primitivo, no una red neuronal. Si de esos hombres hay la misma proporción de buenos y malos que entre mujeres (aunque haya más hombres buenos en total) al final el peso de ambos sexos es el mismo.

Los hombres buenos suben el peso pero los malos lo bajan en igual medida. Para que haya sesgo ese tiene que estar en los datos, no en las proporciones de una característica: es precisamente la ventaja de la IA.

La falta de representación en los datos genera incertidumbre (es decir, resultados no fiables porque no se ha entrenado suficiente ese caso), no sesgos marcados.

Es algo que están diciendo muchos aquí... y es una práctica de universidad entrenar redes sencillas y ver los resultados, tampoco es que tengas que ser investigador puntero para haber visto eso.

» autor: ElAnonimo

#225 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

KarmaBajoCero — Wed, 10 Oct 2018 22:58:59 +0000

#66 Y aunque no cocinen...

» autor: KarmaBajoCero

#224 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Pitt — Wed, 10 Oct 2018 22:27:06 +0000

#212 Ya lo comento a otro usuario: si tu alimentas a la IA con currículums en el que el 95% son hombres (por poner una cifra) y su meta es discernir cuáles son los mejores, al haber mayoría de hombres, por estadística los mejores tenderán a ser hombres. Si esto se repite y la IA constantemente encuentra que todos (o casi todos) los mejores currículums son de hombres, a la larga tenderá a descartar a las mujeres automáticamente.

Dicho de otra manera: si de cada 10.000 currículums, 500 son de mujeres y el resto de hombres, es muy muy muy probable que los 10 mejores sean hombres. Cuando has metido un millón de currículums, ¿para qué molestarse en mirar los de mujeres?

» autor: Pitt

#223 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Danae... — Wed, 10 Oct 2018 22:24:20 +0000

#2 ¿Y por qué Amazon ha retirado su herramienta de IA?
Con haberla ~~prohibido~~ abolido era mas que suficiente...

» autor: Danae...

#222 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Pitt — Wed, 10 Oct 2018 22:22:56 +0000

#209 Claro pero a la IA le interesan los mejores. Si ve que los mejores son siempre hombres, tenderá a descartar a las mujeres por defecto.

» autor: Pitt

#221 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--471550-- — Wed, 10 Oct 2018 22:16:04 +0000

#217 Leyendo el articulo de Reuters, parece ser que ese es el caso.

Gender bias was not the only issue. Problems with the data that underpinned the models’ judgments meant that unqualified candidates were often recommended for all manner of jobs, the people said. With the technology returning results almost at random, Amazon shut down the project, they said.

Un modelo de ML que fracaso, algo que deberia ser no-noticia por lo menos para cualquiera que sepa del mundillo, convertido en un tema generalista con un titular carnada para SJW y Anti-PC.

» autor: --471550--

#220 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

apetor — Wed, 10 Oct 2018 22:14:00 +0000

#66 #218

En accion. NSFW ( but VSFH ):

www.slutload.com/video/tongue-chainsaw-by-howard-stern/BT8nkWsYMh/

» autor: apetor

#219 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

apetor — Wed, 10 Oct 2018 22:08:33 +0000

#116 Esa es otra, y añadida e intersecada con el tema feminista; vaya puto mundo con ideologias de mierda, podridas y moralmente corruptas.

» autor: apetor

#218 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

apetor — Wed, 10 Oct 2018 22:07:20 +0000

#66 Tendria que haber robots chupadores para ellos y ellas

De hecho...

» autor: apetor

#217 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

MarkIV — Wed, 10 Oct 2018 21:48:20 +0000

La entradilla es errónea. Reuters dice "Amazon retira una IA que mostraba ..." Y no "Amazon retira una IA porque mostraba...". Que (that) y porque (because) tienen significados muy diferentes
Es decir, yo pienso que Amazon montó una IA para RRHH que resultó ser un fiasco, que proponía gente sin habilidades para todos los puestos, o el tema del sesgo de las mujeres. Y por eso abandonaron el proyecto.
Pero queda más guay para la noticia meter el rollo de lo de las mujeres como el punto más importante.
Para los responsables del proyecto eso sería irrelevante. Si la IA fuera eficiente la seguirían usando, sin importar el filtrado que hiciese.

» autor: MarkIV

#216 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--31461-- — Wed, 10 Oct 2018 21:38:37 +0000

#153 No puedes estar más equivocado: la información procesada por la IA ha sido recolectada por seres humanos y por tanto tiene todos los sesgos que tengan estos. Cuando estos sistemas estén programados para recoger los datos automáticamente sin intervención y evaluaciones humanas de por medio, entonces se podrá hablar de datos libres de sesgos y "pura matemática". Por el momento, lo que hay es "pura matemática" aplicado a datos totalmente (o en su mayoría) sesgados.

En realidad es lo mismo que pasó cuando los bots conversacionales entrenados usando datos de foros reales empezaron a decir cosas xenófobas y discriminatorias: si a un algoritmo, por muy correcto que sea, le metes mierda lo que produce es mierda.

» autor: --31461--

#215 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

MarkIV — Wed, 10 Oct 2018 21:34:03 +0000

#33 Enfrenta tu sistema experto con una IA basada en Deep Learning, Algoritmos genéticos o similares... Si por algo está avanzando la IA es precisamente porque un sistema experto no es inteligencia en absoluto, son simples reglas hechas a mano por un programador. Las redes neuronales en cierta forma aprenden de la experiencia y pueden adaptarse a ciertos cambios. Tienen pegas como todo (sesgo de datos como ya han dicho), pero permiten encontrar patrones que un humano no puede, o que le costaría demasiado tiempo.

» autor: MarkIV

#214 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--105855-- — Wed, 10 Oct 2018 21:32:55 +0000

#154 Lee el artículo:
"That is because Amazon’s computer models were trained to vet applicants by observing patterns in resumes submitted to the company over a 10-year period. Most came from men, a reflection of male dominance across the tech industry."

» autor: --105855--

#213 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--105855-- — Wed, 10 Oct 2018 21:31:57 +0000

#119 El paper es malísimo! (por eso lo mandaron a una revista bastante mala también).

El modelo parte de las conclusiones (que hay más variabilidad) para llegar a las conclusiones. Incluso así una de las asumciones es que más del 50% de los hombres se quedan sin encontrar pareja. Él mismo dice que es un modelo matemático "N.B. Of course this severe condition as well as the above formal assumptions about desirability values are clearly not satisfied in most real life scenarios and are simply intended here as a starting point for discussion of the general ideas." pero sin embargo se dedica la introducir a insinuar que está explicando algo sobre los humanos.

Me ha motivado a informarme un poco más del tema:
retractionwatch.com/2018/09/17/what-really-happened-when-two-mathemati

Pero no me parece bien que no se haya publicado.

» autor: --105855--

#212 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--493869-- — Wed, 10 Oct 2018 21:25:04 +0000

#157 El hecho de que un grupo sea más numeroso no implica que en los datos exista ningún sesgo, en ningún sentido. Los puntos pueden estar unos sobre otros sin ningún problema.

Esa frase se queda bastante corta para definir el nivel de detalle del que estamos hablando aquí. Yo trabajo en esto del análisis, y sí, me he leído el artículo.

» autor: --493869--

#211 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--105855-- — Wed, 10 Oct 2018 21:11:26 +0000

#132 Te recuerdo que esta conversación empezó con este comentario:
"La IA refleja los sesgos de la sociedad, ya que los datos para entrenarla vienen de ahí. Asi que si la sociedad es "heteropatriarcal machirulo opresora", lo raro es que la IA no lo sea.

Por ejemplo, la IA tiene un sesgo contra los negros, ya que le cuesta mucho reconocer sus caras. Eso es porque la mayor parte de fotos en internet son de blancos"

» autor: --105855--

#210 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

neotobarra2 — Wed, 10 Oct 2018 21:06:01 +0000

#191 Ha sido un fracaso porque hoy en día la gente pone la lupa muchísimo más en cuestiones de género que hace cinco o diez años, y cosas que antes se toleraban ahora se empiezan a ver mucho peor.

Esta comprobado que los reclutadores humanos tienden a seleccionar más a mujeres, a la que pueden.

Me gustaría saber cuáles son tus fuentes y cómo ha sido esa "comprobación".

» autor: neotobarra2

#209 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:57:53 +0000

[Usuario deshabilitado]

» autor: --591453--

#208 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:57:31 +0000

[Usuario deshabilitado]

» autor: --591453--

#207 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:53:13 +0000

[Usuario deshabilitado]

» autor: --591453--

#206 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

iampiti — Wed, 10 Oct 2018 20:51:45 +0000

#109 Si la conclusión es políticamente incorrecta no nos vale y decimos que el sistema estaba mal.

» autor: iampiti

#205 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--471550-- — Wed, 10 Oct 2018 20:51:44 +0000

#153 Aqui los unicos que parece que creen que la AI es magia, son los que creen que los resultados son imparciales e inapelables.
Cualquier persona en el mundillo de ML, te puede decir que la mayoria de los modelos que se generan son basura, primero porque es muy dificil primero seleccionar los datos correctos, y segundo el dar con los marcadores correctos para lo que queremos entrenar al algoritmo.
Me reservo mis comentarios hasta ver los datos y el analisis a posterior del modelo, pero por mi experiencia, no me extraña que el resultado no sea satisfactorio. CC #180

Mas informacion, por parte de personas que si saben de lo que hablan aqui: news.ycombinator.com/item?id=18184697

» autor: --471550--

#204 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:50:22 +0000

[Usuario deshabilitado]

» autor: --591453--

#203 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

EISev — Wed, 10 Oct 2018 20:50:20 +0000

#54 imagina que una empresa enorme digitaliza todos los procesos de selección y los cruza con los indicadores de evaluación de desempeño (la típica revisión anual de objetivos)

Eso querría decir que cree que los hombres van a sacar mejor nota en la evaluación que las mujeres, y es cierto, porque a una mujer de baja por maternidad no se le hace evaluación de desempeño, no cobra comisiones si es comercial...

En EEUU al tener mucho menos permiso de maternidad que en España depende de si Amazon lo mejora o no.

» autor: EISev

#202 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:48:38 +0000

[Usuario deshabilitado]

» autor: --591453--

#201 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

EISev — Wed, 10 Oct 2018 20:44:45 +0000

#14 no solo eso, las cinco universidades femeninas que quedan en EEUU tienen sobre todo programas de estudio de artes y estudios de género. Quizás en una empresa privada interese menos ese tipo de perfil, por ejemplo si buscan programadores una mujer que haya estudiado en el MIT o en CalTech será mejor que otra mujer que haya estudiado en Vassar o Barnard.

¡Que ni Lisa Simpson quería ir a Vassar! Y eso que es ya mixta pero con pocos hombres.

» autor: EISev

#200 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:40:41 +0000

[Usuario deshabilitado]

» autor: --591453--

#199 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

iampiti — Wed, 10 Oct 2018 20:38:38 +0000

#33 Pues no le veo mucha gracia a un sistema en el que un humano decida las sentencias condicionales. Al menos con un sistema caja negra puede ser que obtengas algo que no hayas pensado tú previamente.

» autor: iampiti

#198 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:37:46 +0000

[Usuario deshabilitado]

» autor: --591453--

#197 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:35:30 +0000

[Usuario deshabilitado]

» autor: --591453--

#196 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:34:38 +0000

[Usuario deshabilitado]

» autor: --591453--

#195 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--590169-- — Wed, 10 Oct 2018 20:31:29 +0000

#152 Puedes decirme donde está esa incapacidad del hombre en que una empleada suba vídeos a YouTube insultando a sus compañeras ? Por ponerte un ejemplo reciente.

» autor: --590169--

#194 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Pitt — Wed, 10 Oct 2018 20:31:09 +0000

#188 Ya, pero es que si la mayoría de currículums son de hombres, la mayoría de los aceptados serán hombres, por estadística los mejores estarán entre ellos.

» autor: Pitt

#193 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Pitt — Wed, 10 Oct 2018 20:30:42 +0000

#164 Si tu cebas a una IA con 100.000 currículums de los cuales 1.000 son de mujeres, los mejores siempre van a estar entre hombres, por estadística pura, así que a la larga aprenderá a descartar a las mujeres sólo por el hecho de ser mujer.

» autor: Pitt

#192 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--22191-- — Wed, 10 Oct 2018 20:27:32 +0000

#179 Si tienes la siguiente población:

Sexo - Calificación estudiante
Niño - 7
Niña - 5
Niño - 6
Niña - 9
Niño - 7
Niña - 8

En el colegio de niños habría
Niño - 7
Niño - 6
Niño - 7

Te hace falta un 8 para ser el mejor.

En el colegio mixto te hace falta un 10 para ser el mejor.

Un 8 en el mixto te da para empatar en segundo puesto.

Ser el 100% mejor de una población restringida no es garantía de nada. De lo contrario lo único que habría que hacer es reducir las poblaciones todo lo posible para presumir de eso en el CV.

» autor: --22191--

#191 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:24:45 +0000

[Usuario deshabilitado]

» autor: --591453--

#190 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--175143-- — Wed, 10 Oct 2018 20:19:15 +0000

Esto me recuerda a otro caso similar: www.abc.net.au/news/2017-06-30/bilnd-recruitment-trial-to-improve-gend

Básicamente, para luchar por la igualdad e igualar la contratación de mujeres a la de hombres decidieron, como experimento, eliminar cualquier referencia al sexo y a la etnia en el proceso de selección. Esperaban que gracias a esto aumentase la tasa de contratación de mujeres. ¿Resultado? tuvieron que cancelar el experimento por que estaban seleccionado menos mujeres.

The trial found assigning a male name to a candidate made them 3.2 per cent less likely to get a job interview.
Adding a woman's name to a CV made the candidate 2.9 per cent more likely to get a foot in the door.</I>

» autor: --175143--

#189 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:16:17 +0000

[Usuario deshabilitado]

» autor: --591453--

#188 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:10:11 +0000

[Usuario deshabilitado]

» autor: --591453--

#187 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:07:24 +0000

[Usuario deshabilitado]

» autor: --591453--

#186 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:05:45 +0000

[Usuario deshabilitado]

» autor: --591453--

#185 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 20:00:38 +0000

[Usuario deshabilitado]

» autor: --591453--

#184 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 19:59:41 +0000

[Usuario deshabilitado]

» autor: --591453--

#183 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--141212-- — Wed, 10 Oct 2018 19:57:01 +0000

#135 ¡Eres un intolerante!

» autor: --141212--

#182 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 19:54:58 +0000

[Usuario deshabilitado]

» autor: --591453--

#181 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Frippertronic — Wed, 10 Oct 2018 19:54:13 +0000

#22 Hasta donde sé es algo que se sigue haciendo mucho en el mundo anglosajón ¿fuente?

» autor: Frippertronic

#180 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 19:52:41 +0000

[Usuario deshabilitado]

» autor: --591453--

#179 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Frippertronic — Wed, 10 Oct 2018 19:48:17 +0000

#144 El mejor de un colegio mixto en el que hay mil alumnos vs el mejor de un colegio sólo para hombres (por ejemplo) en el que hay mil alumnos siguen siendo el mejor respecto al 100% de la población (de ese colegio).

Si en el colegio segregado por sexos hubieran menos alumnos, aunque el porcentaje sería el mismo, entendería que sería menos meritorio, pero no tiene por qué ser así.

» autor: Frippertronic

#178 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Sr.No — Wed, 10 Oct 2018 19:48:13 +0000

#118 jajajaj se te ve puesto en el tema.

Las mejores explicaciones de #26 y #40

» autor: Sr.No

#177 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

johel — Wed, 10 Oct 2018 19:43:01 +0000

Cuando usas una maquina cuyo unico filtro es la productividad economica, recibes la respuesta cuyo unico valor es la productividad economica. ¿Igual el problema es el filtro que solo valora lo economico?
Propongo crear otra IA cuyo unico condicional sea pagar lo menos posible, sin cortapisas, sin hacer alusion a los delitos. Seguro que sale que lo mejor es contratar esclavos, luego si eso nos indignamos.
rendundante rebuznante.

» autor: johel

#176 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--234798-- — Wed, 10 Oct 2018 19:42:09 +0000

[Usuario deshabilitado]

» autor: --234798--

#175 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--540692-- — Wed, 10 Oct 2018 19:38:22 +0000

[Usuario deshabilitado]

» autor: --540692--

#174 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--540692-- — Wed, 10 Oct 2018 19:36:45 +0000

[Usuario deshabilitado]

» autor: --540692--

#173 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--31461-- — Wed, 10 Oct 2018 19:30:52 +0000

#48 Es obvio que esos datos tendrán el mismo nivel de sesgos que la procedencia que tienen, es de suponer que bastante alto, dado que intervienen seres humanos con prejuicios en prácticamente todas las fases del proceso. Lo único que podría no estar sesgado son partes de la evaluación del rendimiento que estén totalmente automatizadas, y automatizadas de forma no sesgada, dicho sea de paso. Si ya es difícil evitar los sesgos en estudios científicos a doble ciego, es fácil de imaginar el nivel de sesgo que pueden tener los datos en ámbitos como este.

» autor: --31461--

#172 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 19:16:36 +0000

[Usuario deshabilitado]

» autor: --591453--

#171 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--352976-- — Wed, 10 Oct 2018 19:07:54 +0000

#148 Yo lo que no entiendo es por qué razón se suministra a la IA información irrelevante. Se debería haber diseñado para que el sexo no fuese un factor a considerar en lo más mínimo, de forma que no pueda formarse un sesgo ni en un sentido ni en otro.

» autor: --352976--

#170 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--16086-- — Wed, 10 Oct 2018 18:55:18 +0000

¿Por qué será que todas estas inteligencias terminan por volverse "machirulas", "racistas" y términos similares? A ver si va a ser una consecuencia lógica y no nos habíamos dado cuenta...

» autor: --16086--

#169 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--209417-- — Wed, 10 Oct 2018 18:48:47 +0000

#131 no es por el tipo de educación, es por ser mujeres. Por eso creí que mi comentario podía aclarar. Entiendo, si no me equivoco, que si dos estudian filosofía, y la ia es neutral respecto a filosofía, perjudica a la mujer.

» autor: --209417--

#168 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

arturios — Wed, 10 Oct 2018 18:47:46 +0000

Es lógico _{(¡¡¡esperad, esperad!!! no votéis negativo todavía)}

El aprendizaje profundo busca la ruta óptima para hacer su trabajo, esa ruta óptima podríamos llamarlo "prejuicio" con unas pocas variables puede atajar al resultado sin despeinarse.

Por ejemplo, los rusos entrenaron a una IA para detectar tanques en un bosque y la cosa iba estupenda, en milisegundos daba un resultado correcto, el problema es que todas las fotos de tanques eran en un día soleado y las otras en un día nublado, así que veía un día nublado y por tanto ¡no hay tanque!.

Con todos los datos que tiene una sociedad tradicionalmente machista (muchísimo menos que hace apenas 10 años, pero sigue siéndolo) en cuanto encuentra mujer (o negro) lo rechaza sin ningún rubor, es su "nublado".

Es por ello que los algoritmos de aprendizaje profundo deben ser auditados por humanos para ver si funcionan correctamente.

_{Los negativos ahora}

» autor: arturios

#167 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

StrgAttractor — Wed, 10 Oct 2018 18:39:36 +0000

#105 hola, perdon por la intromisión. El paper no es mas que un desarrollo de la idea de la variabilidad masculina, por ahi puedes buscar mas estudios. No solo con humanos. Algunos lo atribuyen a los cromosomas y otros, aunq no es algo excluyente, a q evolutivamente es mas arriesgado estar mutando a las hembras. Incluso parece, aunq esto no lo he comprobado, q hasta Darwin en sus viajes ya vio q los machos eran mas variables que las hembras.
Al final, lo raro para mi es q cuadres media y desviación en cuerpos tan diferentes.

» autor: StrgAttractor

#166 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

yanis1 — Wed, 10 Oct 2018 18:31:14 +0000

#22 En Australia hicieron una "seleccion automática" para evitar el sesgo y resultó que contrataban todavía más hombres.

(llevo un rato buscando esa noticia, pero he visto que #60 ya la ha puesto)

Me huelo a que este caso es algo parecido. Como los resultados nos han sido políticamente correctos y ha seleccionado más hombres, ahora hay que buscar la excusa de que la máquina es sexista.

Y creo que aquí no lo ha planteado nadie: Quizá lo que esto evidencie es que en "la vida real" se privilegia a las mujeres aunque estén menos preparadas.

» autor: yanis1

#165 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--588829-- — Wed, 10 Oct 2018 18:20:32 +0000

#138 Para aclararlo, un teléfono que en amazon andaba hace unos meses por los 170€. Así que no será tecnología punta.

» autor: --588829--

#164 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

squanchy — Wed, 10 Oct 2018 18:17:59 +0000

#160 Si todos los hombres fuesen unos mantas y las pocas mujeres unas fenómenas, la IA hubiese aprendido a que las mujeres rinden mejor, y serían las candidatas preferidas. Que hayan entrenado a la IA con más currículums de hombres sólo quiere decir que va a ser más precisa a la hora de evaluar un curriculum de hombre, no que lo prefiera por ese hecho. Palabrita de ingeniero en informática.

» autor: squanchy

#163 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--588829-- — Wed, 10 Oct 2018 18:12:19 +0000

Si el resultado hubiese sido contrario hubiese sido motivo de propaganda para las feministas, y no de crítica.

» autor: --588829--

#162 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--178580-- — Wed, 10 Oct 2018 18:11:14 +0000

Ya es oficial: La IA ha superado a los humanos.

» autor: --178580--

#161 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--588829-- — Wed, 10 Oct 2018 18:10:17 +0000

#107 Hasta en el sexo de niños de tres años acierta.

» autor: --588829--

#160 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Pitt — Wed, 10 Oct 2018 18:08:53 +0000

#153 No, ha entrenado a la IA con la mayoría de currículums de hombres así que es normal que rechace a las mujeres.

That is because Amazon’s computer models were trained to vet applicants by observing patterns in resumes submitted to the company over a 10-year period. Most came from men, a reflection of male dominance across the tech industry.

» autor: Pitt

#159 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

jaramero — Wed, 10 Oct 2018 18:07:43 +0000

Es lo que pasa cuando se usa la lógica y las razones objetivas. ¿Un ejemplo?, cread un algoritmo para elegir al mejor bombero en base a unos requisitos neutros. O hacen una versión para cada sexo o se inventan un elemento corrector en plan (si es mujer -> valoración por 1,45) para que el resultado final no "discrimine" a las mujeres.

» autor: jaramero

#158 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--88270-- — Wed, 10 Oct 2018 18:06:35 +0000

#22 En USA está mal visto incluir tu foto en el CV y para ofertas de trabajo público es motivo de rechazo del candidato.

» autor: --88270--

#157 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Pitt — Wed, 10 Oct 2018 18:06:33 +0000

#48 #84 ¿Alguno os habéis leído el artículo? Dice exactamente cómo se entrenó la IA y si, eran datos sesgados:

That is because Amazon’s computer models were trained to vet applicants by observing patterns in resumes submitted to the company over a 10-year period. Most came from men, a reflection of male dominance across the tech industry.

» autor: Pitt

#156 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

chatOGT — Wed, 10 Oct 2018 18:05:04 +0000

#54 como comentaba antes, no es sólo un problema de los marcadores objetivos, sino de qué marcadores se utilizan. Por ejemplo, si la IA fuera para fichar jugadores y solo se valoraran los goles y el precio, esa IA solo ficharía delanteros. En este caso, al valorar solo datos objetivos de desempeño INDIVIDUAL aparentemente ganan los hombres como grupo. A lo mejor, es hipótesis, las mujeres mejoran el rendimiento del grupo, pero si no se valoran esas variables, por muy objetivas que sean las otras, los resultados estarán sesgados.
Otra cosa es que sea real esto de beneficiar al grupo, pues por un lado son más empaticas y menos competitivas, pero en mi vida he visto las rencillas y rencores entre las tías de un antiguo curro en el que estuve.

» autor: chatOGT

#155 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

daotdia — Wed, 10 Oct 2018 17:56:46 +0000

#52 ¿Y no crees que si la IA ve que el 99% de mujeres analizadas son menos productivas va a creer que efectivamente son menos productivas? El posible sesgo no puede venir de ahí.

» autor: daotdia

#154 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

squanchy — Wed, 10 Oct 2018 17:56:37 +0000

#28 Menuda pamplina. Amazon habrá entranado esta IA con los datos de los curriculums de sus empleados actuales, y el rendimiento que le da cada uno (que llevan tiempo midiendo según los envíos que saca adelante cada uno). Así que, de "sesgos de sociedad", nada de nada, si no datos contantes y sonantes. Tampoco hay que ser un genio, ni usar una IA, para darse cuenta que los varones tienen mejor orientación espacial y más fuerza física, hechos que ayudan sin duda a ser más productivos localizando objetos y empaquetándolos.

» autor: squanchy

#153 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

squanchy — Wed, 10 Oct 2018 17:51:31 +0000

#48 Has dado en el clavo. Amazon ha entrenado la IA con los curriculums de sus trabajadores y sus correspondientes rendimientos que tiene medidos de antemano, y la IA ha aprendido que las mujeres rinden menos, y que las de colegios femeninos directamente se tocan el papo a dos manos.
Si tenemos en cuenta que una IA no es más que una red neuronal con pesos, que al final se reduce a pura matemática, la conclusión no es sólo clara, si no imparcial, e inapelable. Lo digo por si alguien aún piensa que esto de las IAs es "magia". No, es pura matemática.

» autor: squanchy

#152 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--557631-- — Wed, 10 Oct 2018 17:43:08 +0000

#10 el problema puede estar en la selección de personal o en la falta de liderazgo de cara al sexo opuesto. Cada persona es un mundo y obviamente hay hombres muy torpes que no sabe tratar con mujeres.

» autor: --557631--

#151 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

neotobarra2 — Wed, 10 Oct 2018 17:33:12 +0000

#10 Claro que sí, todo el que no diga cosas con las que tú estás de acuerdo, no es porque no las piensa, sino porque no se atreve...

Qué subiditos estáis algunos.

» autor: neotobarra2

#150 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Penetrator — Wed, 10 Oct 2018 17:31:52 +0000

#10 De ahí el viejo chiste:

¿Qué hacen tres neuronas en el cerebro de una mujer? Juntarse dos y criticar a la otra.

» autor: Penetrator

#149 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

elGuayaco — Wed, 10 Oct 2018 17:30:27 +0000

jajajaja
putas robots machistas
DIme quien te creo y te dire quien eres

» autor: elGuayaco

#148 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

neotobarra2 — Wed, 10 Oct 2018 17:30:19 +0000

#7 Sí que se dan algunas pautas para entender cómo pudo llegar a esas conclusiones:

That is because Amazon’s computer models were trained to vet applicants by observing patterns in resumes submitted to the company over a 10-year period. Most came from men, a reflection of male dominance across the tech industry.

Entiendo que la entrenaron para imitar los patrones de contratación empleados por humanos (la mayoría de ellos hombres) durante un periodo de diez años. Si en su mayoría eran hombres, esa IA "aprenderá" que eso es lo correcto, y por tanto tenderá a desechar los CVs que impliquen la presencia de mujeres, simplemente porque le han enseñado que lo normal es coger a los hombres.

Lo interesante es que aquí la gente está interpretando que esa IA era mejor que los humanos a la hora de contratar personal, cuando lo cierto es que según parece no era así en absoluto: simplemente hacía lo mismo que habían hecho los de recursos humanos durante diez años, solo que de forma automática. Y por tanto estaba reproduciendo también los mismos problemas y errores que éstos hubieran provocado.

cc #11

» autor: neotobarra2

#147 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Penetrator — Wed, 10 Oct 2018 17:29:46 +0000

#7 A lo mejor es que la IA ha llegado a la conclusión de que nada bueno puede salir de una "universidad femenina". Que aquí nos quejamos del Opus y su segregación por sexos pero allí lo llevan al sigueinte nivel.

¿Os imagináis lo que pasaría si a alguien se le ocurriera hacer una universidad masculina?

» autor: Penetrator

#146 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

neotobarra2 — Wed, 10 Oct 2018 17:26:09 +0000

#22 ¿Fuente?

» autor: neotobarra2

#145 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--556871-- — Wed, 10 Oct 2018 17:21:27 +0000

ni tan siquiera la IA se cree la paridad por ley...

» autor: --556871--

#144 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--22191-- — Wed, 10 Oct 2018 17:15:59 +0000

#7 Lo del colegio es bastante simple.

Si eres el mejor del colegio, lo eres de los dos sexos. Si eres el mejor del colegio femenino (o masculino), eres el mejor de solo el 50% cuando el otro es el mejor del 100% de la población.

A grandes rasgos puedo entender perfectamente el sesgo; yo también apostaría por alguien que vaya a un colegio mixto a falta de conseguir más información sobre los candidatos.

» autor: --22191--

#143 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--83870-- — Wed, 10 Oct 2018 17:15:17 +0000

#54 Creo que has dado en el clavo. El problema no es la tecnología en sí, sino decenas de años de malas decisiones por las que ahora se intenta culpar a otros.

» autor: --83870--

#142 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--588047-- — Wed, 10 Oct 2018 17:12:30 +0000

nuevo código que lo hace correctamente y además más barato

if candidate_sex=female then
candidate_total_score=candidate_total_score + 5
end if

» autor: --588047--

#141 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--6883-- — Wed, 10 Oct 2018 17:12:24 +0000

#110 Entendido. Muchas gracias por la aclaración, no todo el mundo está dispuesto.

» autor: --6883--

#140 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

oliver7 — Wed, 10 Oct 2018 17:11:56 +0000

#74 con la ciencia hemos topado amigo. Me temo que la nueva Inquisición no permitirá el avance científico.

» autor: oliver7

#139 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--583514-- — Wed, 10 Oct 2018 17:10:53 +0000

#28 En seguros de Auto, el sexo es un factor claro: las mujeres toman menos riesgos.

Pues bien, como eso era discriminación, se dictaminó que había que subir las primas de seguros a las mujeres.

www.theguardian.com/money/blog/2017/jan/14/eu-gender-ruling-car-insura

Y ha sido peor.

» autor: --583514--

#138 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Gry — Wed, 10 Oct 2018 17:06:37 +0000

#112 El que le trae el móvil para gestionar la cámara. Es un Xiaomi mi A1.

» autor: Gry

#137 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--165145-- — Wed, 10 Oct 2018 17:05:27 +0000

#66, y lo de cocinar no urge tanto

» autor: --165145--

#136 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--165145-- — Wed, 10 Oct 2018 17:04:53 +0000

#13, ¡ya le están echando la culpa a que los robots los diseñaron hombres!

Bueno, pues a mi me parece un tema muy interesante estudiar el motivo por el que la IA parece que prefiere a los hombres. Me imagino que simplemente habrá sido por algún análisis de datos en el que ha visto que (debido a cómo es la sociedad actualmente) los hombres en general progresan más que las mujeres. Vamos, que la IA no es machista sino que ha sacado sus deducciones de cómo está la sociedad actualmente.

» autor: --165145--

#135 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 17:04:01 +0000

[Usuario deshabilitado]

» autor: --591453--

#134 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--308159-- — Wed, 10 Oct 2018 17:03:50 +0000

El problema es la educación.

De la IA.

» autor: --308159--

#133 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--588047-- — Wed, 10 Oct 2018 17:03:45 +0000

#10 Yo soy antifeminazi premium.

Y tengo compañeras en las que confío al 200%, super trabajadoras, compañeras de las de verdad que no te dejan en la estacada nunca y tengo otras que son para darles de hostias y no parar. Lo mismo pasa con los tíos.

El sexo creo que aquí no pinta nada.

» autor: --588047--

#132 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

box3d — Wed, 10 Oct 2018 16:54:57 +0000

#108 No hablo de IA. Tu sigue con tu libro.

» autor: box3d

#131 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Liet_Kynes — Wed, 10 Oct 2018 16:54:02 +0000

#118 Eso no responde a mi pregunta. Yo también he leído el artículo y sé lo que hacía la IA. La pregunta es por qué las mujeres con un determinado tipo de educación son penalizadas por la IA, y como digo en un comentario posterior, si también lo hace con hombres con ese mismo tipo de educación

» autor: Liet_Kynes

#130 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

chatOGT — Wed, 10 Oct 2018 16:52:54 +0000

#41 no, no aprende con los criterios de la sociedad, sino con las variables de entrada y las condiciones de validación del resultado. Esta IA puede estar sesgando porque las variables de que analiza sean solo de rendimiento individuales y no tengan en cuenta cómo afecta el individuo al grupo.

» autor: chatOGT

#129 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

daaetur — Wed, 10 Oct 2018 16:52:03 +0000

#7 unqualified candidates were often recommended for all manner of jobs, the people said. With the technology returning results almost at random, Amazon shut down the project

Vamos, que no funcionaba, en general

» autor: daaetur

#128 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--141212-- — Wed, 10 Oct 2018 16:50:42 +0000

#127

» autor: --141212--

#127 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

SOBANDO — Wed, 10 Oct 2018 16:50:12 +0000

#113 Bueeeeeeeno, no podría decir que andas totalmente desencaminado.

» autor: SOBANDO

#126 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--44909-- — Wed, 10 Oct 2018 16:49:45 +0000

#5 E inteligente!

» autor: --44909--

#125 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Joice — Wed, 10 Oct 2018 16:49:25 +0000

#28 "La IA refleja los sesgos de la sociedad, ya que los datos para entrenarla vienen de ahí."

Mmmmm... esa afirmación sí que tiene sesgo.

» autor: Joice

#124 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

fayser — Wed, 10 Oct 2018 16:48:34 +0000

#28 Es cierto, apenas hay millones de fotos de negros con que poder entrenar el reconocimiento facial.

» autor: fayser

#123 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--329753-- — Wed, 10 Oct 2018 16:48:23 +0000

No me parece sorprendente, solo habrá que ver los datos de los que ha partido, que serán de RRHH, y en esos datos existirá ese sesgo, y la IA los réplica. Si a la IA le proporcionas datos con sesgo "feministas", seguro que saca un muy mal concepto de los hombres... Esta vomitando lo que ha comido, poco más.

» autor: --329753--

#122 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--587620-- — Wed, 10 Oct 2018 16:47:56 +0000

#40 No se trata de que las mujeres rindan menos (que puede que lo hagan, pero no es el elmento relevante aquí). Si rindieran menos, pero tuvieran un curriculum que correla con ese rendimiento menor, la red neuronal no haría diferencias.

Si penaliza a las mujeres, lo que muestra es que ha aprendido que el curriculum de una mujer tiende a estar hinchado en comparación a su productividad. Y muy probablemente sea debido a las cuotas.

Me apuesto lo que quieras a que si pudieran meter la raza del candidato (o cualquier otro elemento sobre el que haya cuotas) ocurriría lo mismo.

» autor: --587620--

#121 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Skalextric — Wed, 10 Oct 2018 16:47:32 +0000

#73 Hay IA que te dicen en texto lo que se ve en una imagen. Por ejemplo: www.captionbot.ai/
#48 Todo depende de como entrenes el algoritmo. Si en vez de mujer en esas fotos, pones persona, ¿ya deja de tener sesgo? En ciertas ocasiones es más tema de semántica que de otra cosa y de los datos disponibles.

PD: Las IA no creen nada, dejemos de humanizar estas herramientas.

» autor: Skalextric

#120 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Ramsay_Bolton — Wed, 10 Oct 2018 16:47:15 +0000

#95 Leticia dolera se tatuaria el logo de amazon en la teta izquierda.

» autor: Ramsay_Bolton

#119 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

briarreos — Wed, 10 Oct 2018 16:46:34 +0000

#105 dudo que si no te has leído el artículo donde se hablaba de el, por ser muy largo, te vayas a leer el paper. Pero bueno, por mi parte que no quede: arxiv.org/pdf/1703.04184.pdf

» autor: briarreos

#118 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--209417-- — Wed, 10 Oct 2018 16:46:27 +0000

#7 por ningún motivo, solo por ser mujeres. Como entiendo el artículo (leído rápidamente, perdón si simplifico) se fijaba en los términos, nada más. Es decir, cogía los cvs, veía más de lo que le interesaba en hombres y luego generalizaba y quitaba valor a las mujeres, solo por el hecho de serlo. Es decír, si llegaba una crack sí o sí iba a quedar por debajo que un igual masculino, al haber generalizado sobre las capacidades de los candidatos según la variable sexo.

Ha ocurrido con el sexo, pero podría haber sido ser de Madrid, pelirrojo o ser de metro y medio, siempre que apareciese en su CV.

» autor: --209417--

#117 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

acastro — Wed, 10 Oct 2018 16:45:16 +0000

La noticia es muy curiosa y se presta a todo tipo de interpretaciones porque el hardware de las máquinas es neutral. Los algoritmos empleados pueden tener defectos o segur criterios sesgados que no valora cualidades femeninas como deberían, la codificación de los programas también pueden tener fallos, o los datos pueden contener sesgos, pero el error podría ser no tener en cuenta que los criterios totalmente objetivos son políticamente incorrectos. En tal caso la máquina deberá ser aleccionada para entregar un resultado óptimo también desde el punto de vista social.

» autor: acastro

#116 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Battlestar — Wed, 10 Oct 2018 16:44:56 +0000

#66 Cuidado, los SJW ya están en el caso y no les gusta nada que los robots se fabriquen basándose en el sistema binario de hombre-mujer

archive.is/lTy2D [eng]

» autor: Battlestar

#115 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 16:44:26 +0000

[Usuario deshabilitado]

» autor: --591453--

#114 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 16:43:38 +0000

[Usuario deshabilitado]

» autor: --591453--

#113 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--141212-- — Wed, 10 Oct 2018 16:43:23 +0000

#90 Y seguramente sea mas tío que tía.

» autor: --141212--

#112 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Priorat — Wed, 10 Oct 2018 16:43:03 +0000

#107 No he dicho que no se pueda hacer. He dicho que es más difícil que identificar si alguien limpia platos. ¿Con que programa lo hace?

» autor: Priorat

#111 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 16:42:38 +0000

[Usuario deshabilitado]

» autor: --591453--

#110 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--493869-- — Wed, 10 Oct 2018 16:42:27 +0000

#106 Es deformación profesional. Cuando decía sesgo me refería simplemente al hecho de que los datos muestren alguna separación entre grupos (es decir, los hombres tienen mejor rendimiento que las mujeres, según los datos).

» autor: --493869--

#109 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--591453-- — Wed, 10 Oct 2018 16:41:40 +0000

[Usuario deshabilitado]

» autor: --591453--

#108 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--105855-- — Wed, 10 Oct 2018 16:41:04 +0000

#70 Sí, caras con menos contraste son más dificiles de reconocer. Ahora bien, la IA reconoce mejor el sexo de una cara que un humano para una cara blanca; pero falla el 30% para una cara negra (un humano ni de coña falla 30%). Eso no es por el tipo de imagen sino por el tipo de datos.

La IA se basa en millones de imagenes, y para negros no existen.

» autor: --105855--

#107 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Gry — Wed, 10 Oct 2018 16:40:01 +0000

#91 la cámara del móvil de mi pareja acierta razonablemente bien el sexo y la edad de quien enfocas.

» autor: Gry

#106 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--6883-- — Wed, 10 Oct 2018 16:38:50 +0000

#101 Lo preguntaba para saber si llamas sesgo a cuando la apreciación de la IA o los humanos no se corresponde con el desempeño en la realidad, o si llamas sesgo a cualquier apreciación que se salga de la igualdad esté o no soportada por los datos no subjetivos.

» autor: --6883--

#105 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--105855-- — Wed, 10 Oct 2018 16:38:46 +0000

#76 Gracias por el resumen. Dónde está el paper? Me gustaría leerlo.

» autor: --105855--

#104 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--105855-- — Wed, 10 Oct 2018 16:37:08 +0000

#84 Me imagino que hayan entrenado a la IA con los datos de los CV de los candidatos rechazados y aceptados. Esos candidatos rechazados fueron rechazados porque a la persona responsable le pareció así. Si esas personas responsables tienen un sesgo la IA lo va a replicar y va a ser muy dificil corregirlo.

» autor: --105855--

#103 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--583681-- — Wed, 10 Oct 2018 16:36:01 +0000

[Usuario deshabilitado]

» autor: --583681--

#102 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--166625-- — Wed, 10 Oct 2018 16:35:40 +0000

[Usuario deshabilitado]

» autor: --166625--

#101 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--493869-- — Wed, 10 Oct 2018 16:35:21 +0000

#94 Claro, es que es algo que se retroalimenta. Si las mujeres rinden peor, sus jefes perciben que rinden peor, y entonces dan peores informes. Y luego, quizá, los indicadores objetivos también las penalizan, por lo que estarían penalizadas por partida doble. Pero si hubiese un cierto machismo injusto, también podría reflejarse.

En general, es un tema complejo. Creo que esta IA, además, se usaba para perfiles técnicos, donde los hombres suelen destacar.

» autor: --493869--

#100 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--535595-- — Wed, 10 Oct 2018 16:35:17 +0000

#66 Me han bloqueado los votos por culpa de algún ofendidito. Pero te lo dejo escrito. +1

» autor: --535595--

#99 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--493869-- — Wed, 10 Oct 2018 16:33:09 +0000

#91 Insisto en que no soy un experto en el tema, pero me sonaba que había trabajos sobre reconocimiento del sexo de la persona a través de la cara.

link.springer.com/article/10.1007/s11263-006-8910-9

Ahora te toca a ti encontrar el reconocimiento de lavado de platos :P.

» autor: --493869--

#98 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--460572-- — Wed, 10 Oct 2018 16:32:50 +0000

#80 Eres todo un poeta

» autor: --460572--

#97 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Priorat — Wed, 10 Oct 2018 16:32:25 +0000

#69 Por eso sería importante ver de que datos obtiene el sesgo y si son erróneos o no. O programar a la IA para que pueda contestar: ¿Por qué prefieres a hombres frente a mujeres? Y que nos diera ella la razón (ella, je, je, je, la inteligencia artifical)

» autor: Priorat

#96 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--88270-- — Wed, 10 Oct 2018 16:31:55 +0000

La mayoría de las grandes empresas tienen sistemas de filtrado automático. Reciben cientos de CVs al día y utilizan este tipo de algoritmos para decidir cuales merecen ser evaluados.
Así que si tenéis más de 40 años y estáis hartos de mandar vuestro CV y que no os llamen de una oferta, pensad en este tipo de noticias y que posiblemente vuestra candidatura ni siguiera les ha llegado a los de recursos hunanos.

» autor: --88270--

#95 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

SOBANDO — Wed, 10 Oct 2018 16:31:01 +0000

¿Si mostrase sesgo contra los hombes estaría bien?

» autor: SOBANDO

#94 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--6883-- — Wed, 10 Oct 2018 16:30:55 +0000

#69 Lo que quiero decir es que si la IA está penalizando a las mujeres, es porque los datos, en su conjunto, resumen que las mujeres rinden peor
¿No consideras entonces la opción más obvia que justificaría el sesgo humano y el de la IA?
Que en X tareas las mujeres sean mejores y en otras peores. Y lo mismo con los hombres.

» autor: --6883--

#93 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--493869-- — Wed, 10 Oct 2018 16:30:46 +0000

#72 Es que a la IA hay que cogerla con pinzas, porque es una herramienta que, por más que lleve la palabra "inteligencia" integrada en ella, de inteligente tiene poco.

Este tipo de técnicas son una forma perfeccionada de los modelos de regresión clásicos, y están diseñadas para predecir en base a ciertas variables, tras haberse entrenado con datos. Los problemas de este tipo de modelos son incontables. Por ejemplo: 1) Suponen una "linealidad" en los datos que no existe en la realidad (los sistemas IA corrigen esta suposición de linealidad, a cierto coste); 2) Suponen una "inmutabilidad" en los procesos que gobiernan los datos, siendo incapaces de prever cambios (por ejemplo, cambios sociales, como que los negros dejen de delinquir tanto); 3) Sólo reflejan las variables que se les dan como entrada, de modo que si hay algún factor importante que el investigador no contempla, el modelo nunca advertirá de ello, tratando de ajustarse lo mejor posible a los datos.

Usar modelos de IA está bien, pero nunca debe dejarse que estos tengan plena autonomía en la toma de decisiones, y menos en aspectos sociales como estos.

» autor: --493869--

#92 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Tronchador — Wed, 10 Oct 2018 16:30:03 +0000

#82 Algunas veces es una lástima poder poner solo un positivo.

» autor: Tronchador

#91 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Priorat — Wed, 10 Oct 2018 16:29:52 +0000

#73 Reconocer el sexo de una persona es más difícil que el hecho de que esté lavando platos. ¿Tú reconoces el sexo de cualquier otro animal que no sea un homo sapiens por su cara? Es de lo más difícil reconocer si una persona es masculina o femenina por su cara.

» autor: Priorat

#90 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

SOBANDO — Wed, 10 Oct 2018 16:29:48 +0000

#39 Yo conozco a una.

» autor: SOBANDO

#89 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

vixia — Wed, 10 Oct 2018 16:28:58 +0000

#12 Una pena que trabajar en la mina estuviese prohibido para las mujeres hasta el 96, seguro que de no ser así habría muchas más elpais.com/diario/2006/05/14/domingo/1147578758_850215.html

» autor: vixia

#88 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--583681-- — Wed, 10 Oct 2018 16:28:25 +0000

[Usuario deshabilitado]

» autor: --583681--

#87 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Priorat — Wed, 10 Oct 2018 16:28:22 +0000

#75 Intervención humana tiene: los datos de entrada.

» autor: Priorat

#86 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

vixia — Wed, 10 Oct 2018 16:26:35 +0000

#8 Hay por ahí estudios en los que dicen que las mujeres tienden a escribir curriculos más extensos y con palabras más "colaborativas", mientras que los hombres tienden a usar términos más enérgicos, tipo "dirigir" o "liderar". Puede ser que el programa haya aprendido a premiar las combinaciones más frecuentes o más relacionadas con los empleados actuales. Aquí un estudio de una experta en machine learning sobre el tema, por si aporta alguna idea nueva: fortune.com/2015/03/26/the-resume-gap-women-tell-stories-men-stick-to-

» autor: vixia

#85 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Priorat — Wed, 10 Oct 2018 16:26:33 +0000

Hay varios casos de IA con sesgos. Lo bueno sería realmente estudiar el motivo por el que se producen estos sesgos. Que datos han llevado a la IA a juzgar con sesgo. Porque por algún motivo habrá llegado a esa conclusión la IA. Es un tema de la IA o es un tema de los datos con que se nutre a la IA. ¿Con que datos se nutre a la IA?

» autor: Priorat

#84 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

jarenare — Wed, 10 Oct 2018 16:24:47 +0000

#52 Estás suponiendo que se le ha entrenado con datos sesgados, lo que es mucho suponer. Dudo mucho que Amazon alimente su IA, en la que habrá metido esfuerzo y dinero, con datos sesgados para luego retirarla. Lo que sí puede pasar es que las discriminaciones positivas lleven a que una mujer con el mismo currículo que un hombre tenga peor desempeño en el trabajo, porque ha llegado a ese punto mediante ayudas.

» autor: jarenare

#83 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--583681-- — Wed, 10 Oct 2018 16:24:08 +0000

[Usuario deshabilitado]

» autor: --583681--

#82 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

sorrillo — Wed, 10 Oct 2018 16:23:54 +0000

#25 Existe la inteligencia innata, que tienen todas las personas actúen como actúen por el mero hecho de tener un cerebro que funciona, y luego está lo que reconocemos socialmente como inteligencia y que está fundamentada en el ejercicio en tareas específicas y habitualmente en la demostración de cierto nivel educativo.

Cuando afirmamos socialmente que alguien es muy inteligente o que es muy estúpido nos referimos a esto último, a cómo dentro de los cánones sociales aplican esa inteligencia innata que viene de meramente tener un cerebro.

Por otro lado están los sesgos, los que son socialmente más reconocidos son aquellos que afectan a la raza, al género o a posiciones políticas, etc. por poner algunos ejemplos.

En ese sentido existen indicios, estudios científicos, que apuntan a que los ciudadanos que entendemos con un nivel educativo superior están más radicalizados en sus posturas políticas, tienen más y mejores herramientas para elegir entre la información la que confirma sus sesgos y justificarse a sí mismos el motivo por el que descartan aquella información que los podría poner en entredicho.

Se habla de ello en este panel y batería de preguntas a uno de los participantes:
www.youtube.com/watch?v=TOC633PkqII [ENG]
www.youtube.com/watch?v=eDqr40_S8KE [ENG]

» autor: sorrillo

#81 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

jarenare — Wed, 10 Oct 2018 16:23:36 +0000

Borrado

» autor: jarenare

#80 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--329149-- — Wed, 10 Oct 2018 16:23:32 +0000

Esto es debido a que amazon
Quiere gente buena en tecnología
La cosa cambiaría
Si reclutase gente para una guardería

Si has estudiado magisterio
No encontrarías trabajo
Porque entre las piernas
Te cuelga tu pene para abajo

» autor: --329149--

#79 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--583681-- — Wed, 10 Oct 2018 16:23:10 +0000

[Usuario deshabilitado]

» autor: --583681--

#78 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--583681-- — Wed, 10 Oct 2018 16:22:24 +0000

[Usuario deshabilitado]

» autor: --583681--

#77 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--430178-- — Wed, 10 Oct 2018 16:19:32 +0000

#26
Lo que habrán hecho es darle un multiplicador de productividad a las mujeres

Discriminación positiva en IA?

» autor: --430178--

#76 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

briarreos — Wed, 10 Oct 2018 16:19:13 +0000

#58 a las revistas que iban a publicarlo les cayó todo el aparato mediático de género en los huevos, y se tiraron atrás.
El resumen (eres un poco vago, por cierto :): Entre un grupo grande de hombres, tiende a haber más estúpidos y más genios, que entre un grupo de mujeres, que no llegan tanto a los extremos.

» autor: briarreos

#75 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--90320-- — Wed, 10 Oct 2018 16:19:05 +0000

#42 Eso no funciona así. La IA no está programada para gestionar los datos de una manera concreta. Ella auto evalúa los datos de entrada y en función de eso busca correlaciones y factores predominantes para identificar los mejores candidatos. Y de alguna manera (sin intervención humana) ha llegado a la conclusión que los candidatos cuyo perfil se intuye que es femenino serán peores empleados.

» autor: --90320--

#74 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--202084-- — Wed, 10 Oct 2018 16:19:04 +0000

No deis a las feministas un motivo para que no permitan avanzar a las IA sin que ellas metan mano o tendremos un retraso que ni la santa inquisición causaba en su época

» autor: --202084--

#73 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--493869-- — Wed, 10 Oct 2018 16:18:45 +0000

#52 Tampoco soy yo un experto en procesamiento de imágenes, pero me consta que la IA está bastante lejos de ser capaz de reconocer algo tan preciso como que en una foto se vea a una persona lavando platos. Distinguir el sexo probablemente sí se haya conseguido.

Los modelos de este tipo tienen parámetros de convergencia. Yo no sé qué modelo han usado. Con un modelo de regresión (que no entra dentro de la IA) tienes un p-valor que te indica si el peso asociado a un factor (por ejemplo, el peso asociado a ser hombre o mujer) es significativo. Así, si tienes muy pocas mujeres en tu modelo, el p-valor lo que va a hacer es indicarte que no te puedes fiar de ese parámetro, porque no tienes bastante tamaño muestral. No se introduce ningún sesgo, símplemente el modelo fracasa al entrenarse.

» autor: --493869--

#72 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

vixia — Wed, 10 Oct 2018 16:18:23 +0000

#48 Este es un problema del que se ha hablado mucho, recomiendo esta columna de hace dos años: www.nytimes.com/2016/06/26/opinion/sunday/artificial-intelligences-whi

Menciona además un estudio de ProPublica sobre el software con el que algunos juzgados en EEUU determinan las penas y posibilidades de reincidencia de criminales, y que por sistema declaraba que los criminales negros tenían el doble de posibilidades de reincidir que los blancos. Que el software puede ser mejor que un humano es discutible, pero que hay que monitorizar y cambiar "humanamente" los sesgos también.

» autor: vixia

#71 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

juanac — Wed, 10 Oct 2018 16:18:00 +0000

#10 Fuente? Tiendo a desconfiar de frases falaces del estilo de "Todo el mundo sabe que..."

» autor: juanac

#70 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

box3d — Wed, 10 Oct 2018 16:17:04 +0000

#67 estoy hablando del paso anterior a la IA. La adquisición de datos, el paso de "hacer ver" al programa, donde el sesgo es imposible de meter.

En este paso, la información que obtienes es peor por la propia naturaleza de una cámara. Cuánta luz hace falta para distinguir la cara de alguien blanco? Cuánta más luz hace falta para alguien no tan blanco?

Ahora añade que lo quieres hacer en tiempo real con una cámara de mierda (mi caso) pues pasa que curiosamente falla más con "ciertos colores"

» autor: box3d

#69 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--493869-- — Wed, 10 Oct 2018 16:16:25 +0000

#65 El concepto de sesgo en los datos no tiene que significar que haya un "sesgo cognitivo". Lo que quiero decir es que si la IA está penalizando a las mujeres, es porque los datos, en su conjunto, resumen que las mujeres rinden peor. Lo interesante es que esto no tiene porqué verse a simple vista.

La razón por la que se produce ese sesgo en los datos puede ser que los datos hayan sido recogidos con criterios poco objetivos (por ejemplo, la opinión de jefes de equipo), pudiendo ser un reflejo de una discriminación. Otra posible razón (si los datos se han recogido objetivamente) es que las mujeres rindan peor.

Yo no sé cómo se han recogido los datos, así que sólo puedo especular con posibles causas.

» autor: --493869--

#68 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--583681-- — Wed, 10 Oct 2018 16:16:02 +0000

[Usuario deshabilitado]

» autor: --583681--

#67 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--105855-- — Wed, 10 Oct 2018 16:13:59 +0000

#61 Un humano puede distinguir perfectamente si una persona negra es mujer o hombre, los mejores algoritmos de ahora fallan el 30% de las veces (para blancos es el 1% o así). Tu teoría podría explicar unas diferencias más pequeñas. No es por el contraste sino por la falta de ejemplos para clasificarlo:
news.mit.edu/2018/study-finds-gender-skin-type-bias-artificial-intelli

Aquí otro paper sobre sesgos en la IA:
homes.cs.washington.edu/~my89/publications/bias.pdf

» autor: --105855--

#66 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--583681-- — Wed, 10 Oct 2018 16:13:21 +0000

[Usuario deshabilitado]

» autor: --583681--

#65 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--6883-- — Wed, 10 Oct 2018 16:11:40 +0000

#40 Perdona, si los datos indicasen que los hombres son mejores en algo a las mujeres ¿Consideras eso sesgo en los datos?
Es que no me queda claro de donde sacas que los datos con los que han alimentado la IA están sesgados.

» autor: --6883--

#64 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

chapinet — Wed, 10 Oct 2018 16:10:16 +0000

weaponsofmathdestructionbook.com/
libro que estoy leyendo ahora mismo. Es mas que interesante y habla de temas como este.

» autor: chapinet

#63 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--584615-- — Wed, 10 Oct 2018 16:10:13 +0000

Así que, a esto se referían con lo de "La robótica nos va a quitar puestos de trabajo"

» autor: --584615--

#62 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

powernergia — Wed, 10 Oct 2018 16:10:09 +0000

Es lógico, probablemente la IA se limitaba a buscar el mejor candidato para las empresas y usa los mismos baremos discriminatorios que ellas, sobre todo en lo referente a "cargas familiares", o a la disponibilidad y capacidad de dedicación a la empresa.

» autor: powernergia

#61 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

box3d — Wed, 10 Oct 2018 16:09:08 +0000

#55 da la casualidad que justo he currado en ese campo. Mierda cámara + bajo contraste = "ruido"

» autor: box3d

#60 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

cortocircuitoprogre — Wed, 10 Oct 2018 16:09:04 +0000

www.abc.net.au/news/2017-06-30/bilnd-recruitment-trial-to-improve-gend

» autor: cortocircuitoprogre

#59 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Wir0s — Wed, 10 Oct 2018 16:09:00 +0000

#23 Skynet fue a por Sarah Connor al no poder cargarse a John Connor "en el futuro" y cuando va a por ellos ya lleva tiempo en guerra con la humanidad

» autor: Wir0s

#58 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--105855-- — Wed, 10 Oct 2018 16:08:23 +0000

#49 Es bastante largo, me puedes mandar un resumen?

Si un paper tiene resultados novedosos y con unos métodos fiables no te lo rechazan. Las revistas quieren esa publicidad.

» autor: --105855--

#57 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

box3d — Wed, 10 Oct 2018 16:08:04 +0000

#33 reinventar la rueda pero con más palabrería molona

» autor: box3d

#56 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--128110-- — Wed, 10 Oct 2018 16:07:12 +0000

[Usuario deshabilitado]

» autor: --128110--

#55 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--105855-- — Wed, 10 Oct 2018 16:06:49 +0000

#50 Te puedo dar otros ejemplos, pero si vas a venir con tu libro a poner caras riéndote paso de intentar tener una conversación.

» autor: --105855--

#54 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--493869-- — Wed, 10 Oct 2018 16:06:41 +0000

#33 El problema de usar un sistema experto es que necesitas a un "experto", y la gente de RRHH lleva años pegando palos de ciego y admitiendo que las técnicas de reclutamiento que usan no valen para tomar por el culo. Por eso se están intentando utilizar sistemas como este.

La clave para evitar el sesgo es usar marcadores 100% objetivos, siempre que puedas desarrollarlos, lo que no es necesariamente fácil.

» autor: --493869--

#53 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--128110-- — Wed, 10 Oct 2018 16:06:06 +0000

[Usuario deshabilitado]

» autor: --128110--

#52 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--105855-- — Wed, 10 Oct 2018 16:05:28 +0000

#48 La ausencia de datos de un grupo produce sesgos muy dificil de corregir. Si la IA ve que el 99% de las fotos con gente lavando platos son mujeres, creerá que la foto con un hombre lavando platos es una mujer.

Pero tienes razón en que faltan datos en la noticia para saber por qué se han creado esos sesgos.

» autor: --105855--

#51 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

HaCHa — Wed, 10 Oct 2018 16:05:19 +0000

#29 ¿Quién iba a financiarlos?

» autor: HaCHa

#50 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

box3d — Wed, 10 Oct 2018 16:05:02 +0000

#28 el contraste menor dentro del área comúnmente conocida como cara no tiene nada que ver en el análisis de imagen

» autor: box3d

#49 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

briarreos — Wed, 10 Oct 2018 16:04:01 +0000

#36 el que tu me enseñas no trata de demostrar que los equipos con mujeres trabajan peor, si no todo lo contrario. Los que no se permiten son los puedan sugerir cualquier tipo de ventaja masculina.
Ejemplo:
quillette.com/2018/09/07/academic-activists-send-a-published-paper-dow

» autor: briarreos

#48 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--493869-- — Wed, 10 Oct 2018 16:03:51 +0000

#28 La ausencia de datos no produce un sesgo sino, a lo sumo, problemas de convergencia. Y desde luego no produce "sesgos en contra" de ningún grupo, sólo hace menos fiables los resultados.

Suponer que los resultados obtenidos por la IA son el fruto de la sociedad es suponer bastante. No sabes cómo se han recogido los datos con los que se ha entrenado a esa IA (entiendo que deben ser datos internos de procesos de selección de Amazon). Esos datos pueden ser parámetros totalmente objetivos (medidores de rendimiento empresariales), o estar sujetos a cierto grado de interpetación (opiniones de reclutadores, jefes de equipo, etc). El comportamiento del sistema es un promedio de esos parámetros.

Tampoco hay que idolatrar los resultados obtenidos por sistemas de este tipo, pero sin duda son más objetivos que los que podría obtener un reclutador real.

» autor: --493869--

#47 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

vjp — Wed, 10 Oct 2018 16:03:42 +0000

#41 si por que seguro que Amazon entrena a su IA con post de forocoches y programas de 13tv

» autor: vjp

#46 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

minardo — Wed, 10 Oct 2018 16:02:33 +0000

#4 del heteropatriarcado al heteromachinado...

» autor: minardo

#45 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Jakobg — Wed, 10 Oct 2018 16:01:18 +0000

Pues esto tiene 2 opciones:
1. El modelo es incorrecto y da resultados incorrectos
2. El modelo es correcto y da resultados correctos que son politicamente incorrectos

» autor: Jakobg

#44 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--273467-- — Wed, 10 Oct 2018 16:00:58 +0000

#29 Lo opuesto: lawyerist.com/teams-smarter-women/

» autor: --273467--

#43 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--141212-- — Wed, 10 Oct 2018 16:00:46 +0000

#23 ¿Y no incluye "mujeres y hombres" a la humanidad entera? ¡Ah no, es verdad!

» autor: --141212--

#42 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--166625-- — Wed, 10 Oct 2018 15:59:22 +0000

[Usuario deshabilitado]

» autor: --166625--

#41 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--105855-- — Wed, 10 Oct 2018 15:59:19 +0000

#37 No es en absoluto objetivo. La IA aprende de la sociedad. Si la sociedad cree que las mujeres son peores, la IA aprenderá a discriminar a las mujeres. La IA discrimina contra negros y cree que los hombres lavando platos son mujeres. Si quieres te puedo mandar referencias.

» autor: --105855--

#40 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--493869-- — Wed, 10 Oct 2018 15:58:09 +0000

#7 Las razones por las que un sistema IA adquiere unos pesos determinados (que es lo que luego marca su comportamiento) no se pueden saber, del mismo modo que no pueden interpretarse esos pesos. Es una de las limitaciones de este tipo de técnicas. Lo que sí sabemos es que el sesgo observado es fruto de un sesgo en los datos. Osea que, o la recogida de datos no es objetiva, o las mujeres tienen un rendimiento peor (siempre en promedio). Lo más probable es que sea una combinación de ambas.

» autor: --493869--

#39 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--141212-- — Wed, 10 Oct 2018 15:58:09 +0000

#17 Yo no he visto ni una en mi vida.

» autor: --141212--

#38 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--273467-- — Wed, 10 Oct 2018 15:56:57 +0000

#10 Aparentemente los datos refutan tus observaciones. La principal causa es una mayor inteligencia social y emocional para trabajar en equipo.

» autor: --273467--

#37 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--545603-- — Wed, 10 Oct 2018 15:56:40 +0000

#29 ¿no te vale el de la noticia? La IA asoció factores asociados a ser mujer con una menor productividad. Parece bastante objetivo.

» autor: --545603--

#36 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--105855-- — Wed, 10 Oct 2018 15:55:20 +0000

#32 Por supuesto que se permiten, no digas chorradas. Anda que no hay gente trabajando en como funcionan los groupos en función de la diversidad: scholar.google.nl/scholar?hl=en&as_sdt=0,5&q=gender+diversity+

Venga te pongo uno abierto al azar: gap.hks.harvard.edu/impact-gender-diversity-performance-business-teams

"Teams with an equal gender mix perform better than male-dominated teams in terms of sales and profits.
Teams with lower percentages of women have lower sales and lower profits than teams with a balanced gender mix.
Profits increase as the share of women increases up to 50%. For higher shares of women, the relation between profits and the share of women is flat.
The study suggests that teams with an equal gender mix perform the same as teams with a majority of females, but the distribution of their data does not allow conclusions about the effect of female-dominated teams.
The study finds no evidence to support the underlying mechanisms that improve performance on teams with an equal gender mix. The study found that conflicts, friendships, decision-making, atmosphere, learning, and mutual monitoring were all unrelated to the gender composition of the group.
"

» autor: --105855--

#35 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--273467-- — Wed, 10 Oct 2018 15:55:17 +0000

#4 Normal. Garbage in, garbage out.

» autor: --273467--

#34 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--420014-- — Wed, 10 Oct 2018 15:52:31 +0000

#17 seguramente, porque no es una profesión con mucha presencia de mujeres. A eso se refiere, creo.

» autor: --420014--

#33 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--83870-- — Wed, 10 Oct 2018 15:51:52 +0000

Si vas a construir una IA para procesos de selección de candidatos, lo mejor que puede hacerse es volver a los famosos "sistemas expertos" del milenio pasado. Eran poco más que una serie de reglas if-else encadenadas pero al menos sabías exactamente qué pasaba en cada punto del proceso y quién era el responsable.

Las IAs de hoy en día suelen basarse en cantidades absurdas de datos para entrenar modelos de "caja negra" así que, si hay un problema, no puedes terminar el error fácilmente, ni corregirlo. Y si además usas las evaluaciones y métricas de personas con sesgos, al final el modelo los aprende.

» autor: --83870--

#32 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

briarreos — Wed, 10 Oct 2018 15:50:06 +0000

#29 no creo que pueda, porque ese tipo de estudios no se permiten

» autor: briarreos

#31 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

supercordobes — Wed, 10 Oct 2018 15:49:09 +0000

A la IA hay que entrenarla por lo que si el entrenamiento fue con modelos sesgados, los resultados van a estar sesgados. Ahora, si los modelos estaban bien quiere decir que...

» autor: supercordobes

#30 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

GatoMaula — Wed, 10 Oct 2018 15:47:24 +0000

#11 Sensacionalista y a otra cosa.

» autor: GatoMaula

#29 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--105855-- — Wed, 10 Oct 2018 15:46:33 +0000

#10 Puedes dar datos de estudios que muestren que los equipos con mujeres trabajan peor?

» autor: --105855--

#28 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--105855-- — Wed, 10 Oct 2018 15:44:55 +0000

#4 La IA refleja los sesgos de la sociedad, ya que los datos para entrenarla vienen de ahí. Asi que si la sociedad es "heteropatriarcal machirulo opresora", lo raro es que la IA no lo sea.

Por ejemplo, la IA tiene un sesgo contra los negros, ya que le cuesta mucho reconocer sus caras. Eso es porque la mayor parte de fotos en internet son de blancos.

» autor: --105855--

#27 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--569720-- — Wed, 10 Oct 2018 15:43:45 +0000

#23 Calla chivato

» autor: --569720--

#26 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--587620-- — Wed, 10 Oct 2018 15:42:23 +0000

#7 Lo que no dice es por qué la IA llegó a la conclusión de que las mujeres de un colegio femenino o las que fueron capitanas de un club de ajuedrez femenino son peores candidatas que los hombres

Entrenamiento por redes neuronales. Es como funcionan estas cosas.

Se le dan ejemplos reales de curriculums y mediciones de productividad hasta que a partir del curriculum es capaz de predecir con la mayor fiabilidad posible la productividad del candidato.

Lo que habrán hecho es darle un multiplicador de productividad a las mujeres, para que tienda a obtener más mujeres. No hay mucho más que puedan hacer, trastear dentro de una red neuronal es imposible.

» autor: --587620--

#25 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Tronchador — Wed, 10 Oct 2018 15:39:58 +0000

#18 Bueno, el sesgo es una forma de ver la falta de inteligencia, se puede ver al revés. Si tienes sesgos no tienes una inteligencia "completa".

» autor: Tronchador

#24 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--209417-- — Wed, 10 Oct 2018 15:39:05 +0000

#10 no ha sido mi experiencia, tampoco puedo decir que los hombres sean más problemáticos.

» autor: --209417--

#23 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

capitansevilla — Wed, 10 Oct 2018 15:38:13 +0000

Así empezó Skynet. Primero mujeres (Sarah Connor), luego hombres... y al final la humanidad entera.

» autor: capitansevilla

#22 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

cortocircuitoprogre — Wed, 10 Oct 2018 15:29:53 +0000

Esto me recuerda a cuando se decía de mandar curriculums sin foto ni nombre y resulta que al final haciéndolo así seleccionaban todavía más a hombres, por lo que tiraron para atrás.

» autor: cortocircuitoprogre

#21 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--89888-- — Wed, 10 Oct 2018 15:21:59 +0000

#16 pues tiene razón: ha demostrado que resulta más difícil doblegarla a criterios subjetivos.

» autor: --89888--

#20 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--89888-- — Wed, 10 Oct 2018 15:20:26 +0000

#10 Pues no será en mi empresa, que me callo.
Y no soy precisamente el feminista radical de la web.

» autor: --89888--

#19 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

vilgeits — Wed, 10 Oct 2018 15:20:17 +0000

#17 Albañilas

» autor: vilgeits

#18 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

sorrillo — Wed, 10 Oct 2018 15:19:38 +0000

Los sesgos y la inteligencia van de la mano, aspirar a tener una inteligencia sin sesgos es una utopía.

» autor: sorrillo

#17 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Nathaniel.Maris — Wed, 10 Oct 2018 15:14:48 +0000

#12 Tú has trabajado en pocas obras con mujeres albañiles.

» autor: Nathaniel.Maris

#16 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

genba — Wed, 10 Oct 2018 15:11:29 +0000

"The company’s experiment, which Reuters is first to report, offers a case study in the limitations of machine learning."

Me encanta cuando periodistas que no tienen ni puñetera idea de lo que están hablando se ponen a emitir juicios de valor.

» autor: genba

#15 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

reithor — Wed, 10 Oct 2018 15:11:28 +0000

Amazon (mythology: female warrior).

» autor: reithor

#14 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Luiskelele — Wed, 10 Oct 2018 15:03:51 +0000

Hombre el haber estado segregadas durante su educación a mi me parece algo que echaría para atrás tanto a hombres como a mujeres.

Habiendo otros/as candidatos que han estudiado en universidades normales, me parece normal que cuente como hándicap.

» autor: Luiskelele

#13 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

genba — Wed, 10 Oct 2018 15:02:31 +0000

#4 Pues sí, si lo dice The Guardian ...

Women must act now, or male-designed robots will take over our lives
www.theguardian.com/commentisfree/2018/mar/13/women-robots-ai-male-art

» autor: genba

#12 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Tensk — Wed, 10 Oct 2018 14:58:29 +0000

#10 Al menos en albañilería, pesca de altura y minería eso no es verdad.

» autor: Tensk

#11 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Liet_Kynes — Wed, 10 Oct 2018 14:54:10 +0000

#8 Tampoco dice si también considera peores candidatos a los que fueron a universidades masculinas o a los que fueron jugadores de fútbol americano en la universidad o el instituto, porque eso significaría que no penaliza a las mujeres, sino ciertos patrones educativos "poco diversos". No sería raro que los considerase "incompletos" socialmente hablando. Me parece muy raro este tipo de sesgo

» autor: Liet_Kynes

#10 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--590169-- — Wed, 10 Oct 2018 14:53:27 +0000

Todo el que haya sido responsable de un grupo de personas en el trabajo sabe por experiencia que las mujeres causan más problemas que los hombres, pero no lo dirá porque está mal visto.

» autor: --590169--

#9 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--589193-- — Wed, 10 Oct 2018 14:53:06 +0000

Es lo que ocurre cuando revisas los datos en bruto.

» autor: --589193--

#8 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

JohnBoy — Wed, 10 Oct 2018 14:50:40 +0000

#7 Ya... esa duda me ha quedado a mi también. Dice algo de que se basa en revisiones de plantillas anteriores que eran mayoritariamente masculinas, pero eso no terminaría de explicar del todo nada.

» autor: JohnBoy

#7 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Liet_Kynes — Wed, 10 Oct 2018 14:48:58 +0000

Lo que no dice es por qué la IA llegó a la conclusión de que las mujeres de un colegio femenino o las que fueron capitanas de un club de ajuedrez femenino son peores candidatas que los hombres

» autor: Liet_Kynes

#6 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Valverdenyo — Wed, 10 Oct 2018 14:47:51 +0000

Es Inteligencio Artificiol.

» autor: Valverdenyo

#5 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

bokepacha — Wed, 10 Oct 2018 14:45:54 +0000

#4 Y falocentrista

» autor: bokepacha

#4 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

grodriguezgonzalez — Wed, 10 Oct 2018 14:39:38 +0000

La IA es heteropatriarcal machirulo opresora

» autor: grodriguezgonzalez

#3 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

HimiTsü — Wed, 10 Oct 2018 14:38:33 +0000

La cosa es que a mî, me hace sonrojarme. ( medio risa, medio vergüenza)

» autor: HimiTsü

#2 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

--432085-- — Wed, 10 Oct 2018 14:37:15 +0000

Venga valientes, a quemar karma!!

» autor: --432085--

#1 Amazon retira la herramienta basada en IA para el reclutamiento porque mostró sesgos contra las mujeres

Wir0s — Wed, 10 Oct 2018 14:36:47 +0000

Imagen de la IA en cuestión

» autor: Wir0s