Menéame: comentarios [3578217]

#10 Los algoritmos son parciales. Esta herramienta muestra a los niños lo peligrosos que pueden ser (ENG)

Robus — Tue, 02 Nov 2021 14:12:50 +0000

#3 ¿Fe y magia en, por ejemplo, un backpropagation?

Si es lo mismo que tirar una pelota a una canasta, si sale muy alta tiras con menos fuerza, si muy baja tiras con más fuerza... hasta que encestas.

Pues lo mismo pero con muchas canastas y muchos tiros.

» autor: Robus

#9 Los algoritmos son parciales. Esta herramienta muestra a los niños lo peligrosos que pueden ser (ENG)

--685041-- — Tue, 02 Nov 2021 13:21:04 +0000

[Usuario deshabilitado]

» autor: --685041--

#8 Los algoritmos son parciales. Esta herramienta muestra a los niños lo peligrosos que pueden ser (ENG)

box3d — Tue, 02 Nov 2021 13:18:53 +0000

#6 en informática, un número mágico es aquel valor numérico que "sale de la nada" sin mayor explicación de de donde viene, cual es su función y por que ese número y no otro.

Articulo en wiki:
en.m.wikipedia.org/wiki/Magic_number_(programming)

Y artículo de uno de los números mágicos más famosos de la informática, 1597463007
(o 0x5F3759DF en hexa)
en.m.wikipedia.org/wiki/Fast_inverse_square_root

» autor: box3d

#7 Los algoritmos son parciales. Esta herramienta muestra a los niños lo peligrosos que pueden ser (ENG)

January11 — Tue, 02 Nov 2021 13:14:49 +0000

Eso depende la IA, hay algunas que sabemos exactamente cómo funcionan generalmente basándose en procesos estadísticos claros que intrinsecamente tienen sus sesgos. Y otras como las redes neuronales que son una agregación de componentes simples, pero como conjunto es muy difícil darle una interpretación a lo que ha aprendido.

Además, las criterios de optimización a veces son muy agresivos, y eso puede hacer que la IA busque atajos (no es consciente de hacer trampas). Es como que le enseñen a animales (por ejemplo cuervos) a llevar basura a un puesto de reciclaje y que automáticamente dispense comida. Ellos realmente no tienen claro el concepto de basura, pueden aprender que si roban cosas, también les dan comida, o que pueden engañar el censor, y para ellos es totalmente válido. Y ese efecto de buscar atajos se incrementa si es dificil encontrar basura, o si la comida es poca, o si hay mucha competencia entre los cuervos.

» autor: January11

#6 Los algoritmos son parciales. Esta herramienta muestra a los niños lo peligrosos que pueden ser (ENG)

ewok — Tue, 02 Nov 2021 13:13:18 +0000

#3 No entiendo el comentario pero suena interesante.

Números mágicos como el 1089?
www.smartick.es/blog/matematicas/recursos-didacticos/numeros-magicos-e

» autor: ewok

#5 Los algoritmos son parciales. Esta herramienta muestra a los niños lo peligrosos que pueden ser (ENG)

January11 — Tue, 02 Nov 2021 13:06:42 +0000

El artículo hace un buen ejercicio de "decir y no mostrar", cuenta muchas cosas irrelevantes, y luego te suelta el resultado sin explicar cómo llegan a esas conclusiones, que sería lo único interesante. Hasta hay un punto en el que los alumnos dicen que el algoritmo es fenomenal y que deberían utilizarlo para las elecciones. Igual es que no es tan claro lo que pretendían mostrar y cómo...

» autor: January11

#4 Los algoritmos son parciales. Esta herramienta muestra a los niños lo peligrosos que pueden ser (ENG)

ccguy — Tue, 02 Nov 2021 13:03:40 +0000

#3 los perfiles son datos objetivos. Edad, sexo, etc. No hay sesgo en los perfiles sino en los algoritmos. Pregunta en un banco o una aseguradora.

» autor: ccguy

#3 Los algoritmos son parciales. Esta herramienta muestra a los niños lo peligrosos que pueden ser (ENG)

box3d — Tue, 02 Nov 2021 13:00:27 +0000

#2 perfiles proporcionados por humanos casualmente?

Me ha tocado entrenar una red neuronal y te sorprenderías de la cantidad de Fe y Magia que entra dentro de este campo. Funciona, sí, pero los coeficientes que salen son literalmente Números Mágicos.

» autor: box3d

#2 Los algoritmos son parciales. Esta herramienta muestra a los niños lo peligrosos que pueden ser (ENG)

ccguy — Tue, 02 Nov 2021 12:57:21 +0000

#1 lo de que no sabemos como funciona la IA sí que es de locos.

En todo caso, un algoritmo tradicional también puede tener sesgos si toma decisiones en base a perfiles.

» autor: ccguy

#1 Los algoritmos son parciales. Esta herramienta muestra a los niños lo peligrosos que pueden ser (ENG)

box3d — Tue, 02 Nov 2021 12:54:27 +0000

Un algoritmo que aprende de entrenadores humanos hereda sesgos de los humanos que lo entrenan. Sorpresa.

<informático_quejándose>
Y la verdad, meter en el mismo saco de "algoritmo" a la IA, que apenas sabemos como funciona, y a algoritmos propiamente dichos, con su descripción paso a paso, me parece de locos.
</informático_quejándose>

» autor: box3d