Portada
mis comunidades
otras secciones
#3:
Cuando expusieron las redes a estados que son análogos a las ondas que experimentan los cerebros vivos durante el sueño, se restauró la estabilidad.
¿Cómo se expone un grupo de matrices a "ondas análogas a las que experimentan los cerebros vivos"?
Con explicaciones tan claras como las de Xataka todavía estariamos tratando de construir las piramides...
¿Cómo se expone un grupo de matrices a "ondas análogas a las que experimentan los cerebros vivos"?
Con explicaciones tan claras como las de Xataka todavía estariamos tratando de construir las piramides...
Comentarios
Cuando expusieron las redes a estados que son análogos a las ondas que experimentan los cerebros vivos durante el sueño, se restauró la estabilidad.
¿Cómo se expone un grupo de matrices a "ondas análogas a las que experimentan los cerebros vivos"?
Con explicaciones tan claras como las de Xataka todavía estariamos tratando de construir las piramides...
#3 Se disipan las reverberaciones electromagnéticas en el hardware de la Red neuronal.
Tampoco es tan difícil.
#3 Pues las apagas y las vuelves a encender. Que hay que explicar todo
#3 parece ser que les introducen como entrada ruido numérico a distintas frecuencias y amplitudes.
#6 Pero... ¿entrenan con ruido?
#8 no. El ruido sería la fase equivalente al sueño humano.
#9 Pero si no la entrenan no modifican los pesos... solo hacen pasar la información y la red se quedaría igual...
Si no se modifican los pesos sería lo mismo que no hacer nada... y modificarlo entrenando con ruido, no lo veo.
#10 si te refieres a que se estaría aplicando un algoritmo de aprendizaje con la entrada de ruido, yo entiendo que obviamente que sí (por lo que comentas).
Me refiero a que no sería un "entrenamiento" como tal, sino una manera de modificar la red, sin resetearla completamente, para que evitar que diverja a extremos absurdos. Aunque el artículo no especifica en qué consiste esa entrada de ruido, qué algoritmos se aplican, qué tipo de red neuronal, etc, así que ni idea...
#11 Sí, es que ya existen sistemas de "meter ruido" en una red neural durante el entrenamiento:
apagar algunas neuronas
desconectar algunas de las conexiones entre capas
modificar aleatoriamente el valor de varias neuronas
Pero la frase:
Cuando expusieron las redes a estados que son análogos a las ondas que experimentan los cerebros vivos durante el sueño, se restauró la estabilidad.
Me rasca mucho pero mucho.
¿Qué significa "exponer las redes"? qué significan "estados analogos a las ondas..." ? qué son esas ondas? y qué quieren decir con "se restauró la estabilidad"? cómo estaba antes? por qué? cómo quedó después?
Lo dicho, me rasca muy mucho.
#12 en el artículo original, que tampoco da mucho más detalle, hablan de que se introducen ruido numérico, a distintas amplitudes y frecuencias.
(...) our networks became unstable after continuous periods of learning. However, when we exposed the networks to states that are analogous to the waves that living brains experience during sleep, stability was restored (...)
Our decision to expose our biologically realistic networks to an artificial analogue of sleep was nearly a last-ditch effort to stabilize them. They were spontaneously generating images that were analogous to hallucinations. We experimented with various types of numerical noise, roughly comparable to the static you might encounter between stations while tuning a radio. The best results came when we used noise with a wide range of frequencies and amplitudes. The noise mimics the input received by the neurons in your brain during slow-wave sleep, which is the deep sleep we can’t live without.
Creo que se refiere a la entrada del sistema, no a modificaciones directas sobre la red, pero ya te digo que no especifica gran cosa...
Lo siguiente será someterlas a zumbido de mosquito una hora antes de que suene el despertador. Ese día nacerá skynet y empezaran los nukes.
Vamos, lo que viene a ser reiniciar el equipo de toda la vida
Usarán Windows??
PD: Todas las noticias sobre IA dan la risa
#1 Pues no será Windows 11 porque las IA actuales no cumplen con los requisitos mínimos .