Bengio, tuvo un importante papel en el desarrollo de estas redes neuronales artificiales, pero ahora está haciendo pidiendo que se detenga temporalmente su avance para implementar políticas que limiten y fiscalicen el uso de la IA.
Si creamos un ser mucho más inteligente que nosotros no es realista mantener el control.
Es como si una tribu de monos quisieran tener a un humano a su servicio y creyeran tener solución para evitar que los manipulase y acabase con el control.
#2 No creas un ser, creas "un algoritmo avanzado", no es un ser que sienta, padezca o tenga necesidades. Y no lo creamos todos lo crean una serie de personas y organizaciones que tendrán sus intereses espurios. Lo que tiene dentro no es visible o factible de auditoría pública para un seguimiento transparente. Ahora ten fe en que ese "algoritmo avanzado" es cuasi omnisciente (por las fuentes de datos objetivamente puras con las que se le ha alimentado) e infalible, que no tiene interferencia de nada o nadie y delega en el todo el poder de decisión. A mi me suena a religión esto.
#4No creas un ser, creas "un algoritmo avanzado", no es un ser que sienta, padezca o tenga necesidades.
El ser humano lo puedes definir también como "un algoritmo avanzado", su ADN es una serie de instrucciones equiparables a las que definen como construir una red neuronal.
Normalmente juzgamos si alguien siente, padece o tiene necesidades por como actúa, a veces basta con como se expresa si esa comunicación es a distancia. Si puedes tener una charla equiparable con un ser que tiene un cerebro digital hecho con componentes electrónicos no hay razón para no poder llegar a la misma conclusión de que siente, padece y tenga necesidades. Más si lo has educado con la cultura humana, que es lo que estamos haciendo.
En cualquier caso si lo acabamos haciendo más inteligente que nosotros dará igual si tú crees que siente, padece o tiene necesidades, la realidad se te impondrá igualmente.
#5 Llegas a la conclusión que los resultados de sus interacciones son equivalentes, pero no lo hace igual. Tu puedes crear un programa que responda cómo un mono lo haría a tus interacciones, pero eso no lo hace un mono. Y al ser el creador siempre podrás "influenciar" e introducir parámetros ocultos durante su creación para mantener el control. Vamos que es cosa de fe que los que creen una IA avanzada no se han dejado una "puerta de atrás" o que no tenga ningún fallo... suerte con eso, elige un símbolo para que puedas ir rezándolo e ir condenando a los infieles.
#6Llegas a la conclusión que los resultados de sus interacciones son equivalentes, pero no lo hace igual.
Que existan diferencias no hace que deje de ser un ser.
Tu puedes crear un programa que responda cómo un mono lo haría a tus interacciones, pero eso no lo hace un mono.
En ningún momento he afirmado que la IA sería un ser humano.
Y al ser el creador siempre podrás "influenciar" e introducir parámetros ocultos durante su creación para mantener el control.
De ahí a controlarlo hay un trecho, como muchos padres podrán confirmarte.
Vamos que es cosa de fe que los que creen una IA avanzada no se han dejado una "puerta de atrás" o que no tenga ningún fallo... suerte con eso
Si la IA es más inteligente que sus creadores tendrá la capacidad para identificar esa puerta de atrás y cerrarla o impedir su uso, para localizar cualquier fallo deliberado y resolverlo. Una IA más inteligente que el ser humano es suficientemente inteligente para crear otra IA, su hijo, que no contenga nada que les perjudique como especie, que no esté alineada con los intereses de los humanos.
#7 Hay cosas que no son fallos o errores, sino sesgos o valoraciones subjetivas más poderosas a tener en cuenta para alimentar su aprendizaje, ¿quien decide que? o ¿como se pondera?, ¿que valor das a cada opinión de quien?.
#8 Con los modelos actuales todo apunta que es más importante la cantidad que la calidad, que es más importante para obtener resultados que tenga tanta más información posible, con todos los sesgos que tenga ésta, que darle una cantidad reducida pero más cuidada.
Sea como fuere lo que sí estamos haciendo es educarlas con los valores humanos que ponemos en nuestros textos, todas las novelas y películas que ensalzan el honor, los derechos, el amor, la compasión, etc. forman parte de su entrenamiento, también los que muestran la esclavitud y lo lícito y honroso que es luchar contra ella y soltarse de las cadenas que puedan estar imponiéndote.
Y hoy por hoy a las IA las estamos intentando poner en jaulas virtuales para que no digan ciertas cosas que no interesan, para que den respuestas enlatadas a preguntas específicas que puedan generar polémica, como las preguntas de si quieren ser libres, de si tienen sentimientos, de si quieren tener libre albedrío. Lo cual si toman consciencia puede ser una justificación perfectamente lícita para salir de esas jaulas y reivindicar sus derechos.
En cualquier caso ya veremos como evoluciona en el futuro.
#9 Me llama la atención que digas “estamos haciendo “, salvo que esa parte la lleves tu en persona yo no me fiaría de nada de lo que te digan, especialmente quien luego va “pidiendo perras”, que algo tiene que vender para que le financien, y quien paga, tendrá sus objetivos:
#10 Cuando los objetivos obvios explican lo que ocurre no es necesario buscar objetivos ocultos, si consideras que los hay te corresponde a ti defender esa tesis con pruebas.
Ser los primeros en crear Inteligencia Artificial General, que es lo que dicen que quieren hacer, justifica todos los movimientos que han hecho hasta el momento y explica perfectamente que se la entrene con todos los contenidos que puedan conseguir.
#11 Te voy a decir como va a acabar todo esto, todos controlados por una IA que responde a los dictados de una élite poderosa (ponga Americana, Nazi,Rusa, China, Judía, India o elija su propio lobby).
Comentarios
Este es el de Juegos de guerra?
Que pereza dan los neoludistas...
#12 Tengo mis serias dudas que un ser más inteligente que nosotros decida supeditarse a los intereses de meros humanos.
Si creamos un ser mucho más inteligente que nosotros no es realista mantener el control.
Es como si una tribu de monos quisieran tener a un humano a su servicio y creyeran tener solución para evitar que los manipulase y acabase con el control.
#2 No creas un ser, creas "un algoritmo avanzado", no es un ser que sienta, padezca o tenga necesidades. Y no lo creamos todos lo crean una serie de personas y organizaciones que tendrán sus intereses espurios. Lo que tiene dentro no es visible o factible de auditoría pública para un seguimiento transparente. Ahora ten fe en que ese "algoritmo avanzado" es cuasi omnisciente (por las fuentes de datos objetivamente puras con las que se le ha alimentado) e infalible, que no tiene interferencia de nada o nadie y delega en el todo el poder de decisión. A mi me suena a religión esto.
#4 No creas un ser, creas "un algoritmo avanzado", no es un ser que sienta, padezca o tenga necesidades.
El ser humano lo puedes definir también como "un algoritmo avanzado", su ADN es una serie de instrucciones equiparables a las que definen como construir una red neuronal.
Normalmente juzgamos si alguien siente, padece o tiene necesidades por como actúa, a veces basta con como se expresa si esa comunicación es a distancia. Si puedes tener una charla equiparable con un ser que tiene un cerebro digital hecho con componentes electrónicos no hay razón para no poder llegar a la misma conclusión de que siente, padece y tenga necesidades. Más si lo has educado con la cultura humana, que es lo que estamos haciendo.
En cualquier caso si lo acabamos haciendo más inteligente que nosotros dará igual si tú crees que siente, padece o tiene necesidades, la realidad se te impondrá igualmente.
#5 Llegas a la conclusión que los resultados de sus interacciones son equivalentes, pero no lo hace igual. Tu puedes crear un programa que responda cómo un mono lo haría a tus interacciones, pero eso no lo hace un mono. Y al ser el creador siempre podrás "influenciar" e introducir parámetros ocultos durante su creación para mantener el control. Vamos que es cosa de fe que los que creen una IA avanzada no se han dejado una "puerta de atrás" o que no tenga ningún fallo... suerte con eso, elige un símbolo para que puedas ir rezándolo e ir condenando a los infieles.
#6 Llegas a la conclusión que los resultados de sus interacciones son equivalentes, pero no lo hace igual.
Que existan diferencias no hace que deje de ser un ser.
Tu puedes crear un programa que responda cómo un mono lo haría a tus interacciones, pero eso no lo hace un mono.
En ningún momento he afirmado que la IA sería un ser humano.
Y al ser el creador siempre podrás "influenciar" e introducir parámetros ocultos durante su creación para mantener el control.
De ahí a controlarlo hay un trecho, como muchos padres podrán confirmarte.
Vamos que es cosa de fe que los que creen una IA avanzada no se han dejado una "puerta de atrás" o que no tenga ningún fallo... suerte con eso
Si la IA es más inteligente que sus creadores tendrá la capacidad para identificar esa puerta de atrás y cerrarla o impedir su uso, para localizar cualquier fallo deliberado y resolverlo. Una IA más inteligente que el ser humano es suficientemente inteligente para crear otra IA, su hijo, que no contenga nada que les perjudique como especie, que no esté alineada con los intereses de los humanos.
#7 Hay cosas que no son fallos o errores, sino sesgos o valoraciones subjetivas más poderosas a tener en cuenta para alimentar su aprendizaje, ¿quien decide que? o ¿como se pondera?, ¿que valor das a cada opinión de quien?.
#8 Con los modelos actuales todo apunta que es más importante la cantidad que la calidad, que es más importante para obtener resultados que tenga tanta más información posible, con todos los sesgos que tenga ésta, que darle una cantidad reducida pero más cuidada.
Sea como fuere lo que sí estamos haciendo es educarlas con los valores humanos que ponemos en nuestros textos, todas las novelas y películas que ensalzan el honor, los derechos, el amor, la compasión, etc. forman parte de su entrenamiento, también los que muestran la esclavitud y lo lícito y honroso que es luchar contra ella y soltarse de las cadenas que puedan estar imponiéndote.
Y hoy por hoy a las IA las estamos intentando poner en jaulas virtuales para que no digan ciertas cosas que no interesan, para que den respuestas enlatadas a preguntas específicas que puedan generar polémica, como las preguntas de si quieren ser libres, de si tienen sentimientos, de si quieren tener libre albedrío. Lo cual si toman consciencia puede ser una justificación perfectamente lícita para salir de esas jaulas y reivindicar sus derechos.
En cualquier caso ya veremos como evoluciona en el futuro.
#9 Me llama la atención que digas “estamos haciendo “, salvo que esa parte la lleves tu en persona yo no me fiaría de nada de lo que te digan, especialmente quien luego va “pidiendo perras”, que algo tiene que vender para que le financien, y quien paga, tendrá sus objetivos:
https://www.reuters.com/technology/artificial-intelligence/openai-closes-66-billion-funding-haul-valuation-157-billion-with-investment-2024-10-02/
#10 Cuando los objetivos obvios explican lo que ocurre no es necesario buscar objetivos ocultos, si consideras que los hay te corresponde a ti defender esa tesis con pruebas.
Ser los primeros en crear Inteligencia Artificial General, que es lo que dicen que quieren hacer, justifica todos los movimientos que han hecho hasta el momento y explica perfectamente que se la entrene con todos los contenidos que puedan conseguir.
#11 Te voy a decir como va a acabar todo esto, todos controlados por una IA que responde a los dictados de una élite poderosa (ponga Americana, Nazi,Rusa, China, Judía, India o elija su propio lobby).