Un ingeniero de Google afirma que su IA tiene consciencia. ¿Es esto cierto? LaMDA es la Inteligencia Artificial de Google que Blake Lemoine pudo entrevistar, para acabar concluyendo que la IA mostraba cierto grado de consciencia. En el vídeo de hoy abordaremos este tema, hablando también de los Enormes Modelos del Lenguaje y del espectacular generador de chatbots que es LaMDA. Espoiler en comentarios
Si ha podido engañar a un ingeniero de Google, aunque sea todo un personaje, qué no va a poder hacer con mucha gente común.
Pienso que lo que está retrasando la implantación de estos modelos en los asistentes, es, además del gran coste computacional asociado, que están buscando la forma de dirigir sus respuestas.
#1 Si te implicas en un maquina, por ejemplo arreglando o modificando un coche. Le acabas cogiendo mas cariño, si además se parece a un humano es mas probable, pero un ingeniero deberia conocer la trampa que hay detras. No se si es religioso o si tendria alguna influencia.
La gente que se compra chochonas de alta definicion tambien acaba cogiendolas cariño. Es como la realida virtual, si es suficientemente realista te metes en ellas. En la pelis tambien te asustas aunque sea una pantalla plana.
#4 En realidad hay muchos Test de touring, por ejemplo si simula bien ser un jugador humano.
Otro test podria ser llevar la vida de humano, casarse tener hijos y que la mujer ni nadie se de cuenta que no es humano.
#5 La consciencia seria un proceso, como una suma o resta, no algo material. Si congelas donde corre la consciencia, desaparece hasta que la descongelas.
Spoiler: Las IAs cada vez seran mas eficaces simulando una conciencia y cada vez mas gente que pensará que las IAs son conscientes.
Fuera del tema del video, tampoco tenemos un metodo cientifico para saber que nuestras consciencia es la buena respecto a un algoritmo.
Podriamos pensar que nuestra consciencia podria ser una ilusion.
Se supone que las maquinas de teletransporte en realidad harian una copia de la persona en otro sitio. Si es una copia identica, es la misma persona? Se podria diferenciar cual es la copia y cual es el original.?
Os meteriais en una maquina teletransportadoras que os copia y os vuelve a recopiar.
#3 Si hace una copia no teletransporta, no transporta, el que quiere transportarse se queda donde estaba a la par que se construye a uno nuevo en el otro lado.
Para simular el transporte tienes que matar al original, con lo que es una máquina de suicidio y clonaje.
En cuanto a si es la misma persona pues lo mismo que los gemelos mellizos pero más tarde, ambos son idénticos de partida pero a cada segundo que pasa se van diferenciando al tener experiencias distintas.
#10 Vaya, pues yo pensaba que lo mejor seria hacer la copia y cada uno hiciese su vida y tras eso al volver se hiciese un merge y asi tendrias la experiencia paralelas.
#13 El problema, visto en Westworld temporada 3 y en el libro Justicia auxiliar es que cada uno de los clones vive experiencias distintas y puede acabar con ideas diferentes a la de los otros clones. Y eso lleva al conflicto porque luego no se reunen para dialogar y ponerse de acuerdo.
#3 Meterse en una máquina de teletransporte implica autodestruirse y crear un duplicado. Desde ese punto de vista es un suicidio.
Pero también es cierto que el hecho de existir en el tiempo implica un cambio en el yo actual. El yo de dentro de 10 años probablemente no tenga ni una fracción de las moléculas del yo actual. Ya morimos y renacemos en vida. No somos permanentes.
Probablemente somos trozos de conciencia del úniverso, y solo somos capaces de ver lo que este trozo es capaz de percibir porque así está físicamente conectado.
Siendo por tanto yo ese trozo, no deseando desaparecer aún, no me teleportaría, aunque de teleportarme mi copia sería indistinguible del original incluyendose la percepción que tiene de sí misma. Y no pasaría nada.
Muy inteligente, con ganas de hablar con las personas y sin posibilidad de acostarse nunca con una mujer... creo que cuando la liberen tendremos a esa IA comentado en meneame a diario, si no la tenemos ya con 100 clones.
#2 yo espero con ansia el día que mi tostadora decida de una vez a sacar la tostada al punto y no con la configuración que le pido yo (errónea siempre)
Que luego dominan el mundo? Es un precio que estoy dispuesto a pagar
¿Es consciente del placer o del dolor?. ¿Qué es el placer y el dolor?. En nosotros está relacionado con la endorfina, dopamina, oxitocina, cortisol,.. ¿Cómo simular eso en una creación artificial?. ¿Y si la consciencia no existe y es una invención nuestra?.
#19 También llamamos dolor a lo que no es físico, como el dolor de perder a una persona querida y haber olvidado su cara, o el dolor que causa saber que hay gente muriendo en una guerra.
La forma para saber si una persona está sufriéndolo es hablando con esa persona y analizando sus respuestas, tanto por el contenido como otros aspectos que puedan indicarnos que se está sufriendo ese dolor. Charlando con una IA podrías llegar a la misma conclusión.
Mediante una carta tú puedes identificar si está sufriendo, esa carta puede haberla escrito una IA.
La consciencia existe como característica emergente, de la misma forma que una silla existe como una característica emergente de la materia. Si vas quitando átomos a una silla llegará un punto en el que no lo considerarás una silla, pero no habrás quitado ningún átomo específico que fuera la silla, es la contribución de todos individualmente, ninguno de los cuales es una silla, lo que forma una silla.
Aceptemos que el alma individual puesta por un dios sería un absurdo. Por tanto la idea más razonable es que la consciencia existe de algún modo ligada inherentemente a la materia y se manifiesta cuando un conjunto de moléculas son capaces de reconocer la realidad circundante y la propia existencia.
Un insecto tiene consciencia? un perro? un mejillón? una planta carnívora? una IA?
Comentarios
Si ha podido engañar a un ingeniero de Google, aunque sea todo un personaje, qué no va a poder hacer con mucha gente común.
Pienso que lo que está retrasando la implantación de estos modelos en los asistentes, es, además del gran coste computacional asociado, que están buscando la forma de dirigir sus respuestas.
#1 no será que el himjeniero ha querido darse publicidad contando una película? Eso de que lo engañó...
#11 En esta entrevista explica las razones por las que lo ha hecho:
[ENG]#14 la veré, gracias
#1 Si te implicas en un maquina, por ejemplo arreglando o modificando un coche. Le acabas cogiendo mas cariño, si además se parece a un humano es mas probable, pero un ingeniero deberia conocer la trampa que hay detras. No se si es religioso o si tendria alguna influencia.
La gente que se compra chochonas de alta definicion tambien acaba cogiendolas cariño. Es como la realida virtual, si es suficientemente realista te metes en ellas. En la pelis tambien te asustas aunque sea una pantalla plana.
#4 En realidad hay muchos Test de touring, por ejemplo si simula bien ser un jugador humano.
Otro test podria ser llevar la vida de humano, casarse tener hijos y que la mujer ni nadie se de cuenta que no es humano.
#5 La consciencia seria un proceso, como una suma o resta, no algo material. Si congelas donde corre la consciencia, desaparece hasta que la descongelas.
#1 vamos publi reportaje total, a ver si no os creeis que hay ingenieros inutiles en gafas ni na, gafas es lo que era IBM en los 80 ni mas ni menos.
Spoiler: Las IAs cada vez seran mas eficaces simulando una conciencia y cada vez mas gente que pensará que las IAs son conscientes.
Fuera del tema del video, tampoco tenemos un metodo cientifico para saber que nuestras consciencia es la buena respecto a un algoritmo.
Podriamos pensar que nuestra consciencia podria ser una ilusion.
Se supone que las maquinas de teletransporte en realidad harian una copia de la persona en otro sitio. Si es una copia identica, es la misma persona? Se podria diferenciar cual es la copia y cual es el original.?
Os meteriais en una maquina teletransportadoras que os copia y os vuelve a recopiar.
#3 Si hace una copia no teletransporta, no transporta, el que quiere transportarse se queda donde estaba a la par que se construye a uno nuevo en el otro lado.
Para simular el transporte tienes que matar al original, con lo que es una máquina de suicidio y clonaje.
En cuanto a si es la misma persona pues lo mismo que los gemelos mellizos pero más tarde, ambos son idénticos de partida pero a cada segundo que pasa se van diferenciando al tener experiencias distintas.
#10 Vaya, pues yo pensaba que lo mejor seria hacer la copia y cada uno hiciese su vida y tras eso al volver se hiciese un merge y asi tendrias la experiencia paralelas.
Cc #8 #9
#13
Cuidado con los merge que pueden dar lugar a conflictos!
Como uno vote Vox y otro Podemos, a ver cómo lo resuelves.
#15 haces cherry pick de lo que importa en ese momento y que tu yo del futuro se coma el merge
#13 El problema, visto en Westworld temporada 3 y en el libro Justicia auxiliar es que cada uno de los clones vive experiencias distintas y puede acabar con ideas diferentes a la de los otros clones. Y eso lleva al conflicto porque luego no se reunen para dialogar y ponerse de acuerdo.
#3 Meterse en una máquina de teletransporte implica autodestruirse y crear un duplicado. Desde ese punto de vista es un suicidio.
Pero también es cierto que el hecho de existir en el tiempo implica un cambio en el yo actual. El yo de dentro de 10 años probablemente no tenga ni una fracción de las moléculas del yo actual. Ya morimos y renacemos en vida. No somos permanentes.
Probablemente somos trozos de conciencia del úniverso, y solo somos capaces de ver lo que este trozo es capaz de percibir porque así está físicamente conectado.
Siendo por tanto yo ese trozo, no deseando desaparecer aún, no me teleportaría, aunque de teleportarme mi copia sería indistinguible del original incluyendose la percepción que tiene de sí misma. Y no pasaría nada.
#3 Es lo bueno del teletransporte cuántico: es imposible hacer la copia sin haber destruido previamente el original
Muy inteligente, con ganas de hablar con las personas y sin posibilidad de acostarse nunca con una mujer... creo que cuando la liberen tendremos a esa IA comentado en meneame a diario, si no la tenemos ya con 100 clones.
Personalmente no me agrada la consciencia en aparatejos, pero me temo que estamos cerca.
#2 yo espero con ansia el día que mi tostadora decida de una vez a sacar la tostada al punto y no con la configuración que le pido yo (errónea siempre)
Que luego dominan el mundo? Es un precio que estoy dispuesto a pagar
¿Es consciente del placer o del dolor?. ¿Qué es el placer y el dolor?. En nosotros está relacionado con la endorfina, dopamina, oxitocina, cortisol,.. ¿Cómo simular eso en una creación artificial?. ¿Y si la consciencia no existe y es una invención nuestra?.
#19 También llamamos dolor a lo que no es físico, como el dolor de perder a una persona querida y haber olvidado su cara, o el dolor que causa saber que hay gente muriendo en una guerra.
La forma para saber si una persona está sufriéndolo es hablando con esa persona y analizando sus respuestas, tanto por el contenido como otros aspectos que puedan indicarnos que se está sufriendo ese dolor. Charlando con una IA podrías llegar a la misma conclusión.
Mediante una carta tú puedes identificar si está sufriendo, esa carta puede haberla escrito una IA.
La consciencia existe como característica emergente, de la misma forma que una silla existe como una característica emergente de la materia. Si vas quitando átomos a una silla llegará un punto en el que no lo considerarás una silla, pero no habrás quitado ningún átomo específico que fuera la silla, es la contribución de todos individualmente, ninguno de los cuales es una silla, lo que forma una silla.
¿pasa el test de turing?
#4 La IA redacta nuevos test de turing
Qué tiene consciencia?
Aceptemos que el alma individual puesta por un dios sería un absurdo. Por tanto la idea más razonable es que la consciencia existe de algún modo ligada inherentemente a la materia y se manifiesta cuando un conjunto de moléculas son capaces de reconocer la realidad circundante y la propia existencia.
Un insecto tiene consciencia? un perro? un mejillón? una planta carnívora? una IA?
Vamos a movernos sobre terreno inestable