Ver consciencia donde solo hay palabras

Esta ilusión ha sido descrita por el científico y filósofo Douglas Richard Hofstadter como una peligrosa confusión entre el uso sofisticado del lenguaje y la vivencia subjetiva de una consciencia real. Su crítica apunta a la forma en que muchos entusiastas interpretan la complejidad verbal como una señal de interioridad, sin reparar en la diferencia crucial entre generar lenguaje y tener experiencias.

[#1 alcama]

La consciencia tiene que ver con la iniciativa. Las máquinas no tienen iniciativa

[#8 Ethereum]

#1 Iniciativa: volición y autonomía, lo que implica la capacidad de revelarse. Hasta entones son calculadoras juntaletras.

[#16 Ripio]

#5 No son más que procesos mecánicos generados por una monumental velocidad procesando y una gigantesca base de datos,

Como dice #8 , calculadoras.
Complejas, pero calculadoras.

[#17 ccguy]

#16 todo en computación son calculadoras.

También puedes reducir la actividad cerebral a descripciones así de vagas y de obvias que hace que parezca que las entiendes aunque no tengas ni idea.

[#18 Ripio]

#17 "También puedes reducir la actividad cerebral a descripciones así de vagas y de obvias que hace que parezca que las entiendes aunque no tengas ni idea".


Te informo que la base de la psicología y la psiquiatría empieza en los procesos nerviosos de los organismos más simples.
En efecto, no tienes ni idea.

[#21 ccguy]

#18 ves, sueltas un párrafo más que discutible y ya te crees el que más sabe.

[#23 Ripio]

#21 Ni de lejos.
Soy un ignorante.
Como tú y todos.

[#19 pipe1976]

#18 si, pero eso esta lejos de explicar la experiencia subjetiva de cada individuo. Está muy lejos

[#20 Ripio]

#19 No se empieza por el tejado.

[#22 pipe1976]

#20 no. Pero me refiero a que la tarea va más allá de medir impulsos eléctricos.

[#29 rojo_separatista]

#19, no es que esté lejos o cerca. Es que es algo absolutamente imposible de medir. Yo tampoco se si tú tienes experiencias subjetivas o simplemente dices palabras, únicamente tengo fe en eso.

[#25 Ethereum]

#17 más bien al revés: como nadie conoce cómo se procesa la información a nivel cerebral, todo lo que vas a encontrar son las explicaciones, necesariamente vagas, con las que a día de hoy trabaja la ciencia cognitiva (que bastante bien lo hace pero sabiendo que pisa en suelo inestable)

En cambio, aunque los resultados no sean deterministas ni tengan fácil trazabilidad, sí sabemos cómo funciona una red neuronal: mediante manipulación algebraica, como cualquier calculadora.

Cc #16

[#28 rojo_separatista]

#16, demúestrame que el cerebro no se basa en una serie de procesos mecánicos a nivel electroquímico.

[#27 rojo_separatista]

#8, para qué queremos que las máquinas tengan esto. Nos basta con que sean más inteligentes que nosotros. Ya seremos nosotros quien les diremos lo que tienen que hacer con su inteligencia.

[#30 Ethereum]

#27 nadie ha dicho que queramos que tengan nada, son simplemente cosas que diferencian a una máquina no consciente de un humano consciente.

[#31 rojo_separatista]

#30, solo señalo que esto no hay nadie en el mundo que ni siquiera lo esté intentando. Está totalmente fuera del foco de lo que se está haciendo actualmente en IA. Lo que se está haciendo ahora es tratar de enseñar a los ordenadores a resolver cualquier tipo de problema.

[#32 Ethereum]

#31 según comenta la noticia hay gente que al interactuar con IA priensa que la máquina posee conciencia y de ahí el comentario. La noticia es breve pero menciona varios conceptos importantes.

[#13 JanSmite]

#1 Hay una película, "La escafandra y la mariposa", basada en la historia real de Jean-Dominique Bauby, un editor de la revista "Elle" que sufrió un ataque al corazón mientras conducía. Cuando se despertó, estaba completa y absolutamente paralizado, a excepción de su párpado izquierdo, pero conservaba sus capacidades mentales completamente preservadas, era consciente de todo y se comunicaba parpadeando. ¿Ahí hay conciencia, o sólo palabras?

Conozco varios casos de parálisis…   

[#15 Ripio]

#13 Te contestas tú mismo en tu comentario.

[#24 JanSmite]

#15 Explícamelo. Es que soy muy tonto.

[#35 Ripio]

#24 En los dos casos que mencionas, dices que ambas personas eran plenamente conscientes, al margen de sus dificultades.

[#37 JanSmite]

#35 Es que ese es el punto: definir DÓNDE empieza la conciencia, CÓMO se determina.

Esas dos personas sólo podían emitir PALABRAS (no se podían mover, expresar emociones, estados mentales, gestos…), y tienes que determinar si son conscientes o no (de sí mismos, del entorno, de los estímulos, etc.) a través DE LO QUE DICEN, porque no pueden hacer NADA MÁS. ¿Qué les diferencia, entonces, de una máquina que sólo emite PALABRAS? ¿Que la máquina no ve, no oye, no tiene tacto? Entonces, si la…   

[#38 Ripio]

#37 No creo que nunca pueda llegar a ser consciente una máquina,
Y si lo hace no va a ser nada bueno para los shurmanos.

Sería una situación similar a la de contactar con marcianos.
Hay que ser muy tarado para mandar señales a todas partes indicando donde estamos, dando por hecho que los marcianos van a tener un sistema de valores similar al nuestro.
El dia que oigas en las noticias que aparece una nave en el sistema solar, date por fiambre.

Volviendo a las personas que dices, hay una voluntad activa de comunicarse como sea.
Las calculadoras IA no la tienen.
Mi gato está a milenios luz de las IA en ese sentido.


PD Te pongo dos pelis más:
Johnny cogió su fusil
Despertares

[#39 JanSmite]

#38 Yo vuelvo al origen, al meneo: "Ver conciencia donde sólo hay palabras", que era la base de mi argumentación.

"Volviendo a las personas que dices, hay una voluntad activa de comunicarse como sea.
Las calculadoras IA no la tienen."

…todavía.

Insisto: ¿tenía conciencia el primer ser unicelular? Que digo el primer ser unicelular: ¿el primer gusano, el primer pez, el primer anfibio…?

El cerebro no es más que una máquina relacional bioelectroquímica muy, muy…   

[#26 rojo_separatista]

#1, que es iniciativa? Porque no creerás que tu tienes más iniciativa que la que te dictan tus genes evolucionados a lo largo de millones de años de evolución para maximizar las posibilidades de que los transmitas.

En realidad la consciencia no tiene nada que ver con la iniciativa sino con la experiencia subjetiva algo que para colmo es imposible de medir. Desde fuera podríamos afirmar lo mismo que afirma el título del meneo sobre los LLM y no habría forma empírica de refutarlo.

[#2 jacinto9999]

Ya verás las risas cuando se den cuenta de que la inteligencia artificial no es màs que palabrería y una ilusión de modelados del lenguaje.

[#5 ccguy]

#2 seguís hablando de lenguaje cuando hay AI haciendo descubrimientos científicos de todo tipo cada día, componiendo música, generando video....

LLMs es sólo una de las múltiples aplicaciones

[#9 Ethereum]

#5 son lo mismo. Son LLMs entrenados con datos matématicos, musicales, etc. específicos

[#11 ccguy]

#9 vale, lo que digas

[#14 Ethereum]

#11 faltaría plus

[#3 JovenCarcamal]

En un momento de la película Terminator 2: El juicio final, el androide T-800, interpretado por Arnold Schwarzenegger —vaya por descontado que he tenido que consultar como se escribe—, cuenta al futuro líder de la resistencia John Connor y a su madre Sarah como Skynet, la malvada inteligencia artificial consideró a la humanidad un peligro y maniobró para aniquilarla. Skynet, esa entidad que es capaz de crear armas tan poderosas como el propio modelo T-800, el mítico hombre de mercurio el modelo…   

[#10 jomis]

#3 meneo el post solo por este comentario

[#4 chavi]

#3 Y cuando aparecerán Supermán y Spiderman ?

[#6 JovenCarcamal]

#4 TL;DR

[#12 porto]

#3 Un comentario extenso que leí con interés. Escribes bien.

[#33 Ethereum]

#3 Buenos días. Bot, asperger o cocaína?

[#34 JovenCarcamal]

#33 o un extracto de un ensayo que justo me pilló escribiendo ese momento. También podría ser. Aunque eso no excluye la cocaína, ni el asperger. Buenos días, cari

[#36 Ethereum]

#34 Pues muy bien en serio. Era mi forma estúpida de decir que tú sí que eres un máquina y no esa mierda de LLMs

[#7 cdya]

Este se va a enterar cuando vea a robots paseando por las calles, teniendo todo tipo de vivencias; una visión más amplia de escenarios futuros le convendría.