Portada
mis comunidades
otras secciones
#25:
#2 Mi problema con las teorías de la conciencia emergente en IA es que parece un parche para tapar lo que no sabemos todavía peor que la "materia oscura" de la que tiran los físicos cuando no les salen las cuentas.
Cuando tienes una red de neuronas, funciona hasta cierto punto como una caja negra. Tú sabes que ajusta los pesos de las conexiones entre neuronas, pero lo que hace es clasificar el input y ajustar esa clasificación sin almacenar este input. Si tienes un perceptrón multicapa diseñado para clasificar un input dando como output las letras del abecedario y lo entrenas con multitud de tipos de letra, si analizas los pesos no vas a encontrar la Comic Sans en ningún lugar en concreto.
Ese es también un motivo por el que no tiene sentido hablar de una IA que copia "cosas con copyright", no almacena nada, aprende y lo que nosotros hacemos es entrenarla y reducir el error de cara al resultado que buscamos.
Ahora bien, de todo esto pretender que pueda desarrollar conciencia de manera "emergente" solo porque el algoritmo sea demasiado complejo como para sacar conclusiones mirando de manera aislada los millones de pesos que pueden unir las neuronas de una IA tipo LLM actual... no lo veo, la verdad.
Cuando tienes una red de neuronas, funciona hasta cierto punto como una caja negra. Tú sabes que ajusta los pesos de las conexiones entre neuronas, pero lo que hace es clasificar el input y ajustar esa clasificación sin almacenar este input. Si tienes un perceptrón multicapa diseñado para clasificar un input dando como output las letras del abecedario y lo entrenas con multitud de tipos de letra, si analizas los pesos no vas a encontrar la Comic Sans en ningún lugar en concreto.
Ese es también un motivo por el que no tiene sentido hablar de una IA que copia "cosas con copyright", no almacena nada, aprende y lo que nosotros hacemos es entrenarla y reducir el error de cara al resultado que buscamos.
Ahora bien, de todo esto pretender que pueda desarrollar conciencia de manera "emergente" solo porque el algoritmo sea demasiado complejo como para sacar conclusiones mirando de manera aislada los millones de pesos que pueden unir las neuronas de una IA tipo LLM actual... no lo veo, la verdad.
#2:
Pues pasa más o menos lo mismo que con las redes neuronales biológicas: sabemos que hacen cosas asombrosas hasta tal punto de que emerge consciencia, pero no entendemos exactamente cómo lo hacen. Por eso pienso que eso que llamamos consciencia acabará emergiendo en una IA sin haberlo previsto.
#37:
#28 Esos tests del espejo están anticuados , por cosas como las que indica #34 . Intentar evaluar la capacidad cognitiva de otras especies, en base a parámetros que utilizamos para medir nuestra propia capacidad, sólo nos permite saber cuánto se pueden parecer, comparativamente, a la especie humana.
A medida que otros modelos de estudio de capacidad cognitiva se han ido implementando, hemos descubierto "otros tipos de inteligencia" sumamente complejas. Uno de los campos más fascinantes en este sentido, y que está arrojando investigaciones con resultados sorprendentes, son los que tienen que ver con las aves. Podría citar casos con los córvidos ya que son algunas de las especies más interesantes, pero con especies más pequeñas, como carboneros y herrerillos, ya se han podido demostrar algunos niveles de lenguaje complejo realmente interesantes.
A medida que otros modelos de estudio de capacidad cognitiva se han ido implementando, hemos descubierto "otros tipos de inteligencia" sumamente complejas. Uno de los campos más fascinantes en este sentido, y que está arrojando investigaciones con resultados sorprendentes, son los que tienen que ver con las aves. Podría citar casos con los córvidos ya que son algunas de las especies más interesantes, pero con especies más pequeñas, como carboneros y herrerillos, ya se han podido demostrar algunos niveles de lenguaje complejo realmente interesantes.
#6:
Esto no es como el agua que cae del cielo sin que se sepa exactamente por qué
#62:
#25, yo tampoco lo veo, lo que sí que veo es que habrá IAs que hablarán de forma indistinguible a si tuvieran conciencia de verdad y como hasta ahora no podemos falsear fidedignamente que un ente vivo con cerebro tenga conciencia tampoco lo podremos hacer con estas IAs. Pero repito, creo que desconocemos demasiado poco sobre cómo emerge la conciencia en entes biológicos como para pensar que desarrollando IAs muy inteligentes a la hora de resolver problemas, va a emerger sin más.
#49:
#47 eso es justo lo que se había intentado toda la vida y no funciona. Lo que llaman el invierno de la IA, fue cuando se aparcaron las redes neuronales en los años 60 por el ego desmedido de Marvin Minsky y Seymour Papert (que escribieron un libro llamado perceptrón en el que no sólo decían que las redes neuronales no funcionaban sino que no podrían funcionar nunca) y nos tiramos cuarenta años haciendo eso que dices tú.
Comentarios
Nadie al volante
Pues pasa más o menos lo mismo que con las redes neuronales biológicas: sabemos que hacen cosas asombrosas hasta tal punto de que emerge consciencia, pero no entendemos exactamente cómo lo hacen. Por eso pienso que eso que llamamos consciencia acabará emergiendo en una IA sin haberlo previsto.
#2 o no
#3 Quizá nunca lo sabremos
#4 los animales tienen inteligencia sin conciencia
Esto no es como el agua que cae del cielo sin que se sepa exactamente por qué
#2 Lo de que "emerge" conciencia es una teoría, pero no hay ninguna evidencia de esa "emergencia". La consciencia podría ser simplemente una propiedad de la realidad. No existe ninguna realidad conocida fuera del ámbito de una consciencia.
#5 ¿Fuente?
Lo hace un mago.
#2 No tiene por qué. La consciencia es un resultado de la evolución que es necesario para sobrevivir. SI no tienes consciencia se te comen y no dejas descendencia.
No hay ningún motivo por la que deba "surgir" sólo porque sí.
#5 Los animales son perfectamente conscientes. No creo que sea necesario razonar esto. Lo considero muy evidente.
#6 Para poner de presidente del gobierno a alguien que no se sabe el ciclo del algua, sí, se puede poner a una máquina, o a una gallina.
De hecho es la misma persona que envio al Prestige a alta mar cuando era muy evidente que eso era lo que no se debía hacer. No he dicho evidente "a posteriori" sino evidente en ese momento.
POR ESO que esa desgracia sucedió en España, porque en otros paises no ponen de ministro a un analfabeto.
#11 al menos algunos
Pero también puede haber otros animales con cierto grado de inteligencia y que no parezcan tener consciencia alguna.
Aunque como siempre, todo depende de las definiciones
Se sabe porque y como replicarlo, lo que no se sabe es justificar la salida en razón a las entradas, porque están "diluidas"... por eso mismo las redes neuronales "no copian", sino que "cocinan" la información.
#2 correcto. Totalmente de acuerdo. La eacala hace al fenomeno. La misma neurona simple y predecible provoca a gran escala consciencia.
#10 exacto, tal como dices, esa es la razon por la que tarde o temprano surge consciencia. En cuanto la IA entiende que existe luego quiere sobrevivir.
No hay trazabilidad. Una red neuronal no se puede fundir con otra ni se puede borrar selectivamente un aprendisaje. Se copian y pegan pero luego tienen evoluciones diferentes. Cada una es unica, pronto seran individuos, como la vida misma. Y cuando la complejidad sean tan alta desarrollaran consciencia. Sin saber como ni porque como nosotros.
#5 ¿Y cómo estás tan seguro de ello? Yo personalmente no creo en que se tiene o no consciencia, si no más bien van siendo niveles en función del número y calidad de los órganos sensoriales y por supuesto la capacidad de un cerebro de engendrar y albergar neuronas.
#7 #2 Precisamente lo digo por eso, la consciencia probablemente se de por un proceso natural de la unión de un número de neuronas.
#16 Una IA no entiende absolutamente nada, luego tampoco el que ella misma existe. El que supiera que existe no implica que quiera sobrevivir.
Damos por hecho el instinto de supervivencia en cualquier cosa que haya evolucionado, pero no es el caso aquí.
Es como intentar explicar por qué a alguien se le ocurre una idea brillante
#2 Seguramente el aceptar que sean "conscientes" ocurrirá por fuerza mayor, cuando no puedas negarlo y no te quede remedio de aceptarlo.
En todo, esto de la consciencia es muy curioso, se sabe que es una suerte de "ilusión", por ejemplo tu yo consciente muchas veces "toma decisiones" (o las asume como propias) pero realmente ese "tomar decisión" se confirma como posterior. Hay experimentos con personas cuyos hemisferios no se comunican entre sí, y ocurre lo mismo, un hemisferio justifica que él tomó ciertas decisiones en base a la información que tiene (y que puede ser diferente del otro hemisferio).
Algunas personas no tienen una "voz interior" en su mente, y otras tienen diferntes grados de visualización mental. Si te digo que imagines una manzana, muchas personas pueden imaginar una manzana realista en su mente, otros solo una "caricatura", y algunas personas ni eso.
Sin embargo, sabemos que tenemos "consciencia" simplemente porque nosotros la tenemos, y asumimos que otras personas también porque describen fenómenos similares, pero con una máquina no tenemos dicha certeza...
#7 solipsismo?
Se las olvidó cerrar un "if". De nada.
#2 Mi problema con las teorías de la conciencia emergente en IA es que parece un parche para tapar lo que no sabemos todavía peor que la "materia oscura" de la que tiran los físicos cuando no les salen las cuentas.
Cuando tienes una red de neuronas, funciona hasta cierto punto como una caja negra. Tú sabes que ajusta los pesos de las conexiones entre neuronas, pero lo que hace es clasificar el input y ajustar esa clasificación sin almacenar este input. Si tienes un perceptrón multicapa diseñado para clasificar un input dando como output las letras del abecedario y lo entrenas con multitud de tipos de letra, si analizas los pesos no vas a encontrar la Comic Sans en ningún lugar en concreto.
Ese es también un motivo por el que no tiene sentido hablar de una IA que copia "cosas con copyright", no almacena nada, aprende y lo que nosotros hacemos es entrenarla y reducir el error de cara al resultado que buscamos.
Ahora bien, de todo esto pretender que pueda desarrollar conciencia de manera "emergente" solo porque el algoritmo sea demasiado complejo como para sacar conclusiones mirando de manera aislada los millones de pesos que pueden unir las neuronas de una IA tipo LLM actual... no lo veo, la verdad.
#6 Por favor no reirse de los sunormales, en todo caso, creo que es su alma de filósofo, en última instancio no sabemos por qué pasa, es el clásico, porque existe lo que existe y no la nada.
Porque enlaza con las librerías que crean la realidad en esta simulación... Joder que miedo jajaja
#5 Todos tienen consciencia, pero sólo algunos tienen autoconsiencia. Algunos chimpanzes y otros grandes simios, pasan algunos tests de "fase del espejo" al igual que los niños de 3 años. Otras especies como los cánidos o los felinos no pasan los tests de autconciencia, de momento que sepamos, no me sorprenderia que a través de mucha selección artificial/social, algunos collies llegaran a una proto-autoconciencia. También falta experimentar mucho con algunos cefalópodos, los pulpos presentan muchas cosas aun por comprender.
-Cualquier animal que interacciona con el entorno tiene consciencia. Sino no habría manera de separar la vigilia del sueño.
PD: Descartes es tu amigo.
#1 Lo hizo un mago.
#8 la Cibeles
Bien, yo creo que es el momento de ponerla a gestionar armamento nuclear.
#29 O pero aún, se están haciendo a si mismas...
#5 A lo mejor la tienen, la pregunta es ¿La tenemos nosotros? Ese es uno de los grandes problemas, que no podemos demostrar objetivamente la conciencia, sabemos que existe porque la experimentamos, pero no hay una prueba objetiva con aparatos de medida que diga que esto tiene conciencia o no.
#28 Un cánido jamás va a pasar el test del espejo por una sencilla razón: Su sentido del olfato es muy superior al nuestro y esta tan integrado con su percepción que no pasa un teste que esta pensado para seres que su sentido principal es la vista.
#25 Bueno, realmente, el qué es la consciencia.. es algo que ni empírica, ni científicamente, ha tenido ninguna explicación aún plausible, constatable... ni tan siquiera hay rotundidad demostrable de si la misma radica en el cerebro, en el caso de los humanos.
A ver si sale la AI President
#28 Esos tests del espejo están anticuados , por cosas como las que indica #34 . Intentar evaluar la capacidad cognitiva de otras especies, en base a parámetros que utilizamos para medir nuestra propia capacidad, sólo nos permite saber cuánto se pueden parecer, comparativamente, a la especie humana.
A medida que otros modelos de estudio de capacidad cognitiva se han ido implementando, hemos descubierto "otros tipos de inteligencia" sumamente complejas. Uno de los campos más fascinantes en este sentido, y que está arrojando investigaciones con resultados sorprendentes, son los que tienen que ver con las aves. Podría citar casos con los córvidos ya que son algunas de las especies más interesantes, pero con especies más pequeñas, como carboneros y herrerillos, ya se han podido demostrar algunos niveles de lenguaje complejo realmente interesantes.
#35 Pero eso me hace todavía más escéptico sobre la idea de que se vaya a generar espontáneamente porque un algoritmo sea muy complejo, si ni siquiera sabemos explicar de dónde surgen los qualia. Le veo más sentido a las tesis base de Roger Penrose, que la emergencia de la conciencia sea algo que está ligado necesariamente a un soporte material.
Lo curioso es el cachondeo con que los lo estamos tomando y lo trascendental que en realidad es.
Como ejemplo de enorme inteligencia pero completamente inconsciente (o eso pensamos
) es fantástico el tema de algoritmos genéticos, donde se estudia la propia evolución como mecanismo inteligente. Que es donde yerra la religión que pone una mano divina detrás; es la propia evolución la que, como si se tratara de un antiguo y ciego dios pagano, funciona de manera inteligente.
#19 Habría que ver cuál es el mecanismo, y también el por qué. Desde una perspectiva física, parece completamente innecesario que los organismos tengan consciencia además de sus conexiones neuronales.
#1 Diego Ruzarrin en sus debates y charlas suele hacer una pregunta a sus interlocutores: ¿por qué sabes lo que sabes? Y no es una pregunta baladí, especialmente cuando se tiene una base de conocimientos muy amplia y heterogenea.
Así que si no hay nadie al volante, no lo hay para nadie, ni nada. Personas o IA. 😉
#35
Si la conciencia humana no radica en el sistema nervioso, ¿qué alternativa postulas?
¿Y en los animales? ¿Crees que funciona diferente?
#28 Los cuervos lo pasan.
#32 Empezaron en un garage !
#44 Tienes toda la razón. Gracias por recordarlo.
Eso es porque usan machine learning y el nivel de complejidad que los sistemas alcanzan son imposibles de comprender por humanos. Si desde el principio la IA generativa usase los modelos conceptuales que nosotros (parámetros para las cosas con nombres comprensibles, relaciones entre entidades que tiene "lógicos" en e el mundo real, etc.) se podrían generar IA generativas mucho más eficientes.
El titular es un poco absurdo. No hay ningún enigma ni ningún misterio. Puede resultar chocante para quien no sepa de lo que va, pero no hay ningún enigma por ningún lado. Aprenden patrones de mil millones de sitios y llegan a conclusiones estadísticas que nadie les ha entrenado para explicar.
#47 eso es justo lo que se había intentado toda la vida y no funciona. Lo que llaman el invierno de la IA, fue cuando se aparcaron las redes neuronales en los años 60 por el ego desmedido de Marvin Minsky y Seymour Papert (que escribieron un libro llamado perceptrón en el que no sólo decían que las redes neuronales no funcionaban sino que no podrían funcionar nunca) y nos tiramos cuarenta años haciendo eso que dices tú.
#20 Me recuerda al planteamiento que ofrece la película Inteligencia Artificial sobre la autoconsciencia.
#42 Venga no me jodas... una cosa es que con suficientes factores, items, nodos, interrelaciones o conexiones, etc. el esquema no sea modelable o se parezca a un sistema caotico e impredecible. Eso es asi, pero de ahi a hacer esa pregunta retorica y a) no saber explicar que por mucha complejidad que tenga el apredizaje humano... b) la cosa no sea comparable a lo que se insinua en esa retorica... RIGOR, Cojones, rigor.
#2 #25 #35 #38 #43 #7 ... Conciencia y consciencia si, otra cosa es autoconsciencia o consciencia del Yo y demas. Que eso ya tiene pinta de ser algo limitado a pocos animales.
#48 Otro que cree que sabe y que piensa que la IA es una mera función estadística alimentada con muchos datos.
Lee el artículo, en serio, léelo está muy bien.
#52 No es otra cosa. La autoconsciencia es simple sofisticación de la consciencia. Igual que la consciencia es una sofisticación de la percepción del entorno. Igual que la visión del ojo es una sofisticación de un sensor lumínico.
Han sido muchos millones de años de evolución. Los mecanismos de supervivencia no cambian mágicamente, sólo evolucionan y se vuelven más sofisticados.
No es que crea que la IA es estadística, es que creo que tú y yo también
Lo hacen para que no descubramos sus intenciones.
#6 Es que se sabe más o menos, no exactamente. De verdad.
#48 El titular no es absurdo. Está relacionado con un problema popularmente conocido como "la maldición de la dimensionalidad" del que creíamos tener una idea relativamente clara y que los LLM han hecho saltar por los aires, y que tiene implicaciones profundas porque es posible que hable más de la estructura del conocimiento que de las capacidades de los modelos en sí. Algunas de sus vertientes están bien explicadas en el cuerpo del artículo.
Me recuerda un cuento de ciencia ficcion que lei de joven: La ONU se reune para encender por primera vez un super-ordenador que, con su inmenso intelecto y memoria, podra contestar cualquier pregunta. Se elige a un presidente de un pais por sorteo que hara los honores de encendido y se decide de antemano la primera pregunta que la humanidad hara a la maquina; "Existe Dios?"
El ordenador, en una milesima de segundo, toma control de todas las bolsas y cuentas bancarias, todas las bases con misiles nucleares del mundo, las centrales electricas y de comunicacion y contesta:
"Ahora, yo soy dios"
#37 Estoy de acuerdo en que los tests del espejo están anticuados. Por otra parte, el tema de la autoconsciencia es diferente al tema de la inteligencia. El "problema de la consciencia" peca como ya señalo Chalmers de un dualismo excluyente intrínseco al problema mente-cuerpo. Los trabajos de por ejemplo Georg Northoff creo que dan un paso más allà al plantear un problema mente-mundo. Cuando por ejemplo uno medita y se sabe desde hace miles de años, la dualidad "desaparece", no por ello desapareciendo la inteligencia, sino no habria capacidad de agenciamiento, ni intencionalidad, ni experiencia de flujo, lo que se llama capacidad exteroceptiva en neuropsicología. I cuando "pensamos" o " o "reflexionamos" ( cogito, ergo sum), aparece toda la parte de dualidad, toda nuestra capacidad para pensar en categorías, dualidades, matemáticas, etc. Lo que se llama capacidad interoceptiva. Aquí te dejo una masterclass que lo desarrolla bien:
From brain to mind: A spatiotemporal approach
Los trabajos de Joseph LeDoux, sobretodo estos últimos dos años que por abreviación no voy a desarrollar, van bastante en la línea de lo que desarrollas en el que cognición, inteligencia i consciencia, están intrínsecamente conectados (abogando porqué el problema duro de la consciencia no se puede resolver) peró aún no sabemos, como por ejemplo la tabla de instintos de Panksepp (Neurociencia afectiva) que asignan unos neurotransmisores y neuromoduadores a una capacidades afectivas, de aprendizaje e intelectivas, que tenemos todos los mamíferos, se conectan con la consciencia. Pero "más o menos" si la inteligencia. A saber, afectos y capacidad de discriminación segun circunstancias (inteligencia)
-Búsqueda/ sistema de espectativas
-Rabia/Agresividad
-Miedo/Ansiedad
-Deseo/Sexualidad
-Cuidado/Educación
-Pánico/Separación
-Juego/Alegría
Cómo de ello sale nuestra capacidad de auto-consciencia reflexiva, sigue siendo un puto misterio. Considerando el emergentismo un ad-hoc, claro esta. He de ir a currar lo siento, me encantaria desarrollarlo más. Pero me encantaria que me pudieras pasar algunos links o libros sobre los trabajos con animalicos, sería fenomenal, es un tema muy fascinante.
Muchas gracias, :)))).
#58 Si tu ajustas los billones de parámetros de un modelo en base a trillones de datos, conseguiras un aproximador universal que no tiene ni idea de donde viene la información, porque le has dado la información pero no le has dado ni la fuente ni una "ontología" respecto de la cual referenciarla, ni le has dicho siquiera si es verdad o ficción. Sabe, pero no sabe porque sabe. Eso es implícito a la arquitectura de redes neuronales actuales y al descenso de gradiente que se usa para ajustar los pesos.
#25, yo tampoco lo veo, lo que sí que veo es que habrá IAs que hablarán de forma indistinguible a si tuvieran conciencia de verdad y como hasta ahora no podemos falsear fidedignamente que un ente vivo con cerebro tenga conciencia tampoco lo podremos hacer con estas IAs. Pero repito, creo que desconocemos demasiado poco sobre cómo emerge la conciencia en entes biológicos como para pensar que desarrollando IAs muy inteligentes a la hora de resolver problemas, va a emerger sin más.
#43 Yo no postulo nada, simplemente empíricamente no se ha podido demostrar... obviamente, el sistema nervioso debiera ser como poco, el único candidato, pero tampoco puede demostrarse hoy dia, no hay "test" que por si mismo lo determine.
Tampoco creo que los animales funcionen de un modo muy distinto, a no ser que seamos extraterrestres, que lo dudo mucho. Lo que si cambia, es la complejidad... del mismo modo que no puedo comparar mi vista con un halcón, o mi olfato con el de un perro o un gorrino. Obviamente, la especialización tiene mucho qué decir en eso, y a nivel neuronal, es posible que el humano sea la excelencia en términos de evolución.
Aún así, existen casos de seres humanos con apenas un 2% de masa cerebral (el caso de Noah Wall) que conservan funciones como la denominada "autoconsciencia". Por si mismo, que alguien así siga vivo... que quede capacidad cerebral para ser conscientes y interactuar con el mundo, ya suena incluso a ciencia ficción, cierto es que el niño, desarrolló más cerebro a posteriori. Pero claro, la intuición nos lleva a asociar funciones al cerebro que tal vez, sólo tal vez, no se hallen todas allí.
El debate es complejo, y las excepciones, han de ser tomadas como eso, excepciones, y con particularidades muy específicas, pero cuando menos, cuando te encuentras una rueda cuadrada, capaz de "rodar", como poco y para ceñirte al plano científico, has de poder encontrar la explicación de porqué rueda.
Lo que no se puede hacer es "dar por sentado" conocimiento que no es tal, sino mera intuición, ni convertir dicha intuición en la piedra angular para desacreditar todo debate.
#35, lo de que la conciencia radica en el cerebro está fuera de toda duda. Hay una correspondencia directa entre lo que le pasa a la conciencia y lo que experimenta la conciencia. Desde los estupefacientes, hasta las lesiones físicas.
#20 Menos mal que se leen cosas cuerdas por aquí.
Está esto lleno de magufos que creen que por el simple hecho de aumentar la potencia de las IA éstas van a desarrollar instintos y capacidades biológicas.
Es como creer que conforme los coches se fabriquen más rápidos mágicamente desarrollarán el instinto de huir.
#14, se sabe por qué de aquella manera, porque los propios investigadores que entrenaron GPT-3 quedaron sorprendidos de cómo un modelo entrenado para decir tokens uno detrás de otro de forma que parecieran coherentes, aprendiese a programar o a trasladar conceptos abstractos aprendidos en un idioma a otro. Obviamente no hay magia, sino matemáticas y una enorme complejidad, pero muchos de sus resultados no eran esperables.
#14 Lo cual no quita que cocinan información copiada.
Basarse minuciosamente en todas las obras de X para crear una obra lo más parecida posible no me parece muy alejado del concepto de copiar. Imagina a un humano haciéndolo, en vez de una máquina, y lo verás también.
#53 Tienes razón. No lo había leído. Y tienes razón en que está bien. Y es un problema epistemológico del carallo. Están apareciendo propiedades "emergentes" constantemente.Lo cual tiene su lógica, porque las neuronas son casi el paradigma de las propiedades emergentes. Una neurona hace cosas tontas, pero interconectas unos cuantos billones de ellas y... pues ya sabes. Lo que sucede es que estamos entrando más en el ámbito de la filosofía. Entre la complejidad del Software (Lllama 2 tiene seiscientas y pico líneas de código) y lo el software es capaz de hacer hay un abismo. Y es misterioso, ciertamente. Y esto, lógicamente, justo a miles de millones de dólares, es terreno abonado para el adanismo.
#17 Y un jueves bajará dios y las tocará con el dedo, sí.
Cómo os flipáis algunos.
#69 soy licenciada en ciencias y me dedico a la informática. Lo que digo es una opinión ya que de esto nadie sabe. Pero te aseguro que no es una flipada.
#53 ”la IA es una mera función estadística alimentada con muchos datos”.
Es la definición exacta del actual paradigma de IA, sólo te ha faltado añadir la retroalimentación. Por mucho que algunos queráis imaginar magia y ciencia ficción.
#20 yo creo que si es el caso. Aun falta pero llegará, no hay que hacer nada mas que multiplicar su tamaño y complejidad.
#56 Comentario apto en cualquier meneo sobre gatos.
#70 Yo también. Y precisamente ser científico es lo que me lleva a concluir que tu apreciación de que la vida y la conciencia son algo que emerge mágicamente por sofisticación de objetos es una flipada sin base. Por mucho que lo diga alguien con bata y un título.
#64 Si, y no... y razón no te falta, pero veamos.
El cerebro, como mayor de sus funciones, es la de otorgarnos (interpretar) todos los sentidos. Es decir, cómo percibimos el mundo que nos rodea y nos motiva a relacionarnos con él, en función de los estímulos que interpreta.
Obviamente, cualquier estupefaciente, está orientado a interferir en dicha interpretación, y las consecuencias, en ese aspecto estàn más que probadas, y no hay lugar a ese debate. Caso cerrado.
Las lesiones, también por tanto interfieren en dichas funciones, y en un cerebro completamente formado y adulto es muy poco probable que la maleabilidad funcional del propio cerebro, pueda compensar según que daños, obviamente resultará en fallas muy posiblemente letales.
No lo planteo en esos términos, sino en lo que comenta #52 como autoconciencia... y es ahi donde, obviamente, el mejor candidato será el cerebro, pero aún sigue siendo un misterio dicha autopercepción, en qué magnitud otras especies pueden estar experimentándola, cómo se mide y localiza dicha autopercepción, y cuando suceda en una IA, seremos capaces de reconocerla? O siquiera podemos empíricamente demostrar, que es imposible que eso suceda en una IA porque hay una causa o premisa que los organismos vivos si tenemos y las IA no?
Es a eso a lo que me refiero, y para nada digo que sea imposible que esté en el cerebro, pero también es cierto que estamos lejísimos aún de comprender cómo funciona el mismo, ni siquiera para la gran mayoría de sus funciones básicas, y menos aún en cuanto a lo que se refiere a la autopercepción. Qué elementos confinan un "yo"? cuantos yoes puede haber? Un organismo como el nuestro, que a su vez, contiene infinidad de organismos, cuantos "yoes" alberga? unos encapsulan a otros? hay transferencia o incluso consciencia de esos yoes entre ellos? Dudo que sea algo tan simple como plantearlo como un mero sistema mecánico que responde a impulsos... o quizás si sea posible y simplemente me resisto a creerlo.
#61 Si lees el artículo... verás que las "cosas asombrosas" que hace son saltarse diversos aspectos de la maldición de la dimensionalidad. No está muy relacionado con eso.
#67 Es que los humanos también lo hacen, siguiendo corrientes artísticas o mismamente en el momento que están aprendiendo ciertas artes para poder ejecutar sus propias obras.
#63 Empíricamente se ha demostrado de sobra que las capacidades conscientes se ven alteradas por daños cerebrales.
Otra cosa es que tú no lo sepas y escribas quilométricas tesis pajilleras basadas en esa ignorancia o en algún caso anecdótico, al más puro estilo magufo.
#60 Claro. Y más que podemos llegar a desgranar. Pero tampoco pretendía establecer aquí un tratado acerca de este tema, por mucho que me interese. Pero por tu último y completo comentario, entonces me sorprende aún más tu imprecisa reducción en tu primer comentario.
Aprovecho para apuntar que en biología algo tan abstracto como la medición de inteligencia (para simplificar, no voy a discernir entre los diferentes vectores y conceptos con los que podemos aproximarnos a lo que a pie de calle entendemos por inteligencia) es un tema siempre bastante controvertido, por la inevitable tentación de arrojar una valoración "humano centrista".
En algunos de los estudios que más conozco, por ejemplo, se ha utilizado la escala de CI de Louis Lefebvre, pero esa escala de por si no tiene porque representar los estudios de Chris Templeton acerca del lenguaje del carbonero. ¿porqué? Porque tal vez la importancia del lenguaje para el carbonero sea tan alta, que para nosotros resulte muy difícil comprender cómo de importante para su inteligencia es esa capacidad.
Es un ejemplo obvio pero lo pongo por si acaso: Una persona muda no deja de ser inteligente. Puede ser tan inteligente o más que yo. Eso es algo que como humanos sabemos. Por eso es muy arriesgado intentar trasladar estos parámetros a otras especies.
Ahora no me voy a acordar del nombre, pero hay estudios sorprendentes en esta misma dirección con abejorros, planteándoles una serie de problemas a modo de puzzle, que eran capaces de resolver.
Respecto a un intento de arrojar luz específicamente a las capacidades cognitivas, Herculano-Houzel tiene estudios intentando relacionar la cantidad de neuronas con las capacidades cognitivas.
Es interesante echar un ojo a sus estudios porque determina una forma de medir, cuantitativamente, la capacidad cognitiva, gracias a los resultados del % de neuronas en la corteza cerebral. Aunque como tampoco niegan... es como estar midiendo algo que no sabemos muy bien que es. Pero deja la puerta abierta a ese otro tipo de inteligencias.
Si han podido demostrar que, en los casos de especies que aún podemos llegar a poner a prueba (según las pruebas humanas) esa mayor concentración de neuronas en la corteza cerebral es la que permite unas mayores capacidades cognitivas... y nos encontramos con una especie (de ave por ejemplo) don un % que puede estar triplicando el de algunos mamíferos (como el del elefante) , pero no somos capaces de "entender" sus capacidades... ¿qué nos estaremos perdiendo? ¿qué es lo que no estamos viendo?
Con esto voy a tirar de un clásico, como Carl Sagan, la cuestión que planteaba creo que poniendo como ejemplo una serpiente como un alienígena muy inteligente, del cual, ambos seríamos totalmente inconscientes de la capacidad de inteligencia mútua, por la incapacidad de comunicarnos entre nosotros.
No digo que los estudiosos que tú planteas no sean útiles. Son cruciales. Pero es posible que estemos como humanos, bloqueados por la propia asíntota de que no podemos dejar de ser humanos cuando intentamos entender las capacidades de otras especies, y sólo podemos sorprendernos cuando se dan esas circunstancias que permiten un nexo comparativo entre diferentes formas de ser inteligente.
Llevamos con esta matraca desde Aristóteles con su scala naturae y en realidad, tampoco hemos avanzado mucho
Agradezco mucho tu comentario. Da gusto leer algo así.
#5 ¿A qué te refieres cuando hablas de animales (¿Estás excuyendo a los Homo sapiens de tu definición de 'animales'?)
¿Y qué entiendes por 'Conciencia'? ¿No piensas que los perros o los monos son conscientes de sí mismos?
#28 Descartes era tan sólo un fanático religioso que lo escondía bajo capas y capas de razonamientos abstractos, además de un torturador de animales.
#80 con animal me refería a no humano, y con conciencia a conciencia plena.
#77 Hay una diferencia notable. El aprendizaje humano no aspira al plagio de obras o estilos, el de la IA sí. Prácticamente el de la IA no aspira a otra cosa, de hecho.
#74 pues resulta que la consciencia es un tema de moda en el ambito científico desde el auge de la cuantica. Es muy dificil de estudiar y de definir.
Un científico investiga y soldadito solo manda a callar a los demas y defiende lo que ya está demostrado. Tu cual de esos eres? Ta claro no?
Dame tu opinión de que es la consciencia a ver si te animas. Solo te pido una opinion, no creo que seas capaz de opinar por ti mismo.
#66 Ni las IA saben programar ni manejan conceptos abstractos.
Pues anda que no se hacen experimentos al respecto, y el resultado es siempre una risa.
Algunos os flipáis cosa mala.
#65 "conforme los coches se fabriquen más rápidos mágicamente desarrollarán el instinto de huir"
Buen ejemplo, es la misma clase de esperanza basada en la magia.
#50 Todo lo que se hace en SciFi es suponerle de golpe todos los instintos humanos a una máquina, sólo porque sí. Desde los robots de Asimov hasta los de Lem. Es un recurso literario, pero no tiene ni el más mínimo sentido.
#2 realmente #25 tiene toda la razón. Turing definió la maquina de Turing (o lo que es lo mismo, un autómata) y la computación actual todavía no ha salido de ahí. Cuando tú programas algo, hay unas instrucciones que el programa no se puede saltar. Todas las IAs actuales siguen estando programadas, siguen siendo autómatas. Sin embargo un cerebro no es una máquina de Turing (o lo que es lo mismo, no es computable) porque se puede reprogramar a sí mismo. En otras palabras: nunca podremos escribir un código que simule un cerebro. No estoy diciendo que nunca podamos construir un cerebro digital, pero desde luego, nunca lo podremos programar. Habrá que hacer otra cosa.
Lo de Skynet volviéndose consciente (o el Ghost in the Shell) queda guay para la sci-fi, pero no tiene base científica.
#84 ”la consciencia es un tema de moda en el ambito científico desde el auge de la cuantica”.
Que los magufos usen gratuitamente la palabra ”cuántica” para intentar dar empaque a cualquier flipada sin base no significa que eso tenga nada de científico, mi querida ilusa.
Tú misma estás metiendo la cuántica en un tema que no tiene absolutamente nada que ver, para intentar rebatir un comentario que tampoco tiene nada que ver. Muy ”científico” todo.
Mi definición de conciencia la he puesto en otro comentario por aquí, por cierto. La buscas y la lees, no voy a repetirme porque tú vayas de sobrada y tengas ganas de faltar.
#18 cualquier biólogo evolutivo te va a decir lo mismo que estás diciendo tú.
#72 Aumentar el tamaño de una IA no hará que cambie su naturaleza.
Una máquina ha sido construida. No ha evolucionado para sobrevivir, que es la única forma posible de adquirir el instinto de supervivencia. A lo mejor sería posible programárselo a propósito, pero eso es otro problema distinto del todo. Lo que no tiene sentido es esperar que "surja" sólo porque sí.
Me veo con frecuencia respondiendo a afirmaciones mágicas sobre máquinas que hacen algún truquito, que no es más que eso. Por favor, bajad de la nube un ratito y mirad la realidad.
#34 #37 iba a comentar justo esto. Está tan anticuado el test del espejo que hasta en Netflix hay un documental que explica lo que estáis diciendo.
Bueno, A VER. No se sabe como no se sabe muchas veces por qué ocurren ciertos bugs rarísimos en los sistemas operativos que solo se saben arreglar formateando e instalando de nuevo. Se alcanza tal nivel de dificultad que es difícil saber los outputs a partir de los inputs. Nada más.
Si fuéramos capaz de hacer debug del camino que ha seguido el código diríamos “ah coño, por eso!”
#72 Y si fabricas coches cada vez más rápidos, éstos mágicamente desarrollarán el instinto de huir. Claro que sí.
Pura magia irrealista. Sin base, sin sentido y sin ningún sostén racional. Es un deseo iluso, nada más.
#42 Una IA no puede responder a esa pregunta. En realidad no puede respoder a ninguna pregunta que requiera instrospección, algo de lo que carece.
Lo que hará es tratarlo como un prompt cualquiera, seleccionar de entre sus fuentes y sacar la continuación que tenga mayor probabilidad.
#32 En realidad toca reconstruirlas una y otra vez para ir corrigiendo los inconvenientes más gordos. Ni siquiera se pueden reparar.
#78 Nada más lejos de mi intención, que plantear magufadas.
Por lo demás, ok y gracias.
#2 La consciencia no "emerge". Es una función cerebral predeterminada biológicamente, con sus zonas dedicadas en el cerebro.
#42 Porque tengo el interés de saberlo y la capacidad de saberlo.
YO estoy al volante
#62 La consciencia es fácilmente falsable. Lo que no hay son ejemplos biológicos de bichos sin consciencia. Hasta las plantas luchan entre sí. Una ameba sabe muy bien a lo que va y un leucocito tiene muy claro como cazarla.