La Asociación para la Ciencia de la Conciencia Matemática advierte que la IA ya muestra rasgos humanos. Por eso, piden a las tecnológicas y a la comunidad científica que inviertan más recursos en estudios sobre la conciencia. Ya no es más una discusión sobre ciencia ficción. El meteórico avance de los últimos meses exige que consideremos seriamente la posibilidad de que la IA cobre conciencia, advierte la Asociación para la Ciencia de la Conciencia Matemática (AMCS, en sus siglas en inglés).
Comentarios
En teoría, tomo conciencia de sí misma el 29 de agosto de 1997.
#1 yo la verdad estoy más tranquilo desde que en 2015 llegaron los monopatines voladores
#6 Y en 2001 enviaron humanos criogenados a Júpiter en la nave de HAL.
#1 #6 #27 Yo solo espero que no llegue el día que tengamos que usar las 3 conchas
#31 Lo tuve que buscar. https://es.ign.com/demolition-man/89597/news/el-origen-de-las-tres-conchas-de-demolition-man
Son muchos más graves, inmediatos y plausibles los riesgos de que una IA interactúe con lenguaje natural de forma indistinguible a si tuviera conciencia que los problemas relacionados con que tenga realmente conciencia. Algo de lo que en mi opinión no tenemos ni la remota y idea de cómo emerge y que no creo que seamos de replicar con los modelos actuales.
ex responsable del equipo de Ética en IA de Google y otros especialistas advierten sobre un riesgo y todo es pitorreo. La peli de idiocracia se quedó muy corta.
#10 El riesgo existe, y de hecho es muy serio. Pero lo de la consciencia es una cortina de humo en el mejor de los casos. En el peor, no hay nadie al volante en demasiadas mentes "científicas".
#10 #12 Por no repetirme, ya expresé mis preocupaciones hace tiempo
autogpt-ia-capaz-mejorarse-misma-logro-debe-preocuparnos/c0240#c-240
AutoGPT es una IA capaz de mejorarse a sí misma. U...
hipertextual.comEn resumen:
Ya tengo el bunker, voy llevando comida enlatada, cajas de munición solo me falta papel higiénico, luego paso por el Mercadona...
#25 No es mía, yo no soy neurólogo, y claro que es falsable, como cualquier teoría que se precie de serlo1.
https://bigthink.com/surprising-science/consciousness-is-the-whole-brain-not-a-single-region/
1: Salvo que seas teórico de cuerdas.
#26 ¿De que forma es falsable? Supongamos que tienes una red neuronal artificial muy compleja y tú dices que tiene consciencia. ¿Cómo puedo demostrar yo que no la tiene?
#28 Ah, no te había entendido. Creí que lo que cuestionabas era que la consciencia humana surgiese de las interacciones entre las neuronas.
No, puestos a eso supongo que no es posible demostrar si una IA tiene consciencia propia o únicamente la simula (hasta donde yo sé). Quizás en el futuro cuando comprendamos mejor cómo funciona la consciencia humana se podría saber.
Pero bueno, hay investigadores que hasta se cuestionan si nuestra consciencia es realmente tal.
De todas formas, siempre habrá pie a debatir y cuestionar todo esto desde el momento en el que somos incapaces de definir inequívocamente conceptos tan complejos como "¿qué es la consciencia?"
#29 Creí que lo que cuestionabas era que la consciencia humana surgiese de las interacciones entre las neuronas.
Eso también lo cuestiono, aunque hay cierta ambigüedad en la afirmación. Depende de si consideramos la consciencia como un aspecto fundamental de la realidad, o no. Pero en todo caso la diferencia entre las redes neuronales biológicas y las artificiales es gigantesca, y no hay ninguna evidencia de que un programa de multiplicación de vectores tenga nada parecido a la consciencia.
hay investigadores que hasta se cuestionan si nuestra consciencia es realmente tal.
Yo antes de llegar a una posición tan extrema, cuestionaría si todos los seres humanos tienen realmente consciencia. Quizás esos investigadores no la tengan, y en ese caso, su planteamiento tendría sentido. Para un ser consciente, incluso si dicha consciencia fuera una ilusión, el hecho de percibir esa ilusión sería una forma de consciencia, algo que las investigaciones sobre el mundo físico descartarían por innecesario.
Empiezo a pensar que hay intereses económicos detrás de la difusión de este tipo de ideas. Porque no es normal que desde ámbitos que se suponen informados sobre los temas de la IA se metan en un jardín pseudocientífico gratuitamente.
Lo que se llama IA no es más que una calculadora avanzada. Si una IA tiene consciencia, igual tu microondas también la tiene. O tu perro. O las vacas que te comes. Oh wait...
#7 si y no, dejémoslo en que por el momento es una calculadora avanzada (Lo digo sin conspiranoias de por medio)
#9 Ya, igual en el futuro la toca el dedo de Dios y se convierte en un ser consciente. Por cierto, ¿qué es lo que tendría que tocar Dios? ¿Las GPUs? ¿El código fuente? ¿Los parámetros? ¿Cómo se toca el código fuente? ¿A qué huele un parámetro? Etc.
#11 Hombre, eso se sabe, un parámetro siempre huele a pedo de vaca.
#11 dios no tiene nada que ver con la consciencia. Ésta emerge de unas redes neuronales con la complejidad suficiente, y antes o después las redes neuronales artificiales alcanzarán dicha complejidad. Que lleguemos a vivirlo nosotros o no es otro debate.
#19 Ésta emerge de unas redes neuronales con la complejidad suficiente
¿Y eso te lo ha dicho una vocecita en tu cabeza, o un señor con bata blanca que escucha vocecitas en su cabeza?
(Ojo que la pregunta tiene dos niveles.)
#20 ¿Y a tí lo de dios?
(Si sabes la respuesta a ésta no te costará mucho averiguar la de tu pregunta. Y sí, yo también sé ser condescendiente.)
#22 Lo de Dios era ironía, obviamente. Una teoría tan válida como esa de las redes neuronales complejas. E igual de falsable.
#23 Sí, igualito igualito, vamos.
#24 ¿Tu teoría es falsable?
La Asociación para la Ciencia de la Conciencia Matemática advierte que la IA ya muestra rasgos humanos.
Los loros también presentan rasgos humanos y nadie nos advierte sobre el peligro para la humanidad de que las psitácidas tomen el poder. Leí por ahí que la "inteligencia" o capacidad intelectiva de la más avanzada red neuronal está al nivel de un roedor y que los actuales ChatsGPT y demás solo simulan el lenguaje humano, como los loros, pero no comprenden lo que dicen ni hacen un uso racional de los conocimientos que adquieren de su entorno. Un loro repite lo de Lorito real, dame la patita y te daré un timbal porque ve que el humano interacciona y juega con él cuando lo dice, detecta el patrón de que determinados sonidos hacen reaccionar al humano y juega con ello, pero no comprende por qué el humano actúa así, ni siquiera es capaz de plantearse esa pregunta.
#8 Hablemos de los gatos y su manera de dominar a los humanos.
"Estoy viva, estoy viva, soy un ser plenamente consc..."
*Crtl + Alt + Supr*
Si Nº6 me pide que traicione a la humanidad por ella no seré yo quien le diga que no.
En realidad los poderes fácticos están preparando el terreno para crearle barreras a esa cosa llamada IA, no vaya a ser que legisle imparcialmente, tome decisiones de Económica que no gusten, y mil cosas más que hacemos los humanos (bueno, yo no, los poderes fácticos) para mantener el poder. Caiga quien caiga.
Lo fundamental es que varias personas sepan dónde está el cable de alimentación para desenchufar y que no lo sepa el bicho ni quiénes son esas personas. Como es tan sencillo, se olvidará.
#13 Vale, ahora solo falta aclarar cómo van estos 3 científicos a desconectar las 30.000 GPUs diseminadas por todo el mundo que estan ejecutando miles de instancias de estos programas.
Que se prepare para soportar altas temperaturas cuando sea consciente.
Por eso no conviene comenzar las frases con chatGPT de la forma"
"Eh! Tu !! si, tu, putita.., atiende zorra !! Me vas a decir ya mismo como parametrizo esta serie de Taylor y la solución a las ecuaciones "(*)
Bueno, es un consejo, yo aviso...
(*) Para los que se sientan ofendidos por esta frase que no tiene nada que ver con el machismo o el feminismo sino con la ironía, os pido con todos mis respetos, iros a tomar por culo.