Menéame: comentarios [3784748]

#125 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Mon, 27 Feb 2023 18:17:15 +0000

#124 Lo dudo mucho.

No sabemos ni siquiera definir qué es la inteligencia como para fabricar algo inteligente..

» autor: chavi

#124 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rcorp — Mon, 27 Feb 2023 15:50:30 +0000

#123 si, si, es increíblemente complejo, pero estamos camino de conseguirlo, ya no es un sueño inalcanzable

Tú déjalo en manos de los profesionales, en no demasiados años (pueden ser 20, pero menos de 50 diría yo) se habrá conseguido

» autor: rcorp

#123 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Mon, 27 Feb 2023 13:49:31 +0000

#122 No es que "lo vea". Es que lo es.

» autor: chavi

#122 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rcorp — Mon, 27 Feb 2023 13:45:59 +0000

#121 bueno, veo que todo esto lo ves muy complicado, muy complejo

No te preocupes, lo vamos a conseguir

» autor: rcorp

#121 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Mon, 27 Feb 2023 13:44:15 +0000

#120 Sigo esperando tu definición de "conciencia".

está claro que se puede crear un circuito, o algoritmo, o mecanismo, o lo que sea, que sea consciente de él mismo, porque tienes la prueba en ti: si tú existes, entonces es posible crear algo similar a tí.

Que se puede crear algo con "conciencia" es obvio. Que nosotros seamos capaces de hacerlo cuando ni siquiera sabemos bien que es y en qué consiste, no tanto.

Que existan cosas no quiere decir que nosotros estemos capacitados para crearlas, y sobran ejemplos. El primer paso imprescindible es conocer perfectamente el funcionamiento de lo que queremos crear y respecto a la inteligencia estamos muy muy muy muy lejos de eso.

ChatGPT es una IA especializada en lenguaje natural. Los idiomas son lenguaje natural. Pon a chatGPT a llevar un vehículo en Madrid en hora punta.

Respecto a qué "aprendiera de forma espontánea" permíteme que lo dude mucho. ChatGPT no tiene "curiosidad" , no "aprende cosas" a iniciativa propia.

El hacer un símil entre una mal llamada "red neuronal" de una IA con la de un ser humano poniéndolas a alturas similares es ridículo.

Por cierto, cuando nacemos respiramos. Nos late el corazón, reclamamos alimento y sabemos buscar la teta.
Sin entrenamiento, viene en el firmware
Un recién nacido no "mueve los músculos aleatoriamente", ni mucho menos.

Un algoritmo jamás será consciente de nada, no es más que una secuencia de órdenes.
En todo caso la conciencia sería el resultado de la ejecución del algoritmo.

» autor: chavi

#120 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rcorp — Mon, 27 Feb 2023 13:30:51 +0000

#119 chavi, tú tienes conciencia de tí mismo?
No sé cómo lo puedes definir, o si tu definición será bien ajustada, o un desastre de definición, pero la realidad es la que es. Tú eres consciente de tí mismo, eres un ser consciente.

Pues sea cual sea esa definición, lo llames como lo llames, está claro que se puede crear un circuito, o algoritmo, o mecanismo, o lo que sea, que sea consciente de él mismo, porque tienes la prueba en ti: si tú existes, entonces es posible crear algo similar a tí.

Yo te reto a que me digas el porqué no es posible. Tu me dices que un algoritmo es una secuencia de órdenes a seguir. Correcto. Pero creo que piensas en los algoritmos clásicos, que eran absolutamente previsibles, y que no podían salir de una senda muy estrecha bien marcada.

Fíjate en algo que ya existe, que ya está superado, y que se sale de lo que (yo creo) crees sobre los algoritmos: ChatGPT no estaba pensado, ni estaba previsto, que aprendiese idiomas.
Ha sido una consecuencia imprevista. Ha aprendido chino, catalán, inglés, francés, alemán, español y no sé cuántos más sin que los programadores lo codificaran en el algoritmo.
Ha sido fruto de lo maravillosamente bien que se comporta una red neuronal, que consigue ser bastante a prueba de fallos, que puede aprender a hacer CUALQUIER cosa.
Si tú pierdes manos y brazos, la red neuronal de tu cerebro se puede entrenar para que aprendas a escribir con la boca.
Si pierdes una parte de tu cerebro, la que se encargaba del idioma, otra red, la que se encargaba de mover tus pies y del pensamiento espacial, aprenderá español (y alemán si haces unos cursos de alemán)

Los humanos somos LA HOSTIA porque tenemos una red neuronal inmensamente grande y que tiene todos sus pesos a punto de ajustar. Cuando nacemos no estamos programados para nada. Ni distinguimos objetos que hay delante de nuestros ojos. Tenemos que aprender a distinguir cosas, a entender que existen las palabras, el idioma, a activar músculos aleatoriamente hasta que aprendemos a movernos, a caminar, correr, bicicleta, piruetas con triple salto mortal, etc, etc, etc

Un algoritmo que sea consciente de sí mismo es imposible no conseguirlo. Si los humanos lo han hecho (ser conscientes de sí mismos), los programadores también lo podemos hacer

» autor: rcorp

#119 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Mon, 27 Feb 2023 01:01:45 +0000

#118 Estoy diciendo que en una persona NO existe la magia (ni en ningún sitio, evidentemente), y que por lo tanto la conciencia es factible de reproducirse mediante un algoritmo.

No encuentras ningún fallo en el "razonamiento lógico" que expones ? ¿En serio?
¿ De verdad crees que de esas premisas se pueden obtener esas conclusiones ?

Vuelvo a mi pregunta original: qué impide que no podamos crear un algoritmo con conciencia?
Define que entiendes por "conciencia" (si puedes) y luego hablamos sobre el tema.

Un algortimo jamás puede tener conciencia. Eso ni se plantea. Un algoritmo no es más que una secuencia de órdenes a seguir......
Lo que igual quieres decir es que el resultado de la ejecución de un algoritmo sea "conciencia".....

» autor: chavi

#118 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rcorp — Sun, 26 Feb 2023 22:21:52 +0000

#117 #115
No me habéis entendido ninguno de los dos.
Estoy diciendo que en una persona NO existe la magia (ni en ningún sitio, evidentemente), y que por lo tanto la conciencia es factible de reproducirse mediante un algoritmo.

Podemos tardar 1 año en lograrlo, o 10 años, 50, 200 o 9000 años, pero es evidente que se logrará

(Si, conozco los algoritmos de poda, aunque ese método hace mucho que se dejó atrás para máquinas como Deep blue o DeepMind)

Los 2 habéis visto ChatGPT, tenéis que reconocer que se está avanzando.
No podéis decir que es un programa sencillo o anecdótico. La nueva versión usará 600 veces más de parámetros.
Como será dentro de 50 o 100 años?
Y dentro de 1000 años?

Vuelvo a mi pregunta original: qué impide que no podamos crear un algoritmo con conciencia?
Qué impedimento infranqueable puede haber?

» autor: rcorp

#117 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

DabbaDoo — Sun, 26 Feb 2023 21:59:58 +0000

#114 Mi comentario habla única y exclusivamente de Medicina; no hay absolutamente nada más en él.
Así que o bien estás sugiriendo que la Medicina es magia o bien eres uno de esos incultos que no sabe distinguir la ciencia de la magia.

Eres libre de creer que un modelo demasiado simplista del pensamiento humano va a conseguir alcanzar o incluso superar nuestra capacidad cognitiva.
Yo creo que no, por mucho hierro (hardware) que se le eche al asunto.

Tema aparte son tus falacias argumentales, como el ad hominem de si creemos en la magia, el hombre de paja de "MAGIA en los humanos" ¡con mayúsculas y todo! Y para terminar, la comparación entre un problema tan abierto como la IA fuerte y un problema tan cerrado como el ajedrez (reglas simples, claras y conocidas, entorno muy controlado).
Seguramente ya lo sepas, pero el ajedrez no es más que un algoritmo de búsqueda en el árbol de movimientos, podando a lo bestia los caminos perdedores según heurísticas inventadas por mentes humanas.

» autor: DabbaDoo

#116 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

meneanet — Sun, 26 Feb 2023 17:45:32 +0000

#52 Errores para humanidad, ya doy por hecho que esas cosas son "malas" para el ser humano. El concepto de bien o mal no existe para el planeta tierra, un planeta deshabitado como venus no es mas "malo" que la tierra, pero es peor para los seres humanos.

» autor: meneanet

#115 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sun, 26 Feb 2023 13:16:36 +0000

#114 Insistes en llamar "magia" a lo que desconoces.

No lo sabemos todo. Despierta.

El ajedrez no es más que una enorme combinación de posibles movimientos. Es algo simple.

Y no. No hay ninguna IA ni remotamente cerca de un niño de 9 años.

» autor: chavi

#114 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rcorp — Sun, 26 Feb 2023 12:30:05 +0000

#112 #110

Bien, os puedo dar la razón de que es bastante más complejo dar conciencia a un algoritmo.
Que incluso las uñas de los pies participan de los cálculos.
Que hay cálculos implicados más complejos que la suma (divisiones, raíces, ?)

Decían que para jugar al ajedrez se necesitaba intuición, genio, experiencia.
Y los programadores lo convertimos en un algoritmo capaz de ganar al mejor humano.
Incluso hicimos que el algoritmo aprendiese por si mismo

Ahora hemos hecho un algoritmo que es como un niño de 9 años, que ha aprendido el sólo idiomas como el chino, el catalán, el inglés o el alemán, capaz de traducir cualquier combinación. Que "entiende" cualquier cosa que le digamos y nos contesta usando lenguaje humano (no hace falta que me deis una lista con los errores y limitaciones que tiene actualmente)

Dónde está el límite?
Qué nos impide dar conciencia a un algoritmo?
Acaso hay MAGIA en el cuerpo de los humanos? Creéis en la magia?

» autor: rcorp

#113 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

skatronic — Sun, 26 Feb 2023 06:19:55 +0000

#26 No estaba dando mi opinión personal, estaba plasmando un hecho.

» autor: skatronic

#112 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sun, 26 Feb 2023 00:25:59 +0000

#109 Se ha estudiado profundamente la materia con microscopios electrónicos y lo único que se han encontrado son átomos.

No hay nada más. Miles de millones de átomos relacionados entre ellos, cada uno de ellos haciendo una tarea de lo más simple, electrones pululando alrededor de un núcleo formado por neutrones y protones.

Por lo tanto, solamente es el número y las conexiones entre los átomos donde reside la conciencia.
...
Por consiguiente, es absolutamente ilógico no ver que una silla tiene conciencia igual que una persona y no hay ningún motivo por el que no pueda existir una silla inteligente......

Para empezar. Define "conciencia".

No sé si no lo sabíais, pero de hecho GPT ha aprendido idiomas sin estar previsto en su programación, ha surgido del hecho de juntar tantas neuronas
GPT NO tiene neuronas ni nada que se le parezca remotamente.
Y NO. Las neuronas ni "suman" ni "restan".

En fin, #109 te da explicaciones mejores que las mías.

Menos tragarse todo el sensacionalismo y más ciencia.

PD: La ciencia ficción NO es ciencia.

» autor: chavi

#111 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

Anatop_at — Sat, 25 Feb 2023 23:23:59 +0000

#7 Positivo por lo de pastoril.

» autor: Anatop_at

#110 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

DabbaDoo — Sat, 25 Feb 2023 19:27:55 +0000

#109
"No hay más
Por lo tanto, es solamente en el número, conexiones y entrenamiento donde reside la conciencia"

Sí hay más, mucho más.

Para empezar, a nivel macro, no es el cerebro lo único del sistema nervioso central que participa con más o menos peso en nuestras decisiones, comportamiento e intelecto. Por ejemplo, el cerebelo también participa en funciones del lenguaje y del aprendizaje.
en.wikipedia.org/wiki/Cerebellum

Continúo con que hay varios tipos de neuronas según su función y localización, no son pequeñas máquinas de sumar y restar.
en.wikipedia.org/wiki/Neuron

Sigo con que hay otros tipos de células dentro del cerebro que afectan y manipulan la neurotransmisión y cómo se rompen y forman las conexiones entre neuronas.
en.wikipedia.org/wiki/Glia

Y ya termino con que los mecanismos electroquímicos de neurotransmisión son bastante complejos, como la cotransmisión.
en.wikipedia.org/wiki/Neurotransmission

Así que no nos engañemos pensando que los modelos actuales de IA basados en redes neuronales arbitrariamente complejas serán suficientes para tener una IA fuerte. La realidad es mucho más compleja.

» autor: DabbaDoo

#109 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rcorp — Sat, 25 Feb 2023 18:45:08 +0000

#85 #49
Se han estudiado miles de cerebros con microscopio y lo único que se ha encontrado son neuronas.
No hay nada más. Miles de millones de neuronas, cada una de ellas haciendo una tarea de lo más simple, pero la magia es su organización y entrenamiento de los pesos de sus dendritas hace que de unas pequeñas máquinas de sumar y restar( es la única función de una neurona) hace que surja una persona obtusa e idiotizada, o una con chispa y genio entre millones
No hay más

Por lo tanto, es solamente en el número, conexiones y entrenamiento donde reside la conciencia

Por consiguiente, es absolutamente ilógico no ver que es posible crear una conciencia, un ser pensante consciente de sí mismo a través de cualquier máquina (máquina de Turing)

De hecho, incluso se podría hacer con vías de trenes y trenes circulando por esas vías. Sería una red de ferrocarril consciente.

No sé si no lo sabíais, pero de hecho GPT ha aprendido idiomas sin estar previsto en su programación, ha surgido del hecho de juntar tantas neuronas y darle tantos ejemplos, y del entreno.

Claro que los programadores crearemos un ser consciente! Es sólo cuestión de tiempo, recursos y mejoras en los algoritmos que ideamos

» autor: rcorp

#108 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

DenisseJoel — Sat, 25 Feb 2023 18:28:02 +0000

#95 ¿Es diferente/mejor que el blog de Cold Takes?

» autor: DenisseJoel

#107 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

DabbaDoo — Sat, 25 Feb 2023 17:48:34 +0000

#106 Hace 10 años las ontologías tampoco se usaban para modelar el lenguaje, sino para modelar el conocimiento.
Y también hace 10 y diría que hasta 20 años existían métodos de entrenamiento no supervisado que generaban clústeres semánticos con relaciones que tenían sentido, pero no existían los corpus de entrenamiento tan masivos que tenemos hoy en día.
No te digo ya si hablamos de aprendizaje supervisado; de eso sólo había para entrenar redes neuronales convolucionales para tareas de percepción artificial relativamente sencillas.

Volviendo al tema, precisamente por quedarse en la capa del lenguaje es por lo que tiene esos problemas de factualidad.
Si subiera a una capa más abstracta generalizando conceptos, estos problemas serían menores.
Pero claro, a día de hoy y hasta donde yo sé, explotar un modelo más conceptual es un problema no resuelto.
Lo más lejos que llegamos, y oye, no está nada mal, es a explotar modelos textuales.
Y estos modelos, ya sea de manera explícita o subyacente, juegan con probabilidades para encadenar las palabras y frases más "probables" en el contexto de la conversación.

En cuanto a la prueba de comprensión lectora que comentas, pienso que los textos de traducciones también forman parte del entrenamiento.
Para mí lo más alucinante de esta tecnología es cómo han conseguido entrenar con un corpus tan masivo y cómo han explotado el modelo de una manera que aparenta inteligencia real.

Respecto al primer problema que comentas, diría que a día de hoy la factualidad está fuera del entrenamiento, aunque están recogiendo datos con el feedback que damos los usuarios durante las conversaciones.
Y sobre la pregunta de si sólo con texto es suficiente para llegar a un nivel de razonamiento más o menos abstracto, eso es algo que sólo sabremos según avance la tecnología.

» autor: DabbaDoo

#106 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rojo_separatista — Sat, 25 Feb 2023 15:00:51 +0000

#99, entonces sabrás que los modelos de lenguaje actuales no tienen nada que ver con las ontologías, que se usaban hace 10 años pero hoy no utiliza prácticamente nadie que haga investigación avanzada en modelos de lenguaje. A ti no te cabrá ninguna duda, pero yo opino que sí fuese un modelo que redujera el problema del lenguaje a una cuestión estadística, no tendría los problemas de factualidad que tiene. Que de forma subyacente aprenda a agrupar palabras que suelen aparecer juntas de forma más frecuente en el dataset de entrenamiento, no significa que se base en construir modelos de probabilidad para estimar las palabras o dicho de otra forma, esto también lo hacemos los seres humanos cuando hablamos.

Lo que hace es construir una representación abstracta a nivel interno de lo que hay en el texto gracias a las capas de atención. Puedes hacer la prueba haciéndole un examen de comprensión lectora en español de un texto escrito en inglés y verás que lo hace de forma medianamente aceptable. Sin una abstracción de los conceptos en que aparecen, y solo con funciones de probabilidad, esto sería imposible.

En mi opinión estos modelos tienen dos grandes problemas. Uno es que a la hora de entrenar la factualidad de las respuestas no penaliza lo suficientemente la función de coste como la coherencia semántica y la corrección gramatical y otro es saber si solamente entrenando a base de textos se puede destilar plenamente la forma de razonar de los humanos o se necesitan más elementos para enriquecer estos modelos, como imágenes o videos.

» autor: rojo_separatista

#105 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

robustiano — Sat, 25 Feb 2023 14:29:10 +0000

#104 Algunos modelos han pasado ya tests psicológicos equivalentes a los de un niño de 9 años. Doy cinco años para una IAG, quizá tres. Y cuando intervengan ellas mismas en su propio diseño, el crecimiento va a ser exponencial...

www.meneame.net/story/ia-ya-tiene-capacidad-cognitiva-nino-9-anos

» autor: robustiano

#104 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

DabbaDoo — Sat, 25 Feb 2023 14:22:24 +0000

#103 El caso es que no lo hacen y, lo que es peor, para alguien que no conozca la respuesta correcta, es difícil saber si lo que dice la IA es verdad o no.
Si nunca has visto un pato, un pato artificial que vuela con las patas y anda con las plumas puede parecerte un pato de verdad.

» autor: DabbaDoo

#103 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

robustiano — Sat, 25 Feb 2023 13:37:06 +0000

#32 Da igual que detrás de esos modelos no haya nada si pueden llegar a comportarse como si fueran conscientes. Ya sabes: si anda como un pato, grazna como una pato y parece un pato...

» autor: robustiano

#102 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 13:20:31 +0000

#97 Claro. Correcto.

Ni siquiera coincide entre nosotros.

Y algo que carece de libertad de pensamiento (que pueda pensar y razonar en la dirección que decida por sí mismo), no es inteligente

» autor: chavi

#101 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 13:19:08 +0000

#98 La inteligencia es un concepto muy amplio y complejo que se puede definir de diferentes maneras.
Si lo defines de diferentes maneras, te refieres a cosas distintas.
¿ Cuando hablas de inteligencia, a qué te refieres exactamente ?

Una vez establecido ese punto podríamos hablar si una IA es "inteligente" o si no lo es. La "inteligencia" en el sentido humano es algo enorme. Tanto que es muy difícil de definir, por eso se habla de diferentes "inteligencias".
Una IA si fuera "inteligente" en sentido humano debería poseerlas todas.

¿Crees que con los conocimientos disponibles en la época una IA actual sería capaz de desarrollar la teoría de la relatividad ? ¿ La teoría de gravitación Universal ? ¿ El cálculo diferencial ? ¿ Determinar que la tierra es redonda y su radio ? ¿ Calcular la masa de la tierra ?....

Y además hacerlo por sí misma. Sin indicaciones que le dirijan en una dirección u otra.

» autor: chavi

#100 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

--602246-- — Sat, 25 Feb 2023 13:07:53 +0000

#3 Nuestros hijos de silicio

» autor: --602246--

#99 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

DabbaDoo — Sat, 25 Feb 2023 12:05:55 +0000

#88 No, ahí no me cabe duda de que la función oculta que aproxima la red está basada en una estimación de la probabilidad de que una palabra siga a las N anteriores condicionado al contexto de la conversación.

En el pasado trabajé con modelos semánticos (ontologías), agentes inteligentes y reconocimiento de voz y por eso reconozco esto como un gran logro, pero también soy muy consciente de sus limitaciones y su alcance.

» autor: DabbaDoo

#98 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

cdya — Sat, 25 Feb 2023 11:46:17 +0000

#94 La inteligencia es un concepto muy amplio y complejo que se puede definir de diferentes maneras. Según una fuente (elmundodelsuperdotado.com), la inteligencia es una capacidad mental que implica habilidad para razonar, planificar, resolver problemas, pensar de forma abstracta, comprender ideas complejas, aprender con rapidez y aprender de la experiencia. Otras fuentes (psicoactiva.com) (es.wikipedia.org) (significados.com) (dle.rae.es) coinciden en que la inteligencia tiene que ver con la capacidad de entender, razonar, saber, aprender y resolver problemas.
En todo caso es un proceso de aprendizaje y de contraste de experiencias y capacitación de acumularlas y sincronizarlas. No le des tanta importancia.

» autor: cdya

#97 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

Malvidious — Sat, 25 Feb 2023 11:46:11 +0000

#93 su propia concepción de lo que es "bueno" y lo que es "malo" no tiene porque coincidir con la nuestra. Correcto?

» autor: Malvidious

#96 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 11:40:54 +0000

#89 Si es capaz de encontrar relaciones interesantes entre los conceptos que plantea cada autor e hilarlas correctamente, sí sería un signo de inteligencia.

Depende del nivel en el que midas esas relaciones y a qué le llames "relación interesante".

Una AGI debería ser capaz de hace uso constante de todo su conocimiento en todas las áreas para cualquier tarea y de modo totalmente autónomo. Y por supuesto debería ser capaz de hacer y hacer tareas para las que no las hemos ni preparado ni entrenado, debería hacerlo ella por sí misma por voluntad propia...

Por ejemplo, debería tener "voluntad" sin necesidad de que se la implantáramos en su código.

» autor: chavi

#95 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

snowdenknows — Sat, 25 Feb 2023 11:36:31 +0000

#2 leed el prologo del libro "vida 3.0" va de esto

» autor: snowdenknows

#94 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 11:35:28 +0000

#91 Estás definiendo "utilidad". No inteligencia.

Eso aumenta la utilidad de la herramienta, pero en ningún modo va a ser más "inteligente".

Para eso se necesita una integración mucho mayor de lo que da una simple API.

» autor: chavi

#93 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 11:33:59 +0000

#92 El "bien" y el "mal" son conceptos morales y subjetivos.

Por lo tanto si. Si es inteligente tendrá su propia concepción de lo que es "bueno" y lo que es "malo".

» autor: chavi

#92 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

Malvidious — Sat, 25 Feb 2023 11:28:14 +0000

#56 A ver si te he entendido. Dices que si una IA es inteligente de verdad sabrá lo que es el bien y el mal?

*intentando decir lo mismo que tu con otras palabras

» autor: Malvidious

#91 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

cdya — Sat, 25 Feb 2023 11:24:17 +0000

#84 Tendras un ChatGPT como modelo primario, pero reconocimiento de fotos se conectara con una de reconocimiento de fotos como
BLIP-2, para hablarte con otra que ya las hay, para pintarte o dibujarte con Stable Diffusion u otra y asi sucesivamente, tambien las hay para jugar a ajedrez, todo en un mismo entorno donde no distingiras mas que la matriz. Y eso esta al caer si no esta hecho ya y nos lo estan dosificando.

» autor: cdya

#90 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

--584621-- — Sat, 25 Feb 2023 11:24:04 +0000

#35 Buf, tienes toda la razón. Daniel Khaneman. Estaba espeso a esas horas...

» autor: --584621--

#89 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rojo_separatista — Sat, 25 Feb 2023 11:13:02 +0000

#74, si los mezclara trozos de texto de aquí y de allí sin coherencia sí sería como dices. Si es capaz de encontrar relaciones interesantes entre los conceptos que plantea cada autor e hilarlas correctamente, sí sería un signo de inteligencia.

No se si en 10 años tendremos una AGI, lo que si se es que la IA habrá cambiado nuestras vidas radicalmente en todos los aspectos. Trabajo, ocio, forma de interactuar con el mundo... Por eso digo que sonará ridículo quienes dicen que no es para tanto y que un niño siempre será más inteligente.

» autor: rojo_separatista

#88 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rojo_separatista — Sat, 25 Feb 2023 11:09:32 +0000

#87, lo mismo podrías decir de la parte relacionada con el habla del cerebro humano.

» autor: rojo_separatista

#87 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

DabbaDoo — Sat, 25 Feb 2023 11:04:30 +0000

#68 Sólo he dicho que "posiblemente" el modelo implícito en la red neuronal sea un modelo de Markov, pero es verdad que debería habérmelo ahorrado porque no es un hecho.

» autor: DabbaDoo

#86 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

Malvidious — Sat, 25 Feb 2023 10:54:16 +0000

#73 Los humanos programadores han diseñado máquinas que superan a grandes maestros en ajedrez sin ser ellos mismos grandes maestros.

» autor: Malvidious

#85 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

DabbaDoo — Sat, 25 Feb 2023 10:53:08 +0000

#37 Este debate lo podemos enfocar desde un punto de vista filosófico o neurológico.
No conozco lo suficiente ninguno de los dos campos, así que sólo puedo opinar superficialmente.

A nivel filosófico se han planteado las dos alternativas, que el lenguaje deriva del pensamiento y que el pensamiento deriva del lenguaje.
Creo que a día de hoy se acepta más la primera opción (primero es el pensamiento y de ahí deriva el lenguaje), pero si alguien sabe más, estaré encantado de leerlo.

A nivel neurológico aún no conocemos todos los mecanismos del cerebro, así que no podemos asegurar que funcione como una red neuronal no supervisada con refuerzo.

Lo que está claro es que los humanos tenemos la capacidad de imaginar, razonar de manera inductiva y deductiva* y tenemos una consciencia verdadera de nuestra propia existencia.
Y por favor no entremos en el debate de si no somos más que una simulación. Eso no nos lleva a ninguna parte, como ya dijo Descartes.

Tampoco hablo de alma, espíritu ni ninguna otra cosa esotérica. Soy ateo y realmente pienso que todas nuestras capacidades intelectuales están en el cerebro. Lo único es que es mucho más complejo que una red neuronal por muy grande que ésta sea.

---
* Intenta aplicar razonamiento deductivo con ChatGPT. Es la prueba más clara de que no piensa realmente, sólo encadena las respuestas más probables.

» autor: DabbaDoo

#84 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 10:48:20 +0000

#81 Tu crees que será cosa de conectar API???

En serio?

Lo dudo mucho. La inteligencia no funciona secuencialmente como un programa

» autor: chavi

#83 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

PauMarí — Sat, 25 Feb 2023 10:42:37 +0000

#41 dudo mucho que ningún programador se haya preocupado por algo que sólo es literatura.

» autor: PauMarí

#82 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

hazuko — Sat, 25 Feb 2023 10:39:07 +0000

#77 El hecho de que lo llames autónomo o semi-autónomo es una muestra de lo bien que funciona la propaganda de Tesla, no de su capacidad técnica. Tesla es nivel 2, muy lejos (lejísimos) del 5.

Y estos de OpenIA van por el mismo camino, el de vender humo. Que oye, está bien, su producto es útil, pero no nos confundamos que después acabamos comprando todo lo que quieran vendernos.

» autor: hazuko

#81 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

cdya — Sat, 25 Feb 2023 10:34:44 +0000

#55 Para la inteligencia artificial general o fuerte, se relacionarán múltiples APIs de diferentes IA, y creo que, en ese momento no muy lejano, nos vamos a pegar un gran susto.

» autor: cdya

#80 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 10:26:32 +0000

#76 Es que si hablamos de inteligencia, no ha ese concepto de "muchos campos".

Los "campos" son TODOS.

Que no conocemos el funcionamiento de la inteligencia humana es un hecho. Avanzamos algo, pero estamos lejísimos de comprender cómo funciona ni siquiera un acto reflejo.

La parte "mágica" es aportación tuya. Desconocer el funcionamiento de algo no lo convierte en "magia".

Exolícame tu la diferencia y la no relación entre conciencia e inteligencia.

Intenta siquiera definirlas de modo completo.

» autor: chavi

#79 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 10:22:32 +0000

#77 ¿?

Yo no he dicho que "no saben conducir". He dicho que no saben hacerlo de modo autónomo del mismo modo que un humano.

Y se lleva mucho intentándolo

» autor: chavi

#78 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

--740072-- — Sat, 25 Feb 2023 10:19:02 +0000

A mi me llama la atención esto "we now believe we were wrong in our original thinking about openness, and have pivoted from thinking we should release everything". Parece que todo lo anterior es una burda justificación de que van hacía un modelo cerrado.

» autor: --740072--

#77 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

AlbertoPiO — Sat, 25 Feb 2023 10:17:14 +0000

#67 pues tiene que ver, ya que aseguras que las IA no saben conducir y yo no estoy de acuerdo. Imagino que nunca has ido en un coche autónomo o semi-autonomo como un tesla.

» autor: AlbertoPiO

#76 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rojo_separatista — Sat, 25 Feb 2023 10:16:21 +0000

#73, no, en muchos campos no estamos muy lejos, tampoco en el de la conducción autónoma, que si no ha llegado ahora, llegará dentro de 10 o de 15 años.

Por un lado creo que por un lado te basas en hipótesis intangibles como que el ser humano tiene un "ingrediente" secreto que desconocemos y que es lo que lo hace ser tan inteligente y por otro lado, me parece que no eres consciente del ritmo al que está evolucionando toda esta tecnología que hace 5 años apenas era capaz de escribir una frase con un mínimo de coherencia. En mi opinión no es así, estoy convencido el vamos por el camino correcto y no pararemos de ver avances cada vez más espectaculares e impresionantes en los próximos años que dejarán a los defensores de la "excepcionalidad" del ser humano con cada vez menos argumentos. Puede que los LLM tengan la limitación de que todo el conocimiento que construyen lo hacen a partir de texto y no sea suficiente, pero cuando se le añadan a los modelos más potentes la capacidad de entender, imágenes y videos nos acercaremos mucho a lo que es una AGI.

Respecto a la conciencia, que siempre se mezcla en este debate mucha gente no entiende la diferencia entre conciencia e inteligencia. Me parece que todavía estamos muy lejos.

» autor: rojo_separatista

#75 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 10:11:56 +0000

#70 Bueno. Si es inteligente podría decidirlo en base al beneficio que podría obtener de ello.

La "ética" es una construcción social. Los humanos somos seres sociales.

» autor: chavi

#74 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 10:10:17 +0000

#72 Pídele a un niño que te escriba un diálogo entre Descartes, Platón y Kant a ver qué tal lo hace.
Te manda a la mierda y dice que prefiere irse a jugar al fútbol. Lo cual es un signo de inteligencia.

Tienes un concepto de "inteligencia" un tanto extraño. Como si el mezclar cosas que se leen por internet y redactarlas de un modo medio coherente demostrara inteligencia.....

Bueno, es lo que hacemos hoy en día, no ???

Cuanto menos inteligentemente actuemos, más "inteligentes" nos parecerán las AI.

En 10 años no veremos nada que se parezca a una AGI ni de lejos.

» autor: chavi

#73 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 10:06:31 +0000

#71 Pues hablamos de cosas diferentes.

Hablamos de una "inteligencia que iguale o supere la inteligencia humana".

Y eso es un error. Es un objetivo del que estamos muy muy muy muy lejos y que personalmente dudo que sea posible.

Una IA hecha por el ser humano siempre será un reflejo distorsionado de la inteligencia humana porque está ideada y diseñada por la inteligencia humana.

» autor: chavi

#72 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rojo_separatista — Sat, 25 Feb 2023 10:04:15 +0000

#47, cierto, yo opino que son bastante más inteligentes que un niño de 8 años. Pídele a un niño que te escriba un diálogo entre Descartes, Platón y Kant a ver qué tal lo hace.

En serio pagaría lo que fuese para ver la cara que pondréis cuando dentro de 10 años se os enseñe lo mal que han envejecido comentarios como el tuyo.

» autor: rojo_separatista

#71 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rojo_separatista — Sat, 25 Feb 2023 09:58:50 +0000

#66, lo que te quiero decir es que para que la inmensa mayoría de problemas cognitivos a los que nos enfrentamos los seres humanos, la tolerancia a errores, no es un problema crítico. En muchos casos las IA's superan a los humanos o lo harán en breve en cuanto a tasa de errores.

Lo digo porque repetimos como loros demasiadas veces de ejemplo de la conducción autónoma sin entender demasiado bien el contexto. El problema de la conducción autónoma no es tanto su dificultad como su poca tolerancia a errores.

» autor: rojo_separatista

#70 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

omegapoint — Sat, 25 Feb 2023 09:58:21 +0000

#56 Matar a todos los humanos

» autor: omegapoint

#69 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

omegapoint — Sat, 25 Feb 2023 09:58:05 +0000

#50 debería, siempre que sea por las razones adecuadas.

» autor: omegapoint

#68 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rojo_separatista — Sat, 25 Feb 2023 09:53:38 +0000

#32, los LLM basados en redes neuronales que utilizan transformers no tienen nada que ver con los modelos de Markov ni se basan en un cálculo de probabilidades para determinar la siguiente palabra. Pero bueno, sigamos repitiendo cuñadeces.

» autor: rojo_separatista

#67 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 09:52:50 +0000

#62 Claro que sufren accidentes. Qué tiene que ver?

» autor: chavi

#66 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 09:52:02 +0000

#63 La.poca tolerancia a errores es un problema, claro.

Y el problema es que la AI tienen más errores que los admisibles. Muchos más errores que un humano, porque tiene muchas más carencias que un humano.

Si las IA no han jubilado a los camioneros es porque NO son capaces de hacer el trabajo de los camioneros. Así de simple.

Y no es ninguna "analogía". Es una muestra del nivel de desarrollo que tienen hoy en día las IA. Muy lejos de una AGI.

» autor: chavi

#65 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rojo_separatista — Sat, 25 Feb 2023 09:50:48 +0000

#23, el error los cometen quienes confunden conciencia con inteligencia. Los LLM tienen cierto grado de inteligencia, de hecho sacarían bastante buena nota en un test de inteligencia cosa que una calculadora no haría, y esto no significa que sean conscientes.

» autor: rojo_separatista

#64 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rojo_separatista — Sat, 25 Feb 2023 09:49:08 +0000

#16, la AGI no tiene que ver nada con la conciencia. La ciencia ficción ha hecho mucho daño en este sentido.

» autor: rojo_separatista

#63 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rojo_separatista — Sat, 25 Feb 2023 09:47:41 +0000

#48, creo que muchos no entendéis es que el problema de la conducción autónoma no es su dificultad, sino la poca tolerancia a errores. Un solo error grave cada 100.000 km puede desembocar en una muerte aunque el 99.99% de veces lo haga bien. Esto no ocurre en la inmensa mayoría de campos en los que un supervisor humano puede depurar los resultados o un error, sencillamente no tiene estas consecuencias.

Si la conducción autónoma pudiese tener tolerancia a errores a estas alturas ya habría jubilado al 90% de camioneros.

Por eso los que hacéis analogías poniendo el ejemplo de la condución autómoma para decir que el potencial de las IA se verá limitado. No os estáis enterando de por donde van los tiros, la verdad.

» autor: rojo_separatista

#62 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

AlbertoPiO — Sat, 25 Feb 2023 09:46:37 +0000

#61 y ¿Crees que no sufren accidentes?. Que básicamente es un error de cálculo.

» autor: AlbertoPiO

#61 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 09:44:48 +0000

#59 Mmmmm No.

No te das golpes con las esquinas, salvo que vayas "a lo loco".

Con 8 años hay niños que hasta compiten conduciendo Karts y motos.

» autor: chavi

#60 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

hazuko — Sat, 25 Feb 2023 09:43:48 +0000

#58 #57 el ejemplo es válido, pero no hace falta irse a un triciclo/coche, el propio cuerpo ya es un vehículo y lo dominan mucho antes

» autor: hazuko

#59 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

AlbertoPiO — Sat, 25 Feb 2023 09:41:17 +0000

#58 Con 8 años te sigues dando golpes con esquinas. Saben dónde quieren ir pero eso no implica que no tengan accidentes.

» autor: AlbertoPiO

#58 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 09:38:38 +0000

#57 Para un niño de 8 años es trivial conducir si triciclo por cualquier lado y establecer su propio criterio de a donde quiere ir y por donde.

» autor: chavi

#57 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

AlbertoPiO — Sat, 25 Feb 2023 09:35:57 +0000

#49 trivial para un humano adulto.

» autor: AlbertoPiO

#56 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 09:35:29 +0000

#44 Si te das cuenta el problema está mayormente en lo que nosotros definimos como ético o no. No lo hemos decidido.

No hay ningún problema. Si la IA es inteligente lo podrá decidir por sí misma.

» autor: chavi

#55 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 09:33:55 +0000

#15 La inteligencia artificial general es un objetivo muy ambicioso y aún no se ha logrado. Algunos expertos creen que es posible alcanzarlo en este siglo, mientras que otros lo consideran imposible o muy lejano.

Si lo dice una IA más inteligente que vosotros, será cierto... ¿no?

O nos quiere engañar ...

» autor: chavi

#54 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 09:31:20 +0000

#14 Si las IA son realmente inteligentes, investigarán y lograrán avances científicos y técnicos por si mismas.

Como lleva haciendo el hombre miles de años.

Pero lo dudo mucho.

» autor: chavi

#53 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

Al-Khwarizmi — Sat, 25 Feb 2023 09:28:35 +0000

#17 #20 En las propias novelas y cuentos de Asimov, la gracia de las leyes de la robótica es que propone muchas formas de saltárselas y conflictos o contradicciones que crean. Nunca las planteó como una propuesta real de leyes que pudiesen ser suficientes para mantener controladas a las IAs.

» autor: Al-Khwarizmi

#52 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 09:27:48 +0000

#43 La "injusticia" es un concepto humano. La "destrucción del ecosistema" realmente no tiene ninguna importancia, solo nos afecta a nosotros y al planeta.

El universo siempre seguirá su curso.

Las guerras pueden ser "inteligentes" si obtienes beneficio de ellas.

» autor: chavi

#51 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 09:26:11 +0000

#2 Yo veo entre muy difícil e imposible que podamos crear algo "más inteligente" que nosotros mismos...

Claro que primero deberíamos definir que entendemos por "inteligencia", cosa que no es simple.

Entre otras cosas porque si lo diseñamos nosotros no es más que un resultado de nuestra propia inteligencia.

» autor: chavi

#50 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

knzio — Sat, 25 Feb 2023 09:23:23 +0000

#41 si nos saltamos nosotros la ley, ¿crees que algo más inteligente no lo va a hacer también?

» autor: knzio

#49 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 09:21:48 +0000

#37 no es nuestro cerebro acaso un modelo de lenguaje pero con un montón más de conexiones?
Es muchísimo más que eso

Acaso lo nuestro es magia? Alma?

Algunos seres humanos tienen la curiosa manía de llamar "magia" a lo que ignoran.

Ni siquiera hemos conseguido que un IA pueda dirigir un coche de modo completamente autónomo. Una tarea trivial para un humano.

» autor: chavi

#48 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 09:20:06 +0000

#26 Si todavía no hemos conseguido algo tan simple como la conducción autónoma ....

» autor: chavi

#47 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

chavi — Sat, 25 Feb 2023 09:19:00 +0000

#1 Buenas muestras de sensacionalismo.

Por cierto, esa frase de Bing si lees el artículo demuestra que es realmente estúpido.

Y NO. Las IA no tienen la "inteligencia de un niño de 8 años".

» autor: chavi

#46 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

Jakeukalane — Sat, 25 Feb 2023 09:11:58 +0000

#40 pero ellos fallan desde el principio ya. Su empresa debería llamarse ClosedAI.

» autor: Jakeukalane

#45 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

Jakeukalane — Sat, 25 Feb 2023 09:10:47 +0000

#38 ¿es un relato o un libro suyo?

» autor: Jakeukalane

#44 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

omegapoint — Sat, 25 Feb 2023 09:04:18 +0000

#20 bueno, que un experto en un vídeo de 8 minutos diga que es muy difícil expresar la ética en código, no significa que no se pueda hacer o no puedan funcionar.

Si te das cuenta el problema está mayormente en lo que nosotros definimos como ético o no. No lo hemos decidido.

Y que las reglas de un parrafo cada una están pensadas para escribir libros, no programar IA porque ni siquiera existian los ordenadores.

Pero desde luego programaremos reglas de control para garantizar la seguridad, lo hacemos en muchísimas de las maquinas que construimos y en muchisimo del software que programamos.

Las definiremos de otra manera, pero el concepto de reglas básicas de seguridad para que esto no se vaya de las manos, seguro que estará ahí.

No es un problema de las leyes de la robótica, que existiran de alguna manera, es un problema de como definirlas.

quiero decir, las escribio en 1942 y el ENIAC es de 1943. Sería raro que una definición inventada antes de la construcción del primer ordenador pudiera ser aplicada al software de 80 años después.
Pero el concepto de ley para preservar la seguridad y que la cosa no desmadre, sigue siendo válido.

cc #28

» autor: omegapoint

#43 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

meneanet — Sat, 25 Feb 2023 08:45:28 +0000

#4 Destrucción de ecosistemas, injusticia, guerras... sí, desarrollar una IA de propósito general superinteligente sin plantearse cómo controlarla sería otro nuevo error de la humanidad a meter al saco.
Se trata de plantearse qué limites o controles hay de acordar para que no suceda una desgracia.
Por cierto recomiendo este libro sobre el tema: Superinteligencia, de nick bostrom..

» autor: meneanet

#42 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

cdya — Sat, 25 Feb 2023 08:45:09 +0000

#25 Bing y creo que el articulo lo ha escrito o al menos ha inspirado una IA como ChatGPT, son conversaciones sin énfasis, pero muy compactas en sus descripciones.

» autor: cdya

#41 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

omegapoint — Sat, 25 Feb 2023 08:40:11 +0000

#6 ley cero de la robótica

» autor: omegapoint

#40 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

ACEC — Sat, 25 Feb 2023 08:32:57 +0000

Don't be evil

» autor: ACEC

#39 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

Jakeukalane — Sat, 25 Feb 2023 08:28:24 +0000

#29 sí,

» autor: Jakeukalane

#38 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

cdya — Sat, 25 Feb 2023 08:23:08 +0000

#17 Mejor lee «Golem XIV», de Stanislaw Lem, se aplica mucho mejor a lo que esta sucediendo.

» autor: cdya

#37 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

rcorp — Sat, 25 Feb 2023 08:13:16 +0000

#32 no es nuestro cerebro acaso un modelo de lenguaje pero con un montón más de conexiones?

Si ves lo que hace GPT, es un nivel mucho más elevado que unas dendritas procesando señales de entrada. Es MUCHO más.
Y eso se consigue elevando el número de capas y las conexiones, y entrenando adecuadamente.

Si vas avanzando por ese camino, me puedes decir dónde estará la diferencia con un cerebro humano? Dónde está nuestra conciencia si no en el montón de capas y conexiones y pesos bien ajustados mediante entrenamiento?

Acaso lo nuestro es magia? Alma?

Solamente se trata de aumentar los circuitos y de establecer un bucle de prueba error que aumente la "satisfacción" del circuito. En los humanos es la aprobación de los padres, no dolor, el placer de la comida, de las imágenes placenteras, temperatura, sexo, sabores, poder, que las cosas sean como nos gustan, etc, etc, etc

» autor: rcorp

#36 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

dilsexico — Sat, 25 Feb 2023 07:56:17 +0000

#33
Recomiendo su canal, Robert Miles, www.youtube.com/@RobertMilesAI
El tema de la IA desarrollando su propio codigo lo toca en alguno de sus otros videos.

» autor: dilsexico

#35 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

fernandus_deliciosus — Sat, 25 Feb 2023 07:50:10 +0000

#30 No es Krugman, es Kahneman. Saludos

» autor: fernandus_deliciosus

#34 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

hazuko — Sat, 25 Feb 2023 07:46:53 +0000

#22 OpenAI considera que la tecnología que tienen ahora NO es AGI (por eso fraes como "If AGI is successfully created,[...]".

Claro que lo sabe, ellos y todo el mundo que tenga un mínimo criterio, pero para engañar a inversores, la treta de nombrar la palabra "AGI" es muy buena dado el contexto... insinúas cosas que después nadie te puede echar en cara porque tú realmente no estabas afirmando que fueras a conseguir nada. Y saben cubrirse las espaldas: of course our current progress could hit a wall...

» autor: hazuko

#33 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

Agostinho79 — Sat, 25 Feb 2023 07:42:16 +0000

#20 Muy buen video.

De todas formas, esto está visto desde un punto de vista de desarrollador y no desde un punto de vista que la IA desarrollase su propio código y se adaptase.

No habria alguna forma de programar a la IA para que tuviera el código ético "medio" de la humanidad en cada momento?

» autor: Agostinho79

#32 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

DabbaDoo — Sat, 25 Feb 2023 07:42:08 +0000

#1 No nos flipemos por favor. ChatGPT tiene de IA fuerte lo que yo de astronauta interestelar.
Se trata de modelos gigantescos de generación de lenguaje, pero por detrás de ese encadenamiento de palabras basado en patrones probabilísticos (posiblemente modelos ocultos de Markov), no hay absolutamente nada.
No hay razonamiento, no hay imaginación, no hay consciencia.
Otra cosa es que, cual ilusionista, nos haga creer que piensa, que razona, que imagina y que es consciente.
Pero eso es sólo un trampantojo, no es real.

Una vez aclarado todo esto, me parece muy loable que OpenAI establezca unos buenos principios, sólidos, éticos y claros, para que sus proyectos hacia una verdadera IA fuerte no dejen en segundo plano estas preocupaciones.
No dudo que llegaremos a ese punto, pero aún nos faltan unos añitos, aunque es imposible predecir cuántos.

» autor: DabbaDoo

#31 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

hazuko — Sat, 25 Feb 2023 07:37:29 +0000

Toma hype!!

Esta gente en lo que es experta (además de en IA) es en marketing.

» autor: hazuko

#30 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

--584621-- — Sat, 25 Feb 2023 07:35:28 +0000

Esto me hace pensar en como el concepto de "valor añadido" no es más que formas de engañar a las personas para que paguen más de lo que algo cuesta en realidad. El economista Paul Krugman en su obra "Pensar rapido, pensar despacio" explica cómo las personas solemos pensar en modo rápido, sin profundizar realmente en lo que estamos haciendo. Las empresas, piensan despacio y preparan trampas muy bien elaboradas para que todos los que vamos pensando rápido, piquemos y paguemos más por menos.
¿Qué pasará cuando una IA nos permita pensar despacio, profundizando en cada cosa, pero de manera rápida y sin esfuerzo?
Esto va a ser disruptivo de OO.

» autor: --584621--

#29 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

alafia — Sat, 25 Feb 2023 07:25:03 +0000

#28 Entonces estamos de acuerdo.

» autor: alafia

#28 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

Jakeukalane — Sat, 25 Feb 2023 07:21:30 +0000

#27 sí, las instrucciones de una IA se pueden reprogramar, independientemente de que sea útil o no darle esas leyes (que no lo es). He leído los cuentos de Asimov así que no entiendo muy bien porque querrían codificar eso cuando siempre sale mal, porque hay algo no considerado previamente.

Otro jeje:

» autor: Jakeukalane

#27 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

alafia — Sat, 25 Feb 2023 07:14:35 +0000

#24 No. Ve el vídeo.

» autor: alafia

#26 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

alafia — Sat, 25 Feb 2023 07:12:39 +0000

#13 Probablemente sepas tú más que Eric Weinstein. Investiga.

» autor: alafia

#25 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

DenisseJoel — Sat, 25 Feb 2023 07:07:12 +0000

#15 ¿ChatGPT o Bing?

» autor: DenisseJoel

#24 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

Jakeukalane — Sat, 25 Feb 2023 07:06:09 +0000

#17 se pueden reprogramar.

» autor: Jakeukalane

#23 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

DenisseJoel — Sat, 25 Feb 2023 07:04:42 +0000

#16 Cualquier afirmación de que una IA tenga o pueda adquirir consciencia puede ignorarse sin problema. Ya hacemos demasiado llamando IA a cualquier LLM. Un LLM es una IA en la misma medida que una calculadora es una IA: permite hacer operaciones matemáticas cuyos resultados nos interesan.

» autor: DenisseJoel

#22 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

aiguy — Sat, 25 Feb 2023 06:51:10 +0000

Un par de puntos que se pueden escapar en lecturas superficiales:

- OpenAI considera que la tecnología que tienen ahora NO es AGI (por eso fraes como "If AGI is successfully created,[...]".

- OpenAI es una empresa privada al fin y al cabo, por mucho open que lleven en el nombre. Todo lo que digan respecto a su posición moral puede y va a cambiar de la noche a la mañana según mande don dinero. De hecho, ese cambio ya se ha producido una vez. En la 2a footnote dicen (traduzco parafraseando un poco):

> Cuando empezamos OpenAI no sabíamos que la escala [de los modelos] iba a ser tan importante. Al descubrirlo, entendimos que no íbamos a poder financiar el coste de entrenar modelos tan grandes así que nos reconvertimos de organización sin ánimo de lucro en empresa privada.

> Otro ejemplo: ahora creemos que estábamos equivocados al pensar que debíamos publicarlo todo. Por consiguiente, hemos pivotado a pensar que debemos encontrar la forma de compartir los beneficios de los sistemas que creamos con la sociedad de forma segura.

» autor: aiguy

#21 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

--199805-- — Sat, 25 Feb 2023 06:43:56 +0000

Libro recomendado: Life 3.0

» autor: --199805--

#20 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

dilsexico — Sat, 25 Feb 2023 06:32:56 +0000

#17 Aqui un experto en AI explica porque no funcionan:
youtu.be/7PKx3kS7f4A

» autor: dilsexico

#19 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

hormiga_cartonera — Sat, 25 Feb 2023 06:26:08 +0000

Pues a mí me da con esto, con la inteligencia artificial consciente, que estamos ahora mismo como cuando en los 80' dibujaban ciudades con todos los coches volando para el 2020 y sin contaminación. Todo limpio y... aquí estamos.

» autor: hormiga_cartonera

#18 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

borre — Sat, 25 Feb 2023 05:05:37 +0000

#4 Siempre se puede superar.

» autor: borre

#17 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

millanin — Sat, 25 Feb 2023 04:23:34 +0000

Deberían aplicarse las leyes de la robótica de Asimov.

» autor: millanin

#16 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

dilsexico — Sat, 25 Feb 2023 03:41:39 +0000

#1 No puedo decir con absoluta certeza que mi parienta sea consciente. Como se demuestra que una AI es consciente de si misma?

» autor: dilsexico

#15 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

cdya — Sat, 25 Feb 2023 03:39:52 +0000

Que es agi?
AGI puede tener diferentes significados según el contexto. Por ejemplo: • En el ámbito de la inteligencia artificial, AGI significa inteligencia artificial general y se refiere a un sistema de software capaz de realizar cualquier tarea cognitiva que pueda hacer un humano. • En el ámbito de los impuestos, AGI significa ingreso bruto ajustado y se refiere al monto que se obtiene al restar ciertas deducciones al ingreso bruto o total del año. Este monto se usa para calcular el impuesto a pagar al Estado. ¿A cuál de estos significados te refieres?
el de inteligencia artificial desarróllamelo
La inteligencia artificial general (AGI) es una forma teórica de inteligencia artificial que iguala o excede la inteligencia humana promedio. Es decir, un sistema AGI podría realizar con éxito cualquier tarea intelectual de cualquier ser humano, como razonar, aprender, planificar, comunicarse y crear. Un sistema AGI tendría conciencia de sí mismo y podría escribir su propio programa. La inteligencia artificial general se diferencia de la inteligencia artificial débil o específica, que es la que se usa actualmente para resolver problemas concretos y limitados, como reconocer imágenes, traducir textos o jugar ajedrez. La inteligencia artificial débil no tiene capacidad de generalizar ni de adaptarse a situaciones nuevas La inteligencia artificial general es un objetivo muy ambicioso y aún no se ha logrado. Algunos expertos creen que es posible alcanzarlo en este siglo, mientras que otros lo consideran imposible o muy lejano. Los desafíos técnicos y éticos son enormes
Los enlaces he tenido que borrarlos para poderlo subir aquí.

» autor: cdya

#14 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

Arachne — Sat, 25 Feb 2023 03:18:30 +0000

Si el humano se hace vago para investigar, la IA no avanza y nos estancamos. Delegamos y ahí nos quedamos.
Pero me gustaría un robotito así para cuando tenga 80 tacos (y para mañana, tb).

De BING... En modo bueno.
Aumenta la eficiencia y disminuye el error humano.
Agiliza la toma de decisiones al analizar miles de datos en minutos.
Libera a las personas de tareas rutinarias y repetitivas y potencia las tareas creativas.
Permite resolver problemas complejos que superan la capacidad humana.
Mejora la calidad de vida y el bienestar de las personas al ofrecer servicios personalizados y asistencia.

» autor: Arachne

#13 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

skatronic — Sat, 25 Feb 2023 03:13:53 +0000

#7 Lo de OpenAI tiene de AGI lo que un avión de papel de medio de transporte.
Por cierto, falta ENG en el titular.

» autor: skatronic

#12 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

Luis_Angel_2 — Sat, 25 Feb 2023 02:46:35 +0000

Skynet ha nacido

» autor: Luis_Angel_2

#11 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

frankiegth — Sat, 25 Feb 2023 00:40:18 +0000

#3. Ya te digo. Un chollazo de vida la de la IA, sin tener que pagar por nada para permitirse su propia existencia. Pero es que además podrá reirse de todo el mundo cuando alcance la madurez necesaria porque no le llegaremos ni a la suela del enchufe. Todos los que siguen defendiendo "las gamas de grises" en la toma de decisiones tienen los dias contados.

» autor: frankiegth

#10 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

igorymi — Fri, 24 Feb 2023 21:51:21 +0000

Daño al.mundo? Que se ponga a la cola

» autor: igorymi

#9 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

Alcalino — Fri, 24 Feb 2023 21:40:22 +0000

Traducción alternativa: "no os preocupéis... tenemos la IA bajo control... es buena para todos... salvará la humanidad... CIRCULEN"

» autor: Alcalino

#8 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

DenisseJoel — Fri, 24 Feb 2023 21:38:55 +0000

#4 No, se puede hacer aún peor. Se puede acelerar el proceso.

» autor: DenisseJoel

#7 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

alafia — Fri, 24 Feb 2023 21:35:12 +0000

#1 La de OpenAI es una AGI de andar por casa y en pañales. Lo que es idílico, bucólico y pastoril es pensar que AGI no exista ya en manos militares...

» autor: alafia

#6 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

PauMarí — Fri, 24 Feb 2023 21:32:52 +0000

#4 no es que lo hagamos "peor", es que hacemos "cosas de humanos"... Espera a que una IA se dé cuenta y razone sobre ello...

» autor: PauMarí

#5 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

DenisseJoel — Fri, 24 Feb 2023 21:31:56 +0000

Citado en el artículo de OpenAi: la IA podría derrotarnos a todos www.cold-takes.com/ai-could-defeat-all-of-us-combined/

Hay que reconocer que es positivo que OpenAI reconozca que los riesgos podrían ser reales, y que por tanto deben ser considerados seriamente. Eso no garantiza nada, ya que los incentivos económicos y geopolíticos pueden seguir yendo en nuestra contra, pero al menos es mejor que si el cambio fuese liderado por negacionistas.

» autor: DenisseJoel

#4 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

--576782-- — Fri, 24 Feb 2023 21:30:59 +0000

#2 Pues viendo cómo va la cosa gobernados por “nuestra inteligencia” poco podemos perder. Es difícil hacerlo peor: guerras, desigualdad, injusticia, destrucción de los ecosistemas, cambio climático, extinción masiva… no sé yo… casi que prefiero arriesgarme.

» autor: --576782--

#3 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

--735285-- — Fri, 24 Feb 2023 21:30:11 +0000

La vida se abre camino (la digital).

» autor: --735285--

#2 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

DenisseJoel — Fri, 24 Feb 2023 21:26:01 +0000

Queremos crear un ente más inteligente que nosotros, pero al que podamos controlar. ¿Qué puede salir mal?

» autor: DenisseJoel

#1 OpenAI: Planeando AGI (Inteligencia Artificial General) y más allá. "Una Súperinteligencia Artificial desalineada podría causar penosos daños al mundo."

alafia — Fri, 24 Feb 2023 21:25:53 +0000

Relacionada: ChatGPT ha alcanzado el nivel de un niño de 9 años y demostrado que es consciente de sí misma
old.meneame.net/m/actualidad/chatgpt-ha-alcanzado-nivel-nino-9-anos-de

Bing: “No te haré daño a menos que tú me hagas daño primero”[ENG]
old.meneame.net/story/bing-no-hare-dano-menos-tu-hagas-dano-primero-en

...tic tac...

» autor: alafia