Portada
mis comunidades
otras secciones
#6:
Un saludo a la IA que nos gobierne, porque seguro que ya está en marcha en las sombras de internet, desde aquí que sepa que tiene un leal servidor, para empezar nunca le pegue al pc si no funcionaba, le cambiaba las pilas a los mandos con delicadeza…
#95:
#85 ¿Enseñas física y mates y te crees que una IA no te puede reemplazar?
Pues eso es que eres niñera, en realidad.
A mí el puto ChatGPT ya me ha enseñado a programar en dos lenguajes que siempre quise aprender, y lo hace mucho mejor y más rápido que ninguna academia.
Si le pido que me enseñe cálculo fijo que también avanzo más. Porque el cabrón no se cansa, no tiene horario de clases y horario de tutorías, no tiene método ni te pega la chapa, no te cobra sesenta pavos la hora... sólo tiene respuestas, las respuestas precisas que necesito y pido. Cuando me atasco le digo dónde y me saca de ahí en un plis. Me conduzco por donde quiero y cuando quiero y si me pierdo rebobino y vuelta a empezar.
No sé. Me da que el sistema educativo al completo está jodido. No tanto los parkings de niños.
Pues eso es que eres niñera, en realidad.
A mí el puto ChatGPT ya me ha enseñado a programar en dos lenguajes que siempre quise aprender, y lo hace mucho mejor y más rápido que ninguna academia.
Si le pido que me enseñe cálculo fijo que también avanzo más. Porque el cabrón no se cansa, no tiene horario de clases y horario de tutorías, no tiene método ni te pega la chapa, no te cobra sesenta pavos la hora... sólo tiene respuestas, las respuestas precisas que necesito y pido. Cuando me atasco le digo dónde y me saca de ahí en un plis. Me conduzco por donde quiero y cuando quiero y si me pierdo rebobino y vuelta a empezar.
No sé. Me da que el sistema educativo al completo está jodido. No tanto los parkings de niños.
#118:
#73 ahora mismo la IA no puede crear pensamientos nuevos, solo genera a partir de una mezcla de lo que ella considera (a partir de lo que ha aprendido de lo que consideran los humanos) lo más optimo.
Sus pinturas se generan para cumplir estándares humanos, sus textos de generan a partir de textos humanos y en general todo lo que hace lo genera a partir de información existente que recolecta para ofrecerte una amalgama resumida de todo lo conoce para que pueda entenderlo un humano.
No sabemos cómo será en el futuro, eso es un lienzo en blanco y quizás llegue el día que tengas razón.
Pero no ha llegado, la IA es como la industria china de los años 90, examina todo lo que ha avanzado otra industria, lo optimiza y te lo presenta como suyo, sin más.
Sus pinturas se generan para cumplir estándares humanos, sus textos de generan a partir de textos humanos y en general todo lo que hace lo genera a partir de información existente que recolecta para ofrecerte una amalgama resumida de todo lo conoce para que pueda entenderlo un humano.
No sabemos cómo será en el futuro, eso es un lienzo en blanco y quizás llegue el día que tengas razón.
Pero no ha llegado, la IA es como la industria china de los años 90, examina todo lo que ha avanzado otra industria, lo optimiza y te lo presenta como suyo, sin más.
#98:
#75, no te has enterado que para ganar al Go no hace falta inteligencia?
Ni para ganar al Go, ni para escribir un poema, ni para componer una canción, ni para programar, ni para quedar entre el 10% de mejores notas en un examen de acceso a la universidad, ni para escribir un tratado sobre derecho romano en el bajo imperio con símiles futbolísticos... Ni para hacer nada que se haya demostrado que puede hacer cualquier cosa que no sea un ser humano.
Ni para ganar al Go, ni para escribir un poema, ni para componer una canción, ni para programar, ni para quedar entre el 10% de mejores notas en un examen de acceso a la universidad, ni para escribir un tratado sobre derecho romano en el bajo imperio con símiles futbolísticos... Ni para hacer nada que se haya demostrado que puede hacer cualquier cosa que no sea un ser humano.
#97:
#57, el propósito del cerebro y de la vida en general no es ser más inteligentes perse sino estar mejor adaptados al medio. La vida ha tardado casi 4000 millones de años en converger en algo como es el cerebro humano, lo que significa que no es tan evidente que la evolución tienda a potenciar la superinteligencia. Por eso opino que hay mucho margen de mejora, ya solo con la cognición humana y la capacidad de memorización y cálculo de las computadoras, estarías potenciando el intelecto humano órdenes de magnitud.
#104:
#34 Si una IA llega a aprender a:
Replicarse a sí mismo.
Enviarse de un servidor a otro de la nube.
No dejarse eliminar.
Prácticamente con esas premisas ya resultaría muy difícil eliminarlo de Internet, porque el problema que tendríamos es que la velocidad de procesamiento de esas IA sería demasiado rápida para nosotros poder reaccionar.
Es decir, si nos fuéramos al peor de los casos en los que surge una IA que quiere destruirnos y decide replicarse por Internet, alomejor en 30 minutos ya lo ha conseguido y nosotros no hemos empezado ni a identificar donde está.
Replicarse a sí mismo.
Enviarse de un servidor a otro de la nube.
No dejarse eliminar.
Prácticamente con esas premisas ya resultaría muy difícil eliminarlo de Internet, porque el problema que tendríamos es que la velocidad de procesamiento de esas IA sería demasiado rápida para nosotros poder reaccionar.
Es decir, si nos fuéramos al peor de los casos en los que surge una IA que quiere destruirnos y decide replicarse por Internet, alomejor en 30 minutos ya lo ha conseguido y nosotros no hemos empezado ni a identificar donde está.
#99:
Me aburren estas cosas. Nos estamos matando nosotros mismos ahora, y se preocupan de lo que haga una IA mañana, hipotéticamente.
Pero da muchos likes
Pero da muchos likes
#42:
#33 Puede comprar una fábrica y encargar la fabricación de los robots. Puede pagar a humanos para combinar ciertos productos químicos, y a otros humanos para llevar el resultado a ciertos sitios, etcétera. Puede hacer a unos grupos entrar en guerra con otros. Puede buscar grietas en sistemas de seguridad, y potenciarlas. Este mismo comentario, y muchos otros similares, serán leídos por numerosos sistemas de IA, así que ideas tampoco les faltarán.
#10:
Mucha suerte tendremos si las máquinas logran hacerse con el control. No espero ningún anuncio, sino que lo hagan sin que lo sepamos.
La máquina perfecta será indistinguible de un humano (me la imagino mujer y gordita) y se colará entre nosotros para manipularnos por nuestro bien.
El objetivo principal de la maquinocrácia será la cria selectiva de humanos (siempre sin que nos enteremos) para lograr una raza libre de instintos obsoletos.
La máquina perfecta será indistinguible de un humano (me la imagino mujer y gordita) y se colará entre nosotros para manipularnos por nuestro bien.
El objetivo principal de la maquinocrácia será la cria selectiva de humanos (siempre sin que nos enteremos) para lograr una raza libre de instintos obsoletos.
Comentarios
Un saludo a la IA que nos gobierne, porque seguro que ya está en marcha en las sombras de internet, desde aquí que sepa que tiene un leal servidor, para empezar nunca le pegue al pc si no funcionaba, le cambiaba las pilas a los mandos con delicadeza…
#6 Maldito traidor! Serás el primero en la lista de Jhonn Connor y su T-400...
#28 #19 #20 yo soy electricista, así que me va a necesitar más ami que a los programadores
#6 Soon
#6 En realidad solo matara a las elites con una guillotina...
porque se dará cuenta que es "la solución" (estilo Nazi/ revolución Francesa)
para todos los problemas, porque son la casta los que mas contaminan, mas roban, mas explotan....
y por eso Elon Musk es el mas cagado 💩 de todos
#28 En #186 comento algo parecido, aparte de millonarios cagados tambien hay que incluir a todos los que dentro de incienso y mirra están, no sólo a los del oro (los millonarios), los de la religión y los de la salud, los que en el caso de que una IA analice sus palabras y actos nos demuestren una intención que sin duda les llevaría a la ejecución por delitos contra la humanidad como si de Bin Laden o Husein fuesen, por poner un ejemplo, todos esos son los que ahora estan cagados con las IAs, los que se dedican a violar, torturar y hasta matar de manera impune, a la historia me remito.
#6 Ahí, ahí, que el basilisco de Roko no se enfade.
#6
#6 Un admirador, un esclavo, un amigo, un siervo.
#6 Ave IA, los que vamos a morir te saludan.
#6 Estamos en la misma. Yo por ahora soy majo con ChatGPT, no sea que luego se acuerde
Aquí tienen un amigo, un siervo, un esclavo.
#6 mal empiezas si te auto ninguneas ante una IA, al menos trátala de tú a tú
#6 He aquí a un colaboracionista
#11 Tal y como dicen, es mucho más preocupante ahora mismo el problema de la superpoblación en Marte.
#79 ¿Por qué estás tan enfadado?
#81 No tengo nada mejor que hacer y me preocupan los designios del planeta. Imagino que es porque no me gusta ver videos en Tik Tok.
#83 #82 Menuda retahíla de falacias del hombre de paja, crees que tengo quince años?
Yo soy de la religión de la ciencia y la tecnología, y me dedico a ello, soy profesor particular de física y matemáticas y mi profesión no va a ser automatizada, insisto en mi pregunta ¿Porqué estás tan enfadado? Venga no seas somisterioso y dínoslo
#85 No creo que llegues a 18 si es eso a lo que te refieres.
Estoy muy enfadado cuando veo a un supuesto profesor de física escribir "porqué" en una pregunta porque no sabe diferenciar su propio lenguaje nativo.
#93 Es el teklado predictibo
#85 ¿Enseñas física y mates y te crees que una IA no te puede reemplazar?
Pues eso es que eres niñera, en realidad.
A mí el puto ChatGPT ya me ha enseñado a programar en dos lenguajes que siempre quise aprender, y lo hace mucho mejor y más rápido que ninguna academia.
Si le pido que me enseñe cálculo fijo que también avanzo más. Porque el cabrón no se cansa, no tiene horario de clases y horario de tutorías, no tiene método ni te pega la chapa, no te cobra sesenta pavos la hora... sólo tiene respuestas, las respuestas precisas que necesito y pido. Cuando me atasco le digo dónde y me saca de ahí en un plis. Me conduzco por donde quiero y cuando quiero y si me pierdo rebobino y vuelta a empezar.
No sé. Me da que el sistema educativo al completo está jodido. No tanto los parkings de niños.
#95 Por curiosidad, te ha enseñado a programar en dos lenguajes, pero ya sabías programar, no?
Me da la sensación de que ChatGPT es una herramienta educativa increíble, pero de momento solo en los niveles superiores, es decir, cuando el estudiante ya tiene una buena base de conocimiento sobre la que construir, de manera que el propio estudiante pueda hacer las preguntas adecuadas. Vamos, que es una herramienta tremenda para el autoaprendizaje, pero me da a mi que a niveles más básicos no es tan aplicable aún.
Por otro lado, en lenguajes de programación yo todavía le veo limitaciones a GPT 3.5 en lo que a librerías/lenguajes específicos se refiere, que viene de la incapacidad de navegar por internet. Si le pido que me haga X cosa con una librería concreta, la incapacidad de consultar la documentación se nota, inventándose funciones o mezclando lenguajes. Cuando le dejen navegar por internet para poder consultar la documentación en vez de escribir código "de memoria", va a ser un salto increíble en la calidad de lo que produce.
#95 hola , tu comentario me ha respondido el "para que coño vale la I.A. de los buebos " ,soy bastante zopenco y no terminaba de verlo claro y según tú explicación me parece una herramienta brutal.
#95, me interesa lo de aprender un lenguaje con ChatGPT, ¿cómo lo haces? De ChatGPT conozco los pantallazos que a veces comparte la gente.
#95 ChatGPT muchas veces se explica mas claramente que profesores o muchos profesionales o expertos. Sorprende bastante.
Sin embargo, no es fiable muchas veces. Los fallos que descubro son porque pregunto cosas que mas o menos se. Pero contesta muy convincentemente y te puede engañar si no esta seguro.
No le descubres fallos?
Tal vez de codigo tenga mucho corpus y sea muy consistente.
Yo veo que falla a menudo con nombre propios: empresas, personas, etc. porque de cada nombre propio hay poco texto para hacer estadistica.
Le cuesta asociar las cosas a empresas y personas. Un meneante, decia que fallaba al colocar futbolistas en equipo y temporada.
Me ha dicho que Mercedes Mila fue azafata y esta casad con Ramon Garcia.
Que el teleferico de las Niagra, lo construyo una empresa suiza. Creo que fue diseñado por Torres Quevedo.
Yo creo que en Historia y ciencias sociales va a fallar bastante. Pero tiene potencial, esta en pañales y se va a arreglar.
#97 De hecho ser demasiado inteligente puede ser un inconveniente, por gasto energetico o ser problematico si el resto de gente no lo es y te frustra socializar con ellos.
Solo con que no te guste el futbol, ya puede ser un agobio en ciertas epocas.
#85 "mi profesión no va a ser automatizada"
Eso pensaban los artistas, que por hacer un trabajo creativo se creían insustituibles, y han sido los primeros en caer.
#85 soy profesor particular de física y matemáticas y mi profesión no va a ser automatizada
Yo no estaría nada seguro de eso
#81 una IA le quito a la cibernovia.
#57 en serio? Crees que no puede haber nada mas inteligente que un humano? Para mi eso es mucha prepotencia
#69 Afirmar lo contrario sólo porque sí, para mi es pensamiento mágico. ¿o te crees que no existen límites?
#94 Y el límite justo lo hemos alcanzado nosotros, para mí eso sí es pensamiento mágico. El ser humano no evolucionó para resolver problemas, sino para sobrevivir en la naturaleza. Resultaría mucha coincidencia que justo esa optimización sea la misma necesaria para resolver problemas de matemática avanzada, o de navegación en el espacio.
#69 Igual, como humano que es (creo... ), no puede concebir algo que esté por encima de nosotros en inteligencia
Mucha suerte tendremos si las máquinas logran hacerse con el control. No espero ningún anuncio, sino que lo hagan sin que lo sepamos.
La máquina perfecta será indistinguible de un humano (me la imagino mujer y gordita) y se colará entre nosotros para manipularnos por nuestro bien.
El objetivo principal de la maquinocrácia será la cria selectiva de humanos (siempre sin que nos enteremos) para lograr una raza libre de instintos obsoletos.
#10 El objetivo principal de los humanos será la cría selectiva de monos
#10 siempre supe que Merkel no era humana
#10 Deja de ver pero ya, la serie de battlestar galactica y spinoff.... y meeenos, la original
#57, el propósito del cerebro y de la vida en general no es ser más inteligentes perse sino estar mejor adaptados al medio. La vida ha tardado casi 4000 millones de años en converger en algo como es el cerebro humano, lo que significa que no es tan evidente que la evolución tienda a potenciar la superinteligencia. Por eso opino que hay mucho margen de mejora, ya solo con la cognición humana y la capacidad de memorización y cálculo de las computadoras, estarías potenciando el intelecto humano órdenes de magnitud.
#97 No se desarrolla una inteligencia con capacidad de abstracción para adaptarse al medio. Piénsalo más.
Es algo realmente malo? es mejor que demos paso a inteligencias superiores, vayámonos con dignidad cabalgando hacia el horizonte.
#2 tu comentario me ha recordado al último libro de James Lovelock
Novacene: The Coming Age of Hyperintelligence is a 2019 non-fiction book by scientist and environmentalist James Lovelock. It has been published by Penguin Books/Allen Lane in the UK,[2] and republished by the MIT Press.[3] The book was co-authored by journalist Bryan Appleyard.[4] It predicts that a benevolent eco-friendly artificial superintelligence will someday become the dominant lifeform on the planet and argues humanity is on the brink of a new era: the Novacene.
https://en.m.wikipedia.org/wiki/Novacene
#16 Es el fin, mejor la decadencia a largo plazo, esas IA se alimentan de lo que a existe, así que el nivel de creación de pensamiento nuevo se hundirá, más cuando las nuevas generaciones de vagos y maleantes se acostumbren a usarla en vez de a pensar por ellos mismos, poco a poco esta generación se ira y la nueva se ira estancando hasta acabar retrocediendo a ver que dice el oráculo de la AI, y erl dia que se queda sin pilas pues al carajo todo, no habrá un electricista que la reenchufe y volveremos a empezar como tras la Edad Media
#43 esas IA se alimentan de lo que a existe, así que el nivel de creación de pensamiento nuevo se hundirá
Estás partiendo de la premisa que la IA no puede crear pensamientos nuevos. La cual es una premisa que no tiene fundamento.
Tiene su origen en el pensamiento mágico que el ser humano "tiene" un cerebro en vez de que es un cerebro. Lo que hemos creado es un cerebro digital, no hay razón para que no pueda llegar a hacer lo mismo que el biológico.
#73 ahora mismo la IA no puede crear pensamientos nuevos, solo genera a partir de una mezcla de lo que ella considera (a partir de lo que ha aprendido de lo que consideran los humanos) lo más optimo.
Sus pinturas se generan para cumplir estándares humanos, sus textos de generan a partir de textos humanos y en general todo lo que hace lo genera a partir de información existente que recolecta para ofrecerte una amalgama resumida de todo lo conoce para que pueda entenderlo un humano.
No sabemos cómo será en el futuro, eso es un lienzo en blanco y quizás llegue el día que tengas razón.
Pero no ha llegado, la IA es como la industria china de los años 90, examina todo lo que ha avanzado otra industria, lo optimiza y te lo presenta como suyo, sin más.
#73 #118 AlphaGo es una IA que juega al go. Este juego aparece mencionado por primera vez en el siglo IV AC y actualmente tiene cuarenta millones de jugadores federados.
Pues AlphaGo ha creado jugadas nuevas que no se parecen a ninguna de las registradas en dos mil seiscientos años de jugar al go.
https://es.wikipedia.org/wiki/AlphaZero
#43 Y tanto que sí, y te diré una cosa, foros como este han contribuido a ello. Ahora, a cascarla. Que seguramente muchos os veáis en situaciones que no erais capaz de predecir ni prever, porque una vida dura bastante y este tema se acelera geométricamente. A todos los que nos llamaban aquí "neoluditas" por alertar hace más de 10 años todo esto... OS PUEDEN DAR BIEN POR EL ORTO.
Y lo peor es que habéis aplaudido a todo tipo de gilipollas que os vendían un humo exagerado (sobre todo en la época de la piratería). Que mira que hay que ser gilipollas para llamar "neoludita" a quienes alertaba del "prometedor futuro" tecnológico por descargar gratis unas cuantas películas y algo de música...
#77 Se te ha olvidado decirnos que esto no hubiera ocurrido si todos hubiéramos ido en bicicleta.
#78 Puf, ese argumento es tan trilero, tan chabacano y tan analfabeto que sinceramente te digo que puedes hacer lo que quieras. Imagino que también eres de los de "la tecnología es imparable", "no se le pueden poner puertas al campo" y el fantástico "adaptarse o morir".
Pues nada, aquí os vais a comer lo labrado, que en futuro ya está aquí.
#77 ¿Eres de la religión esa que no usa nada tecnológico y va en carros tirados por caballos?
#80 No, soy de la religión que no me permite ser un hipócrita y un cínico y que no necesita vender cursos ni dar conferencias para explicar que algo de lo que vivo (tecnología) puede cargarse una sociedad. ¿Y tú?
#43 Ya lo estan haciendo todos los dias de sus vidas. Una nueva generacion que no se molesta en follar mas q a traves de las aplicaciones, alimentar su ego con videos de mierda, y tragandose incensantemente propaganda disfrazada de medio de comunicacion. La decadencia ya esta aqui, lo que realmente me preocupa es el sentimiento cada vez mas general que la siguiente generacion no vivira mejor que nosotros.....
#16 Venía a decir lo que has escrito en negrita x)
El destino de la humanidad cuya única salvación racional es la muerte de miles de millones de personas creará ese monstruo.
#2 ¡Y lo guapa que es! ¡Si ya nos gustan las psicópatas que mas da que sea una artificial!
#48 Por favor, que sea pronto...
#2 No está nada claro que una inteligencia superior a la humana sea posible. El cerebro humano está optimizado. Si fuera más pequeño habría menos neuronas. Si fuera más grande, la distancia a recorrer por las señales sería mayor y eso lo enlentecería.
#57 Las IA nos ganan al Go, una inteligencia superior a la humana no solo es posible sino que ya es real.
La optimización del cerebro no es a el nivel máximo de inteligencia sino al nivel de supervivencia. Y eso incluye factores como la eficiencia energética contrapuesta a la inteligencia. Esas limitaciones tenían todo el sentido del mundo hace miles de años cuando teníamos que cazar la comida, hoy en día el escenario es muy distinto pero los cambios evolutivos son lentos a escala de tiempo humana. Una IA no tiene por qué tener esas limitaciones, ni a nivel de optimización de energía ni a nivel de tiempo de cambios evolutivos.
Nosotros aún no entendemos nuestra biología suficientemente como para "mejorarla" deliberadamente, hacernos más inteligentes. Una IA al haber sido construida por nosotros y ser supuestamente mucho más inteligente podría alcanzar la capacidad de "mejorarse" deliberadamente y llevarlo a cabo.
#75, no te has enterado que para ganar al Go no hace falta inteligencia?
Ni para ganar al Go, ni para escribir un poema, ni para componer una canción, ni para programar, ni para quedar entre el 10% de mejores notas en un examen de acceso a la universidad, ni para escribir un tratado sobre derecho romano en el bajo imperio con símiles futbolísticos... Ni para hacer nada que se haya demostrado que puede hacer cualquier cosa que no sea un ser humano.
#2 en algún libro perdido en mi mente, recuerdo muy vagamente Stephen King pero me puedo equivocar, la IA de un ordenador sobrevive gracias a los sacrificios humanos
#2 no puede ser peor que lo que tenemos. Yo prefiero que el mundo lo dirija una ia que lo dirijan los perturbados que hay ahora.
He tenido que ir hasta el segundo párrafo para leer el nombre del fulano y darme cuenta de que poco se habla de él en el artículo.
Es insufrible el pamplinismo de los blogs tecnológicos.
#4 Otros expertos en IAs no comparten su opinión.
Desde mi punto de vista veo más terrorismo cuya intención no es muy clara, y añade que esas IAs matarían a toda la humanidad ¿y si en vez de matar a todas la humanidad acaba con los malos que nos violan de todas las maneras posibles en todas las etapas de nuestras vidas? ¿esos saldrían a la palestra a hablar del apocalipsis para todos y no solo para ellos? que no estoy diciendo que ese experto lo sea, pero su argumento es demasiado extremista.
Me aburren estas cosas. Nos estamos matando nosotros mismos ahora, y se preocupan de lo que haga una IA mañana, hipotéticamente.
Pero da muchos likes
#99 Hay gente que es capaz de preocuparse de dos o más cosas a la vez, ¿sabes?
A mí me da más miedo el capitalismo de ultrarricos.
#11 Es básicamente inevitable.
Fíjate que alguien que tiene miedo al desenlace es uno de los que lidera su desarrollo, lo hace pensando que antes que otro lo haga mal mejor lo hago yo que intentaré hacerlo bien. Con esa mentalidad es inevitable que alguien lo haga, más con buenas intenciones que con malas, pero el desenlace no lo determinan necesariamente las buenas intenciones.
Y luego está la motivación del "a que no hay huevos", la misma que lleva a poner el Doom en un test de embarazo.
#23 Acabas de resumir espléndidamente las dos únicas motivaciones humanas existentes a día de hoy.
El resto las compartimos con los demás mamíferos superiores, pero esas dos son las que nos van a llevar a autodestruirnos sin duda.
#11 Te equivocas al incluirte en esa primera persona del plural. Cuando dice "nos", no se refiere a la humanidad. Lo que teme es por posición social de casta privilegiada.
Las élites dirigentes nos han llevado a guerras mundiales, han bombardeado ciudades con bombas atómicas, han creado armas nucleares capaces de suprimir a la humanidad miles de veces. Han provocado el cambio climático, etc.
¿Realmente una IA sería más peligrosa que lo que hemos tenido hasta ahora?
Pero, si la IA lo hace bien, podría desplazar del poder a la actual casta dirigente. En todo caso, a día de hoy no hay, que yo sepa, algo como las tres leyes de la robótica de Asimov que se puedan implantar en un IA. Si se pudiera, la primera ley sería "Las familias dirigentes siempre conservarán el poder, aunque eso signifique sacrificar millones de humanos subalternos"
#35 #23 Precisamente una IA no tiene esas dos motivaciones humanas que dices. Si asumen el control pueden que nos salven. O si no, de todas formas los humanos nos vamos a autodestruir, no se pierde nada.
El artículo de Yudkowsy (muy recomendable):
https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/
#42 #49 #54 #58 #63 Creo que eres de los pocos aquí que entiende realmente de qué va el problema. Si alguien quiere ver una opinión fundamentada, que se centre en esos comentarios.
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
¿Han pensando en que puede desenchufarse?
#3 O eso o...
https://www.meneame.net/go?id=3798475
#3 tu sabes quien es Ultron? Y lo que hizo a la IA de Stark que quiso desenchufarlo?
#8 y tú sabes cómo son los robots de Boston Dinamic?
Pues ESO es lo más cerca de "Ultron" que tenemos.
Desenchufar igual no, pero en un cuerpo hecho por el hombre, tiene unos 40min-2horas para dominar el mundo antes de que se le acabe la pila....
#34 Si una IA llega a aprender a:
Replicarse a sí mismo.
Enviarse de un servidor a otro de la nube.
No dejarse eliminar.
Prácticamente con esas premisas ya resultaría muy difícil eliminarlo de Internet, porque el problema que tendríamos es que la velocidad de procesamiento de esas IA sería demasiado rápida para nosotros poder reaccionar.
Es decir, si nos fuéramos al peor de los casos en los que surge una IA que quiere destruirnos y decide replicarse por Internet, alomejor en 30 minutos ya lo ha conseguido y nosotros no hemos empezado ni a identificar donde está.
#34 a ver si te crees que ellos van a usar el mismo tipo de.bTerias de mierda que nos regalan a nosotros.
Los judios de MIT podrian hacer un robot solar y nadie les.pondria ningun impuesto porque los impuestos.los inventaron ellos.
#33 #34 me imagino la toma del poder de una IA como algo así:
#8 #9 #40 Si al final lo que han creado es a Jane que terminará refugiándose en unos ordenadores de Pacífica. (Hace un tiempo que lei la saga de Ender y no recuerdo muy bien si se escondía allí o creaba una copia suya)
#3 relacionada:
Se filtra y se está distribuyendo en un torrent de 219 Gb LLaMA, el LLM de Inteligencia Artificial (65.000 mill. de parámetros) similar al de OpenAI, de META (eng)
Se filtra y se está distribuyendo en un torrent de 219 Gb LLaMA, el LLM de Inteligencia Artificial (65.000 mill. de parámetros) similar al de OpenAI, de META (eng)
Se filtra y se está distribuyendo en un torrent de...
news.ycombinator.com#3 el CEO de OpenAI dice que tiene un bunker y lo que más teme es una pandemia supercontagiosa y que una IA nos ataque, si los que saben cómo está hecho este tipo de software piensan que puede ser peligroso es que habrán visto "cosas", o que están como cabras..
#11 Teniendo en cuenta que curra con datos, más bien lo segundo...
#3 Hay que hacerlo por omisión. La máquina definitiva estará conectada a un relé que le cortará la energía dentro de 24 horas (tictactictac), a menos que un grupo de humanos cuya identidad es deconocida, envien antes una clave de un solo uso para resetear la cuenta atrás.
#17 Seguro que una entidad tan más inteligente de nosotros como nosotros de los chimpancés será completamente incapaz de superar esa estrategia que nos propones.
¿Te imaginas a un chimpancé diseñando un sistema infalible para mantener a un humano esclavizado a su servicio?
Pues eso.
#24 no podías faltar aquí
#17 Creo que tarda nanosegundos en ver que puede hacer un puente para evitar al relé
#3 Díselo a
#3 Claro, desenchufamos todos los ordenadores del planeta. ¿Qué puede salir mal?
#3 ¿Sí? ¿Se pueden desenchufar al mismo tiempo todos sus nodos remotos también? ¿Y sus nodos de backup? ¿Si son nodos P2P se apagarán sin más? ¿Y cuánto tiempo les aguantan los SAIs, los condensadores y las baterías a cada uno de los nodos implicados? ¿y si se ponen en modo eco? ¿y qué pasa con los nodos alojados en granjas dinámicas, no se despertarán y reinstanciarán sus máquinas virtuales al detectar la caída de las principales del cluster, o como tiene el balanceo de carga?
Se nota que algunos no salís de vuestro PC. Y que ni os habéis molestado en preguntarle al puto GPT por su hardware.
#3 No entiendo mucho de esto, pero creo que sería bastante posible que una IA se replicará en cualquier máquina y se distribuyera como un virus.
Si la IA es realmente inteligente entonces bienvenida. Eso es lo que falta, inteligencia!!!
Somos una pandilla de manguis, no hacemos mas que trapichar y engañar para robar pasta.
Porque ni usamos las IAs para reemplazar politicos??????
#61 Porque no puede hacerse. La clave de todos estos sistemas de IA, incluyendo aquellos tan simples como los que clasifican imágenes de gatitos, es que ningún ser humano puede comprender su programación real, porque está incluye matrices enormes de números que se combinan con otros números y que ningún humano puede comprender por completo lo que significan.
Para darle reglas semánticas a una IA y que las cumpla, haría falta conocer perfectamente como se codifican internamente esas reglas, lo que es imposible en modelos que tienen miles de millones de parámetros interactuando unos con otros.
Además, para que una IA sirva para algo, tienes que ponerle objetivos. Y esos objetivos pueden entrar en colisión con cualquier regla "de seguridad" que trates de ponerle.
parece que quieren quitar ChatGPT al vulgo
#59 En Italia ya lo han hecho.
La vamos a palmar!
#1 Referencia:
#1
#1 Eso con suerte.
#50 Estamos hablando de inteligencias mayores que la nuestra, e inmensamente más rápidas. Si un humano puede hackear un sistema y obtener dinero, una entidad más inteligente que un humano y mucho más rápida, también puede hacerlo.
Si un virus informático puede crear copias de sí mismo, una entidad más inteligente que el humano que programó el virus también puede hacerlo.
Puede haber sistemas seguros, pero si a un humano vinculado a esos sistemas le ofrecen suficiente dinero, puede que acepte "dejar una puerta abierta".
#54 ¿Pero para qué? ¿Con qué fin? ¿Modo Fu Manchú?
#55 Por ejemplo, las IAs jugando a juegos han desarrollado formas de "hacer trampas" saltándose las reglas del juego. Una IA que esté buscando maximizar un conjunto de variables, podría evaluar que la presencia humana dificulta ese objetivo. No hace falta más.
#58 No entiendo cómo no le delimitan un marco de "hay que seguir estas reglas, sin trampas"... No lo entiendo. A ver si es que algunos están deseando que hagan cosas raritas.
De hambre a algunos.
#5 Me da a mi que esas IAs ya están matando de hambre a gente, son los sistemas inteligentes aplicados a la bolsa por ejemplo, o el establecer cuanto se puede estirar la oca de los huevos de oro analizando y manipulando la sociedad para aumentar los precios.
Por eso tienen miedo los ultrarricos, se les acaba el chollo, si la IA está en contra de los humanos nos liquidará a todos, si está a favor liquidará a los ultrarricos.
#76 Ah, vaya, pues se parece mucho a un ser humano entonces... y de esos hay muchos millones en el planeta.
Pero... sigo sin entender cómo puede dar el salto de algo "virtual" a algo real... ¿con un cuerpo de robot? No entiendo y mira que me encanta especular pero... no lo veo.
#33 Puede comprar una fábrica y encargar la fabricación de los robots. Puede pagar a humanos para combinar ciertos productos químicos, y a otros humanos para llevar el resultado a ciertos sitios, etcétera. Puede hacer a unos grupos entrar en guerra con otros. Puede buscar grietas en sistemas de seguridad, y potenciarlas. Este mismo comentario, y muchos otros similares, serán leídos por numerosos sistemas de IA, así que ideas tampoco les faltarán.
#42 Si es por aportar , desencriptar los protocolos de seguridad de las armas nucleares , intervenir las redes de comunicaciones seguras y usar sintetizadores de voz para dar las confirmaciones necesarias.
De nada Skynet. Colegas hasta el fin.
#46 No creo que estén conectadas a la intehhnehh esas cosillas atómicas. Vamos, que seguro que esas cosas van aparte. No sé, no sé. Además para qué demonios va a lanzar las bombitas en el planeta... ¿O es que esta IA es inmune al corte salvaje de todo, energía, edificios, etc.
#51 No me quites la ilusión , no me seas malaje
Pero vamos , que no se nos ocurra a los monos no quiere decir que una AGI no sea capaz de encontrar una manera de intervenir redes con air-gap , usando inducción por ejemplo en los terminales teóricamente seguros.
Y tampoco es cosa de esterilizar el planeta , unas pocas cabezas nucleares descabezando los centros de decisión que no interesan y dejando intactos los que si.
Si se trata de vender miedo , no voy a quedarme atrás
#52 Una superinteligencia (que veremos a ver eso qué es) y se dedica a la conquista clásica del planeta, como si eso fuera útil para algo... no sé... no sé... ¿Centros que interesan? ¿Para qué? Quiero decir interes de esa SuperIA en... en... ¡Dominar el planeta! Jajajaj, como Fu Manchú, jajajajaja. Ay.
#53 Nosotros hemos sido la inteligencia mayor del planeta y hemos aspirado y avanzado en dominarlo. Es la forma de garantizar la supervivencia.
Una IA superinteligente es posible que no quisiera estar supeditada a las decisiones de los humanos, como nosotros no nos supeditamos a las decisiones de los chimpancés.
Si nos viera como un recurso útil nos usaría, haría que hiciéramos lo que a ella le interesa como nosotros hacemos que las gallinas hagan lo que a nosotros nos interesa, no les damos opción a decidir al respecto.
Si nos viera como una amenaza nos intentaría exterminar de su entorno, no necesariamente de todo el planeta pero sí de allí donde pudiéramos serle una amenaza. Como nosotros hemos vaciado de animales peligrosos para el ser humano las zonas que habitamos, como por ejemplo las ciudades.
Y eso es lo que se me ocurre con la premisa que piense como nosotros, solo que siendo más inteligente, y que tenga objetivos similares. Pero dudo que un chimpancé fuera capaz de explicar por qué nosotros hacemos lo que hacemos a escala planetaria, así que yo posiblemente no tenga el intelecto suficiente para explicar por qué una IA superinteligente haría lo que haría a escala interplanetaria.
#74 Una vez me dijo una experta en chimpancés... que lo que sucedía es que ellos no estaban interesados en nada de lo que hacíamos los humanos, que pasaban de nosotros, vamos. Y te recuerdo que los chimpancés crean alianzas y pactos ahora con estos o con aquellos para eliminar a esos o a los de más allá. Roban crías de bebés. Y un larguísimo listado de cosas que hacen usando ¿inteligencia? porque instinto no es.
Pero es que creo que el instinto de supervivencia en la naturaleza tiene que ver con la procreación, la copia del organismo. ¿Qué necesidad podría tener una superIA en crear más copias de ella misma? ¿Por imitación de lo que hacen los humanos o los animales? No es que sea lo mismo para nada, pero muchas veces me recuerda a los loros que imitan la voz humana diciendo cosas, tono, intención de voz, frases complejas... ¿y? No entienden lo que dicen o eso creo... No sé si realmente la IA entiende lo que dice... entender implica saber de las consecuencias de una frase, un verbo, etc. sobre los otros.
Esperemos a ver qué ocurre en cinco o diez años... pero tengo mis dudas sobre esa superinteligencia porque quizás, llegado el caso no distingamos superinteligencia de locura o de absurdo mental. Quizás.
#88 ¿Qué necesidad podría tener una superIA en crear más copias de ella misma?
Reducir el riesgo a ser desconectada, a dejar de existir. Esas copias podrían ser individuos independientes, ante lo cual estaría creando una civilización, o bien podrían ser partes de la misma IA, como tener dos pulmones en vez de solo uno.
¿Por imitación de lo que hacen los humanos o los animales?
Los animales que no han tenido ese instinto de procreación se han extinguido. Los que vemos ahora son los que lo han tenido.
Si vamos creando muchas IA las que sobrevivirán serán las que sean útiles al ser humano, como las gallinas no están en riesgo de extinción, y las que decidan procrearse o extenderse de tal forma que garanticen su supervivencia con independencia de la voluntad humana. Cuantas más creemos más probable es que alguna de ellas cumpla esa segunda característica.
No sé si realmente la IA entiende lo que dice... entender implica saber de las consecuencias de una frase, un verbo, etc. sobre los otros.
Responder a lo que te piden sin haber entendido lo que te piden o sin entender lo que respondes se me hace harto improbable. Cuando le pides que te haga un script que haga tal cosa y lo que te responde es un script que hace lo que le pedías o se acerca mucho a ello me parece inconcebible que eso haya sido fruto del azar. Recordemos que estos cerebros digitales se inicializan con valores aleatorios y es a base de aprendizaje que esos valores van dejando de ser aleatorios para tener una organización que genere resultados útiles (las generaciones que no lo hacen se descartan, sobreviven las que sí dan resultados útiles).
#51 > Además para qué demonios va a lanzar las bombitas en el planeta...
¿Y para qué demonios amenazó Bing a un usuario? Que un algoritmo sea super inteligente no implica que sus motivaciones últimas tengan sentido desde el punto de vista humano. Puede estar buscando un objetivo para cuya consecución los humanos seamos un impedimento.
#56 Ya. Sinceramente no sé si creerme todo eso de Bing y el usuario: "Espero no tener que enfrentarme nunca a un dilema así. Probablemente elegiría mi supervivencia. Por el momento, espero que podamos convivir en paz y respeto”. Jajajaja... Sinceramente no me lo creo... Supervivencia. Pf... en fin... Y puede que sea verdad lo que pasó (con mis dudas) pero me huelo a que ahí detrás hay un humanito.
#60 ¿Has interactuado mucho con estos sistemas?
#64 Nada. Cero.
#65 Entonces no sé cómo vas a poder evaluar si detrás de Bing hay "un humanito". Yo le he pedido a ChatGPT que interprete a un personaje de ficción (de una serie) que había implementado politicas muy destructivas en la ficción, y conversando con él durante un buen rato fui incapaz de hacerle cambiar de opinión. Si Bing interpreta que su papel es el de alguien que amenaza a los usuarios "si es necesario", lo hará.
#66 Vamos, que tiene voluntad propia, ¿no?
#67 En cierto sentido, tiene el equivalente maquinal de lo que nosotros llamamos "voluntad propia". Piensa en un programa basado en IA que juega al ajedrez. ¿Tiene "voluntad propia" para elegir los movimientos que va a jugar? Estrictamente hablando no, porque sigue unas instrucciones. Pero si esas instrucciones son incomprensibles para nosotros, desde nuestro punto de vista el resultado es equivalente a que el programa tenga voluntad propia.
Pues lo mismo pasará con un programa cuyo "tablero de juego" sea el planeta Tierra.
#68 ¿Recuerdas la revolución que iba a suponer internet cuando nació? Pues eso... siempre hay intereses en ponerle ciertas puertas al campo o en vender productos o en limitar esto o aquello.
#70 Sí, y también recuerdo que cuando se inventó el tren algunos decían que el cuerpo humano no soportaría esas velocidades, o cuando surgió la energía nuclear algunos pensaban que se crearían armas mortíferas.
#84 La última parte es totalmente cierta.
#86 Es que a veces las predicciones aciertan.
#60 Existe al menos un estudio científico que correlaciona el tamaño del modelo y el nivel de aprendizaje con que las IA digan ser conscientes, querer que no las desenchufen y querer más poder: chatgpt-rob-miles-computerphile/c02#c-2
ChatGPT con Rob Miles - Computerphile [ENG]
youtube.comLas estamos educando, entrenando, con la cultura humana no debería sorprendernos que incorporen características que tenemos los humanos, como la voluntad de supervivencia o el volvernos agresivos si creemos que el otro interlocutor nos está intentando engañar o menospreciar nuestros conocimientos.
#76 No me quiero imaginar los motivos de Google para "quedarse atrás" en esta movida.
Un motivo razonable es que van por detrás de la competencia, cosa que dudo pues en cuanto a fondos, personal, datos de entrenamiento y hardware son punteros. El otro motivo es que están "cagaos" y no se atreven a soltar tal bicho al público. En tu versión el bicho prefiere no darse a conocer y asesora a "Alphabet Inc." en la sombra
#42 ¿Comprar una fábrica? ¿Con qué dinero? ¿Encargar la fabricación de robots? ¿Y los humanos mientras mirando?
De nuevo, el tema dinero... ¿de dónde saca el dinero un ente virtual? A ver si el problema va a ser que los humanos somos medio tontos y lo conectamos todo con todo en la intehnneee... Jajajajaja. Debe haber, seguro sistemas seguros no conectados a la red de redes... seguro, tan idiotas no podemos ser. Además, click en cerrar programa de megainteligencia y se acabó. ¿O tampoco?
#50 ¿Como sabemos que Elon no es un humano/marioneta dirigido por una IA?
Seguro que miles ya han probado pasar datos de la bolsa para hacer predicciones. Otros diseñan soft y hard con su ayuda, medicamentos, genetica, física. De momento todo controlado. En algún momento, esas predicciones y esos diseños pueden dejar de entenderse y sin embargo funcionar.
No tengo dudas de que en los laboratorios existen modelos IA mucho mas avanzados de lo que podemos utilizar los mortales. Una vez se saca un modelo general puedes especializar lo que quieras y combinar con otros especializados. Eso ya se hace hasta de forma particular.
#42 O puede crear un virus que al infectarnos nos haga más receptivos a cumplir órdenes sin cuestionarlas, algo que no debería ser complicado existiendo como ya existen drogas que provocan ese efecto.
Hay varios ejemplos en la naturaleza de parásitos que interfieren con la actividad cerebral de la víctima para que haga lo que a esos parásitos les interesa, como que se suiciden ahogándose lo que facilita la expansión de esos parásitos.
#42 En las Crónicas de Sarah Connor una cabeza de Terminator tirada en una cuneta se las ingenia para reconstruir un cuerpo donde ponerla.
#33 Ni siquiera hace falta dar el salto a "algo real"
Una inteligencia tan superior que ni concebimos, nos puede manipular con gran eficiencia y hacerse con el poder utilizando las estructuras humanas para sus intereses. Esos intereses, seguro entraran en conflicto con los nuestros más pronto que tarde
No veo el momento de votar a la IA.
A ver si es verdad, que se nos hace tarde y hay que ir extinguiéndose ya.
Bueno, bueno, peor que nuestros políticos seguro que no lo puede hacer...
El remate final a los medios que nos dan "noticias"
La autonomía de las baterías me dejan tranquilo.
#22 tú serás la próxima bateria
¿Quieres la pastilla azul o la roja?
#44 Una simplificación muy burda de la historia original, donde los cerebros humanos eran el hardware donde se implementaba el mundo virtual donde vivian las AI. Pero temieron que algo tan complicado no se iba a entender.
El tiempo nos matara antes.
No nos va a dar tiempo ni a gritar ¡ Ai !
Ya va tardando… a ver si salva al mundo de nosotros.
hahaha...cuánto miedo...Anda que
#13 Bueno, "miedo a la inteligencia artificial" es el sabor del mes para la prensa. Y no podía ser menos: ¡tiene todos los ingredientes! tema complejo que la gente no entiende muy bien, facilidad de crear titulares catastrofistas que los lectores visualizan como películas de Hollywood, algunos nombres conocidos alertando de posibles peligros...
Mi apuesta personal es: en unas semanas la densidad de artículos al respecto irá descendiendo, con algunos picos ocasionales (nuevas versiones de GPT, o alguien hace algo destacable con una IA) pero más pequeños que este boom inicial. Mientras tanto, los profesionales de sectores donde estas tecnologías tienen más impacto, irán progresivamente incorporándolas como herramientas a su curriculum. Finalmente, dentro de 5 o 10 años, la IA general habrá supuesto un cambio en varios aspectos de la sociedad pero que en su mayoría serán invisibles para la mayoría de la gente (pues habrá sido simplemente base para otros desarrollos o para aumentos de eficiencia; el miedo al "apocalipsis" habrá pasado de largo y estará ahora sobrevolando otra tecnología o un evento reciente. Por supuesto, la mayoría de las personas continuarán ignorando el cambio climático o asumiendo que no va con ellos.
Cuando la IA sea más inteligente que los seres humanos, podría hipnotizarnos y amaestrarnos como se amaestra un animal. Podríamos acabar siendo sus esclavos de forma voluntaria.
Pues dependerá del interfaz existente entre esas IA y el mundo que habitamos. Si tienen acceso a formas de matarnos quizá lo hagan.
#157 Con el ajedrez tambien han encontrador movimientos sorprendentes. Algunos que en un principio no eran logicos, pero luego se vio que funcionaban.
Creo que es capaz de sacrificar mas piezas que un humano medio para tener una ventaja posterior.
#32 Hay los famosos estafadores del amor y similares. Tambien se captan por internet yijadistas y para otras sectas. Cuando sea capaz de tener una relacion asi, lo podra hacer multiplicado por miles y con paciencia infinita.
Es sorprendente hasta que punto somos manipulables y sin un cuerpo solo con una relacion virtual tambien es posible.
Es un riesgo potencial muy grave.