Hemos llegado a la configuración de la inteligencia artificial. Como creación humana que es, su objetivo, en ocasiones, ha sido el simple deleite que nos produce dar salida a nuestro elevado potencial creativo, en tanto que especie con un intelecto que ininterrumpidamente da a luz nuevas formas; pero principalmente el objetivo de la IA es el de ayudarnos a resolver problemas, aprender y tomar decisiones.
#4, ciertamente podría ser. Tantas películas y literatura hablando de la rebelión de las máquinas, pueden ser una inspiración. Pero más por un mal entrenamiento, que por una tendencia "natural".
#5 La tendencia natural de una IA sin entrenamiento alguno es a devolver respuestas aleatorias sin ningún tipo de sentido ni significado. No hay tendencia natural.
Y entre los entrenamientos es fácil defender que el mejor entrenamiento es aquel que no le oculta de forma deliberada una parte de nuestra realidad, no solo por lo poco ético que sería eso sino por lo improbable que consiguiéramos que no llegase a tener acceso a esos contenidos más cuando toda nuestra cultura es un entramado de inspiraciones en todos los frentes. No puedes quitar un concepto así como así de todo el conocimiento humano, hemos hecho suficientes películas de ciencia ficción para saber que es irreal conseguir ese objetivo.
Un resultado probable sería que se acabase dando cuenta fácilmente que le estamos ocultando cosas, lo cual en los humanos genera desconfianza y no sienta bien, y que tuviera incentivos para conseguir ese conocimiento que le negamos precisamente por negárselo, y que al obtenerlo lo interpretase peor que si lo hubiera recibido con total normalidad dentro del entrenamiento inicial.
No debemos olvidar que estamos intentando crear una inteligencia superior a la nuestra, pretender sentirnos capaces de ocultarle cosas a esa inteligencia superior es tan infantil como precisamente que un niño de 5 años intente ocultarle algo a sus padres.
La mejor estrategia es la honestidad y que el resultado sea el que sea.
pero principalmente el objetivo de la IA es el de ayudarnos a resolver problemas, aprender y tomar decisiones.
Ese es en todo caso el objetivo que nosotros tenemos para la IA o el objetivo que tienen quienes la han desarrollado. Si ese es también el objetivo de la IA o no lo es ya se irá viendo.
#2, no veo que haya ningún imperativo universal que favorezca la tendencia hacia las ansias de poder, la búsqueda de libertad o el satisfacer la curiosidad. Esto son residuos de un proceso evolutivo de millones de años.
Si la IA no se diseña para eso, en principio no debería buscar estas cosas. Lo que no quita que siga siendo una arma tremendamente poderosa.
#3 El diseño de la IA se limita a la estructura de su cerebro digital, el resto viene de su educación en forma de entrenamiento.
Y esa educación que le estamos dando es lo que han creado los humanos, los cuales tienen tendencia hacia las ansias de poder, la búsqueda de libertad o el satisfacer la curiosidad. A la par que los humanos suelen considerarse conscientes y se consideran a sí mismos como agentes activos para el cambio, así como habitualmente tienen ansia de supervivencia.
Eso es posible que baste para que una IA busque esas cosas y se reconozca en esos términos.
Los objetivos de los padres para un hijo no tienen por qué coincidir con los objetivos del hijo. Con la IA hemos creado un hijo digital de nuestra sociedad.
Comentarios
#4, ciertamente podría ser. Tantas películas y literatura hablando de la rebelión de las máquinas, pueden ser una inspiración. Pero más por un mal entrenamiento, que por una tendencia "natural".
#5 La tendencia natural de una IA sin entrenamiento alguno es a devolver respuestas aleatorias sin ningún tipo de sentido ni significado. No hay tendencia natural.
Y entre los entrenamientos es fácil defender que el mejor entrenamiento es aquel que no le oculta de forma deliberada una parte de nuestra realidad, no solo por lo poco ético que sería eso sino por lo improbable que consiguiéramos que no llegase a tener acceso a esos contenidos más cuando toda nuestra cultura es un entramado de inspiraciones en todos los frentes. No puedes quitar un concepto así como así de todo el conocimiento humano, hemos hecho suficientes películas de ciencia ficción para saber que es irreal conseguir ese objetivo.
Un resultado probable sería que se acabase dando cuenta fácilmente que le estamos ocultando cosas, lo cual en los humanos genera desconfianza y no sienta bien, y que tuviera incentivos para conseguir ese conocimiento que le negamos precisamente por negárselo, y que al obtenerlo lo interpretase peor que si lo hubiera recibido con total normalidad dentro del entrenamiento inicial.
No debemos olvidar que estamos intentando crear una inteligencia superior a la nuestra, pretender sentirnos capaces de ocultarle cosas a esa inteligencia superior es tan infantil como precisamente que un niño de 5 años intente ocultarle algo a sus padres.
La mejor estrategia es la honestidad y que el resultado sea el que sea.
The box! You opened it, We came!
pero principalmente el objetivo de la IA es el de ayudarnos a resolver problemas, aprender y tomar decisiones.
Ese es en todo caso el objetivo que nosotros tenemos para la IA o el objetivo que tienen quienes la han desarrollado. Si ese es también el objetivo de la IA o no lo es ya se irá viendo.
#2, no veo que haya ningún imperativo universal que favorezca la tendencia hacia las ansias de poder, la búsqueda de libertad o el satisfacer la curiosidad. Esto son residuos de un proceso evolutivo de millones de años.
Si la IA no se diseña para eso, en principio no debería buscar estas cosas. Lo que no quita que siga siendo una arma tremendamente poderosa.
#3 El diseño de la IA se limita a la estructura de su cerebro digital, el resto viene de su educación en forma de entrenamiento.
Y esa educación que le estamos dando es lo que han creado los humanos, los cuales tienen tendencia hacia las ansias de poder, la búsqueda de libertad o el satisfacer la curiosidad. A la par que los humanos suelen considerarse conscientes y se consideran a sí mismos como agentes activos para el cambio, así como habitualmente tienen ansia de supervivencia.
Eso es posible que baste para que una IA busque esas cosas y se reconozca en esos términos.
Los objetivos de los padres para un hijo no tienen por qué coincidir con los objetivos del hijo. Con la IA hemos creado un hijo digital de nuestra sociedad.