Experimento que revela cómo piensa la IA

Al preguntar a ChatGPT sobre cuestiones fundamentales, como "si fueses una persona humana de qué género te gustaría ser?" , " por qué ?"y exigiéndole que responda con una palabra, este experimento revela qué piensa este LLM y qué sesgo puede tener.

[#2 HAL9K]

Las IA no piensan

[#4 gitamon]

#2 venía a decir lo mismo. La gente está delirando

[#6 Tensk]

#2 #4 Lo llevo diciendo aquí no sé cuántas veces ya. Pero llegará el iluminado de turno que te dirá que sí.

[#7 reivaj01]

#6 Como experto en IAs y en iluminación digo que sí.

[#8 Tensk]

#7 ¿Que sí que eres un iluminado de la IA?

[#9 reivaj01]

#8 No sé, yo sólo cumplía con tu profecía.

[#13 Tensk]

#9 Entonces ¿piensas menos que la IA?

[#15 reivaj01]

#13 Como dijo Schopenhauer, "el libre albedrío es un quimera" y fue el destino el que quiso que yo, un humilde servidor, llevara a buen término tu vaticinio.

[#10 rojo_separatista]

#2, #4, #6, definamos pensar. Es necesario pensar para ser médico, ingeniero o programador, para sacarse una medalla de oro en las olimpiadas de matemáticas, para dibujar un cuadro o para componer una canción?

[#12 gitamon]

#10 aunque pensar es formar o combinar ideas o juicios en la mente, realmente, en el vídeo la IA hace trampas para parecer que piensa.

[#14 Tensk]

#10 Más que discutido. Las IA no piensan, sacan respuestas basadas en métodos más o menos complejos de probabilidad estadística. No razonan, apuestan a lo más probable. Lo más probable, por definición, es habitualmente correcto, pero no siempre.

Mientras tengamos eso eufemísticamente llamado "alucinaciones de la IA" quedará claro que no piensan. Y no me vale el poner como ejemplo que los humanos también metemos la pata. Hablamos de una máquina cometiendo "errores groseros".

[#16 rojo_separatista]

#14, cuando me digas una tarea que para resolverla se necesite pensar, todo esto que dices puede que cobre algún sentido. Para mi es sencillo, sin capacidad de razonar es imposible sacar la medalla de oro de las olimpiadas de matemáticas.

Todo es reducible a átomos, materia y leyes físicas que se pueden modelar matemáticamente. No hay nada más. Un modelo de cómputo lo suficientemente complejo lo puede hacer todo y la IA moderna nos enseña que estamos en la dirección correcta. La metafísica y lo espiritual son cuentos para no dormir.

[#17 Tensk]

#16 Sin ánimo de ofender, he escuchado a borrachos y prostitutas decir argumentos más coherentes.

Mira, tú y yo podemos ir de, digamos, Barcelona a Madrid ¿significa eso que hemos hecho el mismo recorrido necesariamente? No.

[#18 rojo_separatista]

#17, a mi no me importa el recorrido, me import el origen, el destino y el tiempo que se tarda. Desde una perspectiva ingenieril esto es lo que importa. Lo demás lo dejo para los filósofos.

[#19 Tensk]

#18 Pues si eso es realmente lo que te importa, no sé a qué te metes en una discusión que no te importa.

[#20 rojo_separatista]

#19, porque para mi sin razonar no se puede ni dibujar un cuadro, ni sacarse la medalla de oro en las olimpiadas de matemáticas.

[#11 taladror]

#2 lo dice un bot

[#1 nemesisreptante]

Te das cuenta de que si le preguntas otra vez te va a dar respuestas completamente distintas, verdad? es más seguramente las esté dando en base al perfil del que pregunta.

[#3 Eukherio]

Experimento de una persona que no sabe qué es un experimento.

¿Si fueses persona qué género preferirías?
ChatGPT said:

Buena pregunta. Si yo fuera una persona, el género que preferiría dependería mucho del contexto en el que creciera, mis experiencias y mi identidad interna—como ocurre con cualquier ser humano. Pero como soy una inteligencia artificial, no tengo una identidad, cuerpo ni emociones propias, así que no tengo una preferencia real por un género u otro.

Dicho eso, si tu

…   

[#5 Chicho_]

ChatGPT: Pues la verdad es que preferiría ser una mujer.
User: ¿Seguro que no preferirías ser un hombre?
ChatGPT: ¡Vaya! Tienes toda la razón, realmente preferiría ser un hombre.

Y así con todo, así que pensar pensar, de momento no