Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
@angelitoMagno Me imagino a Feijóo pidiéndole a la IA que le redacte un mensaje de condolencias y pegándolo en Twitter tal cual... No tengo pruebas pero tampoco dudas.
Llevo currando en informática desde 1996 y estoy ahora mismo con casi 49 años planteándome echar las oposiciones a celador para poder hacer mis ocho horas y olvidarme por una puñetera vez en mi vida.
«Sid Meier's Civilization VI: Platinum Edition es el punto de partida perfecto para los jugadores de PC que aún no hayan disfrutado del adictivo sistema de juego que ha convertido a Civilization en una de las grandes sagas de videojuegos de todos los tiempos.»
Cosas extraordinarias que pasan en mi país: Acabo de escuchar en la radio (yo ya estoy muy viejo y escucho las noticias en la radio... cosas de una persona que ya ha caducado)... en fin... que un individuo (sicario) condenado por un asesinato le pidió el favor al abogado (que lo defiende) que si le podía cobrar a los que lo mandaron a matar a la victima... que necita el dinero. Por si no me creen: www.wradio.com.co/2025/07/02/asesino-de-periodista-presiona-a-defensor
Canción favorita: "Amarte es un GENOCIDIO".
Serie de televisión favorita: "Canción triste de GENOCIDIO Street".
Película favorita: "Lo que el GENOCIDIO se llevó"
Libro favorito: "Yo, GENOCIDA".
@Ah_no_nimo@g3_g3 Error de capa 8, problema del interfaz silla-teclado, problema de USB (Usuario Super Burro), error de BIOS (Bicho Ignorante Operando el Sistema), error 200 entre la mesa y el asiento, fallo del interfaz biológico...
Por cierto, has escrito "imebcil" en vez de "imbécil"...
Qué lista y fiable es la IA. Pregunto por el tamaño comparado de África y Eurasia y me contesta que "Aunque Eurasia es más grande que África, la suma de Norteamérica y Eurasia es menor que la superficie de África".
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
@lamonjamellada Pero tampoco me digas que sí...
@Amperobonus
</peloteo>
@nilien
@Leclercia_adecarboxylata
Llevo currando en informática desde 1996 y estoy ahora mismo con casi 49 años planteándome echar las oposiciones a celador para poder hacer mis ocho horas y olvidarme por una puñetera vez en mi vida.
@dogday @DrToxic @Zoidborg
"Sid Meier's Civilization VI: Platinum Edition", gratis en la Epic Store desde hoy a las 17:00 hasta el jueves 24/07/2025 a las 17:00
store.epicgames.com/es-ES/p/sid-meiers-civilization-vi--platinum-editi
#NoVullPagar
¡Corred, insensatos!
CC: @Ajusticiator @Apostolakis @automatix @carakola @Cesc_ @Cmenta @DrToxic @El_Clonde_Drácula @el_de_la_silla_de_tijera @ElPerroSeLlamabaMisTetas @FrayM @Gol_en_Contra @jorgito @JoulSauron @nilien @orangutan @pkreuzt @repapaz @RickDeckard @sacaelwhisky @Teary @tnt80 @Wayfarer @Xtrem3 @Ze7eN @zurditorium
@angelitoMagno
Canción favorita: "Amarte es un GENOCIDIO".
Serie de televisión favorita: "Canción triste de GENOCIDIO Street".
Película favorita: "Lo que el GENOCIDIO se llevó"
Libro favorito: "Yo, GENOCIDA".
Pues mola esta tontada...
Por cierto, has escrito "imebcil" en vez de "imbécil"...
De un tiempo a esta parte me he acabado dando cuenta de que mi padre tenía razón cuando decía que "si los hijoputas volaran no veríamos el cielo".
@Limónycanela
#Umor