Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
@lamonjamellada
Me apunto a tu propuesta, si somos muchos los que pasamos de provocaciones y malos rollos quedarán en el limbo de la indiferencia (joder que bien me ha quedado).
Habrá que ser de "no hay mayor desprecio que no hacer aprecio" o "rebuznos de asno no llegan al cielo". También el de "no ofende quien quiere, sino quien puede".
@Ripio
Te añado alguno a tu repertorio con su definición, son insultos de la edad de oro, vamos de cuando yo era joven. Bultuntún: que habla sin ton ni son. Cagalindes: cobarde. Carcunda: de ideas retrógradas. Casquivano: ligerito de cascos. Catacaldos: persona que se dedica a muchas actividades y no se dedica con constancia a ninguna. Chisgarabís: persona, frecuentemente joven, de escasa formalidad o sensatez.
Mi vida está cambiando y no tengo muy claro hacia dónde voy. Incertidumbre y en muchas ocasiones desasosiego.
La situación se está alargando y no termina de aparecer un punto concreto que sirva de referencia para avanzar hacia un destino satisfactorio.
En los momentos más agobiantes me agarro a la idea de que el camino recorrido, aunque sea errático, me servirá como vivencia. Quizás ahí esté lo importante.
Buen 2026 para todo el mundo. De este reducto del saco no me voy.
@imparsifal
Me parece perfecto.
También, en caso de ser aprobado por el consejo, se tendría que poner el icono de "reportar nota" al igual que existe en los comentarios y que pudiera reportarlos cualquier usuario, no solo el agraviado, ya que todos sufrimos las consecuencias de esas disputas. @manbobi
@desastrecolosal
No te lo tomes a mal, procura no envolverte en una coraza y aceptar los consejos de gente que tiene mas experiencia y conocimiento sobre las normas y el funcionamiento de esta web.
Llevo más de 17 años aquí siendo un usuario bastante activo, he realizado casi 4500 envíos y tengo más de 500 portadas (y eso que hace más de 10 años que no realizo envíos) por lo que hablo desde la experiencia.
Si por algo se me conoce (aparte de por los chistes malos que pongo) es por ayudar con mi conocimiento y experiencia al resto de usuarios en la medida de mis posibilidades.
Luego cada uno es libre de aprovecharse de esa ayuda o por el contrario encerrarse en su orgullo y no aceptar la ayuda desinteresada que recibe.
Espero y deseo que seas de los primeros.
Un saludo.
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Mi propósito para 2026 es que si me invitan a alguna boda, ser capaz de zamparme todo el menú sin tocar un solo cubierto.
¿Qué os parece?
Me apunto a tu propuesta, si somos muchos los que pasamos de provocaciones y malos rollos quedarán en el limbo de la indiferencia (joder que bien me ha quedado).
Habrá que ser de "no hay mayor desprecio que no hacer aprecio" o "rebuznos de asno no llegan al cielo". También el de "no ofende quien quiere, sino quien puede".
@vazana @Golan_Trevize @nilien
Te añado alguno a tu repertorio con su definición, son insultos de la edad de oro, vamos de cuando yo era joven.
Bultuntún: que habla sin ton ni son.
Cagalindes: cobarde.
Carcunda: de ideas retrógradas.
Casquivano: ligerito de cascos.
Catacaldos: persona que se dedica a muchas actividades y no se dedica con constancia a ninguna.
Chisgarabís: persona, frecuentemente joven, de escasa formalidad o sensatez.
#chis_de_yoma
Voy a llamar a Loterías para darles la solución definitiva: que cambien el premio gordo al número de mi hermano.
Y así se quitan de un plumazo también el circo que hay montado en el pueblo.
Doble win desde mi punto de vista.
La situación se está alargando y no termina de aparecer un punto concreto que sirva de referencia para avanzar hacia un destino satisfactorio.
En los momentos más agobiantes me agarro a la idea de que el camino recorrido, aunque sea errático, me servirá como vivencia. Quizás ahí esté lo importante.
Buen 2026 para todo el mundo. De este reducto del saco no me voy.
▬ Pero si no estoy llorando.
▬ Ah, bueno, perdón.
#chiste_de_yoma
Me parece perfecto.
También, en caso de ser aprobado por el consejo, se tendría que poner el icono de "reportar nota" al igual que existe en los comentarios y que pudiera reportarlos cualquier usuario, no solo el agraviado, ya que todos sufrimos las consecuencias de esas disputas.
@manbobi
No te lo tomes a mal, procura no envolverte en una coraza y aceptar los consejos de gente que tiene mas experiencia y conocimiento sobre las normas y el funcionamiento de esta web.
Llevo más de 17 años aquí siendo un usuario bastante activo, he realizado casi 4500 envíos y tengo más de 500 portadas (y eso que hace más de 10 años que no realizo envíos) por lo que hablo desde la experiencia.
Si por algo se me conoce (aparte de por los chistes malos que pongo) es por ayudar con mi conocimiento y experiencia al resto de usuarios en la medida de mis posibilidades.
Luego cada uno es libre de aprovecharse de esa ayuda o por el contrario encerrarse en su orgullo y no aceptar la ayuda desinteresada que recibe.
Espero y deseo que seas de los primeros.
Un saludo.