Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
A vos te voy a hablar querido @admin que me pusiste un strike por "insultos directos" por responder a "insultos indirectos" que tú humilde capacidad intelectual por lo visto no llega a comprender.
Me chupa un huevo tu Strike, y vos me chupás el otro. Meses viendo cómo uno de los dueños insulta, agrede y menosprecia usuarios pero ahí no tenés la valentía de meter un strike. Ahí calladito la boca dejás pasar todo total nadie se da cuenta de lo que está haciendo.
Meses leyendo comentarios despectivos hacia la ideología de en frente de todo tipo, comentarios que a mí no me vas a ver hacer, pero decirle a alguien "ojalá que la polla que tengas en la cabeza no sea hereditaria" es un insulto directo, sobre todo después de que me trata de vendido.
Ahora podrías meterme otro strike, pero claro, como no se sabe quién sos es difícil acusarme de "insulto directo", es que insultó para allá y justo yo estaba parado ahí podrás decir para justificarlo, todo vale bajo la trompa de Eli últimamente.
Espero que tengas un buen fin de año, y que en 2026 seas menos subnormal que lo que demostraste en 2025.
@angelitoMagno Me imagino a Feijóo pidiéndole a la IA que le redacte un mensaje de condolencias y pegándolo en Twitter tal cual... No tengo pruebas pero tampoco dudas.
Entiendo que hubiera sido suficiente con decir fue admin y que no es necesario ir a rastrear notas antiguas como si alguien lo hubiera o hubiese negado.
Me parece que te tomaste unos cuantos atributos que no te correspondían. Pero es solo mi parecer.
Solo me he limitado a decirle a @desastrecolosal que sí, que cree bien respecto a que tú fuiste admin.
Esto no es cierto, no te limitarse a... Te exidiste un poco me parece.
Claro que tenía otro usuario por aquellos años, y lo sigo teniendo aunque no lo utilizo desde 2018, usuario que no te voy a decir cuál es porque no me ha gustado la forma que has tenido de preguntármelo,
Esa es la diferencia entre vos y yo... Yo sigo con el mismo usuario -y tal vez por eso puedas rastrear mis notas- y vos escondés el tuyo. Claro, seguramente es por la forma en que pregunté. La culpa es mía.
Por otro lado, tampoco hace falta tener un usuario para poder leer lo que ocurre en menéame,
No, pero para saber qué durante un tiempo -y era publico- usé el usuario @seze para mis cosas particulares y este para lo que era admin...
Cuando se habla del mate no se es del todo justo con lo que significa, hay diferencias que son notorias: Por ejemplo los uruguayos no suelen compartirlo, cada uno lo toma a su manera y es su ritual. Los argentinos lo usamos como excusa para compartir un momento.
Y las dos formas son válidas.
Yo suelo usarlo como excusa para encontrarme con algún conocido, saber cómo está... Escucharlo. Y de paso compartir un momento.
Todos los días cuando bajo a la playa a tomar mate le escribo a alguien y le mando esa foto, muy pocas veces la gente no responde al llamado.
¿Vieron que siempre digo que no veo TV?... Bueno, hoy me agarró frío y me metí en la cama, y puse Disney... Me vi un documental sobre El pulpo. Uno sobre pingüinos, uno de delfines y ahora voy terminando uno de elefantes.
Tengo los ojos rectangulares.
Y también por esto es que no miro TV, porque no aprendo a manejar bien mis impulsos con ciertas cosas
Hay gente sola
hay gente abusiva/ egoísta
hay gente que tiene la mente rota.
Para acomodar después las causas o consecuencias
Todos suelen tratar de reclamar casito
Su palabra preferida es YO.
Es una persona tóxica y la gente le rehuye.
Los rotos mentales pues, no es su culpa aunque a veces ponen muy nerviosa a la gente.
Creo que acá hay motivos, causas y consecuencias todo mezclado, también creo que la soledad es un problema que crece en la sociedad, hace un mes leí algo que me impactó, es que la mayoría de las personas menores de 45 no tienen más de 3 amigos, y que las redes sociales ya están creando perfiles con IA para que sigan a la gente, hablen de sus gustos y comenten sus posteos porque ya no se pueden basar en sus contactos para el crecimiento.
Me parece que el tema es un poco más complejo, y lo digo desde mi placentera soledad.
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Si eres de izquierda posiblemente termines en una cárcel de máxima seguridad
Atrapante.
Ahora que todos tienen respuestas tal vez sea el momento de preguntar
Ahora que dicen que nada está bien tal vez sea el momento de disfrutar
Ahora que nos quieren dividir tal vez sea el momento de unirnos.
Feliz 2026 para todos.
A vos te voy a hablar querido @admin que me pusiste un strike por "insultos directos" por responder a "insultos indirectos" que tú humilde capacidad intelectual por lo visto no llega a comprender.
Me chupa un huevo tu Strike, y vos me chupás el otro. Meses viendo cómo uno de los dueños insulta, agrede y menosprecia usuarios pero ahí no tenés la valentía de meter un strike. Ahí calladito la boca dejás pasar todo total nadie se da cuenta de lo que está haciendo.
Meses leyendo comentarios despectivos hacia la ideología de en frente de todo tipo, comentarios que a mí no me vas a ver hacer, pero decirle a alguien "ojalá que la polla que tengas en la cabeza no sea hereditaria" es un insulto directo, sobre todo después de que me trata de vendido.
Ahora podrías meterme otro strike, pero claro, como no se sabe quién sos es difícil acusarme de "insulto directo", es que insultó para allá y justo yo estaba parado ahí podrás decir para justificarlo, todo vale bajo la trompa de Eli últimamente.
Espero que tengas un buen fin de año, y que en 2026 seas menos subnormal que lo que demostraste en 2025.
Al resto buenos días, y felices fiestas.
@lamonjamellada Pero tampoco me digas que sí...
@Amperobonus
</peloteo>
@nilien
Entiendo que hubiera sido suficiente con decir fue admin y que no es necesario ir a rastrear notas antiguas como si alguien lo hubiera o hubiese negado.
Me parece que te tomaste unos cuantos atributos que no te correspondían. Pero es solo mi parecer.
Solo me he limitado a decirle a @desastrecolosal que sí, que cree bien respecto a que tú fuiste admin.
Esto no es cierto, no te limitarse a... Te exidiste un poco me parece.
Claro que tenía otro usuario por aquellos años, y lo sigo teniendo aunque no lo utilizo desde 2018, usuario que no te voy a decir cuál es porque no me ha gustado la forma que has tenido de preguntármelo,
Esa es la diferencia entre vos y yo... Yo sigo con el mismo usuario -y tal vez por eso puedas rastrear mis notas- y vos escondés el tuyo. Claro, seguramente es por la forma en que pregunté. La culpa es mía.
Por otro lado, tampoco hace falta tener un usuario para poder leer lo que ocurre en menéame,
No, pero para saber qué durante un tiempo -y era publico- usé el usuario @seze para mis cosas particulares y este para lo que era admin...
Si y... ¿Cuál es el problema? ¿Cuál era tu usuario en aquellos años?
Yo no tengo nada que esconder, nunca lo hice... ¿Y vos?
Y las dos formas son válidas.
Yo suelo usarlo como excusa para encontrarme con algún conocido, saber cómo está... Escucharlo. Y de paso compartir un momento.
Todos los días cuando bajo a la playa a tomar mate le escribo a alguien y le mando esa foto, muy pocas veces la gente no responde al llamado.
Tengo los ojos rectangulares.
Y también por esto es que no miro TV, porque no aprendo a manejar bien mis impulsos con ciertas cosas
Creo que podemos poner en orden esto
Hay gente sola
hay gente abusiva/ egoísta
hay gente que tiene la mente rota.
Para acomodar después las causas o consecuencias
Todos suelen tratar de reclamar casito
Su palabra preferida es YO.
Es una persona tóxica y la gente le rehuye.
Los rotos mentales pues, no es su culpa aunque a veces ponen muy nerviosa a la gente.
Creo que acá hay motivos, causas y consecuencias todo mezclado, también creo que la soledad es un problema que crece en la sociedad, hace un mes leí algo que me impactó, es que la mayoría de las personas menores de 45 no tienen más de 3 amigos, y que las redes sociales ya están creando perfiles con IA para que sigan a la gente, hablen de sus gustos y comenten sus posteos porque ya no se pueden basar en sus contactos para el crecimiento.
Me parece que el tema es un poco más complejo, y lo digo desde mi placentera soledad.