Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Me parece pura poesía que la derecha española y la derecha venezolana en Miami y Madrid estén celebrando el golpe de estado de EEUU en Venezuela (mientras la ultraderecha Europea lo condena en pleno, por cierto) y que, mientras tanto, Trump este anunciando que van a encargarse de la administración del país trabajando con Delcy Rodríguez (gobierno actual) y despreciando a Corina Machado. Pura poesía. Enesimo ridículo de la derecha española.
@imparsifal Va a ser curioso saber que consideráis hacer mal uso del voto negativo. Curiosamente hace tiempo que muchos tragamos con ingentes penalizaciones por exceso de votos negativos a comentarios racistas, misóginos y similares. Algo que, por otro lado, lleva años sucediendo. Miedo me da la repercusión que pueda tener una medida así en el contenido de los comentarios si aplicáis el mismo baremo. Pero bueno, p'lante.
@imparsifal Precisamente una de las cosas que tenía el Nótame, es que el voto negativo no quita karma, ¿no? A veces tengo la sensación de que erráis completamente el tiro constantemente y dedicáis esfuerzos a cosas totalmente irrelevantes.
También es curioso que durante 20 años no haya sido necesaria una herramienta de reportes o penalizaciones por aquí, hasta que ha llegado quién todos sabemos.
@elsnons@haprendiz a mi me ha molado q se metiera entre el público. Ha sido el equivalente a una estrella de rock lanzándose desde el escenario (pero en refinado )
Feliz año saco!
Cuando piensas que nada puede superar 2 canciones de prince seguidas, y aparece D. homenajeando a E con IM.
El que pueda entender, q entienda
He descubierto A map of us, un mapa mundial dónde usuarios dejan mensajes de forma anónima (o no tan anónima) sobre lugares que recuerdan o han sido importantes en sus vidas, por motivos concretos. And I think is beautiful. Eso si, coged un paquete de kleenex si sois muy sentimentales.
@vazana No solo recopila enlaces (cuya veracidad no valida), sino que también se nutre del contenido de tweets de la red social X, dónde cualquiera puede soltar la primera atrocidad que se le ocurra y Grok tomarla por válida.
Un personaje que quiere maltratar a alguien, y tirar su reputación al puto infierno, queándose porque lo consiguió menos de lo que esperaba. Un maltratador quejándose porque su pistola se encasquilló.
Ellos, los psicópatas, intentan simular coraje. Pero es simulado, y lo sabes cuando les dices que ese coraje suyo contra ti es una miserable difamación, lo demuestras, y no hacen nada para rectificar. Al contrario, se reafirman. Mentir, maltratar y manipular es su estrategia para conseguir lo que sea que quieran.
@Lutin Que las juntas de la trócola del generador de fluzo necesitan la revisión de los 15.000 km
A ver, por si no tienes todo el contexto: somos objeto, cada 2x3, de devaluación por perder una ínfima cantidad de usuarios, según OJD, y que sucede por cosas tan básicas como bloquear bots. Pero nos quieren ver muertos y no paran de pregonar nuestra muerte.
Tras la devaluación, esos mismos intentan comprar menéame por cuatro duros. Vez tras vez.
No me da la gana morir ni vender a precio de saldo después de acoso económico y moral. Además, habiendo subido en usuarios reales, tras eliminar paja, para darle valor a menéame. Mientras tanto, todo nuestro entorno web ha sido una debacle por la IA, Google Search y discoverys diversos.
Lo siguiente va a ser el acoso físico, me temo; sus filas van cargaditas de boxeadores. Todo para tener el control de menéame, y a nivel psicópata.
¿Puedo defender a menéame y a mí? El otro día uno de esos acosadores decía que el acoso contra mí está justificado. Y van y le hacen caso. Eso es un delito penal.
El olor a muerto está en otros proyectos y estrategias cancerígenas, no en menéame.
Quien se mete con Diosdado se mete con Maduro. Quien se mete con Maduro se mete con Chávez. Quien se mete con Chávez se mete con Velezuela.
x.com/IdiazAyuso/status/601157541159116801
@PasaPollo
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
@imparsifal @tnt80 @mis_cojones_en_bata
@dunachio @tnt80 @mis_cojones_en_bata
También es curioso que durante 20 años no haya sido necesaria una herramienta de reportes o penalizaciones por aquí, hasta que ha llegado quién todos sabemos.
@dunachio @tnt80
Cuando piensas que nada puede superar 2 canciones de prince seguidas, y aparece D. homenajeando a E con IM.
El que pueda entender, q entienda
@tnt80 @ochoceros @Ripio
@ochoceros @Ripio @tnt80
www.meneame.net/notame/3705425
Ellos, los psicópatas, intentan simular coraje. Pero es simulado, y lo sabes cuando les dices que ese coraje suyo contra ti es una miserable difamación, lo demuestras, y no hacen nada para rectificar. Al contrario, se reafirman. Mentir, maltratar y manipular es su estrategia para conseguir lo que sea que quieran.
@benjami @Lutin
A ver, por si no tienes todo el contexto: somos objeto, cada 2x3, de devaluación por perder una ínfima cantidad de usuarios, según OJD, y que sucede por cosas tan básicas como bloquear bots. Pero nos quieren ver muertos y no paran de pregonar nuestra muerte.
Tras la devaluación, esos mismos intentan comprar menéame por cuatro duros. Vez tras vez.
No me da la gana morir ni vender a precio de saldo después de acoso económico y moral. Además, habiendo subido en usuarios reales, tras eliminar paja, para darle valor a menéame. Mientras tanto, todo nuestro entorno web ha sido una debacle por la IA, Google Search y discoverys diversos.
Lo siguiente va a ser el acoso físico, me temo; sus filas van cargaditas de boxeadores. Todo para tener el control de menéame, y a nivel psicópata.
¿Puedo defender a menéame y a mí? El otro día uno de esos acosadores decía que el acoso contra mí está justificado. Y van y le hacen caso. Eso es un delito penal.
El olor a muerto está en otros proyectos y estrategias cancerígenas, no en menéame.