Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
@rodriarevalo El notame sirve...
Para ganar karma.
Para perderlo.
Para salir del armario.
Para decir que tienes fiebre.
Que te has contagiado de la Gripe A. (o el COVID)
Que el mundo está contra tí.
Para decir que ti nunca se acentúa.
Para ligar Para spamear tu blog.
Para decir que ya es viernes
Para decir "otra vez lunes"
Para decir que has hecho un trio.
Poner música
Para cagarte en tu jefe o empleado
Que tu hermana ha muerto desangrada
Para decir que tu becaria no sabe hacerte el café
Para dar los Buenos días Decir que tu mascota ha muerto
Para que @duernu te trolee con la muerte de tu mascota
Decir que te vas a dar de baja
Decir que vas a pedir matrimonio a tu novia en estas 6 ciudades:
1. Milán
2. Venecia
3. Florencia
4. Siena
5. Nápoles
6. Roma.
Chopocientos caracteres para ti. @lamonjamellada@magec#meneamevintage
Qué lista y fiable es la IA. Pregunto por el tamaño comparado de África y Eurasia y me contesta que "Aunque Eurasia es más grande que África, la suma de Norteamérica y Eurasia es menor que la superficie de África".
@benjami ¿Qué cojones tendrá que ver el culo con las témporas? ¿Para ganar dinero con publicidad hace falta poner un div de ancho fijo para los banners, y que se superponga encima de todo lo demás, impidiendo la legibilidad? Qué penita da la deriva que esta tomando esto, con suscripciones o sin suscripciones, con IAs o sin IAs, con pataletas o sin pataletas... Vamos avanzando en el estado agónico
@imparsifal@lamonjamellada
No, a ver, que yo venia a despedirme y cagarme en todo lo cagable, y que por fin me podría quitar el vicio este... ahora qué digo, hago?
@imparsifal entiendo que desde tu punto de vista solo te fijes en los números, los euros, las visitas, etc.
Pero desde nuestro lado el tema se ve diferente.
Insisto, entiendo que tu posición y objetivos sean distintos.
@imparsifal yo sólo veo toxicidad en el Nótame, propaganda de casas de apuestas en portada, dueños que amenazan con expulsar a usuarios por motivos ideológicos,...
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Para ganar karma.
Para perderlo.
Para salir del armario.
Para decir que tienes fiebre.
Que te has contagiado de la Gripe A. (o el COVID)
Que el mundo está contra tí.
Para decir que ti nunca se acentúa.
Para ligar Para spamear tu blog.
Para decir que ya es viernes
Para decir "otra vez lunes"
Para decir que has hecho un trio.
Poner música
Para cagarte en tu jefe o empleado
Que tu hermana ha muerto desangrada
Para decir que tu becaria no sabe hacerte el café
Para dar los Buenos días Decir que tu mascota ha muerto
Para que @duernu te trolee con la muerte de tu mascota
Decir que te vas a dar de baja
Decir que vas a pedir matrimonio a tu novia en estas 6 ciudades:
1. Milán
2. Venecia
3. Florencia
4. Siena
5. Nápoles
6. Roma.
Chopocientos caracteres para ti.
@lamonjamellada @magec #meneamevintage
Es t3soro
ellosnosotros.El presidente de Correos reúne a 200 directivos y les dice que la situación es de extrema gravedad.
Si se paran un poco a pensar igual podrían unir los puntos.
No, a ver, que yo venia a despedirme y cagarme en todo lo cagable, y que por fin me podría quitar el vicio este... ahora qué digo, hago?
Pero desde nuestro lado el tema se ve diferente.
Insisto, entiendo que tu posición y objetivos sean distintos.