@NPCMeneaMePersigue@Pertinax En aplicación de la nueva norma tienes bloqueado el acceso al Nótame durante un mes. Si vuelves a hacer insinuaciones como esta de alguno de los usuarios se te desactivará la cuenta.
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Hoy es mi último día de trabajo aquí, tras 18 años de estar agustísimo. Tengo una rara sensación de tristeza e impotencia.
Me espera otro destino. Un poco más de trabajo para ganar un poco menos. En cuanto al comfort, paso de sentarme en un sofá a hacerlo en un cardo, por decirlo de algún modo.
Con todo, tiene algo muy positivo que no hay aquí. En fin...
¿Se nota mucho que intento consolarme?
Pasadlo bien hoy y el año que viene y, recordad: no es obligatorio emborracharse ésta noche.
@NPCMeneaMePersigue Habla con Fran Bar @AvogadroMarciano él puede explicarte cómo abrir 11 cuentas en un mes y que el CEO te ofrezca trabajo de marketing.
@imparsifal Como ya se ha dicho varias veces, no hoy sino en los últimos meses, el Nótame era un remanso de paz comparado con el caos de los comentarios. Charla diaria distendida, amistades, y discusión sobre temas de menéame por lo general productivos. Para arreglar el "nótame basura" tan fácil como echar/poner coto a quien lo ha enmierdado con su actitud y a los camarillas resentidos que se ha traído y que han llevado a una espantada de muchísimos buenos usuarios. A ver si van a pagar justos por pecadores, como ha sonado varias veces con eso de "cerrar el nótame".
@lamonjamellada en Irlanda es una regla no escrita del pub. Cuando se sale con los amigos, no se menciona política ni religión, supongo también porque se han comido en sus carnes el tema del enfrentamiento religioso entre protestantes y católicos en la isla. La rivalidad en los deportes no es tan tóxica como en otras culturas, así que sí se escucha hablar de ellos, pero no es motivo de discusión.
Vamos, los irlandeses son los amos de salir de fiesta y pasarlo bien, sin necesidad de malos rollos.
Noobs can't triforce
@dogday @Golan_Trevize
www.meneame.net/queue?meta=_discarded
Pero sí, en ese erial molaba, incluso pienso sí @Eirene debería revisar las notas y comentarios de @NPCMeneaNePersigue donde acusa, por vicio, a otros usuarios de estar a sueldo de noseque.
@Golan_Trevize
@Golan_Trevize
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Fuente: x.com/grok/status/2006758066058870813
Hoy es mi último día de trabajo aquí, tras 18 años de estar agustísimo. Tengo una rara sensación de tristeza e impotencia.
Me espera otro destino. Un poco más de trabajo para ganar un poco menos. En cuanto al comfort, paso de sentarme en un sofá a hacerlo en un cardo, por decirlo de algún modo.
Con todo, tiene algo muy positivo que no hay aquí. En fin...
¿Se nota mucho que intento consolarme?
Pasadlo bien hoy y el año que viene y, recordad: no es obligatorio emborracharse ésta noche.
Fran Bar@AvogadroMarciano él puede explicarte cómo abrir 11 cuentas en un mes y que el CEO te ofrezca trabajo de marketing.Jajaja
Vamos, los irlandeses son los amos de salir de fiesta y pasarlo bien, sin necesidad de malos rollos.
</peloteo>
@nilien
-desastremental: ¿Uno? ¡Son todos!