Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
@lamonjamellada
Me apunto a tu propuesta, si somos muchos los que pasamos de provocaciones y malos rollos quedarán en el limbo de la indiferencia (joder que bien me ha quedado).
Habrá que ser de "no hay mayor desprecio que no hacer aprecio" o "rebuznos de asno no llegan al cielo". También el de "no ofende quien quiere, sino quien puede".
@Ripio
Te añado alguno a tu repertorio con su definición, son insultos de la edad de oro, vamos de cuando yo era joven. Bultuntún: que habla sin ton ni son. Cagalindes: cobarde. Carcunda: de ideas retrógradas. Casquivano: ligerito de cascos. Catacaldos: persona que se dedica a muchas actividades y no se dedica con constancia a ninguna. Chisgarabís: persona, frecuentemente joven, de escasa formalidad o sensatez.
@imparsifal
Precisamente por eso me di de baja del “consejo consultivo”: porque sus decisiones no son vinculantes, los miembros no tienen capacidad real de plantear las preguntas y su papel es, en la práctica, irrelevante.
Tal y como está planteado, parece más un mecanismo para legitimar decisiones ya tomadas que un órgano de participación real, además de una fuente de ingresos difícil de justificar.
@angelitoMagnoYo no entiendo ese argumento. Es decir, como Trump hace lo que le sale de los putos cojones, pues va a permitir que China invada sin mas a un aliado de EEUU
Yo no he dicho eso, para empezar no creo que ahora EE.UU tenga aliados si no intereses y que sus "amigos" lo saben de sobra porque Trump se lo ha hecho saber bien fuerte a base de aranceles y actitudes de desprecio.
Lo que sí que creo es que uno puede realizar acciones pero no siempre controlar las consecuencias a gran escala que tienen, es por eso que he planteado que hay un puñado de opciones.
@angelitoMagno Por supuesto no me creo un sesudo analista, simplemente doy la opinión de alguien que vive los tiempos que le han tocado, ni más ni menos.
Y sí, creo que existe un "consenso cultural" sobre lo que es aceptable o no. Antes de la IGM la gente salía a las calles a gritar "¡Guerra! ¡Guerra!" y jalearla en vez de considerarla una catástrofe horrible por mucho que individualmente se pudiera vivir diferente. Además creo que ese consenso puede cambiar con las acciones de unos y de otros.
Estoy viendo que la gente no se da cuenta del cambio de paradigma que implica el golpe de estado y la invasión que está cometiendo EE.UU en Venezuela.
Antes EE.UU cometía estas tropelías bajo excusas y lo hacía con fines económicos, ahora lo hace sin ganas ni necesidad de excusarse con fines de control. Estamos en una fase crítica, sobre todo para gente como nosotros que está bajo el campo de influencia de EE.UU
Como ejemplo de esto viene la siguiente reflexión, ¿qué va a decir EE.UU cuando China tome Taiwán? pues apenas hay un puñado de opciones:
1-Nada porque el paradigma ya ha cambiado
2-Guerra total por campos de influencia (arriesgándose a un posible comienzo de la IIIGM)
3-Intento fallido de propaganda para hacer ver a los chinos como los malos (Pero tras esta "intervención" la hipocresía es tan grande que ha matado el relato antes de nacer).
Tan sólo imaginar lo que pasaría si un día Pedro Sánchez y su esposa fueran secuestrados y se bombardeara España... En fin, lo peor es que siendo anglos los EE.UU no tienen aliados de verdad, sólo socios circunstanciales.
- Hijo, vamos a escribir tu carta de los Reyes.
- Mamá, te recuerdo que tengo 28 años.
- Ya, y yo te recuerdo a ti que no tienes brazos.
@chiste_de_yoma
Estar logueado o no, no importa.
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Me apunto a tu propuesta, si somos muchos los que pasamos de provocaciones y malos rollos quedarán en el limbo de la indiferencia (joder que bien me ha quedado).
Habrá que ser de "no hay mayor desprecio que no hacer aprecio" o "rebuznos de asno no llegan al cielo". También el de "no ofende quien quiere, sino quien puede".
@vazana @Golan_Trevize @nilien
Te añado alguno a tu repertorio con su definición, son insultos de la edad de oro, vamos de cuando yo era joven.
Bultuntún: que habla sin ton ni son.
Cagalindes: cobarde.
Carcunda: de ideas retrógradas.
Casquivano: ligerito de cascos.
Catacaldos: persona que se dedica a muchas actividades y no se dedica con constancia a ninguna.
Chisgarabís: persona, frecuentemente joven, de escasa formalidad o sensatez.
Precisamente por eso me di de baja del “consejo consultivo”: porque sus decisiones no son vinculantes, los miembros no tienen capacidad real de plantear las preguntas y su papel es, en la práctica, irrelevante.
Tal y como está planteado, parece más un mecanismo para legitimar decisiones ya tomadas que un órgano de participación real, además de una fuente de ingresos difícil de justificar.
Yo no he dicho eso, para empezar no creo que ahora EE.UU tenga aliados si no intereses y que sus "amigos" lo saben de sobra porque Trump se lo ha hecho saber bien fuerte a base de aranceles y actitudes de desprecio.
Lo que sí que creo es que uno puede realizar acciones pero no siempre controlar las consecuencias a gran escala que tienen, es por eso que he planteado que hay un puñado de opciones.
@angelitoMagno Por supuesto no me creo un sesudo analista, simplemente doy la opinión de alguien que vive los tiempos que le han tocado, ni más ni menos.
Y sí, creo que existe un "consenso cultural" sobre lo que es aceptable o no. Antes de la IGM la gente salía a las calles a gritar "¡Guerra! ¡Guerra!" y jalearla en vez de considerarla una catástrofe horrible por mucho que individualmente se pudiera vivir diferente. Además creo que ese consenso puede cambiar con las acciones de unos y de otros.
Pero qué voy a saber yo.
Antes EE.UU cometía estas tropelías bajo excusas y lo hacía con fines económicos, ahora lo hace sin ganas ni necesidad de excusarse con fines de control. Estamos en una fase crítica, sobre todo para gente como nosotros que está bajo el campo de influencia de EE.UU
Como ejemplo de esto viene la siguiente reflexión, ¿qué va a decir EE.UU cuando China tome Taiwán? pues apenas hay un puñado de opciones:
1-Nada porque el paradigma ya ha cambiado
2-Guerra total por campos de influencia (arriesgándose a un posible comienzo de la IIIGM)
3-Intento fallido de propaganda para hacer ver a los chinos como los malos (Pero tras esta "intervención" la hipocresía es tan grande que ha matado el relato antes de nacer).
Tan sólo imaginar lo que pasaría si un día Pedro Sánchez y su esposa fueran secuestrados y se bombardeara España... En fin, lo peor es que siendo anglos los EE.UU no tienen aliados de verdad, sólo socios circunstanciales.
www.meneame.net/m/Artículos/ha-pasado-amperobonus
¿Crees que ha sido correcto limitar la cuenta por 3 meses a @amperobonus ?
No solo te has cargado a @Amperobonus , sino la transprencia en la web.