Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Un titular:
"Trump es ya la mayor amenaza al orden global movido por la codicia y lejos de su falsa imagen de pacificador"
Han descubierto la rueda.
Pero yo iría más lejos: cualquier gobierno de ese país, republicano o demócrata, es criminal y va a cometer robos y crímenes.
Llevan décadas haciéndolo.
Trump solo lo ha hecho sin careta y diciendo un discurso de retrasado para retrasados.
@imparsifal Te advertimos varias veces, varios usuarios de que bajo ningún concepto dejases entrar a ese.
Que esto iba a pasar si o si. Que no tardaría ni una semana en empezar con el ventilador de mierda del pasado.
Yo mismo te lo dije no menos de 5 veces.
Los resultados ya los hemos visto todos.
La moderación va a tener que hacer horas extra.
La otra vez fueron cerca de 2000 veces, contando los que no llegaban a ver la luz porque los detectábamos antes.
@Jacusse No, China no va a declararle la guerra a EEUU.
Y viceversa.
Pero si en un eventual ataque a Taiwan EEUU manda a su ejército en plan séptimo de caballería, no se van a achantar y habrá muertos.
Muchos.
Y te repito: a China le lame el ojal que haya atacado criminalmente a Venezuela.
A China ya no le puede hacer NADA.
Y como enfurezcan a China ya pueden ir corriendo a sus iglesias.
Respecto a lo de Taiwan (esto es opinión mía) , tienen los días contados.
Es cuestión de tiempo. Poco.
Y yankilandia no va a poder hacer nada, quitando enviarle algunos juguetes bélicos.
La pujanza global China es imparable.
Y nadie tiene huevos ni ganas ni medios para frenarla.
@angelitoMagno Ni de coña. Viniendo de ti que sabes que te respeto, me parece un argumento miope e infantil.
Trumpo ha ido a robar el petróleo de Venezuela sin más.
De paso sigue con su política del "patio trasero". Monroe y punto pelota.
A China ese golpe que tú dices, ni la despierta de la siesta.
Pero el acto criminal de Trumpo, lo habitual de cualquier gobierno yanki, va a traer cola a corto/medio plazo.
Prácticamente, la legalidad internacional ha dejado de existir hace tiempo.
Ese concepto es un chiste malo.
Desde las matanzas de palestinos hasta la piratería marítima, pasando por invasiones y bombardeos.
El resto del mundo que ande con beligerancias actuales o futuras ya no tiene que fingir.
Y eso lo vamos a pagar todos.
A Trumpo hay que reconocerle un mérito:
ha hecho a cara descubierta lo que todos los anteriores gobiernos criminales yankis han hecho con patéticas excusas de mermao: las incubadoras, las armas de destrucción masiva, etc.
Cualquier gobierno yanki es muerte y desolación. La única diferencia es el lugar.
@dunachio Legalmente, no se puede quitar nada de la base de datos. porque si pasa algo problemático (Datos personales, fotos trucadas etc) y las autoridades tienen que ver lo sucedido, no pueden.
Supongo que nadie es tan inconsciente como para borrarlo de la base de datos y debe figurar en alguna parte.
@Stieg Ya sabes, tengo mi propio ejército.
El calvo es mi mano derecha.
Manbobi es el sargento de hierro.
Y luego los de la tropa, que para hacer méritos, son especialmente sanguinarios.
Ni siquiera al que ya no tiene nada que ver con MnM y se fue.
Así que no me incluyas.
@Amperobonus
@Amperobonus
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
"Trump es ya la mayor amenaza al orden global movido por la codicia y lejos de su falsa imagen de pacificador"
Han descubierto la rueda.
Pero yo iría más lejos: cualquier gobierno de ese país, republicano o demócrata, es criminal y va a cometer robos y crímenes.
Llevan décadas haciéndolo.
Trump solo lo ha hecho sin careta y diciendo un discurso de retrasado para retrasados.
Que esto iba a pasar si o si. Que no tardaría ni una semana en empezar con el ventilador de mierda del pasado.
Yo mismo te lo dije no menos de 5 veces.
Los resultados ya los hemos visto todos.
La moderación va a tener que hacer horas extra.
La otra vez fueron cerca de 2000 veces, contando los que no llegaban a ver la luz porque los detectábamos antes.
Y lleva así desde 2011.
No te lo pierdas:
www.meneame.net/story/extienden-toda-espana-acampadas-permanentes-tras
BONUS www.meneame.net/story/extienden-toda-espana-acampadas-permanentes-tras
¿Es asi?
EDIT Y gracias por responder-
¿Tu quién te crees que eres para hablarme así?
Te recuerdo que los insultos y desprecios son penalizables para todos.
Tu lo has dicho.
@eirene @eunomia ¿Tengo que aguantar que se me hable así?
Toma, ya lo guardo yo:
Señalamiento, spam etc:
www.meneame.net/m/opinion/contra-verdadero-autoritarismo-meneame-respu
Venga, @imparsifal a ver si le lees la cartilla a tu amigo del MnM expandido.
Queremos verlo.
www.meneame.net/search?w=posts&q=NoMeVeas
Y se queja de los votos.
www.meneame.net/search?q=santaolalla&w=links&p=&s=&h=&
Entiendo.
Petróleo, si. Pero petróleo muy pesado.
Nada que ver con petróleos de Oriente Medio u otros sitios que son caviar al lado de este.
@angelitoMagno
Y gas.
Y de todo.
Y viceversa.
Pero si en un eventual ataque a Taiwan EEUU manda a su ejército en plan séptimo de caballería, no se van a achantar y habrá muertos.
Muchos.
Y te repito: a China le lame el ojal que haya atacado criminalmente a Venezuela.
A China ya no le puede hacer NADA.
Y como enfurezcan a China ya pueden ir corriendo a sus iglesias.
Respecto a lo de Taiwan (esto es opinión mía) , tienen los días contados.
Es cuestión de tiempo. Poco.
Y yankilandia no va a poder hacer nada, quitando enviarle algunos juguetes bélicos.
La pujanza global China es imparable.
Y nadie tiene huevos ni ganas ni medios para frenarla.
Trumpo ha ido a robar el petróleo de Venezuela sin más.
De paso sigue con su política del "patio trasero". Monroe y punto pelota.
A China ese golpe que tú dices, ni la despierta de la siesta.
Pero el acto criminal de Trumpo, lo habitual de cualquier gobierno yanki, va a traer cola a corto/medio plazo.
Prácticamente, la legalidad internacional ha dejado de existir hace tiempo.
Ese concepto es un chiste malo.
Desde las matanzas de palestinos hasta la piratería marítima, pasando por invasiones y bombardeos.
El resto del mundo que ande con beligerancias actuales o futuras ya no tiene que fingir.
Y eso lo vamos a pagar todos.
A Trumpo hay que reconocerle un mérito:
ha hecho a cara descubierta lo que todos los anteriores gobiernos criminales yankis han hecho con patéticas excusas de mermao: las incubadoras, las armas de destrucción masiva, etc.
Cualquier gobierno yanki es muerte y desolación. La única diferencia es el lugar.
sigue
¿Y gaznápiro?
Trumpo ha abierto una puerta y no se va a cerrar.
Y no es solo China-Taiwán.
Hay mas escenarios.
Te inflo a hostias, pero tranquilo, que ya vigilo la puerta del hospital.
Y ya sabemos que si se desata es imparable y las consecuencias apocalípticas.
El mismo gallir tuvo que recular y devolver las cuentas.
Claro que si hipotéticamente se han borrado, potencialmente puede generar un problema muy muy gordo.
Supongo que nadie es tan inconsciente como para borrarlo de la base de datos y debe figurar en alguna parte.
De darse el caso, borrar todos los datos es absolutamente ilegal.
Encima que te pongo de tipo duro:
El calvo es mi mano derecha.
Manbobi es el sargento de hierro.
Y luego los de la tropa, que para hacer méritos, son especialmente sanguinarios.