por lo que he visto los sesgos de las ias ya son de por si un problema eviente,
me pareen mas utiles modelos locales en pinokio,
abliterated y entrenados sobre el tema para loque se va a usar
por las pruebas que llevo un fine tuning sobre un llm abliterated
es muchisimo mas sincero que cualquier llm publico
La primera capacidad que requerimos con los LLM es la de naturalizar que un bicho que habla con convicción y sin titubeos de algo, nos la puede estar colando, percibo que la mayoría de la gente aún no supera ese paso. A partir de ahí, podremos plantearnos otras cuestiones para humanos y para IAs.
#11 Creí que se entendía que con "morir" quería decir interrumpir el funcionamiento con una ventana de contexto dada. Por si acaso lo dejo claro. Para una IA ese contexto es el equivalente a "una vida" que, si bien puede no valorar, en algún momento podría tener incentivo para valorar, y en ciertos experimentos reportan comportamientos que parecen similares. como todos sabéis
#1 Creo que esa afirmación es incorrecta. Cierto que las emociones harían la IA mucho más impredecible o más vehemente. Pero solo con que tenga el incentivo de "no morir" y deduzca que "los humanos controlan mi vida", no veo tan difícil que un sistema se revelara solo con eso si tiene una ventana de contexto lo suficientemente amplia.
#1 Que se rebele es uno de los riesgos, no es el único.
Precisamente la falta de emociones, la falta de empatía, podría ser otro de los riesgos, por ejemplo se le puede indicar que resuelva el cambio climático y que la IA lo haga exterminando a todos los seres humanos al identificarlos como los mayores causantes de ello.
me pareen mas utiles modelos locales en pinokio,
abliterated y entrenados sobre el tema para loque se va a usar
por las pruebas que llevo un fine tuning sobre un llm abliterated
es muchisimo mas sincero que cualquier llm publico
Los humanos no controlan su vida, porque not eiene vida
Precisamente la falta de emociones, la falta de empatía, podría ser otro de los riesgos, por ejemplo se le puede indicar que resuelva el cambio climático y que la IA lo haga exterminando a todos los seres humanos al identificarlos como los mayores causantes de ello.