#7 Gran parte del software que usa Google es software libre. El problema no está en el software, sino en el proveedor del servicio. Y eso sólo se arregla con regulaciones estrictas.
El problema será cuando "haya un país de genios" (IAs) pero que además tengan comportamiento errático.
Mira, hablando de todo esto que dices, te paso un ensayo de Diario Amodei (empresa privada, Anthropic) que habla de todo esto. Es largo pero es un lectura muy interesante.
#26 Su comportamiento no es determinista y está ampliamente estudiado el cómo puede salir por derroteros totalmente inesperados si tiene el poder para hacerlo.
Simplemente no es posible que sea realmente confiable. Esto te lo pueden contar los propios dueños de las compañías actuales de IA.
Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs
Jan Betley, Daniel Tan, Niels Warncke, Anna Sztyber-Betley, Xuchan Bao, Martín Soto, Nathan Labenz, Owain Evans
View PDF
HTML (experimental)
We present a surprising result regarding LLMs and alignment. In our experiment, a model is finetuned to output insecure code without disclosing this to the user. The resulting model acts misaligned on a broad range of prompts that are unrelated to coding. It asserts that humans should be enslaved by AI, gives malicious advice, and acts deceptively.
#15 Ningún rico está a salvo con la IA porque uno de los problemas más difíiles, por no decir el único realmente imposible de resolver, es el de controlarla de verdad.
Cuando los trabajadores sean prescindibles, todos los propietarios serán automáticamente prescindidos.
#7 ese argumento se sustenta en la disponibilidad de modelos avanzados que están en manos privadas. Cuando los precios suban y el coste real se vea reflejado entonces hablamos, ya que acutalmente todas están haciendo dumping laboral quemando dinero como si no hubiera mañana.
#37 La verdad que tus ejemplos no me parecen adecuados, si me hablaras de Libre Oficce, Gimp; Linux u otro tipo de software podríamos entendernos, pero no todo el soft libre es una aporte a la libertad ni al sistema.
No sé, creo que la batalla se está desarrollando en un plano muy lejano al nuestro y que está más avanzada de lo que imaginamos, creo también que hay muchas acciones por realizar, pero todo lo ue es soft libre y funciona el mismo mercado lo engulle y lo usa para su beneficio y después terminamos pagando por ello.
A nivel tecnología no creo que haya mucho por hacer, sinceramente, y cada año que pasa menos posibilidades tenemos de salirnos del sistema, Llevo mucho tiempo por ejemplo tratando de dejar de usar mis cuentas en google, algo que para mi es relativamente sencillo, no me llevaría más que unos días hacerlo, pero a la larga termino necesitando una para las subscripciones familiares, compartir cuentas y por ejemplo, suena idiota pero es así: No hay servicio que resista la cantidad de datos (sobre todo en imagenes y videos) que generan mis hijas.
El otro día le decía a una de ellas que está generando en 4 imágenes lo que nosotros usamos en el 2003/2004 para guardar sus fotos de infancia.
#22 Estamos comparando cosas distintas me parece, un soft libre no entra todo en la misma bolsa, no es lo mismo un sistema operativo, una distro de office que un Amazon o un FB.
#8 Es lo de siempre, eso lo hacen cuatro frikis. Los demás, ni se enteran y dudo que vayan a enterarse... a tragar sin pararse un segundo a reflexionar.
#8 Admiro tu optimismo, era el mio allá por el comienzo de los 90 y los 2000
Pero la guerra se desarrolla en un plano muy lejano al nuestro, mientras nosotros peleamos con armas artesanales el enemigo lo hace con alta tecnología, mientras dependemos del desarrollo humano ellos dependen de un nuevo modelo de soft.
Lamentablemente el progreso se prostituyó, y lo que en teoría iba a servir para compartir cultura, contagiar igualdad y desarrollar un pensamiento colectivo global terminó siendo un nido de pequeños multi millonarios egoístas e insensibles.
#2 Exacto. Debería llevarse a referéndum la siguiente cuestión:
¿Cual cree usted que debe ser la función de la economía en los gobiernos?
- Repartir los recursos entre los ciudadanos de forma justa y sostenible
- Maximizar los beneficios empresariales.
#2 Es que a demás no tiene sentido. Una cosa es que tengas dinero de sobra para vivir con todos los lujos imaginables y otra distinta es tener tantísimo que no logastarías en mil vidas.
#23 Cuñado 
