Mozilla en el punto de mira por la IA de Firefox, que satura la CPU y agota la batería (ENG)

Hace casi tres semanas, Mozilla lanzó Firefox 141 que, entre otras características como optimizaciones de memoria para Linux y un conversor de unidades integrado, traía los polémicos grupos de pestañas mejorados con IA. Impulsados por un modelo local de IA, estos grupos identifican pestañas relacionadas y sugieren nombres para ellas. Incluso hay un botón «Sugerir más pestañas para el grupo» en el que los usuarios pueden hacer clic para obtener recomendaciones.

[#1 meneandro]

Manda güevos, el único que usa una IA local que no envía datos hacia afuera y usa los estupendos chips de IA que traen los dispositivos para algo útil y van y lo critican porque drena la batería... menos mal que confiamos plenamente y no nos quejamos de otros dispositivos que graban y envían todo lo que hacemos y decimos a servidores ajenos porque, oye, no consumen recursos de nuestros móviles.

De toda la vida, si un servicio (wifi, bluetooth, gps, nfc, etc) ha consumido mucha batería, se desconectaba y punto. Si quieres usar un servicio, luego no te quejes...

Igualmente, mozilla irá optimizándolo convenientemente, este es el camino a seguir.

[#3 Torrezzno]

#1 Eso no es cierto del todo, Apple Intelligence es una LLM que corre localmente en los procesadores M de Apple. En mi opinión Mozilla no sabe que hacer para rentabilizar su negocio. Un navegador tiene que ser ligero, seguro y privado. Para correr LLMs ya me pongo yo Ollama o lo que sea

[#7 meneandro]

#3 "Apple Intelligence is an artificial intelligence system developed by Apple Inc.[2] Relying on a combination of on-device and server processing, "

[#8 Torrezzno]

#7 tienes razón, aparentemente se usa cuando el modelo local no puede resolverlo. De todas formas es una LLM donde todos los datos están encriptados at rest:

security.apple.com/blog/private-cloud-compute/

Que es lo mismo que está haciendo Proton con Lumo: lumo.proton.me/about

[#13 meneandro]

#8 ¿Cómo procesa una IA datos encriptados?

Desengáñate, en algún punto de desencriptan... en sus servidores. O sea, si tienen tus datos como quieren y cuando quieren.

[#4 Heni]

#1 La IA que incorporó Firefox es un NMT (modelo de traducción automática neuronal) es decir, no es un LLM y no usa la gpu y los núcleos cuda, ya que los modelos LLM (los que están ahora de moda) incluso si se usan los comprimidos (cuantizados) requieren al menos una tarjeta gráfica moderna con núcleos cuda y unos 16GB (sí, incluso con 8GB ciertos modelos se pueden ejecutar, pero están muy limitados, hablo de un modelo mínimo). Esta IA en cambio sólo usa CPU, y su principal función es la…   

[#10 meneandro]

#4 ¿Por qué núcleos cuda? hasta donde yo sé, para inferencia si acaso se usaría núcleos tensor. Y de todos modos, de usar, lo suyo sería tirar de NPUs (como las que traen intel o amd en sus últimos procesadores o vienen en los socs de dispositivos móviles, al usar funcionalidades ml en principio podría usar gpus también). Igualmente, me pareció ver que tiraba de hardware, pero como bien dices es pura CPU por ahora.

Yo siendo el usuario que se queja, iría al "registro" de firefox y…   

[#20 Heni]

#10 a) Cuando es un modelo de precisión reducida (cuantizado) sí se usan también los núcleos tensor para dar apoyo a los cuda, pero estos siguen llevando la mayor parte del peso. Cuando es un modelo completo sólo se usan cuda, es decir, en funcionamiento normal de un modelo normal LLM sólo usan núcleos cuda, cuando la tarjeta no da y se usa un modelo 'comprimido' los tensor apoyan a los cuda, por eso cuando se habla “en general” de si una GPU puede ejecutar un LLM, se suele hablar simplemente…   

[#21 R2dC]

#4 requieren al menos una tarjeta gráfica moderna con núcleos cuda y unos 16GB

Joder, ni que estuviese corriendo el Crysis...

[#5 ccguy]

#1 a ver si lo mejor es no tener una IA sin venir a cuento.
Parece que hay que dar las gracias porque no compartan tus datos.

[#11 meneandro]

#5 ¿Te refieres a una funcionalidad experimental que ni siquiera viene activada por defecto (al menos por ahora)? no funciona como los demás, es un modelo púramente local, no envía datos afuera, esa es la gracia del asunto).

[#18 ccguy]

#11 un modelo que se ejecuta en local en un portátil consume batería, calienta la CPU y pone en marcha los ventiladores.

Una mierda pinchada en un palo.

Y sólo para hacer no se qué con los tabs.

[#9 ur_quan_master]

#1 para incorporar una solución así lo primero es avisar y pedir permiso al usuario, informando tanto de ventajas como de inconvenientes

[#14 meneandro]

#9 Hasta donde yo sé es una solución experimental que empezó en el último firefox nightly, con los firefox no alfa o beta lo tienes que habilitar.

[#2 Torrezzno]

Respecto a Mozilla. Es una empresa que cada vez mete más y más telemetría. No recomendaría usar Firefox cuando hay forks buenísimos y sin espionaje como:

- LibreWolf: librewolf.net/
- IronFox (android): gitlab.com/ironfox-oss/IronFox

Y en Mac el que uso y me encanta, desarrollado por un español, Zen Browser: zen-browser.app/

Todos ellos están basados en la última versión de Firefox quitándoles toda telemetría y ajustes controvertidos

Y fuera de Gecko, Brave es otra muy buena opción, entre los navegadores mas privados de fabrica

[#12 meneandro]

#2 Es una empresa que también ha heredado una mala fama muchas veces sin sentido, en muchas ocasiones porque sus intenciones se han comunicado muy mal. Si hay forks muy buenos es porque el material de partida es muy bueno. Y si están basados en la última versión de firefox ¿no quiere decir eso que es rápido y fácil desactivar todo eso malo que dicen que trae y mantenerla? a ver si va a ser que tampoco espían tanto o son funcionalidades que no son tan importantes como pensamos.

Por otro lado,…   

[#15 Torrezzno]

#12 muy cierto. Pero es que su base de usuarios era y es muy hardcore. Casi todos los casual siguen usando los navegadores usuales. A esa gente todos los inventos de Mozilla como el ya muerto pocket les olía a chamusquina. El hecho de ser tan opinated en instalartelo de fabrica era muy sospechoso. En fin, el mercado es ultracompetivo pero la competencia como DDG y Brave se los están comiendo. Firefox tiene la misma cuota de mercado que Samsung browser, un 3%...

Muy dura esta gráfica  

[#16 xyria]

#2 ¿Todos los que has citado admiten complementos?

[#17 Torrezzno]

#16 Claro, no dejan de ser versiones del mismo Firefox pero quitándole ciertas partes. Por ejemplo Zen es muy bonito, pero es que además es mucho más ligero. Ahora mismo me está usando un giga y medio de RAM con un chorro de pestañas abiertas. Échale un ojo

[#19 xyria]

#17 Gracias, me lo apunto.

[#6 clavícula]

Hemos pasado del "todo es mejor.con bluetooth" a "todo es mejor con IA"