#10 a) Cuando es un modelo de precisión reducida (cuantizado) sí se usan también los núcleos tensor para dar apoyo a los cuda, pero estos siguen llevando la mayor parte del peso. Cuando es un modelo completo sólo se usan cuda, es decir, en funcionamiento normal de un modelo normal LLM sólo usan núcleos cuda, cuando la tarjeta no da y se usa un modelo 'comprimido' los tensor apoyan a los cuda, por eso cuando se habla “en general” de si una GPU puede ejecutar un LLM, se suele hablar simplemente de si tiene CUDA y cuántos.
b) Y sí, hay modelos pequeños pero dejan mucho que desear, ya modelos medios (opensource) les cuesta llegar a lo que te da chatgpt, es como volver a hace 2 años.
c) En lo de elegir modelo te creo, el problema es el que comenté, necesitas una gpu tocha para poder ejecutar un modelo decente, +1K € (aunque con una 5070 ti 16GB de entorno a 900€ podrías empezar a experimentar)
d) En cuanto a las otras funcionalidades, las 3 primeras no entiendo para qué necesitas una IA si es algo que se puede hacer con programación normal, y en cuanto a soporte para IA chatbot es simplemente un frontal y tú tienes que enlazarlo con un modelo en la nube (nota: es imposible tener en local un asistente de chat IA moderno porque se basan en modelo LLM, y volvemos al punto de origen de todos los problemas actuales, tener una gpu con sufiente ram y núcleos cuda)
#12 muy cierto. Pero es que su base de usuarios era y es muy hardcore. Casi todos los casual siguen usando los navegadores usuales. A esa gente todos los inventos de Mozilla como el ya muerto pocket les olía a chamusquina. El hecho de ser tan opinated en instalartelo de fabrica era muy sospechoso. En fin, el mercado es ultracompetivo pero la competencia como DDG y Brave se los están comiendo. Firefox tiene la misma cuota de mercado que Samsung browser, un 3%...
#7 tienes razón, aparentemente se usa cuando el modelo local no puede resolverlo. De todas formas es una LLM donde todos los datos están encriptados at rest:
#1 La IA que incorporó Firefox es un NMT (modelo de traducción automática neuronal) es decir, no es un LLM y no usa la gpu y los núcleos cuda, ya que los modelos LLM (los que están ahora de moda) incluso si se usan los comprimidos (cuantizados) requieren al menos una tarjeta gráfica moderna con núcleos cuda y unos 16GB (sí, incluso con 8GB ciertos modelos se pueden ejecutar, pero están muy limitados, hablo de un modelo mínimo). Esta IA en cambio sólo usa CPU, y su principal función es la traducción de páginas web, por eso es compatible con la mayoría de equipos.
Problema: Su consumo de cpu es muy elevado y las lleva al máximo de ejecución, ralentizando todo el equipo durante el proceso, ídem con el consumo de ram que también se dispara... pero es que además parece que cuando vas navegando por detrás te va haciendo las traducciónes automáticamente sin que se lo pidas -> mientras lo usas se ralentiza todo el pc
#1 Eso no es cierto del todo, Apple Intelligence es una LLM que corre localmente en los procesadores M de Apple. En mi opinión Mozilla no sabe que hacer para rentabilizar su negocio. Un navegador tiene que ser ligero, seguro y privado. Para correr LLMs ya me pongo yo Ollama o lo que sea
#41 Es un estudio fundado hace casi 30 años, está claro que ha cambiado todo, pero eso no significa que te lo cargues, por lo menos no mientras se mantengan lanzando buenos juegos. Los propios estudios internos de Nintendo son muy distintos a lo que eran antes. Hay cientos de estudios fundados pro exempleados de otros estudios que querían hacer otras cosas.
#39 Desde que los compró Nintendo sacaron Metroid Prime 2, Prime 3, Donkey Kong Country Returns, Donkey Kong Country: Tropical Freeze, Prime Remaster y ahora Prime 4. Los cuatro primeros años de la compañía fueron un caos en el que cancelaron todo menos el Metroid Prime original. Una cosa es que se pire la gente y se cancelen proyectos con el paso de los años, otra que te compren, te den un proyecto y te cierren a las primeras de cambio.
#21 sí, depende mucho del momento. Aunque como le dije a otro comentario, mi intención era animar a los programadores más noveles. Porque no es difícil entenderlo y programarlo. Parece que escribes algo en asm y ya eres un dios.
Por último y como opinión, la balanza que comentas cambia mucho cuando hablas de asm. Ya está profundamente acoplado el lenguaje al hardware, por lo que ese poco más de crear macros es lo de menos .
#33 A ver, Nintendo y Sony, en el mundo de los videojuegos, antes sabían qué hacer con sus adquisiciones. Retro Studios, Naughty Dog, Monolith Soft, Sucker Punch funcionaron bien después de que los comprasen, pero Microsoft, Embracer Group y ahora, por lo que estoy viendo Tencent, parecen auténticas picadoras de carne que compran por comprar y después deshacen para decir que ahorraron costes a la empresa. Sony también la cagó con Bungie, pero aquello parecía una respuesta a Microsoft comprando todo lo que tenía a mano.
#1 En videojuegos casi siempre es lo mismo: llega una grande y se compra varios estudios con buena reputación, quedan a las órdenes de un CEO incompetente, empiezan a moverlos entre proyectos sin un rumbo claro, pasan los años y terminan "decepcionando" con lo que deshacen el estudio y despiden a los empleados, nadie responde por la incompetencia de los señores que decidieron adquirir un estudio sin tener demasiada idea de qué hacer con ellos.
#14 Sí que hay sitio, sí, de peques haciendo sus propias composiciones sin tener que recurrir al versionado (salvo algún cover que hacen en los directos): www.youtube.com/watch?v=vLiv_VmYjx8
#17 A ver, sé por dónde vas, y tienes razón. Económicamente se tendría que aportar y a nivel de código también.
Pero mi punto es que si actores gubernamentales empiezan a usar Linux y software libre en general, son un montón de usuarios más en masa. Llamalo como quieras: ampliación de base de usuarios, testers de QA gratuitos… que un montón de funcionarios use software libre también es una aportación (mínima, eso sí)
#5 maxxcan 
. 
