edición general
Des3rT0r

Des3rT0r

En menéame desde mayo de 2020

8,40 Karma
6.016 Ranking
Enviadas
Publicadas
Comentarios
Notas
  1. #45 Si tienes Windows y una gráfica medio decentilla Free Token es una maravilla. Eso sí, te comes toda la ram y la vram al arrancar o casi casi. Te queda lo justo para abrir el IDE, navegador o lo que quieras usar con esa cosa. Pero te da para montar un Qwen 3.5 de 35 billones de parametros a una velocidad más que decente, lo cual ya empieza a ser una cosa bastante seria.

    github.com/FlashML-org/FreeToken

    Hay equivalencias de Free Token para Linux, es cuestión de buscar algo similar, hay muchísimo.
  2. #45 empieza con ollama en local y modelos de 7b para abajo. No hace falta GPU para moverlos
    Puedes buscar el podcast/blog de atareao con linux
  3. #45 Yo más que seguir una guía cerrada, lo hice con OpenCode en el propio equipo. Le pasé las especificaciones del hardware y le pedí que analizase qué modelos podía mover, buscase configuraciones de gente con equipos similares y fuese instalando y ajustando todo paso a paso.

    Eso sí: no le pedí todo de golpe. Fui acotando mucho cada prompt, diciéndole qué quería hacer en cada paso y pidiéndole que me explicase por qué hacía cada cosa. Así entiendes lo que estás montando y puedes corregir el rumbo si algo no cuadra.

    Luego comparé varios modelos con las mismas pruebas, tanto de velocidad como de capacidades, y me quedé con el que mejor equilibrio daba. Mano de santo.

    Si tienes suscripción de ChatGPT, además puedes conectarla con OpenCode y usarla para ir guiando todo el proceso.

menéame