Menéame: comentarios [4024850]

#102 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

WcPC — Fri, 07 Feb 2025 03:09:23 +0000

#101 Yo empecé a implementar esos sistemas con médicos y enfermeras que, algunos, no había ni usado un ratón en su vida.
Así que imagínate si comprendo las resistencias.
Precisamente lo que digo es similar a lo dicho por ti.
"hacia a la gente escribir las cosas, porque la gente puede hablar sin pensar, pero ya escribir les obliga. "
Si tienen que preguntarle a la máquina ellos mismos, eliminas las peticiones absurdas y el propio usuario aprende a sintetizar.
Luego ya validarán los datos encontrados el informático por detrás.

Obviamente estamos de acuerdo con que la IA es una herramienta, nada más, y necesita supervisión.

» autor: WcPC

#101 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

TripodeDeEbano — Thu, 06 Feb 2025 21:10:17 +0000

#83
Creo que no has entendido
el en primer párrafo en el contexto que estaba hablando decir que una máquina no sabe mas que un medico es decir que un arquitecto tira líneas mas rectas que una reg;a. Es mejor arquitecto quien se empeña en tirar líneas rectas sin regla? Es de lo que se vanagloriaban los medicos

en el segundo párrafo lo mismo , con la regla puedes tirar líneas mas rectas, pero no te va a dibujar los planos o si. (en la caso de la ia si te dibuja unos planos tienes que saber si eso se puede construir.

En ambos párrafos pongo la ia en su lugar, como una herramienta

Bueno has extraído requisitos de cliente.
yo era muy duro y hacia a la gente escribir las cosas, porque la gente puede hablar sin pensar, pero ya escribir les obliga. Aparte de que hay gente que te querría torpedear ,que es muy duro aprender un nuevo sistema. De hecho he conocido clientes médicos, (una gran compania farmaceutica) donde la norma era dar la información mas confusa posible a los desarrolladores, para poder tener así más flexibilidad de cambios sobre la marcha.
Podrá asumir una Ia que la está alimentando con información confusa a propósito

» autor: TripodeDeEbano

#100 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

caramelosanto — Thu, 06 Feb 2025 12:59:24 +0000

#87 así ”fácil” no hay nada aún. Necesitarías un scrapper, en forma de pulgón o integrado en el software.

» autor: caramelosanto

#99 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

aironman — Thu, 06 Feb 2025 09:36:57 +0000

#98 ¿Quieres saber por qué creemos en el mundillo que un RAG no es una buena idea? Por muchos motivos, pero hay uno que es prácticamente insalvable, la falta de contexto y la incapacidad de una máquina de comprender qué es un contexto. Por ejemplo, los vectores guardados con algo que tenga que ver con un rey, una reina, un legislador, un regente, hombre fuerte, etc. Si te fijas, todos ellos sirven para definir a un o una mandamás, pues, no todas ellas tendrían el mismo valor coseno vectorial, por lo tanto, la verdadera información necesaria podría no ser seleccionada. El principal problema es que aunque hagas un muy buen trabajo introduciendo información de mucha calidad, el cálculo del coseno vectorial no te garantiza que seleccione la información relevante, porque la información similar no implica que sea información similar relevante. Te puede mostrar algo de información relevante, pero no toda, o algo que no tenga nada de relevante, llevando a la confusión. En el peor de los casos, tienes que estar continuamente toqueteándo el sistema para que te muestre la información, pero es un problema que tiene en contra a la impaciencia humana.

Las personas son impacientes, y tienden a pensar que si algo no funciona bien a la primera, probablemente piense que es porque está roto o es una mierda de implementación. A tomar por saco cientos de millones de inversiones iniciales.

Un sistema de información debe ser rápido y preciso, sobre todo debe ser preciso. Hay más problemas que estamos descubriendo.

Le he pedido a Storm que te haga un resumen:

storm.genie.stanford.edu/article/why-a-rag-system-is-a-bad-idea-to-sto

» autor: aironman

#98 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Jakeukalane — Wed, 05 Feb 2025 22:40:21 +0000

#74 ¿Por ejemplo?

» autor: Jakeukalane

#97 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

lotomorcillo — Wed, 05 Feb 2025 19:09:22 +0000

#32 como bien indica #65 una maquina para levantar y ejecutar DeepSeek R1 con todos los parametros a una velocidad decente debe tener al menos 160 Gb de VRAM.

» autor: lotomorcillo

#96 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

SergioZgz — Wed, 05 Feb 2025 18:05:29 +0000

#95 ya lo he visto luego

» autor: SergioZgz

#95 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Arachne — Wed, 05 Feb 2025 11:38:10 +0000

#70 Pues lo ha repetido como 6 veces aquí y otras tantas en cada artículo que sale de deepseek.

» autor: Arachne

#94 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

zeioth — Wed, 05 Feb 2025 10:14:35 +0000

He trabajado en compañias de IA, y confirmo que lo que escribes en el prompt es revisado.

No es una conversación entre tu y el bot.

» autor: zeioth

#93 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

MorrosDeNutria — Wed, 05 Feb 2025 09:24:41 +0000

#16 con CC a #53

Aquí tenéis un video de como se puede conseguir:
www.youtube.com/watch?v=o1sN1lB76EA

Sigo bastante a Jeff Geerling, todo lo que hace lo documenta y comparte gratis en GitHub

» autor: MorrosDeNutria

#92 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

MorrosDeNutria — Wed, 05 Feb 2025 09:23:01 +0000

#52 Aquí hay un hilo con datos de usuarios reales:
- i7-4790K, 16gb memory and a GTX-1060 6gb => 19.4 Tokens / segundo... yo creo que de segunda mano puedes conseguir ese hardware a buen precio.
www.reddit.com/r/ollama/comments/1ifa93h/deepseek_r1_hardware_requirem

Yo creo que la arquitectura de memoria unificada fue bastante acertada por parte de Apple, usando Olama para correr varios modelos estoy bastante satisfecho (para lo que yo lo uso).

» autor: MorrosDeNutria

#91 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Nómada_sedentario — Wed, 05 Feb 2025 08:23:49 +0000

#55 si no tomas precuaciones porque no las tomas, y si las tomas porque las tomas. Todo mal.

» autor: Nómada_sedentario

#90 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

woopi — Wed, 05 Feb 2025 08:11:31 +0000

#86 Con PDF, en mi caso funciona mejor Meta-llama. La 8B es muy buena. En general te vale la pena hacer pruebas para tu caso particular.

» autor: woopi

#89 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

reparador_reputaciones — Wed, 05 Feb 2025 08:07:57 +0000

#68 estamos hablando de lo mismo. Si quieres que conserve el contexto de la conversación previa tienes que almacenar tu pregunta y la respuesta (y si estamos hablando de un RAG también puedes almacenar el contenido recuperado) en algo que sirva de memoria, de tal manera que en la siguiente pregunta que le hagas se le pasa al LLM todo ese contenido más tu nueva pregunta. Luego puedes refinar esta memoria para que vaya resumiendo el contexto antiguo, lo vaya purgando, etc. Pero es un mecanismo que tienes que implementarle porque el LLM, el modelo de transformers que cargas en memoria, no lo incorpora

» autor: reparador_reputaciones

#88 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

pom — Wed, 05 Feb 2025 07:17:21 +0000

#43 efectivamente son "billones americanos", si bien alguien que no sea completamente ajeno al contexto sabe interpretarlo.

Profesionalmente nunca lo he oído como trillones de parámetros, si bien sería lo correcto me recuerda a como antaño se hablaba de "octetos" en vez de bytes. Yo creo que ya solo se usa a nivel académico.

» autor: pom

#87 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Emosido_engañado — Wed, 05 Feb 2025 04:54:29 +0000

#15 ¿como puedo darle acceso a internet para consultar paginas, por ejemplo para pedirle un resumen? Actualmente estoy haciendo pruebas con ollama y lm studio

» autor: Emosido_engañado

#86 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Emosido_engañado — Wed, 05 Feb 2025 04:39:15 +0000

#69 para generar contenido a partir de datos ¿Sabes cuál puede venir mejor?

» autor: Emosido_engañado

#85 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Emosido_engañado — Wed, 05 Feb 2025 04:36:32 +0000

#46 estoy igual, lm studio me parece mucho más lento, incluso usando más cores, ollama parece más ágil en el desempeño. ¿Sabes cómo quitar el <think> de las respuestas con ollama?

» autor: Emosido_engañado

#84 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

gartstell — Wed, 05 Feb 2025 02:48:58 +0000

#82 Es totalmente posible. Muchas empresas ofrecen renta por horas de sistemas que pueden ejecutar DeepSeek R1. Incluso una, Microsoft, en su servicio ya incluye una "máquina" preconfigurada con DeepSeek R1, en su sistema Azure.

azure.microsoft.com/en-us/blog/deepseek-r1-is-now-available-on-azure-a

» autor: gartstell

#83 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

WcPC — Wed, 05 Feb 2025 01:58:52 +0000

#73 En 2002 te recuerdo que la mayoría de la población no tenía acceso a internet en su casa.
Y ese tipo de cosas han evolucionado mucho en los últimos 22 años, siendo informático yo también considero que una máquina no sabe más que un médico, incluso ahora, como para creer lo contrario hace casi un cuarto de siglo.

Es interesante como, para la medicina, estás dispuesto a pensar en un sistema híbrido y comentas como raro que los médicos no consideren un diagnóstico de la máquina junto al suyo propio, pero cuando se trata de que no expertos usen sistemas automatizados para encontrar patrones digas: "Y posiblemente los expertos del negocio que no conocen su negocio, no puedan validar la efectividad de los patrones encontrados. " que básicamente es decir:
Como va a saber más una máquina que un informático

Ahora sin coña.
Al final estamos de acuerdo que todo necesita supervisión, se podría hacer una revisión final de los datos por parte del servicio informático para encontrar los posibles fallos o los pasos que ha seguido la IA para llegar a esa conclusión.
Respondiendo a #23, #26 o #74 Nadie con dos dedos de frente puede creer que una IA deba ser implementada sin una supervisión profunda de un humano.

Pero
Una parte de lo que yo hacía era escribir los algoritmos y necesitaba reuniones con los médicos y enfermeras.
Eso crea un nivel de "teléfono descompuesto" que nunca va a ser tan rápido ni efectivo como si los expertos pueden acceder directamente a los datos porque pueden usar el lenguaje natural para interactuar con la base de datos.

» autor: WcPC

#82 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Westgard — Wed, 05 Feb 2025 01:13:52 +0000

Una duda, a lo mejor (probablemente) un poco tonta... no existe la opción de cargar esto en un docker, meterlo a un servidor pepino de Internet y ejecutar el modelo que quieras en remoto? Sería algo así como "alquilar" la ram/procesador necesarios, aunque me cabe la duda de si sería más caro que simplemente pagar a OpenAI... (?) Hablo como digo desde el más absoluto desconocimiento y como analfabestia, pero no existe la posibilidad de "alquilar" ciclos de trabajo y correrlo allí?

» autor: Westgard

#81 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Varlak — Tue, 04 Feb 2025 23:30:33 +0000

#61 si, pero respetando la privacidad, así que no puedes usar ningún programa que no sea software libre y pueda ser instalado aislado de la red

» autor: Varlak

#80 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

aironman — Tue, 04 Feb 2025 23:24:55 +0000

#78 este script no es, de hecho, este te dará problemas de serializacion.
Está raro menéame, una vez me deja subir un script de gist, después me dice que no, que hay un ban.

Si subes un directorio y buscas el anterior, irá mejor. No hace falta que uses ray, quita esa dependencia.

» autor: aironman

#79 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

aironman — Tue, 04 Feb 2025 23:21:56 +0000

#76 menéame aplica un ban a gist.github

» autor: aironman

#78 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

aironman — Tue, 04 Feb 2025 23:19:53 +0000

#76 gist.githubusercontent.com/alonsoir/3adb5dcd8105db9fb412e61769baa664/r

pip install ray langchain langchain-core langchain-openai langchain-community
langchain-text-splitters langchain-google-community rich faiss-cpu pypdf

» autor: aironman

#77 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

mudito — Tue, 04 Feb 2025 23:13:10 +0000

He leído el artículo hasta que dice "soy una periodista" (supongo que por escribir en Gennbeta, lo mismo que yo soy artillero de infantería en Call of Duty)

» autor: mudito

#76 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

manbobi — Tue, 04 Feb 2025 23:06:49 +0000

#75 Tengo python en la cola de pendientes, forever delayed. Estaba pensando en algo plug&play... Pero pasa, que reviso los apuntes y algo haré. Gracias.

» autor: manbobi

#75 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

aironman — Tue, 04 Feb 2025 23:04:16 +0000

#42 yo no me fiaría demasiado de un rag, pero si te interesa trastear y sabes algo de python, te puedo pasar un script para que lo modifiques lo necesario para introducir tus ficheros y también pueda hacer búsquedas en internet.

» autor: aironman

#74 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

aironman — Tue, 04 Feb 2025 23:00:15 +0000

#26 no te creas que un rag es una gran idea. Tiene muchos problemas y no parece que se puedan resolver.

» autor: aironman

#73 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

TripodeDeEbano — Tue, 04 Feb 2025 22:53:50 +0000

#14 En el año 2002 desarrolla un sistema híbrido conexionista para el diagnóstico de una enfermedad. Los propios médicos lo tiraron atrás porque: "Como va a saber mas una maquina que un médico'"
Me parece que tenemos una visión contrapuesta y
Los algoritmos los escriben los informáticos en base al conocimiento de los experto del negocio. Si los expertos del negocio no conocen su negocio, quizá las Ia puedan encontrar patrones ocultos pero poco más. Y posiblemente los expertos del negocio que no conocen su negocio, no puedan validar la efectividad de los patrones encontrados.
En este caso la información relevante no son fichas de los pacientes cuidad con dejar a la ia aplicar generalizaciones sobre datos que deben ser exactos.

» autor: TripodeDeEbano

#72 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

camperuso — Tue, 04 Feb 2025 22:31:34 +0000

#54 ...te duele la boca ya de decirlo

» autor: camperuso

#71 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

woody_alien — Tue, 04 Feb 2025 22:17:03 +0000

#53 Por supuesto que son destilados. El despliegue total de r1 son 480Gb de vram y ni te cuento de disco. Pero vuelvo a lo mismo, no vas a conseguir una IA genérica, por supuesto, pero si una entrenable a nivel local para determinadas áreas muy especificas como la que he dicho , reconocer melocotones maduros, reconocer caras, entrenarla en un lenguaje determinado de programación y que pique código. Tienes el fuente, puedes tunearla para tus propósitos y tu hardware disponible.

ollama.com/library/deepseek-r1

» autor: woody_alien

#70 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

SergioZgz — Tue, 04 Feb 2025 21:58:45 +0000

#47 Joder hasta abajo he tenido que ir para leer a alguien explicarlo

» autor: SergioZgz

#69 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

woopi — Tue, 04 Feb 2025 21:58:12 +0000

#1 Yo he probado un poco de todo, por curiosidad. Mi mejor resultado en un ordenador modesto ha sido Meta-Llama 3.1 8B Instruct Q8. He probado DeepSeek R1 Distill Llama 8B y no llega a su nivel. Obviamente hablo de versiones bastante pequeñas de 8 GB y que se pueden ejecutar con una tarjeta gráfica normalita. Para mí Meta-Llama (la uso con LMStudio o GPT4ALL que están en los repos de Manjaro) es sorprendentemente buena y muy solvente en todos los campos que he tocado: conversación general muy buena, aceptable en programación, cultura general, matemáticas, etc. No me esperaba esa calidad.

En cuanto a las versiones online DeepSeek me parece la mejor por la forma en que ha manejado problemas que le he planteado. No me repito porque lo dije hace unos días, pero me ayudó a reparar un electrodoméstico y solo le faltaba usar ella misma el multímetro... Parecía una persona que comprendía el problema de verdad

PS. Le pregunté a Meta-Llama sobre si se podía multiplicar dos matrices cuadradas con menos multiplicaciones que el algoritmo "normal" de producto escalar de filas y columnas. Acertó de pleno y me explicó que hay mejores métodos, etc. En cambio la versión Destill de Deepseek se inventó una tontería increíble. En cambio la versión original de DeepSeek acertó y muy bien en la explicación.

» autor: woopi

#68 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

SergioZgz — Tue, 04 Feb 2025 21:57:23 +0000

#41 yo entendia que pregunta por consevacion de contexto

» autor: SergioZgz

#67 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

sillycon — Tue, 04 Feb 2025 21:57:01 +0000

Pues llevas años pudiéndote haber instalado el ollama y el Fooocus con montones de modelos totalmente Free.

» autor: sillycon

#66 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

SergioZgz — Tue, 04 Feb 2025 21:56:23 +0000

#33 Entiendo que preguntas de si conseva contexto, puedes configurarlo en cualquier modelo para que conserve una parte en cada chat, de hecho dandole a ver el "thinking" puedes ver lo que preserva del contexto de la conversacion.

» autor: SergioZgz

#65 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

SergioZgz — Tue, 04 Feb 2025 21:55:09 +0000

#32 SI claro, de hecho si lo pruebas lo ves claramente.... le preguntas cualquier cosa censurada y realmente te la contesta y luego lo borra... puedes decirle, escribe la respuesta intercalando guiones entre cada letra y ya esta por poner un ejemplo (digo en la propia web, en local no el modelo esta completo, pero otra cosa es que los destilados no son lo que ves en la web, y digamos que sale caro una maquina para levantar el R1 completo)

» autor: SergioZgz

#64 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

SergioZgz — Tue, 04 Feb 2025 21:52:41 +0000

#10 prueba a preguntarle al distill 7b

como se hace el mazapan de España y luego me cuentas (el 8B me gusta mas, pero vamos que tampoco es el r1)

» autor: SergioZgz

#63 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Eukherio — Tue, 04 Feb 2025 21:49:48 +0000

#58 A ver, yo si se ejecuta en local y no envía nada a servidores externos me fío de que acceda a mi sistema y lea mis mails que cuando lo hace ChatGPT.

» autor: Eukherio

#62 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

inar — Tue, 04 Feb 2025 21:48:56 +0000

#58 Quizás para uso interno en una empresa para generar prompts para analítica de datos sin riesgo de fugas de información.

» autor: inar

#61 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

meneandotela — Tue, 04 Feb 2025 21:47:03 +0000

#23 últimamente he visto médicos que mejor usan alguna IA

» autor: meneandotela

#60 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Nebuchanezzar — Tue, 04 Feb 2025 21:39:39 +0000

#1 Eso no da el mismo dinero que dan las suscripciones, así que por mucho que sea el camino, no será el camino

» autor: Nebuchanezzar

#59 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

carlosuyate — Tue, 04 Feb 2025 21:33:25 +0000

Sin censura... en China...

Cuando parecía que no se podía ser más patético, llegan éstos y demuestran que sí, que la estupidez humana puede seguir creciendo.

» autor: carlosuyate

#58 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Hemin — Tue, 04 Feb 2025 21:27:17 +0000

#1 el problema de una IA no conectada, es el mismo que un periódico sin Internet, que pierde el 90% de su utilidad. Te servirá para traducir, o resumir, pero será más complicado que sirva para algo más avanzado

» autor: Hemin

#57 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

TitereConCabeza — Tue, 04 Feb 2025 21:19:35 +0000

#47 shhh no le rompas la ilusión a los muchachos.

» autor: TitereConCabeza

#56 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

manbobi — Tue, 04 Feb 2025 21:19:33 +0000

#49 Hay pocos ordenadores domésticos que puedan usar modelos de 370B

» autor: manbobi

#55 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

mirav — Tue, 04 Feb 2025 21:18:11 +0000

#37 me pregunto si estarias tan preocupado si la procedencia del modelo fuese del otro lado del atlantico. El modelo no se ejecuta en el aire, se utiliza software como ollama (tambien codigo libre) que no tienen apis para que los modelos se conecten a la red. Si la propaganda hace que la paranoia sea desproporcionada siempre tienes formas de que el proceso se ejecute en un entorno que no tenga conexion de red.

Esta bien ser precavido, pero a estas alturas el problema de robo de informacion personal es muchisimo mas grave por parte de multinacionales occidentales, que son las que ya comercian con nuestros datos.

» autor: mirav

#54 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

ralph — Tue, 04 Feb 2025 21:16:05 +0000

#8 No, no has probado el "r1", has probado un destilado de Qwen o Llama.

No existe "r1" de 8b. Hay uno sólo y es de 671b

» autor: ralph

#53 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

ralph — Tue, 04 Feb 2025 21:14:57 +0000

#16 Negativo por desinformar.

No hablas de Deepseek-R1, sino de destilados Qwen/llama.

Es IMPOSIBLE correr Deepseek-R1 en lo que dices... Bueno, tal vez es posible, pero dudo que superes el token por año...

» autor: ralph

#52 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

ralph — Tue, 04 Feb 2025 21:13:54 +0000

#5 Las versiones "ligeras" NO son Deepseek-R1!

» autor: ralph

#51 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

alephespoco — Tue, 04 Feb 2025 21:13:50 +0000

#33 al menos en ollama al modelo se le pasa la conversación/ prompts anteriores (al menos un resumen).

En chatgpt o versiones web de Deepseek, pues no sé sabe.

» autor: alephespoco

#50 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

ralph — Tue, 04 Feb 2025 21:13:24 +0000

#28 Poder se puede... de hecho por unos 6000€ se puede...
otros, incluso, lo hacen con SSDs aunque creo que éstos no pasan de 1t/s o así... pero poder se puede.

Eso sí, lo que corre la mayoría de la gente, es lo que dices, destilados.

» autor: ralph

#49 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

ralph — Tue, 04 Feb 2025 21:10:47 +0000

#3 Negativo por desinformar (aunque estoy seguro que no lo haces a propósito).
Ni de coña puedes correr Deepseek-R1 en un pc de 600€.
Lo que puedes correr son destilados de Qwen/llama.

Me cago en ollama! son los grandes culpables de la desinformación sobre Deepseek-R1 por la mierda de nombres que usan!

» autor: ralph

#48 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

ralph — Tue, 04 Feb 2025 21:09:30 +0000

#10 A tí te va Qwen, no te va Deepseek-R1.

No estas corriendo Deepseek-R1. Es un destilado/fine-tuning basado en Qwen. Lee bien el modelo (gguf).

Deekseek-R1 es un modelo de 671Gb...

» autor: ralph

#47 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

ralph — Tue, 04 Feb 2025 21:08:08 +0000

Errónea. Bulo. Desinformación.

Para correr Deepseek en modo local, se necesita un ordenador muy, pero que muy, potente. El modelo son 671Gb.
O se pueden hacer con menos pero con muchísimo trabajo.

Lo que corren en local son fine-tunings/destilados de otros modelos, aplicando técnicas de Deepseek-R1, pero NO es Deepseek-R1, es llama3 or Qwen2.5.

» autor: ralph

#46 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Eukherio — Tue, 04 Feb 2025 21:07:22 +0000

#44 Estuve haciendo pruebas con Ollama y LM Studio estas últimas semanas.

» autor: Eukherio

#45 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

aritzg — Tue, 04 Feb 2025 21:06:53 +0000

#3 no puedes.

» autor: aritzg

#44 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

--354920-- — Tue, 04 Feb 2025 21:05:02 +0000

#1 para eso ya tenías ollama desde hace tiempo

» autor: --354920--

#43 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

danifart — Tue, 04 Feb 2025 21:03:20 +0000

#30 se dice "un par de miles de millones". O dices "un par de billions" o dices "un par de miles de millones". También puedes decir "un par de millardos" pero nadie utiliza eso.

Para clarificar, "un par de billones" es 2 trillion.

» autor: danifart

#42 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

manbobi — Tue, 04 Feb 2025 21:03:02 +0000

#36 La deepseek R1 distilled Llama 8B
En realidad para lo que las uso, cualquiera 8B me van bien.

Algún experto en la sala de cómo usar agentes o qué modelos van bien para hacer RAG y q programas usar? Mi arma de momento Lmstudio + anythingLLM

» autor: manbobi

#41 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

reparador_reputaciones — Tue, 04 Feb 2025 21:01:23 +0000

#18 ningún LLM por sí solo dispone de memoria. Para eso necesitas de algunas artimañas que te pueden ofrecer frameworks como LangChain o LlamaIndex

» autor: reparador_reputaciones

#40 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Eukherio — Tue, 04 Feb 2025 21:00:59 +0000

#24 Llevo varias décadas usando un ordenador y la norma solía ser esa: tú en tu equipo ejecutabas su software para lo que te saliese del nabo. Desde ofimática hasta edición de vídeo. He ido esquivando suscripciones y servicios en la nube (salvo copias de seguridad) toda la vida a base de software libre: de Microsoft Office a Libreoffice, de Photoshop a GIMP,etc. Con la IA tengo pensado hacer exactamente lo mismo siempre que sea posible.

Soy profesor.

» autor: Eukherio

#39 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

joffer — Tue, 04 Feb 2025 20:58:16 +0000

#24 existía el mundo del software previo a las suscripciones.

De todas formas esto es software libre, con lo que empresas locales de todo el mundo pueden ofrecer el servicio, adaptación y manteniendo. Sin que tenga su ser las mismas 4 de siempre, ni tener que cederles todos tus datos a parte de todo tu dinero.

Y tú a qué te dedicas?

» autor: joffer

#38 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

yofuihongkongphooey — Tue, 04 Feb 2025 20:57:35 +0000

#24 te suena de algo Linux o el software libre? Hay personas y empresas ganando dinero ahí y el producto está a disposición de quien lo quiera.

» autor: yofuihongkongphooey

#37 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Nómada_sedentario — Tue, 04 Feb 2025 20:54:26 +0000

#25 entiendo que si es open source, el riesgo de que te lo instales y de regalo incluya un backdoor es mínimo, no?

» autor: Nómada_sedentario

#36 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Eukherio — Tue, 04 Feb 2025 20:54:09 +0000

#22 Fueron las que probé, y van bien en un equipo con unos años como el mío, pero no es un resultado comparable.

» autor: Eukherio

#35 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

danifart — Tue, 04 Feb 2025 20:53:58 +0000

#3 sip y en una rasperry pi tb

» autor: danifart

#34 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

calde — Tue, 04 Feb 2025 20:49:50 +0000

#18 Interesante cuestión, porque las que yo probé, les podías decir 100 veces que había cometido un error y explicarle la respuesta correcta, y seguía cayendo en el mismo error...

» autor: calde

#33 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

jonolulu — Tue, 04 Feb 2025 20:48:34 +0000

#29 No hablo tanto de aprendizaje, sino de que las respuestas estén condicionadas a prompts previos

» autor: jonolulu

#32 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

calde — Tue, 04 Feb 2025 20:47:55 +0000

#11 Joder, y tanto! Estaba mirando a ver cuánto tardaba alguien en comentarlo, daña a la vista ver eso ya en la entradilla...

Bueno, rectifico leyendo a #12... En serio? Entonces de qué vale la censura? Cualquier chino podría descargarlo en su ordenador también y ver las respuestas sin censura, no?

» autor: calde

#31 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

alephespoco — Tue, 04 Feb 2025 20:46:56 +0000

#19 la IA no necesita tener internet para dar sus resultados.

» autor: alephespoco

#30 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

pom — Tue, 04 Feb 2025 20:46:26 +0000

No diré que no sea mejor o peor DeepSeek, pero la realidad es que los modelos de un par de billones de parámetros de Llama corren bien si los cargas enteros en RAM o VRAM (no tienen unos requisitos desorbitados y los resultados no son peores en modelos pequeños). No entiendo porque la gente piensa que esto es revolucionario.

» autor: pom

#29 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

alephespoco — Tue, 04 Feb 2025 20:46:16 +0000

#18 las redes neuronales actuales no aprenden. Infieren del entrenamiento previo el resultado.
Esto no significa que no se puedan usar los prompts y el feedback para reentrenar esos modelos (que es el mecanismo complejo y caro), pero no en local, sino que gemini, openai etc... Lo guardan y lo usan a posteriori.

» autor: alephespoco

#28 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Jakeukalane — Tue, 04 Feb 2025 20:43:05 +0000

#3 eso no es deepseek. Habría que especificar que destilado del modelo, que es a lo que se refiere #2, que no hay ningún usuario que pueda ejecutar deepseek real en local.

» autor: Jakeukalane

#27 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

pom — Tue, 04 Feb 2025 20:42:43 +0000

#19 los LLM locales no hacen llamadas para solicitar cosas online.

» autor: pom

#26 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Jakeukalane — Tue, 04 Feb 2025 20:42:12 +0000

#23 #14 cualquier cosa que permita RAG es el futuro.

» autor: Jakeukalane

#25 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

mirav — Tue, 04 Feb 2025 20:39:57 +0000

#19 solo se puede saber que has descargado el modelo. la conexion a internet es solo necesaria para descargar el modelo y de hecho el equipo que ejecute deepseek puede tener completamente deshabilitado internet.

» autor: mirav

#24 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Alvarro53 — Tue, 04 Feb 2025 20:36:33 +0000

#1 Asi que para ti, el camino deberia ser que las empresas te ofrezcan la posibilidad de que te instales su producto en local para que así no les tengas que pagar una suscripción... Solo por curiosidad, a qué te dedicas?

» autor: Alvarro53

#23 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Varlak — Tue, 04 Feb 2025 20:34:47 +0000

#14 esa es la parte que me parece más clave, en temas médicos es un cambio increíble, porque nunca usaría chatgpt para ello

» autor: Varlak

#22 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

manbobi — Tue, 04 Feb 2025 20:31:30 +0000

#1 una de 8B va de pm, fina fina. La de 32 es más lista pero se atasca

» autor: manbobi

#21 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Lerena — Tue, 04 Feb 2025 20:29:42 +0000

#10 Yo la tengo instalada en GPT4All, donde se puede instalar de manera bastante más sencilla. También la he probado con docker y con ollama., donde también funciona, pero no detecta la GPU y corre mas lento sobre CPU

» autor: Lerena

#20 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

sorrillo — Tue, 04 Feb 2025 20:29:17 +0000

#12 Lo de cortarlo solo lo he visto en Bing, por lo general la censura la aplican añadiendo a tu consulta instrucciones previas dónde le indican a qué no debe responder o qué debe responder ante ciertas preguntas o ámbitos.

Cuándo lo ejecutas en local esas instrucciones previas no están o las puedes decidir tú.

» autor: sorrillo

#19 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

SlurmM — Tue, 04 Feb 2025 20:28:25 +0000

Por muy local que sea, teniendo conexión a internet, privada, privada......

» autor: SlurmM

#18 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

jonolulu — Tue, 04 Feb 2025 20:26:56 +0000

Por cierto, ¿esta IA va aprendiendo cositas de lo que le vas introduciendo o cada vez que la inicias pierde la memoria?

» autor: jonolulu

#17 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

jonolulu — Tue, 04 Feb 2025 20:23:10 +0000

DeepSeek es la Encarta del siglo XXI

» autor: jonolulu

#16 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

woody_alien — Tue, 04 Feb 2025 17:40:38 +0000

#2 DeepSeek en local admite un mínimo de 4 cores y 8gb de ram. O sea que con una Raspberry 5 tienes una IA local, por supuesto lenta de cojones al no tener GPU y usar modo CPU only, pero el algoritmo es el mismo, up to you para quitar toda la purria que no necesitas y crear un sistema experto en reconocimiento de melocotones maduros, montarlo en un drón y reducir costes en tu granja por menos de 500 leuros. y todo comprado en Aliexpress.

» autor: woody_alien

#15 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

--651290-- — Tue, 04 Feb 2025 09:00:04 +0000

[Usuario deshabilitado]

» autor: --651290--

#14 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

WcPC — Tue, 04 Feb 2025 08:09:01 +0000

#6 Y para poder extraer información sobre cosas que no puedes subir a una nube de otra persona ya que vulnerarías los derechos de autos (o directamente no confías en dicha nube)
Por ejemplo informes médicos.
En el SAS (servicio Andaluz de Salud) muchas de las consecuencias sobre como mejorar el servicio (o ahorrar dinero) se obtenían mediante algoritmos que debían escribir los informáticos, específicos y normalmente muy poco eficientes.
Si le metes los datos a una IA y luego esta te responde a tus preguntas tienes un método seguro de obtener información relevante sin necesidad de saber programar.

» autor: WcPC

#13 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

founds — Mon, 03 Feb 2025 17:39:45 +0000

#2 yo tengo una 1070 y tira de bien

» autor: founds

#12 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

lotomorcillo — Mon, 03 Feb 2025 17:27:44 +0000

#11 En local no te hace filtrados. El filtro está si la usas online en su web.
Al igual que otras IA aparte del LLM hay otras redes que van mirando lo que escribe y si suelta algo que no debe la para en seco.

Usando la API tampoco, de momento, hay filtrados.

» autor: lotomorcillo

#11 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

kumo — Mon, 03 Feb 2025 17:19:02 +0000

Lo de "sin censura", viendo como responde a las cosas sobre China, pues... En fin, parece una publi.

» autor: kumo

#10 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

aeiou_borriquito_como_tu — Mon, 03 Feb 2025 17:12:52 +0000

Aquí la gente habla sin probar nada.

A mi me va de P.M. con un equipo viejo y GPU barata.

Para que vaya rápido uso el modelo 7B porque cabe entero en memoria. Escribe más rápido de lo que puedo leer.

Intel(R) Core(TM) i5-4460S CPU @ 2.90GHz (AÑO 2014)
16 GB RAM.
RTX 3050 6GB unos 250€.

#!/bin/bash

./llama-server
--host 0.0.0.0
--port 8080
--path "${HOME}/llama/examples/server/public"
-m "${HOME}/llama/models/DeepSeek-R1-Distill-Qwen-7B-Q5_K_M.gguf"
--repeat_penalty 1.1
-ngl 45
--temp 0.9
--no-warmup
--threads 6
-c 0
-n -1
--keep -1
-fa
-nkvo

» autor: aeiou_borriquito_como_tu

#9 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Torrezzno — Mon, 03 Feb 2025 17:03:54 +0000

Lo pones con ollama en un momentito pero no sirve para mucho

» autor: Torrezzno

#8 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

poxemita — Mon, 03 Feb 2025 16:53:19 +0000

Ayer probé el r1 8b, y todavía estoy esperando que me genere un codiguito que le solicité.

Te suelta una parrafada terrible de lo que va a hacer antes de hacerlo.

Mi portátil tiene ya 6 añitos largos.

» autor: poxemita

#7 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

alfema — Mon, 03 Feb 2025 16:51:10 +0000

Perdonar mi ignorancia, pero, aunque lo ejecutes en local necesitará conectarse a Internet para alimentarse de información, ¿o también te la descargas?, si es así no hay problema, en caso contrario se la estás pasando a alguien, digo yo.

» autor: alfema

#6 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Bapho — Mon, 03 Feb 2025 16:43:58 +0000

#1 imagino que para corregir textos y cosas asi va que chuta.
A mi también me parece el camino.

» autor: Bapho

#5 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Bapho — Mon, 03 Feb 2025 16:42:54 +0000

#2 por lo que tengo entendido para las versiones ligeras no necesitas tanta maquina.

» autor: Bapho

#4 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

JackNorte — Mon, 03 Feb 2025 16:41:58 +0000

#2 "No obstante, cuenta con ocho mil millones de parámetros. La eficiencia de DeepSeek es una virtud que se aprecia enormemente cuando la usas desde tu equipo, en mi caso un Mac Mini y un MacBook Air apañados pero nada del otro mundo."
Pero es imposible que te explique todas las cosas que no son necesarias para el uso que ella le da.
Tambien explica que version del modelo 8 mil parametros por encima estan varios que ocupan mas y que requieren mas potencia. Pero no los que ella necesita.

» autor: JackNorte

#3 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

ctm2000j — Mon, 03 Feb 2025 16:35:45 +0000

#2 Puedes ejecutar DeeSeek en un pc de 600€, mi equipo no está a la última que digamos y no tiene gráfica nvidia, y funciona razonablemente bien, no como otras ia's que he ejecutado en local y donde mi equipo se asfixiaba.

» autor: ctm2000j

#2 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Feliberto — Mon, 03 Feb 2025 16:22:55 +0000

No explica la "usuaria" de ChatGPT donde ha sacado un ordenador de 10000€ para ejecutar DeepSeek en local.

» autor: Feliberto

#1 DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones

Eukherio — Mon, 03 Feb 2025 16:16:55 +0000

Ya lo ponen en los propios comentarios del artículo, pero lo cierto es que el problema es que las versiones que puedes instalar en PCs normalillos no son muy listas que digamos. Pero bueno, que yo también creo que el camino debería ser ese, ofrecer la posibilidad de ejecutar un modelo de IA solvente desde tu propio equipo, para no acabar dependiendo de suscripciones, con lo que ello conlleva.

» autor: Eukherio