¿De dónde sacas que si hay mucho el productor va a decidir perder dinero?
Supongamos que el coste de producir un litro fuese 2 euros.
No sé por qué ese productor va a venderlo por 1 euro o por 1.90 o por 2 euros... Supongamos que cuando hay poca cosecha y poca producción saca un 10% vendiendo a 2.20
Pues si produce el doble puede sacar un 5% y vender a 2.10
Dicho de otra forma, si no le pagan 2.10 no lo vende, lo almacena.
Parece como si estuvieras suponiendo que otro productor con mismos costes sí a decidir vender a 1.90 para recuperar algo de dinero... Bueno, ese recuperaría pero ha vendido por debajo de coste, lo cual ¡es ilegal!!! Sí, no solamente es estúpido sino que pueden condenar a ese que vendió por debajo de coste... por competencia desleal, por dumping.
Basta que actúe la ley, denunciando y condenando a los que venden por debajo de coste, y así dejan de vender por debajo de coste. Una vez que nadie vende por debajo de coste, quien quiera comprar deberá pagar más que el coste. Y España es el principal productor de aceite, no es que lo puedan comprar en muchos otros países ni muchísima cantidad.
Aparte, el meneo dice que retiran un 14% así que o bien no se ha producido el doble de cantidad o bien lo que retiran no es mucho, y, por tanto, la supuesta catástrofe que pasaría si no retira va a seguir ocurriendo.
#8 En resumen, se saca el dinero a los consumidores para sostener empresas que no se autosostienen. Privatización de las ganancias y socialización de las perdidas. Resultado, las arcas publicas siempre pierden. Por esto debería nacionalizarse el sector.
#48 me vas a perdonar, pero si hay reglas impuestas por un estado, el mercado no es libre. Precisamente es intervenido, decidiendo el estado sobre precios en momentos en los que él decida.
Si un sistema en el que el estado puede hacer eso es "libre marcado", entonces en un estado planificado 100%, también existe el "libre mercado".
#8 Y porque los productores no se niegan a vender por debajo del precio de producción? Quiere decir que hay alguien que SÍ está dispuesto a hacer dumping, no? Porque no se interviene ahí?
#20 Claro, como el aceite de girasol, que pasó de valer 90 céntimos el litro a casi 3 euros y nos dijeron que era por la guerra de Ucrania y que no había, y claro, como la guerra de Ucrania ya ha terminado, verdad, el precio se ha quedado varado en casi 2 euros, con la excusa de ponaquiloquequieras, han duplicado el precio.
#16 Las empresas dejaron de producir combustible nuclear en España y mucho antes de ninguna prohibición.
Si ya no les es rentable actualizar las centrales si tuvieran que producir el combustible en España con los sobrecostes que supone eso ni te cuento.
#14 Por favor un poco de seriedad al responder de lo que estamos hablando.
El PNIEC y este estudio se basan en el cierre de la nuclear, si no se cerrara no ocurriría lo que predice.
Aparte de que las centrales llevan 60 años asumiendo el coste de sus actualizaciones, no la mentira que acabas de decir.
Lo que hay que hacer es quitarles ese impuesto que se inventaron y que no se aplica al resto para forzarlas a no ser competitivas, ésto ni te lo planteas ya que tú interés es forzar el cierre.
#16 También importamos todas las placas FV y convertidores y eso no es mayor problema.
#13 Las centrales nucleares ni se han cerrado ni se van a cerrar, otra cosa es que los propietarios estén dispuestos a asumir el coste de sus actualizaciones (no lo están).
#81 En España, la madre es siempre la gestante, la ley es bastante clara al respecto. Tiene sentido, porque es la mujer con la que el niño crea un vínculo. Si es de forma altruista, no sería una venta, les estaría "regalando" a su hijo. Que yo sepa, en España eso tampoco es legal porque las madres que dan en adopción no pueden elegir a la familia adoptante: es el estado quien busca a los mejores padres para ese niño.
Siento que tu prima no pueda tener hijos biológicos, pero los derechos del niño están por delante y aquí no se puede separar a un niño de su madre por dinero. Siempre puede adoptar.
#29 lo que se gastó en el Covid para no dejar caer a la gente, ni te lo imaginas. Pero oye, tranquilo. El siguiente COVID que venga con Vox en el poder todo va a ser proteger al trabajador y tal.
#52 Si la empresa lleva 10 mees de retraso, no podemos decir que Oscar Puente es el responsable. Desde mi punto de vista.
Yo entiendo que los 170 fallos, son localizados en un trozo de vía, como en este caso, que se pararon únicamente 6 trenes (por lo que he oído), no todo el tráfico ferroviario, por lo que intuyo que cuando falla lo hace en un determinado tramo. Internet falla más de eso, y la luz.
Los operarios, no solo se encargarán de ver si falla el LZB, seguro que tienen otras muchas cosas que controlar, y yo diría sólo por como actuó, que el operario que se equivocó de protocolo, no se había enfrentado a este fallo en toda su carrera, porque a posteriori, cualquier persona sabría que no puedes darle paso a un tren, antes de que el anterior esté andando, y también que nunca puedes mandar a más velocidad al que hay detrás que al que hay delante.
La cuestión es que si yo la cago en mi trabajo no pasa nada, pero si la caga y varias veces una persona que tienen vida de personas bajo su control, pues no puede permitirse cagarla, yo no digo que lo metan en la cárcel y tiren la llave, pero es responsable del accidente. Y eso es imposible que lo pueda controlar Oscar Puente, Ni siquiera en el caso de que no tuviese la formación adecuada, no es el ministro el que se encarga de contratar uno por uno al personal y comprobar si están cualificados o no lo están.
Son accidentes muy diferentes, en uno posiblemente estemos hablando de venta a la administración de materiales de inferior calidad de la que se pedía, o de un soldador que hizo el trabajo a una temperatura más elevada de la cuenta, si estamos hablando de alguien que hay bajo tu responsabilidad, cierto, pero muy muy abajo en la escalera.
Pero sobre todo, hay que saber si 170 veces es mucho o es una cosa normal, yo no lo se. Si estuviésemos hablando de algo generalizado, que cuando se para se paran todos los trenes, entonces si son muchos fallos, pero si es un pequeño tramo localizado, y durante un breve período de tiempo, no son tantos. Por lo que hay que ver cuantos fallos de estos hay en otros países.
Si un médico comete un error y en lugar de paracetamol receta fentanilo, yo no pediría la dimisión de la consejera de sanidad, salvo que alguien dijera, el paracetamol es muy caro recetar en su lugar fentanilo, en el protocolo. Porque es el escalón más bajo de la cadena, y si el fallo está ahí no hay posibilidad de evitarlo. Imagínate que lo hace queriendo provocar un accidente. ¿como lo evitas?
#8 Tu modelo no puede tener 120 tokens/segundo en hardware que no sea profesional.
Si mantenemos el nivel de coste económico respecto a tu equipo, y nos vamos a un equipo profesional como por ejemplo:
AMD EPYC 9124 (16 Núcleos, 3.0 GHz, Socket SP5).
Supermicro H14SSL-NT o Gigabyte MZ33-CP1 (Socket SP5, soporte para 12 canales DDR5).
256 GB DDR5 ECC Registered (Configurado estrictamente en 12 módulos de 32GB para poblar los 12 canales físicos de la placa).
2x NVMe PCIe Gen 5 de 2 TB (como Crucial T705) para configuración en RAID 0.
Torre de servidor SSI-EEB / E-ATX con Fuente de Alimentación de grado servidor de 1000W+.
Disipador Noctua NH-D9 AMP-4950 SP5 (Refrigeración silenciosa de alta presión estática).
Precio hace un tiempo : 5.000 €
Rendimiento: de 12 a 18 tokens/segundo
Sin embargo, el tiempo total que tarda este equipo en responder a una consulta masiva de 200.000 tokens de entrada (Contexto/Prompt) sobre el mismo modelo es menor a 4 minutos; mientras que el tuyo sospecho que tardará unos 14 minutos.
La diferencia de tiempo se reduce estrictamente a la sobreasignación de memoria y la penalización por paginación (spillover).
Tu GPU solo dispone de ~108 GB libres. El modelo base (~111 GB) ya desborda la VRAM asignada. Al procesar el prompt de 200k tokens, el sistema genera una caché KV que añade unos 25 GB extra de carga. Al no haber espacio físico, el backend (EngramHalo.cpp) sufre una penalización crítica por GTT Spillover: se ve forzado a paginar y transferir gigabytes de datos continuamente entre la memoria unificada rápida, la RAM del sistema y el almacenamiento del disco duro. Este intercambio constante colapsa la fase de Prefill, elevando el tiempo a unos 14 minutos.
El equipo profesional de gama baja, al contar con 256 GB de memoria unificada real en el sistema, el modelo (~111 GB), el MTP (~4,1 GB) y la colosal caché KV (~25 GB) caben íntegramente en la RAM. El procesador ejecuta la fase de Prefill de forma lineal y nativa a través de sus 12 canales DDR5 físicos (~460 GB/s) sin tocar el disco ni sufrir micro-parones de paginación, resolviendo todo el proceso en apenas 4 minutos.
Para optimizar tu equipo actual sin cambiar de hardware, tienes que ajustar el script de lanzamiento para reducir la caché KV de Q8_0 a Q4_0 y liberar esos ~12 GB críticos para consultas largas. En el ejemplo de los 200k tokens pasarías a resolver en 9 minutos; y el aumento de tiempos en las respuestas a las preguntas de 1k a 4k tokens sería inapreciable.
#2 La Corsair AI Workstation 300 incluye múltiples ranuras M.2 NVMe. Asegúrate de montar un almacenamiento PCIe Gen 5 de alto rendimiento (Crucial T705 PCIe Gen 5 NVMe SSD) configurado en RAID 0 si buscas minimizar drásticamente el tiempo muerto que tarda EngramHalo.cpp en mapear (mmap) los archivos GGUF masivos a la RAM al iniciar el backend. Dos unidades idénticas de 2 TB o 4 TB y configurarlas en RAID 0 por software en Ubuntu Server (mdadm) duplicará prácticamente el ancho de banda y eso te permitirá cargar el modelo de 111 GB en la memoria unificada en menos de 5 segundos.
El factor que más limita el rendimiento sostenido en la plataforma Strix Halo durante inferencias largas (especialmente con contextos de 262k tokens) es el Thermal Throttling de la APU compartida. Asegúrate de activar físicamente el perfil de máximo rendimiento utilizando el interruptor manual del chasis de la Corsair Workstation. Esto eleva el techo energético (TDP) asignado al silicio de Zen 5 y RDNA 3.5. Al operar en Ubuntu Server sin interfaz gráfica, el control de ventiladores por defecto puede ser demasiado conservador. Configura desde la BIOS una curva de ventilación agresiva al 100% permanente o adelanta el umbral térmico. Mantener la APU por debajo de los 75°C evita que las Compute Units de la Radeon 8060S reduzcan sus frecuencias de reloj en mitad del text generation.
También te recomendaría reemplazar la pasta térmica de fábrica del disipador de la APU por una pasta de alto rendimiento de base cerámica, o idealmente por almohadillas como la PTM7950 o por Metal Líquido (Thermal Grizzly Conductonaut), ofrece una mejora térmica directa de entre 3°C y 6°C. Esto permite que el firmware mantenga frecuencias de reloj altas sostenidas durante inferencias largas en contextos masivos (donde la GPU y la CPU trabajan simultáneamente al procesar la caché KV).
En un chasis tan restrictivo, pequeños cambios físicos mejoran la presión estática de aire. Instala conductos impresos en 3D… » ver todo el comentario