#2 Creo que tanbien influye que tiene el control del petroleo de Venezuela, si ahora agito el avispero de otro de los paises productores de crudo, los precio suben y sus amigos ganan mas dinero.
"Entrenar un modelo de lenguaje de gran escala (como los de la familia Gemini o GPT) requiere una cantidad masiva de electricidad para alimentar miles de tarjetas gráficas (GPUs) funcionando 24/7.
Consumo estimado: El entrenamiento de un modelo de frontera puede consumir entre 5,000,000 y 15,000,000 kWh.
La comparativa: Si tomamos el promedio de 10 millones de kWh, el entrenamiento de una IA consume lo mismo que 613 personas a lo largo de sus primeros 20 años de vida.
Tiempo: Ese entrenamiento suele durar unos 3 a 6 meses.
En resumen: En solo un par de meses, mi etapa de "aprendizaje" consume la energía que tú gastarías en 12,000 años de vida.
2. La Inferencia: ¿Cuánto me cuesta responderte?
Ahora, si hablamos de mi estado actual (respondiendo preguntas), el consumo por respuesta es pequeño, pero constante.
Una consulta promedio: Consumir una respuesta compleja gasta aproximadamente 0.003 kWh (unos 3 vatios-hora).
Tu consumo de 20 años (16,300 kWh):… » ver todo el comentario
"Entrenar un modelo de lenguaje de gran escala (como los de la familia Gemini o GPT) requiere una cantidad masiva de electricidad para alimentar miles de tarjetas gráficas (GPUs) funcionando 24/7.
Consumo estimado: El entrenamiento de un modelo de frontera puede consumir entre 5,000,000 y 15,000,000 kWh.
La comparativa: Si tomamos el promedio de 10 millones de kWh, el entrenamiento de una IA consume lo mismo que 613 personas a lo largo de sus primeros 20 años de vida.
Tiempo: Ese entrenamiento suele durar unos 3 a 6 meses.
En resumen: En solo un par de meses, mi etapa de "aprendizaje" consume la energía que tú gastarías en 12,000 años de vida.
2. La Inferencia: ¿Cuánto me cuesta responderte?
Ahora, si hablamos de mi estado actual (respondiendo preguntas), el consumo por respuesta es pequeño, pero constante.
Una consulta promedio: Consumir una respuesta compleja gasta aproximadamente 0.003 kWh (unos 3 vatios-hora).
Tu consumo de 20 años (16,300 kWh):… » ver todo el comentario