Tecnología, Internet y juegos
229 meneos
504 clics
AWS sube los precios de las GPU un 15% un sábado, esperando que no te dieras cuenta [eng]

AWS sube los precios de las GPU un 15% un sábado, esperando que no te dieras cuenta [eng]

AWS ha subido discretamente los precios de sus Bloques de Capacidad de EC2 para ML en aproximadamente un 15 por ciento. La instancia p5e.48xlarge —ocho aceleradores NVIDIA H200 en un solo paquete— pasó de 34,61 a 39,80 dólares por hora en la mayoría de las regiones, mientras que la p5en.48xlarge subió de 36,18 a 41,61 dólares.

| etiquetas: subida precio , gpu , aws , ia
96 133 0 K 272
96 133 0 K 272
Cuidado con estos servicios si estas probando cosas, que a mas de uno se le ha quedado un proceso ejecutando y la factura que les ha llegado les ha dejado temblando porque no puedes poner un tope de gasto
#3 A mi me pasó :-S
#3 #5 ¿No se puede poner tope de gasto? o_o

¿Seguro? Me parece muy raro.
#6 A mi me pasó hace muchos años, con una web que tenía, pasé de pagar 3.000€ a pagar 8.000€ en un mes.

Por suerte la web era muy rentable y no lo notamos mucho en la cuenta de resultados :->
#7 No era Menéame :troll:
#12 Hostia, he pensado lo mismo!!
#13 Era una web de juegos flash con 400.000 visitas al día de media.
#16 juegos flash y aws? Llegaron a coexistir en el tiempo?
#22 Sí, a finales de la primera década de los 2000
#7 URL?
#6 No se puede no, ellos te diran que hasta el final del ciclo de facturacion no van a saber cuanto tienes que pagar y que no pueden estar calculando ese importe cada segundo.
Lo lei en un articulo en su momento, yo tenia unos servicios de pruebas y lo quite, imaginate que la cagas y metes un bucle que dura mucho mas de lo que esperas...
#8 como mucho se me ocurre una alarma en cloudwatch con el gasto acumulado… y ya manualmente lo apagas. Me imagino que a partir de ahi, se podra automatizar mediante un script y apagar un servicio mediante api
#8 Si un juez les obligase a ofrecer a los clientes un límite de gasto mensual ya verías qué fácil y rápido sabrían implementar un límite de uso de recursos.
#8 En Azure creo que puedes poner tope de gasto. Nosotros lo activamos y nos avisaba si llegábamos al límite.
#24, te avisa, pero no lo para. Como dicen por aquí, esto pasa por falta de regulación, no por imposibilidad técnica. Si puedes configurar alertas, deberías poder configurar auto-apagados.
#6 Yo pensaba que se podía poner un tope a todo lo de AWS
#11 AWS Budgets: pones un presupuesto (ej. 100€) y alertas al 50/80/100/120%. Te avisa por email/SNS. Aunque no corta nada. Entre otras soluciones
#14 Es lo habitual. Yo pongo unos límites bajos y así me llegan tres veces al mes alertas al email diciéndome cuánto llevo gastado.

Siempre puede haber despistes, pero es bastante raro que a alguien se le pueda "escapar un mes" si le ha puesto algo de cariño.
#6 puedes poner una alerta que te avise al teléfono o al móvil. Pero no puedes pararlo.

Hay gente que ha hecho apaños con lambda y tal para intentar cortar todo manualmente. Pero eso, manualmente.
#6 #3 si que se puede. Alertas y topes de gasto se pueden poner sin problema. En GCP te tienes que ir al panel de quotas y en AWS no me acuerdo.
#41 Cloudwatch
#3 Lo primero que hay que hacer es poner un límite al dinero que quieres gastar por mes.
#3 En un anterior trabajo nos metieron a todos los de sistemas en una sala para echarnos la bronca de que había llegado una factura de Azure de 2000€ y no sabían la causa. Parece que un compañero que había impartido una formación unos 15 días antes se dejó varias máquinas virtuales creadas aunque apagadas. Se le olvidó eliminar las máquinas virtuales y costó una pasta.
Miedito dan los servicios en la nube
#35 ¿Factura o fin del crédito?
#3 docs.aws.amazon.com/cost-management/latest/userguide/budgets-controls.

Alertar, parar, quitar permisos.
Configurado en las cuentas de laboratorio.
#3 El clásico meme, pero hay muchos mas:  media
#30, de la humanidad. Aunque debido al modo de organización capitalista que vivimos los beneficios se concentren, el desarrollo de las fuerzas productivas gracias a la IA va a quedar ahí. De hecho, el capitalismo es extremadamente eficiente desarrollándolas.

Es como la máquina de vapor, quienes capitalizaron sus beneficios, fue la burguesía. Pero cambió el mundo y la humanidad. La diferencia con la máquina de vapor es que el cambio va a ser mucho más rápido y mucho más disruptivo. Y tal y como predijo Marx va a exacerbar las contradicciones.
Se viene el crash?
#1 Si viniera un Crash bajarían los precios, suben porque las IA tienen dinero prácticamente ilimitado para comprar recursos.

Leí por ahí que ha han llegado incluso al punto de comprarlos para después no usarlos y negarselos a las otras compañías de IA.
#2 entiendo que si Amazon sube el precio de EC2 para ML se debe a la subida generalizada de la RAM. Si aws es más caro más le cuesta a anthropic la inferencia, por lo que podrian verse forzados a subir el precio por token o quemar el dinero de los VC más rápido. Para mi es señal de burbuja
#4 "entiendo que si Amazon sube el precio de EC2 para ML se debe a la subida generalizada de la RAM"
Porque... patatas xD
#9 es difícil unir con puntos que suba toda la clase de memoria y se encarezcan los servicios que usen hardware que incluyan ram, especialmente las GPUs, eh!?
#17 "y se encarezcan los servicios que usen hardware que incluyan ram"
Usan hardware con RAM todos los servicios, y solo han subido de precio los servicios de GPU

Es mas, los servicios de AWS que más RAM utilizan son :
- Instancias Amazon EC2 optimizadas para memoria (series R, X, z1d) para cargas de trabajo intensivas en RAM
- Servicios de análisis como Amazon ElastiCache (in-memory cache) y Amazon OpenSearch/Elasticsearch para procesamiento de datos en tiempo real, ya que almacenan grandes cantidades de datos en memoria para consultas rápidas, como se ve en análisis de datos y bases de datos en caché

Creo que has unido los puntos como mas te ha interesado.
#21 que sí socio que seguro que no tiene ninguna relación. Ni que tampoco mañana continúen aplicando subidas al resto de servicios como todo apunta que va a pasar debido a la alta demanda de memoria que están provocando los centros de IA (IA que funcionara con unicornios por lo visto y no con GPUs)
#34 Tío, no voy a hacerte un dibujito, ni a sacar los muñequitos para explicártelo, te he dado ejemplos de por qué la teoría de la subida del precio de la RAM, como causa de la subida de precios de AWS, no se sostiene.
#1 La última noticia que vi en Meneame respecto al SP500 decía que bajó un 5%. Hoy está prácticamente al mismo precio que su máximo histórico, pero por lo que sea eso no está en portada.
#1, desengañate, ninguna de las grandes empresas va a caer, porque los gobiernos de China y EEUU, a diferencia de algunos ciudadanos despistados, tienen claro que esta es la tecnología que va a determinar el futuro de la humanidad. Es una carrera que no pueden perder aunque vayan a pérdidas, como la carrera espacial en su día, pero un millón de veces más importante para el devenir del futuro de la humanidad.
#28 de la humanidad o de los bolsillos de unos pocos?. Porque creerse las pamplinas de Sam Altman de que va curar el cancer es ser muy naiv. Si en algo va a ayudar la IA es a hacer más ricos a los más ricos.
Como si las sube un 100%

Es su empresa, son sus precios.
#18 Qué alegría ver comentarios sensatos de vez en cuando :-)
#18 Gracias, gran aporte. Por mensajes así sigo entrando en mnm
Y yo que tenía 8 H100 para hacer cosillas y no lo aproveché :')
De vuelta al on-premise
#37 Sí, echa un ojo a la subida de la RAM, ese 15% no es nada. Y pienso que en 2026-2027 puede llegar el encarecimiento de la electricidad, que lógicamente afectará a los hogares. Va a ser una risa generar fotos de gatos con IA.
#45 para eso ha llegado la IA... que triste
Pues ahora y precisamente por la IA, los precios de la memoria estan por las nubes y la informática de consumo va a sufrir lo suyo.

Si encima se van a a aprovechar ahora para inflar precios de servicios en la nube...

No espera... es un plan perfecto para toda esa gente. Y es que la cosa da miedo de cómo pueden llegar a manejar el tema y aún más nuestros datos. Que acabemos con pcs tan caros que la mayoría simplemente pillará terminales cutres, y que toda esta gente sea quienes gestionen la computación via servicios.

menéame