edición general
reparador_reputaciones

reparador_reputaciones

En menéame desde marzo de 2006

6,21 Karma
18K Ranking
0 Enviadas
0 Publicadas
709 Comentarios
0 Notas

¿Son los LLM un simple predictor estadístico de palabras? [294]

  1. #177 que leas mi primer comentario, que ahí te doy un ejemplo de mecanismo de razonamiento. Otro ejemplo de mecanismo es el ReAct arxiv.org/abs/2210.03629
  1. #200 el procesamiento en paralelo de la autoatencion se hace con el multi head. El de autoatención es la ponderación de cada token frente a los que componen la secuencia y es un proceso que por sí mismo no va en paralelo
  1. #158 no, ese no es el concepto clave, es el de la autoatención. El procesamiento en paralelo sí que sería una optimización.

    Y no, un motor a reacción impulsa gracias a los gases de la combustión del oxígeno que capta y el combustible que lleva. Una hélice, solamente empuja el aire con el movimiento de las hélices. Así que el concepto de empuje es distinto
  1. #125 nadie está diciendo que no sea una red neuronal, pero lo que para ti es un detalle de implementación (supongo que te refieres a arquitectura) lo que subyace es un cambio de concepto en cómo se están tratando los datos de entrada, lo mismo que hubo un cambio de concepto en las redes convolucionales para el tratamiento de imágenes y en las recurrentes para el tratamiento de texto.

    Insisto en el símil del avión. Ambos aviones (el F35 y el de los hermanos Wright) se basan en el principio de sustentación pero hay otro concepto asociado que es el cómo quieres impulsar el avión, con una hélice a pedales o con un motor a reacción. Dependiendo de uno u otro las aplicaciones del avión son distintas y te permiten destacar en escenarios donde antes no podías. Y con el concepto de transformers sucede exactamente igual, que se pueden hacer cosas que con una recurrente era impensable
  1. #120 estás dejando en el caso de los LLM el concepto más importante para entender cómo funcionan realmente, y es el de los transformers. No se trata de un mero detalle, sino la esencia de este tipo de modelos. Si te centras únicamente en el funcionamiento de una red neuronal entonces no rascas ni la superficie.
  1. #92 si lo quieres reducir todo a pesos, sesgos y activadores entonces sí. Pero es como decir que un avión F35 es en esencia el avión de los hermanos Wright, de un simplismo tan grande que solo demuestras que no entiendes nada de lo que hay detrás de él
  1. #107 que te he dicho que el razonamiento que presentan viene de otros mecanismos, no del propio LLM
  1. #60 eso es un poco inexacto. Parte de la magia de los LLM se basa en los embeddings, pero la verdadera potencia está en la arquitectura transformer y los mecanismos de atención múltiple.
  1. #25 pues no han cambiado las redes neuronales desde entonces… Para empezar, estamos hablando de que cada tipo de neurona, capa y función de activación permite aprender a una IA de distintas formas. Si además le sumas que los transformers ya no que están haciendo uso únicamente de un espacio latente del corpus sino que está teniendo en cuenta la posición de cada palabra dentro del texto y las relaciones que surgen entre palabras por estar en esas posiciones, los LLMs se parecen a un perceptron multicapa o cualquier otra historia que usaras en tu época como un huevo a una castaña. Así que ya no tienes únicamente la palabra más probable dada una secuencia previa, sino la más probable teniendo en cuenta el significado de todas las palabras que componen el corpus, sus relaciones entre ellas y la distribución y relación de las palabras en la secuencia de entrada.

    Y no, el LLM por si mismo no es capaz de razonar, para eso tienes mecanismos externos como el CoTs. Pero sí que puedes hacer entrenamientos del LLM para que el razonamiento posterior funcione mejor.

China tiene un plan para repetir con los coches lo que ya hizo con los móviles. Y ese plan ya ha comenzado [54]

  1. #27 si le paso tu comentario a esa misma página me dice que el 87 por ciento de lo que has escrito lo ha hecho una IA :shit:

Dos exguardias civiles se hacen de oro gracias a la DGT y a la "imposición" de la baliza V-16 [161]

  1. Invento que no termino de entender en un coche moderno que ya tiene botón SOS, llamada de asistencia a la marca y posicionamiento GPS desde el propio coche. Tan difícil era desarrollar un protocolo de comunicación único para que lo implementaran todas las marcas y que fueran las respectivas agencias las que se conectaran mediante api para hacer lo mismo (y mejor) que hacen estas balizas? Para el usuario sería tan simple como dar a un botón de avería y ya. Las lucecitas y demás mierdas las puede hacer el coche, que con los leds puedes montar el espectáculo de luces que quieras

Los cortes de luz se extienden por toda Sevilla en un verano infernal [85]

  1. #55 si, pero el resto del proceso te lo comes igual. No es tan fácil como que alguien esté cometiendo fraude pero lo haga mientras está conectado a un contador inteligente, que la compañía tiene libertad para cortarte el suministro
  1. #24 solo se puede detectar el fraude a nivel de trafo y cada trafo puede tener enganchadas varias decenas de viviendas. Así que encontrar quién está haciendo el enganche ilegal necesita de enviar a un técnico, recabar pruebas, poner en conocimiento de la policía, investigar, orden judicial,… No es tan sencillo

Europa ha impuesto el coche eléctrico para 2035 y está fracasando: la gente compra coches de segunda mano, antiguos y diésel. Y eso es un problema [185]

  1. #22 la red de cargadores de este país es un sinsentido. En las áreas de servicio por lo general sólo se encuentran cargadores de 50kw, por lo que cargar un coche con una batería grande desde el 20 al 80 por ciento te lleva a hacer una parada de una hora. Los cargadores de 100kw o te los encuentras en polígonos industriales o en zonas de descanso muy apartadas de tu ruta. Ya del precio de recarga por hacerlo a 22 cochinos kw suele ser hasta caro en según qué cargadores, así que el precio de los cargadores rápidos ni hablamos. Pero también entiendo que recargar a esas potencias debería ser algo más o menos excepcional.

    Luego en las ciudades tampoco es que mejore mucho la situación. ¿Tan difícil es distribuir los cargadores para que la gente pueda tener un par de cargadores a diez minutos andando de su casa y que estén operativos siempre?
  1. #44 cargarlo en un cargador rápido no trae a cuenta por el precio que aplican al kilowatio hora, pero todo lo que sea cargar por debajo de 0.30 sale más barato que usar diésel

Hay tanta gente cultivando marihuana en sus casas que Endesa tiene un problema. Y va a solucionarlo con IA [177]

  1. #95 pero aquí no se habla de autoconsumo, sino de casa enteras repletas de plantas de marihuana. Y el problema es ese, que para ese nivel de producción no te queda más remedio que hacer un enganche ilegal con lo que al final se termina sobrecargando el centro de transformación
  1. #40 pero de verdad te crees que quien cultiva marihuana en interior consume la electricidad legalmente? Sabes que la potencia que se necesita para esas plantaciones hace necesario que declares la instalación eléctrica como industrial, con todos los controles que eso conlleva?

Hacia la extinción de las viviendas en alquiler: ¿Dónde han ido a parar las 150.000 casas que se han evaporado del mercado? [296]

  1. #217 ¿Y esperabas ver el efecto del tope del alquiler en el corto plazo? Eso solo se producirá con la subida de los salarios porque quien haya invertido X dinero en ladrillo querrá recuperar al menos esa misma cantidad. Pero al menos deberías ver cómo los precios se mantienen salvo que entre el estado a construir mucha vivienda pública. El combo inversión + hipotecarse solo lleva a una espiral alcista de precios de la que no se puede salir porque todos los actores que intervienen en ese juego (menos el inquilino) lo único que buscan es ganar más y más dinero con un bien que debería abaratarse con el tiempo
  1. #49 si tienes la vivienda ya pagada siempre te va a salir rentable alquilarla. Otra cosa es que hayas seguido a tu gurú financiero favorito y hayas decidido invertir dinero para sacarle rentabilidad a una hipoteca

Muerte de dos bomberos en Alcorcón: el coche que causó el incendio entró en el garaje a 60 km/h y era híbrido [231]

  1. #84 cierto. No entiendo como esa persona sigue conduciendo en esas condiciones y encima tiene los santos huevos de hacerlo con un coche de tanta potencia
  1. Mucho criticar a los eléctricos con el tema de las baterías pero quien ha provocado el incendio ha sido el Dacia. Pensaba que estas cosas ya no ocurrían desde el Ford Pinto

La gran estafa de los salarios en España - ¿Por qué son tan bajos? [178]

  1. Aparte de lo que cobran los directivos los dividendos también se comen una buena parte de los salarios de sus empleados. Si las empresas del IBEX35 invirtieran los dividendos exclusivamente en nóminas a sus trabajadores, estos cobrarían en torno a 30.000 euros más (brutos).

DeepSeek en local era justo lo que buscaba: una inteligencia artificial de calidad, privada y sin suscripciones [102]

  1. #68 estamos hablando de lo mismo. Si quieres que conserve el contexto de la conversación previa tienes que almacenar tu pregunta y la respuesta (y si estamos hablando de un RAG también puedes almacenar el contenido recuperado) en algo que sirva de memoria, de tal manera que en la siguiente pregunta que le hagas se le pasa al LLM todo ese contenido más tu nueva pregunta. Luego puedes refinar esta memoria para que vaya resumiendo el contexto antiguo, lo vaya purgando, etc. Pero es un mecanismo que tienes que implementarle porque el LLM, el modelo de transformers que cargas en memoria, no lo incorpora
  1. #18 ningún LLM por sí solo dispone de memoria. Para eso necesitas de algunas artimañas que te pueden ofrecer frameworks como LangChain o LlamaIndex

General jefe de la UME: "Inicialmente actuamos con 250 militares, de los que consiguieron llegar 100 por las inundaciones. Hubiera sido imposible que llegaran 7.800" [163]

  1. #135 más bien es que no sabes distinguir entre movilizar una unidad de emergencias y movilizar efectivos para tareas de reconstrucción y limpieza. Pero oye, como tú parece que hay miles de personas que comentan sin más.
« anterior1

menéame