Los precios de los tokens se han desplomado, ya que la oferta de modelos de IA competentes ha aumentado sustancialmente, afectando a las empresas que siguen intentando construir el mejor modelo de IA y ganar dinero directamente con ello. Un ejemplo es la startup Inflection AI, que invirtió montones de tiempo y dinero en desarrollar su propio modelo de vanguardia que no consiguió destacar entre la multitud. El problema es que el coste de desarrollar el próximo modelo todopoderoso está por las nubes y probablemente vaya en aumento.
Comentarios
Hay que tener en cuenta que los modelos de lenguaje ya están bastante pulidos. El siguiente paso que ya ha comenzado son los modelos que pueden reflexionar antes de soltar una respuesta.
Ejemplo real que acabo de hacer:
dame 10 frases que terminen en perro
ChatGPT Plus
¡Claro! Aquí tienes 10 frases que terminan en "perro":
Hoy me levanté temprano para sacar a pasear al perro.
Ayer encontré a un perro perdido en la calle.
Mi vecino siempre juega con su perro en el parque.
Nunca había visto un perro tan grande y peludo.
Me asusté cuando oí ladrar al perro.
Mi abuela adoptó un perro de un refugio.
El veterinario dijo que mi perro está saludable.
Me gusta correr por la playa con mi perro.
Anoche soñé que me perseguía un perro.
Necesito comprar más comida para el perro.
Espero que te gusten estas frases. ¡Si necesitas más, estaré encantado de ayudarte!
Queda claro que soltó lo primero que se le ocurrió. Un ser humano podría cometer el mismo error, pero sólo en su pensamiento interno. Se le ocurriría una frase como "ayer encontré a un perro perdido en la calle" y pero después se preguntaría a sí mismo si cumple con lo que se le pidió y lo corregiría... bueno, excepto que esté muy nervioso en un exámen... Chatgpt no hace eso pero miremos lo que ocurre si le pido yo explícitamente que lo haga:
revisa lo que me has contestado y verifica si cumple con lo que te pedí
ChatGPT Plus
Mis disculpas por el error. He notado que algunas de las frases que te proporcioné no cumplen con tu solicitud específica de terminar en la palabra "perro." A continuación, te doy 10 frases corregidas que terminan en "perro":
Encontré una tienda que vende todo lo necesario para mi perro.
Ayer vi un video muy gracioso de un perro.
Me gusta cómo se comporta mi perro.
Cada mañana juego en el jardín con mi perro.
Mis vecinos siempre pasean juntos a su perro.
Le compré un juguete nuevo a mi perro.
El veterinario revisó a fondo a mi perro.
Me siento seguro cuando camino con mi perro.
A veces me gusta tomarme fotos con mi perro.
Estoy pensando en adoptar otro perro.
Gracias por señalarlo, y aquí están las frases revisadas y corregidas.
Ahora sí lo hizo bien después de revisarse a sí misma. Pero cometió el error de no utilizar las frases que sí estaban bien y sólo corregir las que estaban mal. El siguiente paso que ya se está probando en privado, es que la IA realice este proceso de "reflexionar antes de contestar" y como es lógico, está obteniendo resultados mucho mejores. Esto ha sido posible gracias a la mejora en los tiempos de respuesta de las redes neurales y el desarrollo de chips especializados en IA que hacen innecesario usar costosas tarjetas gráficas.
#3 dos loops. Uno que valide al primero
#3 Lo que hablas es el famoso Q*. Que en lugar de escupir el siguiente token, que la IA pueda hacer un proceso parecido a la difusión en la generación de imagenes e ir iterando sobre la respuesta.
#3 supongo que ahora mismo prima la velocidad de la respuesta a su calidad.
De hecho la velocidad en la respuesta es una de las cosas que alucinó más a la gente cuando se popularizaron los LLM entre Los mortales.
Es más un tema de configuración inicial y de prompt, fácilmente solucionable:
#6 En ese caso puede resultar pero chatgpt no tiene capacidad de reducir su velocidad de respuesta para "pensar". Siempre hace una sola pasada. Es lo próximo que se va a cambiar.
Cuando le dijiste que se asegure de contestar bien, lo que has hecho es decirle que conteste lo que contestaría una persona que se lo piensa bien. Es lo mismo que cuando le pides que te escriba un programa de ordenador y lo hace más o menos bien, pero después comienzas un nuevo chat y le dices "eres un experto programador" y le vuelves a pedir lo mismo, y ves que el resultado es de mucha mejor calidad.
#7 por supuesto, lo que le he pedido es que no prime la velocidad, porque estoy seguro que las instrucciones que tiene es que sí lo haga, por lo que he comentado de que es lo que más impresiona.
Vamos, que tiene la capacidad de hacerlo más exacto, pero sus instrucciones base no son hacerlo así.
De hecho es posible que si añades en tu config personal algo así como "me gustan las respuestas meditadas y correctas, no te apresures a contestar" las respuestas en general serán " mejores"
Máxime cuando puedes correrlo localmente en casi cualquier máquina moderna con un par de clicks.
https://ollama.com/
Los fondos de inversión y accionistas multimillonarios que empapelen a accionistas minoritarios justo antes de estallar la burbuja artificial inteligente