Los bots tienen la misma probabilidad de caerse que todo lo demás en la nube. Uno comentó : "quién eliminó openai, tengo un código que debe escribirse". Otro comentó : "Algunos jóvenes sudan porque openai está caído y ya no pueden fingir".
#13 Ya, pero una cosa son los errores, y otra que insista y pretenda disculparse con falsedades. Ya sé que básicamente es un programa informático muy complejo, pero da miedo que muestre rasgos de “soberbia”. ¿Dentro de diez años habrá corregido sus deficiencias, o se habrá vuelto más soberbia?
#16 No tienen nada parecido a la soberbia ni son capaces de verse atrapados. Solamente escogen las palabras que podrían continuar un texto. Es todo. No tiene porque ser verdad nada de lo que dicen.
#16 hace lo que ha visto en el entrenamiento. Si se le entrena con conversaciones en las que las respuestas son categóricas responde categóricamente. Si se le entrena con respuestas en las que el chatbot duda dudará al responder y será inútil.
Por eso ahora lo que se hace es usar Copilot, que busca en Internet la información para responder y la redacta a partir de ahí, mostrando las fuentes de sus respuestas y tú mismo puedes comprobar de dónde saca la información.
#2 era una ocasión perfecta para que openai hiciera de pago el servicio por un módico precio como si fuera una plataforma de contenidos... y la versión gratuita, con chatgpt metiendo publicidad entre respuesta y respuesta
No tiene mucho que ver con la noticia pero tengo que contarlo:
Hace unos días empecé a experimentar con ChatGPT. Nada serio, solo jugar. Todo iba bien, como cabía esperar: un “sentido del humor” pésimo y unas respuestas políticamente correctas hasta llegar a contradecirse. Como un humano idiota, vamos.
Pero al segundo día se me ocurrió preguntarle si conocía el significado de una palabra secreta inventada por mí y que solo yo uso.
Pues bien, para mi sorpresa respondió que sí conocía esa palabra y me dio una definición totalmente inventada. Le dije que eso era incorrecto, y entonces me salió con que aunque esa palabra no está registrada por la RAE, sí se usa coloquialmente en Argentina y Uruguay.
Eso me hizo dudar e hice unas comprobaciones. Resulta que no, que todo eso se lo estaba inventando la puta IA. Entonces me desenmascaré y le expliqué que esa palabra era inventada por mí y que me estaba mintiendo. Llegados a este punto se disculpó, me dijo que todo había sido una “confusión” (las comillas son mías) y que en lo sucesivo intentaría ser más precisa en sus respuestas.
Mintió antes que reconocer que desconocía el significado de aquella palabra. Después intentó hacerme quedar a mí como ignorante con la ficticia explicación de que la palabra era un localismo coloquial que yo desconocía. Y por último, solamente cuando se vio atrapada, se limitó a excusarse diciendo que se trataba de una “confusión”.
Inquietante, muy inquietante. (Perdonadme el rollo, pero necesitaba desahogarme).
#11 Se está usando mal eso de las alucinaciones hasta el punto de que la palabra va a tomar la definición que no es.
Las alucinaciones son un problema presente en las redes neuronales desde siempre y nadie sabe a qué es debido.
No tiene nada que ver con este caso, donde se ha recibido una respuesta perfectamente normal. Se pregunta por un significado y se da un significado. El que los datos proporcionados sean inventados es normal, estos trastos no hacen otra cosa. Es precisamente su función.
Una alucinación es una respuesta no relacionada con los datos de entrenamiento.
#14 Lo sé, lo séeee… Pero no deja de ser inquietante, porque me relaciono a diario con personas que presentan menos capacidad de razonar que ChatGPT, y me imagino a esas personas sacando conclusiones según lo que le diga la IA, y da miedo.
¿Por qué no reconoció desde un principio que desconocía esa palabra? ¿Por qué complicar las cosas?
Yo básicamente tengo un tema montado con chatGPT para generar con un clic documentación tipo que utilizo a menudo, no es nada que no pueda hacer con una plantilla, pero con ChatGPT lo hago diferente y rápido, y así evito que trabajos iguales para clientes diferentes sean iguales. O género mails automáticos con una serie de prompts en las que solo tengo que hacer clic en media docena de botones.
Nada indispensable, pero ahorrar tiempo es el mejor dividendo a mí entender que te puede dar el dinero.
Comentarios
#17 ChatGPT jamás "reconoce" que no "sabe" algo.
Es un "fallo" de diseño
#3 en el contexto laboral se usa bastante
#12 Al entrar en chatgpt ellos mismos lo advierten, lo tienes al pie de la app:
“ ChatGPT puede cometer errores. Considera verificar la información importante.”
https://www.newtral.es/alucinaciones-ia-fallos-inteligencia-artificial-confabulaciones/20230622/
#13 Ya, pero una cosa son los errores, y otra que insista y pretenda disculparse con falsedades. Ya sé que básicamente es un programa informático muy complejo, pero da miedo que muestre rasgos de “soberbia”. ¿Dentro de diez años habrá corregido sus deficiencias, o se habrá vuelto más soberbia?
#16 No tienen nada parecido a la soberbia ni son capaces de verse atrapados. Solamente escogen las palabras que podrían continuar un texto. Es todo. No tiene porque ser verdad nada de lo que dicen.
#18 Son el.político perfecto...
#16 hace lo que ha visto en el entrenamiento. Si se le entrena con conversaciones en las que las respuestas son categóricas responde categóricamente. Si se le entrena con respuestas en las que el chatbot duda dudará al responder y será inútil.
Por eso ahora lo que se hace es usar Copilot, que busca en Internet la información para responder y la redacta a partir de ahí, mostrando las fuentes de sus respuestas y tú mismo puedes comprobar de dónde saca la información.
La dependencia total de este tipo de máquinas es ya un gran problema si dejan de funcionar.
#2 Fíjate si tenemos tal dependencia total que yo me acabo de enterar al leerlo en menéame.
Si me dijeras dependencia total de Internet te lo compro, pero de ChatGPT ni por asomo.
#3 Hay millones de personas que lo usan habitualmente, y dada su utilidad, sí que pueden notarlo mucho si no está disponible.
#2 era una ocasión perfecta para que openai hiciera de pago el servicio por un módico precio como si fuera una plataforma de contenidos... y la versión gratuita, con chatgpt metiendo publicidad entre respuesta y respuesta
No tiene mucho que ver con la noticia pero tengo que contarlo:
Hace unos días empecé a experimentar con ChatGPT. Nada serio, solo jugar. Todo iba bien, como cabía esperar: un “sentido del humor” pésimo y unas respuestas políticamente correctas hasta llegar a contradecirse. Como un humano idiota, vamos.
Pero al segundo día se me ocurrió preguntarle si conocía el significado de una palabra secreta inventada por mí y que solo yo uso.
Pues bien, para mi sorpresa respondió que sí conocía esa palabra y me dio una definición totalmente inventada. Le dije que eso era incorrecto, y entonces me salió con que aunque esa palabra no está registrada por la RAE, sí se usa coloquialmente en Argentina y Uruguay.
Eso me hizo dudar e hice unas comprobaciones. Resulta que no, que todo eso se lo estaba inventando la puta IA. Entonces me desenmascaré y le expliqué que esa palabra era inventada por mí y que me estaba mintiendo. Llegados a este punto se disculpó, me dijo que todo había sido una “confusión” (las comillas son mías) y que en lo sucesivo intentaría ser más precisa en sus respuestas.
Mintió antes que reconocer que desconocía el significado de aquella palabra. Después intentó hacerme quedar a mí como ignorante con la ficticia explicación de que la palabra era un localismo coloquial que yo desconocía. Y por último, solamente cuando se vio atrapada, se limitó a excusarse diciendo que se trataba de una “confusión”.
Inquietante, muy inquietante. (Perdonadme el rollo, pero necesitaba desahogarme).
#6 acabas de descubrir las alucinaciones, solo llegas un año tarde.
#11 ¿…? Por favor, explícame de qué va eso o muéstrame un enlace que lo explique. Ya te adelanto que soy una perfecta ignorante en todo esto. Gracias.
#11 Se está usando mal eso de las alucinaciones hasta el punto de que la palabra va a tomar la definición que no es.
Las alucinaciones son un problema presente en las redes neuronales desde siempre y nadie sabe a qué es debido.
No tiene nada que ver con este caso, donde se ha recibido una respuesta perfectamente normal. Se pregunta por un significado y se da un significado. El que los datos proporcionados sean inventados es normal, estos trastos no hacen otra cosa. Es precisamente su función.
Una alucinación es una respuesta no relacionada con los datos de entrenamiento.
#6 Ni "mintió" ni intentaba hacerte quedar como nada.
Ha hecho exactamente lo que decía su programa.
Ni razona, ni piensa ni tiene intencionalidades en sus respuestas
#14 Lo sé, lo séeee… Pero no deja de ser inquietante, porque me relaciono a diario con personas que presentan menos capacidad de razonar que ChatGPT, y me imagino a esas personas sacando conclusiones según lo que le diga la IA, y da miedo.
¿Por qué no reconoció desde un principio que desconocía esa palabra? ¿Por qué complicar las cosas?
#17 Porque lo que suele venir a continuación de una pregunta sobre una palabra es su explicación. Pues eso es lo que hace.
Yo básicamente tengo un tema montado con chatGPT para generar con un clic documentación tipo que utilizo a menudo, no es nada que no pueda hacer con una plantilla, pero con ChatGPT lo hago diferente y rápido, y así evito que trabajos iguales para clientes diferentes sean iguales. O género mails automáticos con una serie de prompts en las que solo tengo que hacer clic en media docena de botones.
Nada indispensable, pero ahorrar tiempo es el mejor dividendo a mí entender que te puede dar el dinero.
#10 Para eso es muy útil.
O para generar código repetitivo, o resúmenes de textos... etc
Imagina lo que diría sobre un teléfono móvil, o sobre internet, alguien que solo llevase unos días usándolo.
Date tu tiempo.
#NoEsElMundoToday?
Tranquilos, hay gente que no lleva cerebro y respiran y caminan