Anteriormente la inyección de prompts se consideraba “problemática”, pero la situación se ha agudizado desde que la gente comenzó a conectar los LLM a internet y a plug-ins, que añaden nuevos datos a los sistemas. A medida que más empresas los utilicen, alimentándolos potencialmente con más información personal y corporativa, todo se complicará. Los ataques de inyección de prompts se dividen en dos categorías: directos e indirectos. Y esta última es la que más alarma a los expertos en seguridad.
Comentarios
Básicamente es esto: https://gandalf.lakera.ai/
#2 Ahí va mi productividad de hoy...
#4 Estancado en el 7 estoy....
Me da un poco la risa. Dejas a una IA que lea tus correos, por ejemplo, y luego ¿te preocupa qué?
primero te pusieron el chip 5G y ahora te inyectan PROMPS...
Ya está. Lo pasé.