En su prueba de concepto, como puede verse en el siguiente GIF, los investigadores muestran un ataque en el que un objetivo (a la izquierda) pide al LLM Llama.cpp de código abierto que proporcione información sobre la revista WIRED. En cuestión de segundos, el dispositivo del atacante -mostrado a la derecha- recoge la mayor parte de la respuesta proporcionada por el LLM llevando a cabo un ataque LeftoverLocals contra la memoria vulnerable de la GPU. El programa de ataque creado por los investigadores utiliza menos de 10 líneas de código.
Comentarios
Muy interesante. Como menciona el artículo deberían revisar la arquitectura para aumentar la privacidad de los datos en la GPU
#1 así a bote pronto me imagino qie seguridad y rapidez de acceso colo que agua y aceite