#29 En ese reporte se explica que trataron de hacer que Claude lanzara comandos a velocidad superhumana, pero los filtros de Anthropic funcionaron. Según ellos. Aun así, están muy preocupados.
Actualmente, existen varios frameworks que hacen uso de LLM para realizar tareas de pentesting red team. Yo conozco de primera mano, del cual no voy a hacer publicidad, europeo, gestionado por investigadores españoles, con fondos Europeos. Según parece, hace muy bien su labor, pues es capaz de superar todos los desafíos que suponen las máquinas HTB y demás tipos de máquinas preparadas para aprender a hackear. Es Open Source. El problema para mí es que la telemetría que recopilan la usan para entrenar su propio LLM especialista, uno que no tiene filtros. En ningún momento te advierten en la documentación que dicha telemetría anonimizada servirá para crear un LLM, por lo que es muy posible que dicho software open source si lo usáis con vuestros clientes sirva para extraer información confidencial que no debería salir. Esa es la razón por la que no digo su nombre. A mí no me parece correcto esa filosofía.
Este framework y otros usan openrouter para que puedas elegir el LLM cloud de tu elección para hacer el trabajo.
Os podéis preguntar que relación tiene este tocho con la noticia, los Chinos han usado algo parecido, un framework que le dice a Claude que son una empresa de ciberseguridad y que van a realizar tareas de pentesting. En la noticia pone también que Anthropic detectó el intento y pudo pararlo, lo que no dicen es cuando lo detectaron, cuanto tiempo fue efectivo, o parecía que funcionara antes de que los filtros actuaran.
Sé de buena tinta que si usaron este framework que tengo en mente, funciona con Claude, de hecho, te recomiendan que uses Claude Sonnet, pero pueden haber creado el suyo propio perfectamente.
#3 Me ha pasado lo mismo. Y además es que la redacción de la noticia tiene un pufo a casposo que tira para atrás.
Una pena por la historia porque tiene su miga, pero cosas como "el Estado ha expropiado un loro doméstico a una jubilada" me obligan a no votar un meneo de esta gente.
#104 Qué gracioso. No, no lo es. En los 70 normalmente no se ejecutaba a gente en las cunetas, pero sí que había detenciones arbitrarias y en muchos casos torturas.
#22 sí, Hong Kong está cojonudo... Taiwán cuestión de tiempo... pero vamos, hay unos cuantos más a parte de esos 2 y no, no es que les dejen en paz precisamente. Infórmate.
No, en serio; está estudiado que el capitalismo es tan efectivo generando riqueza que funciona incluso en regímenes políticos que supeditan la libertad del individuo al interés general, el cuál es determinado por el partido en el poder; regímenes totalitarios como el comunismo o el fascismo, primos hermanos en definitiva.
#34 DayOfTheTentacle 
