El hype por Claude Mythos comienza a justificarse: Firefox encontró y corrigió más fallos de seguridad en un mes que en los 15 meses previos

La IA lo ve todo. Mozilla revela cómo el modelo de Anthropic ha transformado la seguridad de su navegador. Lo ha hecho detectando fallos "imposibles" y disparando un 1.200% el volumen de parches mensuales. Los célebres 'bug bounty' que animaban a los expertos humanos a detectar nuevos fallos y les premiaban con suculentos premios económicos podrían dejar de tener sentido ante el uso de herramietnas como Claude Mythos.

[#11 fzman]

Es lo más parecido a un espectáculo de magia.

www.youtube.com/watch?v=-j6dQK_MggU

[#26 capitan__nemo]

#11 resumido:
-------
El vídeo de Brendan Dell sostiene que gran parte del discurso actual sobre la IA utiliza un mecanismo psicológico muy antiguo para exagerar capacidades y generar inversión, atención y miedo.

La idea central es esta:

Muchas empresas y directivos de IA presentan anuncios dramáticos como “este modelo es demasiado peligroso”, “la AGI está cerca” o “la IA cambiará toda la sociedad”, aunque esas afirmaciones sean difíciles de verificar…   

[#35 fzman]

#26 El que copies el slop aquí no implica para nada que lo hayas entendido.

Es como el chiste.

- Tropa, teneis que hacer que la IA os conteste los emails.
+ Jefe, estás diciendo que debemos dejar que la IA conteste tus emails generados por IA?
- Exacto, dejad de perder el tiempo leyendo el email

[#5 Pitchford]

Simplemente que el nivel de arreglo de agujeros y búsqueda de agujeros para hackear se ha elevado para ambas partes. El balance puede ser positivo si ambas partes utilizan la misma IA, al arreglar todos o la mayoría, dejando en el peor de los casos un numero de agujeros menor y ya muy difíciles de encontrar, sobre todo para un programador.

[#16 capitan__nemo]

¿Cómo hacen para que no detecte los bugs que usan la nsa, la cia, el mossad, pegasus, nsgroup, paragon solutions, ...?

¿Cómo saber si hay algunos bugs o vulnerabilidades que se deja sin comunicar aunque sí los detecte?
(O que han decidido no entrenarla para que detecte esos bugs o vulnerabilidades secretas en particular)

[#20 johel]

#16 ¿Ah que crees que no los detecta? Recordarte que a kaspersky le vetaron en usa por tapar un agujero de seguridad de la nsa, mucho antes de que los ruskis pasasen de ser los amigotes capitalistas liberados de los rojos a ser el putinista eje del mal.

Basicamente el problema con la IA es que si le dejamos hacer ¿Cuando se jubilen los senior quien sera capaz luego de auditar lo que hace la IA si eliminamos el aprendizaje junior humano necesario para aprender a hacer ese trabajo?

[#37 capitan__nemo]

#20 "si eliminamos el aprendizaje junior humano"

Pues en vez de en prácticas o como junior en empresas, las personas tendran que formarse en universidades y masters pagando. Para que merezca la pena pagar los cursos y años que haga falta, los salarios de esos profesionales tendran que ser lo suficientemente altos.

[#2 alfon_sico]

Esta noticia es buena o mala?

[#3 sorrillo]

#2 Es.

[#4 magnifiqus]

#2 Las dos cosas

[#9 abnog]

#2 Cualquier avance tecnológico es bueno si nos preocupamos en formar y regular para un uso responsable que beneficie en mayor magnitud de lo que pueda perjudicar.

[#13 euacca]

#9 Este modelo no está al alcance del público, así que que sea bueno o malo está en manos de unas pocas personas.

[#29 StarlightHunter.com]

#13 Si lo liberaran no sé que sería peor. Esto es como una carrera armamentística: Si los "malos" tienen acceso a una IA como esta, entonces los buenos necesitan tener una igual para igualar las cosas. No pueden quedarse sin escalar. Ahora mismo, vamos a decir que "se está usando para lo correcto", que sería corregir problemas de seguridad en todos sitios antes de liberar al público tremenda "arma". Si no hubiera salido Mythos podría haber salido cualquier otro modelo pero a lo mejor el que lo creaba o lo tenía era un grupo de hackers de un país sin escrúpulos para colarse en todos los demás gobiernos y subyugar al resto.

[#36 beldin]

#29 claro, tienes un modelo q ve fallas criticas y lo dejas a los pilares del capitalismo estadounidense, los buenos segun antrophic, sin acceso al resto del mundo, europa incluida salvo alguna empresa de uk. Y cuando lo liberen, si es tan bueno como dicen y el cabron no se vuelve a escapar www.applesfera.com/apple-1/nueva-ia-claude-mythos-demasiado-peligrosa- a saber lo q arma, estos estan jugando con fuego.

[#38 jaramero]

#13 a gente como villarejo no le va a faltar

[#32 capitan__nemo]

#9 Como las armas nucleares. Y por eso Iran quiere tenerlas para poder formarse y regularse en su uso adecuado y adquirir una mayor responsabilidad. Y que les beneficie en reducir la probabilidad de invasion y de que sus enemigos cometan genocidio sobre sus aliados y hermanos.

[#10 ochoceros]

#2 Sí.

[#12 colemur]

#2 es un puto problema lo que está pasando ahora que ponen a una IA a enviar bugs como una loca y los grupos de desarrolladores tienen que andar revisando todo y comprobando que la mayoría son falsos. Son muchas horas de trabajo tiradas a la basura.

[#17 Khirs]

#12 La propia IA puede solucionar esos Bugs...

[#18 Mangione]

#17

[#25 taSanás]

#12 DDOS para el equipo de seguridad.
Una estrategia de hack como otra cualquiera…

[#39 rojo_separatista]

#12, la noticia habla de un modelo que no has podido probar y es bastante elocuente, en un mes Firefox fue capaz de corregir más fallos de seguridad que en los 15 meses anteriores gracias a la IA. Yo pienso que es una mala noticia pero no porque lo que comentas, sino porque es una señal de la gran concentración de poder que se va a producir por culpa de la IA en muy pocas manos. El Pentágono ya ha dicho que quiere acceso preferente a estos modelos por algo.

[#31 alpoza]

#2 buena para mi, mala para ti... o al revés, depende, todo depende...

[#21 Paisos_Catalans]

Nosotros lo usamos para los trabajos mas pesados, como revisar documentación, es genial.

[#24 TitereConCabeza]

No está lejos el día en que te empieces a fiar más de la IA que de un código “hecho a mano” por un humano porque realmente la IA lo haga mejor, y ese día vamos a tener varios problemas.

[#30 ostiayajoder]

#24 No va a pasar.

Pq no te vas a fiar de q entendió la IA q habia q hacer.

[#33 rojo_separatista]

#30, y en un código hecho por humanos te tienes que fiar se qué entendió el humano lo que había que hacer.

[#34 SergioZgz]

#30 Y te fias del humano? te puedo asegurar que el 80% de las veces que me toca escuchar.... ni el otro lado sabe que cojones quiere

[#8 placeres]

"...La herramienta de IA fue capaz de identificar 271 de los 423 fallos corregidos,"
Me quedan 152 fallos que no participo la IA sin contar los que ya eran conocidos, ya que siendo la media en meses anteriores de errores corregidos de unos miseros 20, entiendo que en Firefox están en una campaña intensiva de corrección de bugs . y de paso están aprovechándose para hacer publicidad del tema.

[#23 Eukherio]

#8 Es que el problema es que no son de fiar. En marzo los de Anthropic anunciaron un acuerdo para mejorar la seguridad de Firefox. Es imposible saber qué es real y qué es márketing, porque beneficia a ambos: Anthropic gana publi para su modelo y Firefox aprovecha para corregir bugs.

www.anthropic.com/news/mozilla-firefox-security

[#1 woke]

La IA favorece a los "pobres".

[#15 username]

#1 hasta que lea cobren

[#22 woody_alien]

#1 de espíritu. Y ellos heredarán la tierra.

[#6 vviccio]

Tener un canal de comunicación analógico se convertirá en un privilegio y será imprescindible ante ataques cibernéticos.

[#7 reithor]

#6 si esto acaba de empezar, cuando sea una realidad la computación cuántica todo esto será un dinosaurio mirando estrellas fugaces más grandes de lo normal.

[#14 Feindesland]

#6 Vendo pareja de palomas mensajeras.

[#19 mjmx]

#14 los palomares van a volver. Que tanto ático ni ostias....

[#28 lonnegan]

La fusión fría y el motor de curvatura llegarán antes gracias a la IA, llega la singularidad!!!

[#27 ElBeaver]

Resulta increíble que en todos los foros se comente que la IA es simplemente un modelo estadístico limitado a predecir palabras y que su única utilidad real sea la de asistir a programadores.

La noción de que la inteligencia artificial es meramente un "loro estocástico" o un predictor de palabras simplifica en exceso la complejidad de las representaciones internas y las capacidades emergentes de los modelos de lenguaje actuales. Si bien el entrenamiento se basa en la probabilidad estadística, el resultado es una arquitectura capaz de realizar razonamientos lógicos, abstracciones conceptuales y síntesis de información que superan la simple repetición de patrones.