El hype por Claude Mythos comienza a justificarse: Firefox encontró y corrigió más fallos de seguridad en un mes que en los 15 meses previos

La IA lo ve todo. Mozilla revela cómo el modelo de Anthropic ha transformado la seguridad de su navegador. Lo ha hecho detectando fallos "imposibles" y disparando un 1.200% el volumen de parches mensuales. Los célebres 'bug bounty' que animaban a los expertos humanos a detectar nuevos fallos y les premiaban con suculentos premios económicos podrían dejar de tener sentido ante el uso de herramietnas como Claude Mythos.

[#11 fzman]

Es lo más parecido a un espectáculo de magia.

www.youtube.com/watch?v=-j6dQK_MggU

[#26 capitan__nemo]

#11 resumido:
-------
El vídeo de Brendan Dell sostiene que gran parte del discurso actual sobre la IA utiliza un mecanismo psicológico muy antiguo para exagerar capacidades y generar inversión, atención y miedo.

La idea central es esta:

Muchas empresas y directivos de IA presentan anuncios dramáticos como “este modelo es demasiado peligroso”, “la AGI está cerca” o “la IA cambiará toda la sociedad”, aunque esas afirmaciones sean difíciles de verificar…   

[#35 fzman]

#26 El que copies el slop aquí no implica para nada que lo hayas entendido.

Es como el chiste.

- Tropa, teneis que hacer que la IA os conteste los emails.
+ Jefe, estás diciendo que debemos dejar que la IA conteste tus emails generados por IA?
- Exacto, dejad de perder el tiempo leyendo el email

[#41 nacho_lobez]

#11 Los grandes hyperscalers están gastando 600 mil millones al año en infraestructura.

En estos momentos, todos los servicios de IA ingresan por subscripciones unos 15 mil millones al año.

Si el gasto en infraestructura parara ahora en seco y el número de usuarios de pago se duplicará cada año, no se recuperaría la inversión hasta 2034.

Y hay varias consideraciones: primero es que no se van duplicar le número de usuarios todos los años y segundo, el CAPEX de los grandes hyperscalers está…   

[#48 rbrn]

#41 Es que la rentabilidad está muy complicada. Mucho. Con el modelo actual dudo que se llegue a conseguir.

[#53 fzman]

#41 No habrá una mejora de la IA que haga prever más ingresos futuros. Esta tecnología se quedó como está ahora y ya no cambia. Colapsará con total seguridad, lo que no implica que sea de golpe. La pregunta correcta es cómo irá eso.

No sólo del lado del dinero disponible. Muchas empresas (que es de donde pueden proceder los ingresos) están ahora jugando con la IA en plan prueba. No tienen unos procesos establecidos. No han encontrado una forma de que esa "solución a la búsqueda de un…   

[#63 gotxi85]

#41 Yo de momento agradezco tener mi PC con mi grafica RX9070XT con 16gb de VRAM para correr modelos cuantizados.
No es mucho, pero me lo puedo permitir y no es lento.

Estoy usando opencode y de momento estoy muy contento con el resultado.

[#18 Mangione]

#17

[#16 capitan__nemo]

¿Cómo hacen para que no detecte los bugs que usan la nsa, la cia, el mossad, pegasus, nsgroup, paragon solutions, ...?

¿Cómo saber si hay algunos bugs o vulnerabilidades que se deja sin comunicar aunque sí los detecte?
(O que han decidido no entrenarla para que detecte esos bugs o vulnerabilidades secretas en particular)

[#20 johel]

#16 ¿Ah que crees que no los detecta? Recordarte que a kaspersky le vetaron en usa por tapar un agujero de seguridad de la nsa, mucho antes de que los ruskis pasasen de ser los amigotes capitalistas liberados de los rojos a ser el putinista eje del mal.

Basicamente el problema con la IA es que si le dejamos hacer ¿Cuando se jubilen los senior quien sera capaz luego de auditar lo que hace la IA si eliminamos el aprendizaje junior humano necesario para aprender a hacer ese trabajo?

[#37 capitan__nemo]

#20 "si eliminamos el aprendizaje junior humano"

Pues en vez de en prácticas o como junior en empresas, las personas tendran que formarse en universidades y masters pagando. Para que merezca la pena pagar los cursos y años que haga falta, los salarios de esos profesionales tendran que ser lo suficientemente altos.

[#43 johel]

#37 En la universidad ninguna formacion por escolarizacion adquieres la experiencia real necesaria para convertirte en un experto, da igual de la profesion de la que estemos hablando. Sales mas o menos preparado para poder asimilar la experiencia con mayor o menor rapidez, pero sigue siendo imprescindible.
¿Te imaginas a un medico operando directamente tras salir de la universidad, sin pasar por el mir ni nada?

[#5 Pitchford]

Simplemente que el nivel de arreglo de agujeros y búsqueda de agujeros para hackear se ha elevado para ambas partes. El balance puede ser positivo si ambas partes utilizan la misma IA, al arreglar todos o la mayoría, dejando en el peor de los casos un numero de agujeros menor y ya muy difíciles de encontrar, sobre todo para un programador.

[#24 TitereConCabeza]

No está lejos el día en que te empieces a fiar más de la IA que de un código “hecho a mano” por un humano porque realmente la IA lo haga mejor, y ese día vamos a tener varios problemas.

[#30 ostiayajoder]

#24 No va a pasar.

Pq no te vas a fiar de q entendió la IA q habia q hacer.

[#33 rojo_separatista]

#30, y en un código hecho por humanos te tienes que fiar se qué entendió el humano lo que había que hacer.

[#34 SergioZgz]

#30 Y te fias del humano? te puedo asegurar que el 80% de las veces que me toca escuchar.... ni el otro lado sabe que cojones quiere

[#62 TitereConCabeza]

#30 Tenemos que empezar a asumir que la IA nos adelantará y no entenderemos lo que está haciendo.

[#71 SuperPollo]

#62 temo el día que la IA me diga "aparta alelao, ya lo hago yo que tú no tienes ni put* idea".
Y ese día llegará, es simplemente cuestión de tiempo.

[#54 balancin]

#32

[#2 alfon_sico]

Esta noticia es buena o mala?

[#3 sorrillo]

#2 Es.

[#4 magnifiqus]

#2 Las dos cosas

[#9 abnog]

#2 Cualquier avance tecnológico es bueno si nos preocupamos en formar y regular para un uso responsable que beneficie en mayor magnitud de lo que pueda perjudicar.

[#13 euacca]

#9 Este modelo no está al alcance del público, así que que sea bueno o malo está en manos de unas pocas personas.

[#29 StarlightHunter.com]

#13 Si lo liberaran no sé que sería peor. Esto es como una carrera armamentística: Si los "malos" tienen acceso a una IA como esta, entonces los buenos necesitan tener una igual para igualar las cosas. No pueden quedarse sin escalar. Ahora mismo, vamos a decir que "se está usando para lo correcto", que sería corregir problemas de seguridad en todos sitios antes de liberar al público tremenda "arma". Si no hubiera salido Mythos podría haber salido cualquier otro modelo pero a lo mejor el que lo creaba o lo tenía era un grupo de hackers de un país sin escrúpulos para colarse en todos los demás gobiernos y subyugar al resto.

[#36 beldin]

#29 claro, tienes un modelo q ve fallas criticas y lo dejas a los pilares del capitalismo estadounidense, los buenos segun antrophic, sin acceso al resto del mundo, europa incluida salvo alguna empresa de uk. Y cuando lo liberen, si es tan bueno como dicen y el cabron no se vuelve a escapar www.applesfera.com/apple-1/nueva-ia-claude-mythos-demasiado-peligrosa- a saber lo q arma, estos estan jugando con fuego.

[#55 euacca]

#29 #36 En cierto modo el mundo siempre ha sido la jungla y lo va a seguir siendo igual, la gente sin escrúpulos va a seguir mandando sobre quienes sí los tienen. Si esta IA puede encontrar vulnerable mucho mejor que nadie entonces seguro que esta u otra podrá crear vulnerabilidades casi indetectables y que parezcan errores reales si las encuentran.

[#56 beldin]

#55 no es cuestion de escalada, llegado a un punto no importa, es el uso, algo q es capaz de analizar sistemas asi y se lo das a los paradigmas economicos? lo pones a disposicion del poder? esto ya no es beneficios de empresas, es civilizatorio, y los pastores son ellos.

[#65 Aenedeerre]

#55 se va a haber unos buenos ataques a nivel mundial

[#38 jaramero]

#13 a gente como villarejo no le va a faltar

[#32 capitan__nemo]

#9 Como las armas nucleares. Y por eso Iran quiere tenerlas para poder formarse y regularse en su uso adecuado y adquirir una mayor responsabilidad. Y que les beneficie en reducir la probabilidad de invasion y de que sus enemigos cometan genocidio sobre sus aliados y hermanos.

[#57 abnog]

#32 Las armas no son un avance tecnológico, el comprender y dominar el núcleo atómico sí.
Precisamente un uso responsable sería no hacer armas con ello.

[#60 trivi]

#57 empieza por definir "avance tecnológico", porque me parece que estás moviendo la linea para intentar mantener una afirmación demasiado genérica

[#68 tusitala]

#9 o sea, que es mala.

[#10 ochoceros]

#2 Sí.

[#12 colemur]

#2 es un puto problema lo que está pasando ahora que ponen a una IA a enviar bugs como una loca y los grupos de desarrolladores tienen que andar revisando todo y comprobando que la mayoría son falsos. Son muchas horas de trabajo tiradas a la basura.

[#17 Khirs]

#12 La propia IA puede solucionar esos Bugs...

[#46 Khirs]

#17 .

[#25 taSanás]

#12 DDOS para el equipo de seguridad.
Una estrategia de hack como otra cualquiera…

[#39 rojo_separatista]

#12, la noticia habla de un modelo que no has podido probar y es bastante elocuente, en un mes Firefox fue capaz de corregir más fallos de seguridad que en los 15 meses anteriores gracias a la IA. Yo pienso que es una mala noticia pero no porque lo que comentas, sino porque es una señal de la gran concentración de poder que se va a producir por culpa de la IA en muy pocas manos. El Pentágono ya ha dicho que quiere acceso preferente a estos modelos por algo.

[#45 Pilfer]

#12 y ten en cuenta que como la mayoría son bugs día 0, encima lea tienen que dar prioridad para comprobarlos, agravando el problema...

[#49 vomitologo]

#12 ¿ Entonces es malo que la IA no sustituya aún completamente a los programadores humanos ?

[#52 trivi]

#49 cuánto de software libre quedaría en firefox si depende de que una empresa de EEUU no le cierre el grifo de los tokens? Cuánto podemos fiarnos de que el gobierno de EEUU no envenene esos modelos para introducir vulnerabilidades en los sistemas del resto del mundo?

[#59 cosmonauta]

#12 Lo he sufrido y la opción que elegimos es darles prioridad cero a cualquier bug que no pareciese venir de un usuario real.

Entre IAs, niñatos esperando que les des una recompensa por descubrir """vulnerabilidades""", criptobros queriendo pillar cacho en airdrops y tarados esperando que les añadas features qué solo ellos necesitan , hacer OpenSource hoy día es un coñazo

[#31 alpoza]

#2 buena para mi, mala para ti... o al revés, depende, todo depende...

[#61 aneolf]

#2 Sí.

[#64 almadepato]

#2 Buenísima.

[#69 no_soy_un_bot]

#2 que google use los modelos de otras compañías en vez del suyo, parece campaña publicitaria. Si fuera cierto se lo hubiesen callado.

[#70 elrolo]

#2 “las noticias no son buenas ni malas, solo son noticias.” — Maestro Oogway.

[#8 placeres]

"...La herramienta de IA fue capaz de identificar 271 de los 423 fallos corregidos,"
Me quedan 152 fallos que no participo la IA sin contar los que ya eran conocidos, ya que siendo la media en meses anteriores de errores corregidos de unos miseros 20, entiendo que en Firefox están en una campaña intensiva de corrección de bugs . y de paso están aprovechándose para hacer publicidad del tema.

[#23 Eukherio]

#8 Es que el problema es que no son de fiar. En marzo los de Anthropic anunciaron un acuerdo para mejorar la seguridad de Firefox. Es imposible saber qué es real y qué es márketing, porque beneficia a ambos: Anthropic gana publi para su modelo y Firefox aprovecha para corregir bugs.

www.anthropic.com/news/mozilla-firefox-security

[#6 vviccio]

Tener un canal de comunicación analógico se convertirá en un privilegio y será imprescindible ante ataques cibernéticos.

[#7 reithor]

#6 si esto acaba de empezar, cuando sea una realidad la computación cuántica todo esto será un dinosaurio mirando estrellas fugaces más grandes de lo normal.

[#51 flixter]

#7 ehem... tu sabes que la computación cuántica resuelve problemas específicos, no generales, verdad?

[#14 Feindesland]

#6 Vendo pareja de palomas mensajeras.

[#19 mjmx]

#14 los palomares van a volver. Que tanto ático ni ostias....

[#21 Paisos_Catalans]

Nosotros lo usamos para los trabajos mas pesados, como revisar documentación, es genial.

[#27 ElBeaver]

Resulta increíble que en todos los foros se comente que la IA es simplemente un modelo estadístico limitado a predecir palabras y que su única utilidad real sea la de asistir a programadores.

La noción de que la inteligencia artificial es meramente un "loro estocástico" o un predictor de palabras simplifica en exceso la complejidad de las representaciones internas y las capacidades emergentes de los modelos de lenguaje actuales. Si bien el entrenamiento se basa en la probabilidad estadística, el resultado es una arquitectura capaz de realizar razonamientos lógicos, abstracciones conceptuales y síntesis de información que superan la simple repetición de patrones.

[#42 Xtampa2]

#27 Tremenda respuesta estadística

[#72 ElBeaver]

#42 No se trata simplemente de un proceso mecánico de predicción probabilística de palabras; la percepción de que una respuesta informada y estructurada es solo una "fábrica estadística" ignora la complejidad de las propiedades emergentes en los modelos de lenguaje de gran escala. Lo que observamos es una capacidad de síntesis, razonamiento contextual y abstracción semántica que trasciende la mera repetición de datos. Existe una arquitectura profunda que permite conectar conceptos…   

[#1 woke]

La IA favorece a los "pobres".

[#15 username]

#1 hasta que lea cobren

[#22 woody_alien]

#1 de espíritu. Y ellos heredarán la tierra.

[#28 lonnegan]

La fusión fría y el motor de curvatura llegarán antes gracias a la IA, llega la singularidad!!!

[#44 Paisos_Catalans]

Si ya era deificil entrar como junior en alguna consultora, ahora que la IA sustituye el trabajo de los juniors... como vamos a tener seniors en un futuro?

[#47 rbrn]

#44 Hombre, lo suyo es evitar las consultoras...siempre

[#58 Arkhan]

#44 Los seniors saldrán de dónde han salido siempre, generación espontánea de ellos después de que un empresario grite y apriete los puños muy fuerte diciendo que es que los jóvenes no quieren trabajar.

[#67 fzman]

#58 Les falta espíritu de sacrificio, que se define como trabajar muchísimo a cambio de un sueldo que no da para vivir.

[#40 Kosimo]

¿Cuántos cálculos ayudó a realizar la calculadora que antes eran extremadamente lentos e ineficientes cuando se hacían a mano? Es inevitable que las herramientas y los ordenadores superen las capacidades humanas.

[#50 vomitologo]

El problema no son los bugs del navegador, a la IA le da igual el sistema donde buscar errores, y encontrará errores en sistemas SCADA, mainframes de IBM, software de todo tipo de sistemas... va a ser un problema.

[#66 fzman]

Pues no me consta por ningún sitio que Firefox haya tenido acceso a ese modelo.

Claro que no hace ninguna falta. ChatGPT es igual de eficaz en eso.