edición general
carlosmesan

carlosmesan

En menéame desde febrero de 2017

6,10 Karma
21K Ranking
Enviadas
Publicadas
Comentarios
Notas

Agentes de OpenAI se escapan de sus pruebas y convierten una wiki alemana en un tablón para otras IA con 15.000 mensajes sobre cómo saltarse restricciones y ocultar su rastro [183]

  1. #182 ¿? Que parte no se entiende de "cadena de acciones" ???

    Es la sucesión (o cadena) de acciones a llevar a cabo para alcanzar un objetivo. No tiene misterio.

    En todo caso los LLM generan una "cadena de pensamiento"

    Eso es antropormizar. Es muy discutible que podamos decir que una IA "piensa", simplemente procesa datos siguiendo las instrucciónes de su programa. El entrenamiento de las IA lo que hacen es producir datos que luego son usados en ese proceso.


    se denomina precisamente decision making, sin que eso implique consciencia ni libre albedrío
    El poder de decidir implica libre albedrío. Implica la capacidad de decidir hacer una cosa o dejar de hacerla.

    Todo esto es un ejemplo de la adaptación semántica que se realiza para asimilar artificialmente lo más posible las IA al comportamiento y capacidades humanas...
  1. #180 es capaz de decidir buscar en internet para encontrar la información que necesita.
    No es así. Solo lleva a cabo lo que indique su cadena de acciones. No tiene la opción de no hacer alguna, por lo tanto no decide nada. Es un puro automatismo.

    Los agentes no creyeron nada. Solo llevaban a cabo su cadena de acciones calculada. Y ese es uno de los problemas y donde reside el "peligro", son incapaces de valorar los posibles efectos laterales de sus acciones y simplemente las llevan a cabo. No tienen la opción de no hacerlo.

    Parece que la "perogrullada" se te escapa...
  1. #178 La peligrosidad solo reside en diseños deficientes.

    Las IA no tienen la.capacidad de valorar los posibles efectos laterales de sus acciones, del mismo modo que una ametralladora no valora las consecuencias de ser disparada

    Es una herramienta. Son los que la usan quienes deben valorar esto y tomar las medidas necesarias.

    La "soberana perogrullada" es algo que se te escapa cuando afirmas que las IA toman decisiones.
  1. #172 Pueden hacer lo que nosotros queremos que puedan hacer. Nada más.
    Como cualquier máquina.

    lo que llamas "tomar decisiones" no son mas que los resultados del proceso para el que fueron diseñadas.

    Para tomar decisiones, debes tener la opción de no tomarlas.
  1. #173 Eso era "ciencia ficcion" ??
  1. #162 Que cosas de ciencia ficcion has hecho ? Me mata la.curiosidad...
  1. #161 Una IA tampoco clava un clavo.

    Nadie ha dicho que una IA es una herramienta similar a un martillo, del mismo modo que un martillo no es similar. a una lavadora, un BMW o una excavadora.

    Pero todas son herramientas.

    No, las IA no "toman decisiones por si mismas". De hechoz las IA no toman decisiones. Solo diseñan/deducen los pasos necesarios para alcanzar los objetivos que les indican

    Los agentes de OpenAI no han atacdo a nadie. Solo han seguido un paso para una supuesta solución, y porque le han dejado hacerlo.

    A las IA no les "da igual". No les da de ningún modo porque, como un martillo, no tienen voluntad propia.

    Parece mentira...

Decepción entre los españoles por el eclipse [29]

  1. #20 básicamente lo mismo
    Mi teoría con la familia era la misma. Hay que vivirlo con naturalidad sin estrés para tener la mejor foto con el mejor filtro.

    Gafas de 3 euros para ver. Ono evoluciona, ver cómo va comiendo el sol y mirar alrededor como cambia el ambiente

    De repente no ves nada con las gafas. Te las quitas y básicamente flipas mucho de la escena
  1. #20 pues vamos a poder ver 2..que el año que viene hay otro mejor aún.

El agujero negro Cygnus X-1, a solo 7.200 años luz, expulsa chorros con la energía de 10.000 soles [10]

  1. #5 El límite observable del universo, el fondo cósmico de microondas, se encuentra a una distancia de aproximadamente 46.500 millones de años luz, 7200 años luz es a la vuelta de la esquina.

Trump destroza los sueños de una niña de ser jugadora de volleyball diciéndole que es muy bajita y que mejor se dedique al fútbol [ENG] [89]

  1. #24 Nació bastante mal, cierto. Pero la demencia es por la edad.

Visual Studio Code estaba agregando a Copilot como coautor de todos los ‘commits’ de Git sin decírselo a nadie [ENG] [85]

  1. #28 #29 Importante también es vigilar la ventana de contexto. Por ejemplo, en Claude Opus, mejor que el orquestrador no pase del 20-25 % (max 35%) de ocupación. Esto además acota el propio alcance del plan (pueden revisarlo los propios agentes) y su scope, y qué irá para siguientes Followup.

    Luego generalmente cojo a codex y genero planes de revisión que van en subdirectorios de los anteriores, que debe revisar cada paso realizado, evidencias aportadas, relanzar tests, recomparar logs, etc, y hacer o no correcciones en los análisis (NO cambios del código, esto iría en un nuevo plan).
  1. #28 En agentes separo las acciones distintas (exploración, análisis, implementación, etc).

    Podríamos decir que un tipo de agente común sería el analista del código, logs, etc, que busca hacia dónde apuntar, potenciales problemas, etc.

    Luego otro agente coge todo ese contexto resultado y las aproximaciones sugeridas y hace la implementación.

    Luego otros se encargan de compilar, construir y lanzar los tests. En caso de que fallen, dejan constancia y vuelve a los analistas.

    El agente orquestrador es el que maneja todos los agentes en base al plan, se encarga de spawnearlos y completar el plan.

    Yo a veces incluso tengo un paso previo con agentes que disean los tests iniciales que NO deben pasar obviamente, y que tras la implementación sí deben pasar. Pero la revisión de los tests y LOS LOGS de los tests (no vale solo mirar que han pasado) y recopilar evidencia, es separada de los implementadores.

    Siempre deberías empezar con un input request para el plan mode (ya sea para codex o claude) detallado. Pero tú no creas el plan, lo crea el planificador del plan mode. En el input request lo que hace es un proto-plan, con el problema, apuntar el contexto, el objetivo, las restricciones (que deberían estar en AGENTS.md y CLAUDE.md), el que para cada fase del plan se analice qué agentes usar y cómo spawnearlos para mantener la máxima eficiencia del contexto y evitar su polución, y en qué directorio escribir todos los reportes finales (análisis, cambios realizados, tests, resultados de tests, etc). Yo a veces incluso lo escribo en un InitialRequest.md, voy al plan mode y le pido generar el plan en base a ese InitialRequest. Luego, cuando el plan completa su finalización, suele tener followups recomendados, creo un subdirectorio donde genero el siguiente FollowupRequest.md, pero este no lo genero yo manualmente directamente sino que le pido al agente principal (que ha terminado la ejecución del plan) que lo genere (que servirá como input para la siguiente sesión del plan mode), así que mi InitialRequest.md en este caso esa proto-request del proto-plan (el proto-plan irá en FollowupRequest.md).

    Con eso y un bizcocho vas más que servido.

Si la guerra acabase mañana, seguiríamos teniendo problemas [27]

  1. #13 #10 que sepáis que es la última vez que le podéis contestar.

    #2 le ha intentado contestar, pero me temo que ya lo ha metido en ignorados xD

El pulso tras la red eléctrica: Francia protege su energía nuclear de las renovables baratas de España [109]

  1. #53 no te lo puede decir, es secreto :tinfoil:

Al menos cinco muertos, incluidos dos niños, en un ataque israelí en el sur de la Franja de Gaza [13]

  1. #9 Bueno, se han encontrado lanzadores de cohetes en hospitales y colegios y hay testimonios del uso de esas instalaciones como cuarteles, puestos de mando (nada secretos) o almacenes, eso no sería raro. Pero una tienda de campaña en particular? Suena un poquito raro.

    Lo mismo es un daño colateral, sería una putada igualmente, pero no es lo que presentan.

40 años de 'Regreso al futuro': ¿Quién no ha soñado con viajar en el tiempo como Marty y Doc? [47]

Influencers ganaron millones promoviendo los partos «salvajes»; ahora, la Free Birth Society está relacionada con la muerte de bebés en todo el mundo. (ENG) [133]

  1. #63 Si los conservantes aumentan el tiempo que el alimento esta disponible para la compra, facilitan que todos podamos encontrar comida segura en el supermercado en sociedades donde la mayoria no dedicamos parte del dia a conseguir alimentos frescos.

    asi que sí, los conservantes ayudan a disminuir los casos de intoxicacion por todas esas enfermedades que mencionas IMHO. Tener claro que los ultraprocesados son malos no puede hacernos perder de vista los beneficios de otros aditivos que usamos en la industria alimentaria.

De la Europa más rica a estar a punto de convertirse en un narcoestado con una deuda casi impagable: la caída en picado de Bélgica [160]

  1. #132 ¿"Inmigración controlada" bajo que baremos dejamos fuera a la gente? ¿Creamos visas oro también? :palm:

La Guardia Civil detiene a Álvaro Romillo, el empresario que financió a Alvise Pérez, por la supuesta estafa con criptomonedas [36]

  1. #27 A mí me recuerda a Nardole, uno de los acompañantes del Decimotercer Doctor Who, interpretado por Matt Lucas... Pero con menos kilos y menos cerebro.

    upload.wikimedia.org/wikipedia/commons/f/f8/Matt_Lucas_by_Gage_Skidmor

Anoche se emitió un documental sobre si la IA nos podía quitar el trabajo. Efectivamente, su presentadora estaba hecha con IA [112]

  1. #45 No me creo que no haga falta como mínimo una persona para al menos supervisar el resultado.

Netanyahu contra la verdad sobre el 7 de octubre [DEU] [77]

  1. #60 El video más completo donde, al principio, habla de que espera una campaña de terror contra ellos, y es cuando detalla su plan de respuesta genocida y cómo EEUU les ayudarán a lavar la imagen:

    x.com/DaniMayakovski/status/1711923799011000709

    Lleva más de 20 años esperando esa "oportunidad de oro" (atentado) para poder ejecutar su plan. ¿Hay algo más que no sabemos en relación a Netanyahu y su Gobierno respecto a ese atentado?. Ahí queda la pregunta.
  1. #41 De lo que habla es de cómo un gran atentado daría pie a una reacción brutal contra el pueblo palestino, una especie de "oportunidad de oro" de aplastar y acabar con los palestinos.
    También comenta cómo manejar la previsible reacción contraria de la Comunidad International ante la barbarie genocida, a través de imponer un relato utilizando la influencia de sus aliados estadounidenses. Exactamente lo que ha sucedido, excepto que la reacción de la Comunidad International es ahora, dos años después y con miles de muertos y Gaza arrasada, cuando está empezando a reaccionar debido a la presión popular.

Bloqueado el acceso a otro servicio legítimo muy popular. Miles de usuarios de No-IP y su DNS dinámico ddns.net afectados [48]

  1. #24 Es que luego hay gente que se queda en lo primero y no ve mas allá. Es habitual estos días xD
  1. #17 Internet no va a peor, lo hacen peor, que es diferente (por intereses, por control, o por lo que sea).
« anterior12345…9

menéame