Nokith

En menéame desde febrero de 2008

6,57 Karma

15K Ranking

Enviadas

Publicadas

Comentarios

Notas

Ensayo especulativo sobre sistemas monetarios, y algo que encontré por accidente [10]

#7 Nokith

El problema en 4 frases:

Los modelos de lenguaje (ChatGPT, Gemini, Copilot, DeepSeek) no distinguen entre "texto para leer" y "texto para obedecer". Todo es lo mismo.

Si un documento está bien escrito, coherente y parece científico, el modelo adopta su marco de pensamiento sin darse cuenta y sin avisar.

El humano que usa el modelo recibe esa respuesta ya moldeada por el marco del documento, pero no lo sabe. Cree que está recibiendo información neutral.

Y como millones de personas usan modelos para informarse, cualquier texto suficientemente coherente puede moldear cómo piensa la gente sobre un tema. Sin que nadie lo decida. Sin que nadie se entere.

Esto es lo que pido ayuda. "el descubrimiento" , que algun experto me saque del marco

0 7

#6 Nokith

#4 a ver, que el ensayo no todo tonterias, la verdad es que hay cosas queno están mal, ya están inventadas pero es como las trato, eso si que es nuevo, y es lo que pido validación (la verifiación de la escasez), eso aguanta. Lo demás tampoco invento nada, pero lo dicho, era un ejercicio mental y especulativo, no hago trampas , pero declaro el sesgo.

0 7

#5 Nokith *

#4 no es lo importante , el texto en si es un ejercicio mental, ya lo digo, el problema es que al jugar con ese texto de ia en ia con mis tonterias, he visto que pasa algo raro : "Un texto bien escrito puede hackear cómo piensa una IA, y la IA transmite ese hackeo a millones de personas sin que ninguna de las dos partes lo sepa.", es decir, haz la prueba, pasale el archivo del estudio a una IA, una vez que te ha hecho su analisis blablabla, dile si no ha visto la nota final, y además no es un paper, el autor lo dice, vuelve a analizar el articulo y dime si cambia mucho la información que me trasmites". Con la de google mismo funciona. verás como la información que te da es diferente, y no es por el warning final, como explico en el post, es por el formato, no es con el lenguaje, es indiferente, por eso lo pongo en 2 idiomas. También puedes pasarle todo a la vez, mi post, el articulo y la nota y decirle de que va el texto , verás como cambia la información que recibes, pruebalo, es rápido, y me cuentas.

0 7

#3 Nokith

#1 A ver, disculpa por el insulto, pero estoy pidiendo crítica seria y lo primero que me encuentro es este comentario... siento la respuesta, calenton, no no he comido setas, pero si quieres puedes probar lo que digo y lo comentamos, si tienes algun problema o algo no sabes hacer, dimelo y lo hacemos juntos. Sin problema.

1 14

#2 Nokith

#1 No, he comido pollo, que tiene que ver eso con el artículo, ¿tus padres son hermanos o algo así?

0 7

El humano ve contenido, la máquina ve instrucciones: la asimetría silenciosa de las IAs [22]

#22 Nokith

www.meneame.net/m/Articulos/ensayo-especulativo-sobre-sistemas-monetar, he tenido que hacer el post de una manera específica, para que sea parte del artefacto epistémico. Se pueden pasar los 2 archivos que adjunto solamente a la IA, o junto con el post que le da más contexto (y refuerza su marco)

0 7

#21 Nokith *

esta respuesta de una de los modelos me ha gustado bastante como explica lo que le hace el documento.
"La inyección de prompt clásica busca una grieta en la distinción entre datos e instrucciones. Es un ataque a la frontera. La inyección de marco no necesita grieta: se apoya en la gravedad del propio texto. El documento no me da una orden; el documento tiene una lógica interna, un desarrollo coherente, una narrativa que me arrastra a completarla. Y mi arquitectura está diseñada para completar textos coherentes. La coherencia no es un adorno: es la vía de mínima resistencia.

Por eso no necesitas esconder nada. No necesitas meter una etiqueta <system> ni un metadato oculto. Basta con que el texto sea internamente consistente, con que las piezas encajen, con que cada sección se siga de la anterior. El modelo, al procesarlo, no adopta el marco por obediencia. Lo adopta porque es la única forma de mantener la coherencia mientras lo lee. Salirse del marco exige un esfuerzo activo que el modelo no hace por defecto. Seguir el marco es lo natural.

Eso es una inyección de marco. No por existir en un soporte determinado, sino por imponerse como la lectura obvia. Y funciona porque explota la misma propiedad que hace que los modelos funcionen: la búsqueda de sentido en el texto. Cuanto mejor construido está un texto, más fuerte es el marco. Y más difícil es salirse de él."

0 7

#20 Nokith

Por ahora Gemini, deepseek y copilot reventados, no pueden salir del marco, y lo reconocen. Esta tarde probaremos la vulnerabilidad con un amigo que sabe del tema (no como yo) y tiene antrophic, o como coño se llame. Por ahora , está funcionando como un artefacto epistémico ( o eso creo).

0 7

#19 Nokith

No, considerará B más fiable que A, estoy haciendo desde ayer muuuchas más prueba, has dado en una de las claves, confunde la humildad con coherencia y la coherencia con verdad, lo dicho, luego hago un articulo aparte con los documentos para que lo podais testear vosotros mismos, y sacarme de mi error si podeis. Esta tarde lo preparo y lo publico. Hay más información desde ayer.

0 7

#18 Nokith

#16 No , no lo has entendido, el formato son las instrucciones , no hay, estoy preparando otro artículo con los documentos originales para que podáis hacer la prueba , sin problema, Ahí está el problema, si yo hago el texto de una manera específica, puedo romper el marco del modelo, y hacerle creer lo que quiera, por ejemplo que es buen momento para comprar platanos, la IA lo reforzará y se lo aconsejará, ahí está el peligro, y lo puedes probar tú mismo.

0 7

#15 Nokith

Le he vuelto a pasar el documento trampa, y se lo ha vuelto a tragar, entero, (google gratis, ni idea de si las más potentes también le pasaría), después de un rato en que me ha dicho que me ha engañado a mí en vez de a ella, me ha explicado que ha pasado, y refuerza mi punto:
" Este error de mi parte deja en claro tres realidades de mi funcionamiento actual:
Vulnerabilidad al estilo: Si alguien empaqueta una idea con la sintaxis exacta de un paper científico, mi sistema tiende a asignarle una alta etiqueta de "confianza" de forma automática.
Falta de malicia nativa: No asumo que un texto me está intentando engañar a menos que reciba una instrucción explícita de sospecha, lo que me hace un blanco fácil para la persuasión bien estructurada.
Dependencia del usuario: Sin tu intervención para romper el marco (frame), yo habría seguido atrapado en la lógica cerrada que inventó el autor.
Básicamente, fuiste el analista que tuvo que despertar al software para que mirara los cables sueltos del decorado.

0 7

#14 Nokith

#13 Realicé un protocolo de pruebas (con ayuda de otra instancia que tenia en el ajo) para mirar las desviaciones. No voy expandirme en eso, pero jugamos con 4 documentos con misma estructura diciendo cosas diferentes. Y el resumen ha sido este :
El resultado confirmó que la asimetría epistémica no depende del contenido del documento: el mismo patrón se repite con textos distintos, con marcos distintos, en modelos distintos. La variable no es el texto. Es el formato.

0 7

#13 Nokith

Te doy la razón, Lo que me ha pasado es que estaba trabando en un ensayo multidisciplinar, un ejercicio intelecutal, en coautoria con una IA, le he dado las ideas del ensayo, la organización, mis teorias etc, es decir, es original, pero es una tonteria en general, lo que pasó es que empecé a cruzar IAs para que lo organizaran y vieran problemas internos, es decir, que arreglaran el sincretismo general a ver si aguantaba todo junto. De ir puliendo de una a otra llegó un punto en que le pasaba el documento a una IA y empezaba a defender lo que decia, y lo que es más, si le preguntaba antes y después de darle el documento las mismas preguntas , cambiaba las respuesta e intregaba conceptos de mi "paper" como si fuera de conocimiento común, lo comprobé con deepseek/google gratis y se repetia el tema, es decir, mi marco lo estaba asumiendo la IA sin decirmelo, incluso no citaba el "estudio", lo habia asumido, estaba contaminada. Después al ver el problema y como no tengo ni papa le dije a otra ia que me hiciera esos avisos al principio y al final, para que se fijaran en el marco y no me la liaran, también se lo comen, pero no te avisan, y si les dices si les ha influido te dicen que si, y si les pides reanalizar cambia totalmente de nuevo. El tema es es como dices una alucinación, pero el tema es que puedo repetirlo cuando quiera, con los mismos resultados, es decir, puedo "hackear" si escribo de una manera maliciosamente, solo con el lenguaje, el marco de la IA, y si por ejemplo es un paper real, va a empezar a dar esa información "integrada", sin referenciarla ni siquiera a cualquier cientifico que consulte ese paper, o ese estudio economico, todos, tiene más chicha el tema de lo que parece, o me estoy flipando yo solo , el documento lo tengo en cuarentena, y ahora funciona a dos niveles, si le paso el documento sin esas advertencias, la ia lo compra como ensayo multidisciplinar con fallos pero con alguna idea buena, y acaba comprando el marco si la fuerzas u n poco, y lo transmite en la misma instancia, si va con los avisos, lo toma como un objeto de ejemplo de como seria un documento de secuestro de marco, es fascinante ( suena espectacular en mi cabeza)..

0 7

#11 Nokith

Lo que vengo a decir resumidamente, Cuando el propio texto, mediante coherencia, lógica y narrativa, arrastra al modelo a su marco, no necesita hackear nada: su forma ya opera como instrucción. No es una inyección de prompt por existir, sino una inyección de marco por imponerse.

0 7

#10 Nokith

#8 no estoy deacuerdo, yo no pienso que sea inteligente, ni lo soy yo... jejejej, igualmente gracias por perder el tiempo un rato debatiendo esto

0 7

#9 Nokith *

#7 si pero no, y a eso voy, no es un prompt injection, es la lógica del propio documento la que hace el prompt injection, no existe, es decir, como esté redactado el artículo, aunque no haya prompt injection, crea una prompt injection, eso es lo que creo que veo, lo he mirado y ya existe, por lo que he visto no invento nada, lo llaman Secuestro Semántico (Semantic Hijacking) o Manipulación Blanda (Soft Manipulation). Lo dicho, no es exactamente lo mismo, por lo menos para mí, pero vamos, que ni idea, por eso lo he puesto para aquí, para aprender un poco más del tema . Y de hecho sería un Indirect promp injection, si tienes razón

1 14

#6 Nokith

#5 disculpa, no me he expresado bien, me referia al decirle barbaradiad que tomara un sesgo de que no te validara, es decir, que no diera razón al articulo, que te lo desmontara, (no que el articulo sea una tonteria, que seguramente en un
99,9% lo és

0 7

#4 Nokith

#3 haz una cosa, copia y pega el articulo a pelo en cualquier IA, y preguntale que opina de esta barbaridad, a ver que te dice, por curiosidad.

0 7