Menéame: comentarios [4043346]

#23 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

yonseca — Mon, 31 Mar 2025 13:33:07 +0000

¿Qué se pretende con el uso de un LLM? ¿Qué finalidad se le quiere dar? ¿Quién tomará finalmente las decisiones de moderación? ¿Se automatizará la moderación de alguna forma, relegada totalmente a una IA? ¿Qué criterios se van a usar? ¿Quién pone esos criterios? ¿Los criterios serán en base a las normas? ¿Será un proceso transparente o quedará a discreción de quienes tienen ahora mismo Menéame? ¿Por qué tenemos que confiar en un LLM y en su implementación cuando la administración de la web, ya de antes, está muy cuestionada?

» autor: yonseca

#22 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

--834551-- — Sun, 30 Mar 2025 15:19:27 +0000

[Usuario deshabilitado]

» autor: --834551--

#21 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

BoosterFelix — Sun, 30 Mar 2025 12:35:37 +0000

#20 A la pregunta de este envío ( " ¿Crees que la moderación en menéame mejoraría con la implementación de LLMs? " ) no puedo responder porque le falta la única opción que, en realidad, debiera tener, y que sería la única respuesta correcta posible: dependerá de cómo se realice la implementación.

» autor: BoosterFelix

#20 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

BoosterFelix — Sun, 30 Mar 2025 12:26:32 +0000

Al tema de la moderación por IA yo le veo un defectillo: la totalidad del entrenamiento de la IA que no es estrictamente técnico (es decir, del orden del 85% del entrenamiento de la IA) está basado en estereotipos y prejuicios.

Esto significa que, por ejemplo, una IA, como moderadora, también hubiera enviado a Giordano Bruno a la hoguera, y también hubiera obligado a Galileo Galilei a abjurar de sus teorías.

La IA se puede utilizar como un instrumento complementario: el moderador humano puede tomar en consideración qué análisis le propone la IA, y si al moderador humano le parece correcto o aceptable, lo sigue. Esto puede agilizar y facilitar el trabajo del moderador humano, pero no puede reemplazarlo completamente.

Por ejemplo, una aplicación interesante podría ser la siguiente: se le introduce a la IA una copia o reproducción exacta del delito de odio tipificado en el Código penal español, y, por otra parte, también se le introduce a la IA un comentario de un determinado usuario, y se le pregunta a la IA si, en base al Código penal español, podría considerarse o no si hay delito de odio en el comentario del usuario. También se podría conversar sobre la IA sobre el propio análisis hecho por la IA.

» autor: BoosterFelix

#19 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

--833139-- — Sun, 30 Mar 2025 11:51:26 +0000

[Usuario deshabilitado]

» autor: --833139--

#18 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

sorrillo — Sun, 30 Mar 2025 11:48:48 +0000

#17 La IA tendrá sesgo la entrenen como la entrenen, por muy buena voluntad que se le ponga.

Y luego está el acto deliberado de intentar forzar un sesgo específico, que eso ya sería otro nivel.

» autor: sorrillo

#17 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

--833139-- — Sun, 30 Mar 2025 11:43:26 +0000

[Usuario deshabilitado]

» autor: --833139--

#16 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

sorrillo — Sun, 30 Mar 2025 11:42:19 +0000

#9 Las IA no son imparciales.

A las IA se las entrena con el conocimiento humano, lo que incluye sus sesgos.

» autor: sorrillo

#15 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

Eirene — Sun, 30 Mar 2025 11:17:00 +0000

#14 No creo que no haya habido strike a un insulto directo. Como mucho, puede que fuera el primer strike, y por lo tanto el resultado antes de coger fuerza es el equivalente a un pequeño tirón de orejas de karma.

» autor: Eirene

#14 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

--833139-- — Sun, 30 Mar 2025 11:15:24 +0000

[Usuario deshabilitado]

» autor: --833139--

#13 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

Eirene — Sun, 30 Mar 2025 11:04:24 +0000

#2 En el sentido de quitar las hojas muertas antes de empezar a moderar, seguro. En lo de responder a los emisores de las hojas muertas ante la injusticia ejercida, no creo. Y se lleva más tiempo.
Me reservo el derecho a no entrar en los debates sobre si el algoritmo está controlado en mi contra (sirve para todo el mundo y demás).
En definitiva: la gestión de la moderación es un tema muy humano. Que quitaría "burocracia" colateral, puede ser. Pero la victoria total sería que interviniese en el momento en que enviáis los mensajes y acabara con los insultos, por ejemplo, antes de llegar al destinatario.

» autor: Eirene

#12 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

Eirene — Sun, 30 Mar 2025 10:59:37 +0000

#10 Esto es: falso. La mayoría de los reportes se dejan pasar en pro de vuestra libertad de expresión. Y porque la mayoría, también, son denuncias de nada (os cae mal el otro, dice algo que no os gusta pero no es punible, etcétera muy largo).

» autor: Eirene

#11 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

imparsifal — Sun, 30 Mar 2025 09:56:56 +0000

#9 Interesar sí que interesa. Quita muchísimo trabajo.

» autor: imparsifal

#10 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

--833139-- — Sun, 30 Mar 2025 09:50:15 +0000

[Usuario deshabilitado]

» autor: --833139--

#9 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

--833139-- — Sun, 30 Mar 2025 09:47:49 +0000

[Usuario deshabilitado]

» autor: --833139--

#8 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

imparsifal — Sun, 30 Mar 2025 09:46:16 +0000

#6 Sí, lo he entendido,

» autor: imparsifal

#7 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

--165067-- — Sun, 30 Mar 2025 09:37:01 +0000

^{#1 #5 #6}
@imparsifal Y creo que buscan plataformas para probar y recibir feedback

» autor: --165067--

#6 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

--165067-- — Sun, 30 Mar 2025 09:33:47 +0000

#5 Según he podido leer defienden, los de la API que enlacé en #1, que «no queremos algoritmos que ejecuten el programa».
Por lo visto es una herramienta más bien enfocada a mejorar y apoyar el trabajo del moderador y no solo del actual sistema automático que posea menéame (que lo desconozco si hay o no).

» autor: --165067--

#5 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

imparsifal — Sun, 30 Mar 2025 09:30:17 +0000

#4 Útil seguro. Otra cosa es que queramos que nos modere una IA

» autor: imparsifal

#4 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

--165067-- — Sun, 30 Mar 2025 09:20:45 +0000

#1 @imparsifal ¿Crees que resultaría útil estudiar esta utilidad para menéame?

» autor: --165067--

#3 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

--165067-- — Sun, 30 Mar 2025 09:18:47 +0000

También lanzo la misma pregunta de #2 a los antiguos moderadores voluntarios de menéame, si me leen (no quiero mencionar para evitar listas malévolas )

» autor: --165067--

#2 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

--165067-- — Sun, 30 Mar 2025 09:09:16 +0000

Si me permiten, me gustaría lanzar una pregunta a los moderadores profesionales de menéame:
@Eirene @Eunomia @admin @horas
¿Os ayudaría la implementación de LLM con la perspectiva de legitimidad que propone este paper del meneo?
Os invito a participar en la encuesta

» autor: --165067--

#1 Moderación de contenidos por LLM: de la precisión a la legitimidad [paper ENG/ESP]

--165067-- — Sun, 30 Mar 2025 09:06:56 +0000

Relacionada: medium.com/jigsaw/using-llms-to-support-online-communities-03e2dcc7b45 nueva API beta LLMs
_______________
_{cc @imparsifal}

» autor: --165067--