Cultura y divulgación
5 meneos
154 clics
Siete problemas filosóficos en el mundo de la Inteligencia Artificial

Siete problemas filosóficos en el mundo de la Inteligencia Artificial

(...) El caso es que me puse a pensar en qué buena filosofía se estaría haciendo ahora alrededor de la inteligencia artificial. Lancé a correr los modos de investigación de Gemini y Claude para recabar los papers más recientes y citados (os aseguro que el resultado es muy superior a lo que los periodistas lograban antes con tres googlazos), los descargué uno a uno para purgar alucinaciones, los fui leyendo y, de todo aquello que no comprendía (que no era poco) (...)

| etiquetas: inteligencia artificial , llms , filosofía
Decir que los LLMs no comprendan simplemente porque sus operaciones consisten en cálculos estadísticos es como decir que un piano no puede producir armonía porque son solo martillos golpeando cuerdas.

La falacia es evidente. El que se empiece a "argumentar" usando falacias es un claro indicativo del nivel de los "argumentos".

¿Debo razonar esto? Da hasta vergüenza. Debería ser evidente para todo el mundo que un piano es incapaz de producir ninguna clase de armonía.…   » ver todo el comentario
Están hablando de la habitación china:

Pues bien, varios filósofos argumentan ahora que el argumento no se aplica a los LLMs, o al menos no de la manera que Searle pretendía. El argumento original se dirigía contra la manipulación formal de símbolos discretos, los ceros y unos del programa clásico. Pero los LLMs trabajan con representaciones vectoriales distribuidas: cada palabra se convierte en un punto en un espacio de cientos o miles de dimensiones, y las relaciones entre palabras se

…   » ver todo el comentario
Si un LLM es un artefacto (como una calculadora o un coche), la responsabilidad moral y legal recae en su fabricante y su usuario. Si es un agente (como un empleado o un animal), podría tener intereses propios, derechos y quizás hasta obligaciones. La diferencia entre una respuesta y otra define regímenes regulatorios enteros.

Al ser un LLM estático, está claro de que lado cae. Luego están los llamados agentes (un desastre reciente). Consiste en montar bucle que va haciendo consultas al LLM. Esto no quita que el LLM en sí sigue siendo estático.

Quién ha escrito esto va totalmente perdido.

menéame