Médicos y algoritmos: la delgada línea entre apoyarse en la IA y depender de ella

La inteligencia artificial (IA) está transformando la medicina con la misma rapidez con la que un bisturí afilado corta la piel. Radiología, gastroenterología y otras especialidades ya emplean algoritmos que ayudan a detectar anomalías, redactar informes o incluso emitir diagnósticos preliminares. Los beneficios son claros: más precisión, más velocidad y menos errores en tareas repetitivas. Pero un estudio reciente ha encendido las alarmas: médicos que usaron asistencia de IA en procedimientos se volvieron un 20 % menos efectivos al detectar an

[#1 ombresaco]

En medicina, la línea es más fina. Un error en un diagnóstico no es una resta mal hecha: puede costar una vida.

Por lo visto calcular mal una estructura de un puente no es algo vital

[#2 Eversmann]

El problema también será cuando las decisiones sean dadas por la IA... algo que no quiero ver.

[#3 ombresaco]

#2 A efectos prácticos ya ocurre, pero de otra forma. Lo llaman "medicina defensiva", cuando el médico se ajusta al procedimiento oficial incluso siendo consciente de que no es el método óptimo, pero le va a dar menos problemas.

Ahora el procedimiento será "me lo dijo la IA oficial de mi organismo", pero a efectos prácticos será lo mismo, evitar marrones.

[#6 hrundil]

#3 es que simplemente no pueden saltarse los procedimientos que en algunos casos pueden estar anticuados. Hoy en día es peor porque al estar todo informatizado el programa te limita qué procedimiento/análisis puedes pedir para un paciente.

Y a lo mejor es para bien porque con la cantidad de zumbados anticientíficos que hay mejor no darles libertad para que actúen como el Dr House.

[#7 ombresaco]

#6 no he dicho que sea malo, simplemente que nos tiramos de los pelos, por algo que ya existe. Si hay que migrar de un procedimiento estático a uno dinámico con IA, si se hace con honestidad, creo que la IA puede ser más efectiva.

[#4 doppel]

hasta que sean sustituidos completamente

[#5 Priorat]

Empezará a pasar lo mismo que con la IA generalista.

La alimentas con datos de internet, pero empieza a tener alucinaciones que se incorporan a internet. Primero son pocas y tiene poco impacto, pero la IA va tan rápido que la mayor parte de cosas que habrán en internet serán falsas, alucinaciones de la IA con las que se alimentarán a nuevos algoritmos IA. En una época en que multitud de datos solo están en digital, al final no tendremos ni idea de lo que es real y lo que es ficticio y es más, la mayoría será falso. Mientras tanto habremos cambiado multitud de sistemas en los que no va a haber personal y solo podrán funcionar ya por IA. Va a ser un desastre.