Las academias europeas reclaman más control sobre la IA en sanidad
Bruselas, 30 sep (EFE).- Las academias europeas de ciencias (EASAC) y de medicina (FEAM) reclamaron que la inteligencia artificial (IA) se trate en la sanidad como cualquier otra intervención, con beneficios demostrados, riesgos conocidos y control continuo, en un documento presentado este miércoles en Bruselas.
El informe ve en la IA una herramienta capaz de acelerar los escáneres y reducir la radiación en resonancias y TAC, detectar tumores y anticipar cómo responderá un paciente a un tratamiento, además de vigilar enfermedades, prever brotes y quitar carga administrativa a los hospitales.
Sin embargo, los autores advierten de que, sin normas claras, hay riesgo de filtraciones de datos, sesgos algorítmicos y pérdida de control humano.
«La IA está entrando en la práctica clínica y administrativa más deprisa de lo que muchos sistemas sanitarios pueden evaluarla, gobernarla y vigilarla de forma independiente», señaló André Knottnerus, copresidente del grupo de trabajo por la EASAC, en un comunicado.
El documento, elaborado por 22 científicos designados por las academias, pide evaluar de forma transparente el beneficio de cada herramienta antes y después de usarla, avisar a los pacientes cuando se emplea IA y garantizarles vías de reclamación.
Riesgos en urgencias o desigualdad
Un sistema de IA que rinde bien en las pruebas puede fallar con pacientes reales, por diferencias en la población, los equipos o la forma de trabajar de cada hospital. Por eso, el informe ve prematuro dejar que decida sola el orden de atención en urgencias, donde un caso grave podría quedar relegado.
Si los datos con los que se entrena no representan a toda la población, además, funciona peor con minorías, en zonas rurales o con niños, los autores temen que eso agrave la brecha entre los centros con recursos y los que carecen de ellos.
Los sistemas también pueden ser engañados: al alterar los datos de entrada de forma casi imperceptible, se les puede llevar a recomendar un tratamiento equivocado.
Asimismo, el uso continuado de la IA podría mermar las habilidades de los médicos, como el juicio clínico y la empatía. El informe cita un estudio en el que gastroenterólogos redujeron un 20 % su capacidad de detectar pólipos sin ayuda de la IA tras acostumbrarse a ella.
Uso proactivo que priorice la equidad y la confianza
«Necesitamos especificaciones claras para demostrar un beneficio clínico real en distintas poblaciones y contextos, y para asegurar que se usan datos representativos y de calidad», dijo Luis Martí-Bonmatí, copresidente por FEAM. Los pacientes, añadió, precisan explicaciones significativas y vías de recurso.
Para probar los sistemas antes de generalizarlos, el informe defiende entornos regulatorios controlados (‘sandboxes’) y la investigación de modelos con conjuntos de datos pequeños y cuidados.
Una vez en uso, pide supervisión independiente, auditorías y notificación de incidentes.
Los autores insisten en que la regulación debe ser proactiva, priorizar la equidad y la confianza y coordinarse a escala europea: normas armonizadas, intercambio transfronterizo de datos anonimizados y supervisión conjunta. Y que los colegios médicos exijan competencias en IA para ejercer.
«Ahora es el momento de actuar si queremos confiar nuestra salud a la IA», subrayó Knottnerus, quien aseguró que, con estas recomendaciones, quieren ayudar a los responsables políticos a impulsar las innovaciones de forma segura.
El informe se publica tras el discurso sobre el estado de la Unión de la presidenta de la Comisión Europea, Ursula von der Leyen, que el 16 de septiembre incluyó la sanidad entre los cinco sectores prioritarios para la inteligencia artificial, y antes de que se apliquen las reglas de alto riesgo de la Ley de IA, aplazadas en tramos entre 2027 y 2028. EFE
ymo/ahg/acm
