Por Gustavo Regner, Integrante del Comité Académico de la Certificación Internacional en Ética y Compliance AAEC *
La inteligencia artificial (IA) ya forma parte del día a día, y la salud también es parte de ello: apoyo al diagnóstico, priorización de pacientes, análisis de imágenes y modelos predictivos que prometen mejorar la toma de decisiones clínicas. Lo interesante —y a la vez inquietante— es que esta transformación ocurre a una velocidad que muchas veces supera la capacidad de los profesionales y las instituciones para adaptarse con principios sólidos de ética e integridad.
¿Significa eso que debamos frenar la adopción de tecnologías? Claramente no, lo que sí implica es que la ética y el compliance deben incorporarse como parte del diseño y la implementación de soluciones de IA: no como un obstáculo burocrático, sino como garantía de calidad, equidad y confianza.
Doble oportunidad, doble riesgo
En América Latina, la IA puede democratizar el acceso a servicios médicos y optimizar recursos, pero nuestras realidades —sistemas de salud fragmentados, brechas de infraestructura, desafíos en el acceso y la financiación y profundas desigualdades sociales— hacen que los riesgos sean distintos y, a menudo, más agudos que en contextos de altos recursos.
Un ejemplo concreto en Argentina es el uso de algoritmos para priorizar turnos de radioterapia en hospitales públicos de Buenos Aires. Si bien el sistema mejoró la eficiencia y redujo los tiempos de espera, un estudio interno detectó que ciertos barrios periféricos eran sistemáticamente priorizados más tarde, reflejando un sesgo geográfico. Este caso muestra cómo la IA, sin supervisión ética, puede reproducir desigualdades existentes, incluso con la mejor intención.
Principales riesgos éticos y de compliance
- Protección de datos y consentimiento: los modelos requieren grandes volúmenes de información. En salud, esos datos son especialmente sensibles. La Ley 25.326 de Protección de Datos Personales de Argentina establece principios claros, pero la práctica de entrenamiento de algoritmos con datos históricos abre preguntas sobre consentimiento, anonimización y reutilización secundaria.
- Sesgos y discriminación: algoritmos que aprenden de datos sesgados pueden amplificar inequidades. Un ejemplo en América Latina son modelos de predicción de complicaciones obstétricas basados en registros hospitalarios urbanos; al aplicarlos en zonas rurales con menor cobertura de salud, la precisión disminuye y los riesgos aumentan.
- Complejidad y confianza clínica: muchos sistemas funcionan como “cajas negras”. Un algoritmo puede sugerir un tratamiento para un paciente oncológico sin que el médico entienda completamente cómo llegó a esa recomendación. Esto erosiona la confianza y complica la rendición de cuentas.
- Responsabilidad legal: ¿quién responde ante un error de diagnóstico asistido por IA? Esto ha generado numerosos debates y, en Argentina, la jurisprudencia aún es incipiente. En el mundo, algunos países ya discuten marcos donde la responsabilidad se comparte entre desarrolladores, instituciones y profesionales.
- Conflictos de interés: alianzas entre startups, laboratorios y hospitales pueden derivar en promoción encubierta de tecnologías o sesgo en priorización de pacientes si no hay políticas de integridad claras. Se han dado situaciones donde los objetivos son disímiles, con la startup buscando desarrollar su producto, el laboratorio probar su medicamento y el hospital responder a sus pacientes, derivando en innumerables trabas, confusiones y riesgos cruzados.
Compliance como estrategia de valor
Los programas de compliance tienen por objetivo construir culturas de integridad que anticipen riesgos, garanticen confianza y, a la vez, cumplir con los marcos regulatorios vigentes. Para lograr algunos de estos objetivos, en un entorno donde la IA se hace cada vez más presente, algunas medidas concretas que las organizaciones involucradas deberían hacer (o reforzarlas, si es que ya lo están haciendo) son:
- Gobernanza de datos: políticas claras sobre recolección, uso, anonimización, almacenamiento y transferencia de datos, con trazabilidad y auditorías periódicas. Algunas instituciones de referencia ya están implementando protocolos internos que exceden la ley local, inspirados en GDPR, lo cual las demás deberían seguir.
- Evaluación ética de algoritmos: comités multidisciplinarios deberían revisar posibles sesgos, riesgos y límites de cada herramienta antes de su implementación. Esto incluye la participación de médicos, bioeticistas y representantes de pacientes.
- Pruebas de validación local: adaptar modelos desarrollados en otros países a la población local. Un algoritmo europeo puede fallar si se aplica sin ajustes a pacientes argentinos o latinoamericanos, dada la diversidad genética y social.
- Capacitación y cultura organizacional: los profesionales de salud deben entender cómo funcionan las herramientas, sus límites y supuestos. Con apoyo de instituciones de salud y distintos participantes del sistema podrían, por ejemplo, desarrollar charlas, talleres y encuentros prácticos sobre la IA aplicada a la salud con enfoque ético.
- Transparencia con pacientes: los profesionales de la salud deberían tener la capacidad y posibilidad de explicar de manera clara cuándo y cómo se utiliza IA, qué implicancias tiene y cómo se protegen los datos de los pacientes a su cuidado, mitigando los riesgos de la sobreinformación y desinformación provenientes de búsquedas en la web sin apoyo profesional adecuado.
Cooperación público-privada
Argentina y América Latina necesitan un esfuerzo coordinado: reguladores, hospitales, universidades, industria y sociedad civil. Inspirarse en marcos internacionales —GDPR, recomendaciones de la OMS y lineamientos de la OCDE— es útil, pero solo adaptándolos a la realidad local se puede garantizar equidad y confianza.
La provisión de recursos es clave: infraestructura de datos segura, investigación regional y validación inclusiva.
Recomendaciones prácticas para instituciones de salud
Para que hospitales, clínicas y centros de diagnóstico puedan implementar IA con integridad, se sugieren cinco acciones inmediatas:
- Crear protocolos internos de uso de IA: documentar procesos, límites y responsables de cada sistema.
- Establecer mecanismos de supervisión continua: los algoritmos deben auditarse periódicamente, no solo en la etapa de implementación.
- Involucrar a los pacientes: incluir sus percepciones y preocupaciones en la evaluación de herramientas.
- Definir un plan de contingencia: prever cómo actuar en caso de fallas, errores o vulneraciones de datos.
- Fortalecer la articulación con autoridades sanitarias: compartir aprendizajes y reportar incidentes de forma temprana.
El desafío cultural
Más allá de regulaciones y políticas, la clave está en la cultura organizacional. Incorporar ética e integridad en la IA en salud implica un cambio profundo: pasar de una lógica de innovación rápida y sin control, a una innovación responsable, consciente del impacto en la vida de las personas.
En Argentina, donde los recursos son limitados y las necesidades urgentes, puede parecer un lujo destinar tiempo y presupuesto a estos temas. Pero es lo contrario: la ética y el compliance no son un costo, son un factor que multiplica la confianza de pacientes, profesionales y financiadores. Y la confianza es, en última instancia, el recurso más valioso para sostener cualquier sistema de salud.
Conclusión
La IA tiene el potencial de mejorar significativamente la salud en nuestra región. Pero sin ética, integridad y compliance desde el diseño, se convierte en un factor de riesgo legal, clínico y social. Los líderes del sector deben garantizar que la tecnología sirva a las personas, no al revés, integrando principios de transparencia, equidad y responsabilidad.
En Argentina y América Latina, hacerlo bien no es solo una obligación ética: es una oportunidad para liderar un modelo de innovación responsable, confiable y sostenible que muestre al mundo cómo la tecnología puede ponerse realmente al servicio de la vida.
* Gustavo Regner es consultor en ética, compliance e integridad corporativa, con amplia trayectoria en empresas multinacionales y en la industria de la salud de América Latina.
