PHOTO: PEXELS
Una herramienta de transcripción basada en inteligencia artificial utilizada por médicos en Ontario generó errores significativos e incluso información inventada —conocida en el sector tecnológico como “hallucinations”— según reveló una auditoría reciente que ha generado preocupación sobre el uso creciente de IA en el sistema de salud.
El software fue diseñado para ayudar a médicos a ahorrar tiempo mediante la transcripción automática de conversaciones clínicas y notas médicas. Sin embargo, el informe concluyó que la herramienta produjo datos incorrectos, omisiones y frases que nunca fueron dichas durante algunas consultas.
Expertos explican que las “alucinaciones” en inteligencia artificial ocurren cuando un sistema genera contenido falso o inexacto presentado como si fuera real. Aunque este fenómeno ya era conocido en herramientas de IA generativa, el caso ha generado alarma debido a los riesgos potenciales dentro del ámbito médico.
La auditoría advirtió que errores de este tipo podrían afectar la calidad de registros clínicos y eventualmente impactar decisiones relacionadas con atención de pacientes si no existe supervisión humana adecuada.
El uso de inteligencia artificial en salud ha crecido rápidamente en Canadá y otros países durante los últimos años. Hospitales y clínicas buscan automatizar procesos administrativos para reducir carga de trabajo y mejorar eficiencia, especialmente en medio de escasez de personal médico.
Sin embargo, especialistas en tecnología y ética médica señalan que herramientas de IA aún presentan limitaciones importantes y requieren controles estrictos antes de depender excesivamente de ellas en entornos sensibles.
Algunos médicos han expresado preocupación por la velocidad con que nuevas tecnologías están siendo incorporadas al sistema de salud sin suficiente evaluación independiente.
El informe también reabre el debate sobre privacidad y manejo de información médica cuando plataformas de inteligencia artificial procesan conversaciones entre pacientes y profesionales de salud.
Autoridades sanitarias indicaron que continúan evaluando el desempeño de estas herramientas y analizando posibles medidas para fortalecer supervisión y estándares tecnológicos.
Expertos destacan que la inteligencia artificial puede ofrecer beneficios importantes en medicina, incluyendo automatización de documentación, análisis de datos y apoyo diagnóstico. Sin embargo, insisten en que la supervisión humana sigue siendo esencial.
El caso en Ontario refleja una discusión más amplia sobre cómo integrar nuevas tecnologías sin comprometer seguridad, precisión y confianza pública.
A medida que gobiernos y sistemas de salud exploran soluciones tecnológicas para enfrentar presiones crecientes, especialistas advierten que será fundamental encontrar equilibrio entre innovación y protección de pacientes.
