Buen día. Según un nuevo estudio, muchas juntas directivas están aprobando estrategias de IA sin una comprensión clara de si los controles subyacentes realmente funcionan, lo que deja a los directores financieros expuestos cuando los reguladores, auditores o inversores solicitan pruebas. En el sector privado, la atención sanitaria parece estar enfrentando los desafíos más serios.
Kiteworks, una empresa de seguridad tecnológica, ha publicado su Informe de previsión de riesgos de cumplimiento y seguridad para 2026, basado en una encuesta a 225 líderes de seguridad, TI, cumplimiento y riesgos en 10 industrias y ocho regiones.
Uno de los hallazgos clave es que el 53% de las organizaciones no pueden eliminar datos personales de los modelos de IA una vez utilizados, lo que crea una vulnerabilidad a largo plazo según el GDPR, la CPRA y las nuevas regulaciones de IA.
Todos los encuestados dijeron que la IA del agente está incluida en sus planes, pero los controles sobre estos sistemas están rezagados. En general, el 63 % no puede imponer restricciones de objetivos para los agentes de IA, el 60 % no tiene una capacidad de conmutación por error y el 72 % no tiene una especificación de software (SBOM) para los modelos de IA en su entorno. El resultado: según el informe, los sistemas de inteligencia artificial acceden, procesan y estudian datos confidenciales, mientras que las organizaciones no pueden rastrear completamente a dónde van esos datos ni demostrar cómo se utilizan.
Entre las 10 industrias encuestadas, el gobierno enfrenta los desafíos más importantes derivados de sistemas obsoletos. Sin embargo, en el sector privado, la atención sanitaria se caracteriza por un control y una gestión débiles de la IA.
Las organizaciones sanitarias también se encuentran entre las más conservadoras en el gasto en IA. Más del 80% de los encuestados dijeron que actualmente no planean utilizar agentes API, una tecnología que permite a los agentes de IA conectarse a sistemas externos y trabajar en flujos de trabajo coordinados. Si bien una implementación cuidadosa puede reducir el riesgo a corto plazo, las organizaciones que lo posponen también pueden no lograr desarrollar las capacidades de gestión que necesitarán a medida que aumente el uso de la IA, afirma Kiteworks.
Esta cautela refleja restricciones económicas de larga data. Según un informe de Becker’s Hospital Review, la atención médica va a la zaga de industrias como la banca y la manufactura en la adopción de tecnologías avanzadas, en gran parte debido a los bajos márgenes operativos. Sin embargo, los líderes de la industria creen cada vez más que la inteligencia artificial es esencial para la sostenibilidad financiera. El vicepresidente ejecutivo y director financiero de Cleveland Clinic, Dennis Laraway, dijo a la publicación que la inteligencia artificial, la robótica y la automatización pueden ayudar a escalar los sistemas de salud al ampliar la cobertura de los pacientes, aumentar el volumen y mejorar la velocidad y la precisión, apoyando la transformación de costos en medio de la reforma de pagos y la presión regulatoria.
Estas fuerzas en competencia están aterrizando directamente en los escritorios de los directores financieros.
“Los directores financieros de atención médica enfrentan un acto de equilibrio excepcionalmente difícil a medida que se intensifica la presión de inversión en IA”, me dijo Tim Freestone, director de estrategia de Kiteworks. “A diferencia de la tecnología o el comercio minorista, muchos sistemas de salud operan con márgenes del 2 al 3% en los años buenos, lo que hace que cada solución tecnológica parezca existencial en lugar de experimental”.
Cuantificar el retorno de la inversión en inteligencia artificial sigue siendo particularmente difícil, añadió Freestone. “¿Cómo se mide un diagnóstico más rápido o una reducción del agotamiento de los médicos?” Al mismo tiempo, dijo, cualquier implementación de inteligencia artificial relacionada con los datos de los pacientes implica importantes costos de cumplimiento y seguridad.
Dado que la atención médica ha tardado relativamente en desarrollar sistemas de gestión de IA, a los directores financieros se les pide cada vez más que aprueben inversiones significativas en tecnologías que sus organizaciones quizás aún no tengan la experiencia interna para evaluar o gestionar, dijo Freestone. “Básicamente, se les pide que construyan el avión mientras deciden si lo comprarán”, dijo. A medida que la atención pasa de las ambiciones de la IA a la implementación, los directores financieros pueden descubrir que la verdadera prueba es la gestión en lugar de la innovación.
Cheryl Estradacheril.estrada@fortune.com
Esta historia se publicó originalmente en Fortune.com.
