Gobernanza de la IA: el reto de controlar su rápido avance

La creciente implementación de herramientas de inteligencia artificial (IA) en las organizaciones está generando nuevos retos. Además de impulsar la innovación, las empresas deben enfrentar el desafío de controlar los datos y decisiones que cada vez más quedan a merced de sistemas automatizados. Un contexto crucial es la presión por innovar que, combinada con el uso de aplicaciones no autorizadas, pone en jaque las estructuras tradicionales de gestión empresarial.

Luciano Moreira, experto en transformación y estrategia en Cloud Legion, afirma que la gobernanza de la IA va más allá de la simple aplicación de la tecnología. Sostiene que es fundamental establecer un marco normativo que guíe el uso de la inteligencia artificial alineado con los objetivos de la empresa. Si no se aborda correctamente, la falta de gobernanza podría llevar a fracasos en la estrategia organizacional.

Un obstáculo cultural notable en muchas empresas es la creencia de que la gobernanza de la IA se limita a cumplir regulaciones o a ser responsabilidad exclusiva del área de IT. Moreira enfatiza que la gobernanza requiere un enfoque integral que defina responsabilidades, establezca políticas, capacite a los empleados y supervise los sistemas. Esto asegura que la adopción de la IA esté alineada con una estrategia empresarial clara.

Otro aspecto preocupante es la creciente tensión entre la necesidad de velocidad en los negocios y el tiempo que requieren los equipos técnicos para desarrollar soluciones seguras. Un estudio revela que el 40% de los tomadores de decisiones señala la seguridad y el riesgo como sus principales preocupaciones. Sin embargo, a menudo, la urgencia por actuar rápidamente prevalece sobre las precauciones necesarias para mitigar riesgos.

El fenómeno de Shadow AI, que involucra a empleados utilizando o desarrollando herramientas de IA sin aprobación, complica aún más la situación. Según datos de UpGuard, el 81% de los empleados y el 88% de los responsables de seguridad han admitido que utilizan aplicaciones de IA no autorizadas. Esta discrepancia entre la rápida adopción de nuevas tecnologías por parte de los empleados y las limitaciones de las empresas para imponer controles adecuados puede resultar peligrosa.

Un informe de Reco AI indica que una aplicación de Shadow AI puede operar en el entorno laboral durante en promedio 400 días antes de ser identificada y eliminada por parte del personal de IT. Estas herramientas no autorizadas pueden comprometer la calidad de los datos que alimentan los sistemas de IA, lo que afecta la efectividad de las soluciones automatizadas.

Por ello, se hace esencial para las organizaciones implementar políticas coherentes y efectivas antes de gozar de las ventajas de la automatización. Un manejo adecuado de las herramientas de inteligencia artificial es vital para garantizar que la tecnología beneficie a la organización sin poner en riesgo los aspectos críticos de su operación.