Daniel Macarrón Movellán

El uso de la inteligencia artificial (IA) generativa y otras formas de aprendizaje automático ha explotado en organizaciones de todo el mundo. Sin signos claros de que el crecimiento de la IA disminuya, Razzak Jallow de FloQast argumenta que las empresas que no priorizan el cumplimiento normativo corren el riesgo de poner el carro delante del caballo. 

Un equilibrio crucial: Innovación y cumplimiento 

Integrar la inteligencia artificial puede ser un motor de innovación y eficiencia, pero garantizar medidas de cumplimiento sólidas es igualmente crítico para alcanzar el éxito sostenido. Las apuestas en el cumplimiento de la IA son altas. Por ejemplo, los formuladores de políticas están respondiendo con iniciativas como el Reglamento Europeo sobre Inteligencia Artificial (https://artificialintelligenceact.eu/), que busca establecer marcos regulatorios comprehensivos. Las sanciones bajo este reglamento pueden ser severas, alcanzando hasta aproximadamente 32 millones de dólares o el 6% de la facturación anual mundial, lo que sea mayor. 

Sin embargo, es importante entender que los equipos de cumplimiento eficaces son vitales para el éxito de la IA. A medida que las organizaciones navegan por el paisaje evolutivo de las regulaciones de IA, priorizar el cumplimiento no solo protege contra problemas legales, sino que también fomenta una integración sostenible de la IA. Equilibrar la innovación con el cumplimiento asegura que las organizaciones adopten la IA de manera rápida y sostenible, alineándose con estándares regulatorios en constante evolución. 

Programas de cumplimiento de IA: pilares para el éxito 

Los programas de cumplimiento de IA están diseñados para asegurar que los proyectos de IA sigan todas las leyes, normas y regulaciones pertinentes, al tiempo que buscan mejorar la efectividad operacional y la productividad. Estas leyes incluyen, entre otras, asegurar que todos los datos utilizados para entrenar sistemas de IA se obtengan de manera legal y ética, previniendo el robo de información personal y la invasión de la privacidad. 

Hay una gran cantidad de información personal en internet, y las herramientas de IA generativa desarrolladas con datos extraídos de la red pueden memorizar información personal. Las preocupaciones sobre la protección de la privacidad personal han aumentado, especialmente con la creciente implicación de la IA en el software financiero. 

Construyendo un programa de Compliance eficaz 

Para mejorar un programa de cumplimiento, lo primero que debe hacer una organización es establecer un plan estratégico. Sin un plan, la empresa corre el riesgo de operar su programa de compliance de manera ineficiente, resultando en costos más altos y posibles consecuencias legales debido a áreas pasadas por alto. 

Los planes estratégicos más exitosos delinean el proceso para optimizar la agilidad organizacional y demuestran cómo el compliance apoya las misiones y objetivos más amplios de las capacidades de IA de la organización. Los empleados deben saber que el compliance va más allá de marcar casillas; requiere un esfuerzo constante, y un plan estratégico puede ayudar a lograrlo. El éxito de un programa de IA depende de un equipo capacitado, evalúe si una organización tiene los recursos, fondos y capacidad para utilizar la IA de manera segura y eficiente. 

Una base sólida es esencial para desarrollar un fuerte equipo de cumplimiento que asegure que todos comprendan los objetivos y se alineen en el camino a seguir. Según una encuesta de Accenture, solo el 4% de los ejecutivos de las principales empresas globales contestaron que tienen un equipo que comprenda los riesgos y las precauciones a tomar en el uso de una IA en el trabajo.

Gobernanza y gestión de riesgos: componentes clave 

Además de contar con un equipo multifuncional competente, las organizaciones deben desarrollar marcos de gobernanza y gestión de riesgos para la IA. Ambos marcos desempeñan roles distintos en mantener los programas de IA . El marco de gobernanza actúa como un libro de reglas creado para mantener controlada la IA, asegurando que el sistema siga requisitos estrictos de cumplimiento. Mientras tanto, un marco de gestión de riesgos se enfoca en los errores que una IA podría cometer, como sesgos en los datos y vulnerabilidades de seguridad. El marco de gobernanza asegura que la IA actúe de manera legal y ética. 

Según Accenture, el 69% de las organizaciones tienen algunos marcos de gobernanza o gestión de riesgos en su lugar, pero no cuentan con una base robusta capaz de ajustarse a las regulaciones cambiantes en torno a la IA. 

Incorporar la Gestión de Riesgos en el Ciclo de Vida de la IA 

La clave para adherirse a los requisitos regulatorios y fomentar el crecimiento es integrar la gestión de riesgos en el ciclo de vida de la IA, desde la fase de diseño hasta el despliegue. Esto permite a los equipos innovar y iterar rápidamente mientras cumplen con los requisitos establecidos. 

Las empresas pueden utilizar mecanismos de responsabilidad para garantizar que los datos utilizados para entrenar los sistemas de IA sean de alta calidad, precisos y consistentes. La interpretabilidad del modelo, es decir, la capacidad de descifrar y explicar la causa y el efecto dentro de un sistema, es una forma de monitorear los datos para identificar errores. Auditar la historia del sistema proporciona evidencia de que se ha diseñado y utilizado responsablemente. Por ejemplo, la Resolución 604 de la Asociación de Abogados de América insta a los desarrolladores a garantizar una “autoridad humana, supervisión y control” adecuados para impulsar la responsabilidad. 

Una vez integradas las estrategias de gestión de riesgos dentro del desarrollo y despliegue de la IA, las empresas pueden aprovechar mejor la enorme oportunidad que ofrece la IA. Dado que el entorno regulatorio está en constante cambio, las empresas deben monitorear estrechamente los cambios en las políticas e integrar prácticas de gestión de riesgos alrededor de la IA. 

En resumen, aunque la regulación de la IA puede parecer una limitación a la innovación, en realidad puede empoderar a las empresas a buscar sus metas comerciales con mayor confianza y claridad en su uso.