Concluye el primer ‘sandbox’ de IA para proyectos públicos

Esta noticia ha sido publicada previamente por CNIL.

La CNIL ha publicado el balance final de su primer “bac à sable” (sandbox) dedicado al uso de inteligencia artificial en servicios públicos. Esta iniciativa permitió a varios organismos públicos franceses probar sistemas de IA en condiciones reales, pero dentro de un marco ético y legal supervisado por la autoridad de protección de datos. Entre los proyectos destacados se encuentran aplicaciones relacionadas con la lucha contra el abandono escolar, la asistencia social y la detección temprana de riesgos en salud pública.

El objetivo de esta iniciativa era fomentar la innovación en la administración pública sin comprometer los derechos fundamentales, en especial la protección de datos personales. La CNIL valoró positivamente la experiencia, aunque subrayó la necesidad de mejorar la transparencia de los algoritmos utilizados, fortalecer la gobernanza interna de los proyectos y garantizar una evaluación ética continua en todo el ciclo de vida de los sistemas de IA.

Recomendaciones para una IA pública responsable

Tras el cierre del sandbox, la CNIL ha publicado una serie de recomendaciones dirigidas a las administraciones públicas que deseen implementar sistemas de IA. Estas incluyen: asegurar la trazabilidad de los datos, realizar evaluaciones de impacto desde el diseño, y garantizar que los algoritmos sean comprensibles tanto para los usuarios como para los supervisores. Además, insiste en la importancia de la formación del personal público en el uso responsable de la IA y en el respeto al Reglamento General de Protección de Datos (RGPD).

Consulta la noticia original si desea conocer más.