La autoridad italiana refuerza su postura ante IA generativa

Esta noticia ha sido publicada previamente por IAPP

La Autoridad de Protección de Datos de Italia (Garante) ha reafirmado su decisión de prohibir la aplicación Replika, una inteligencia artificial conversacional, debido a preocupaciones persistentes sobre la privacidad de los menores. El organismo argumenta que la plataforma no garantiza adecuadamente la verificación de edad, lo que podría exponer a niños y adolescentes a contenidos no apropiados o a interacciones emocionalmente manipuladoras con la IA.

Pese a las solicitudes de reconsideración por parte de la empresa desarrolladora, Luka Inc., la Garante considera que las medidas tomadas por la compañía no son suficientes para mitigar los riesgos. En su resolución, también se hace referencia al principio de “diseño por defecto y por diseño” del Reglamento General de Protección de Datos (RGPD), subrayando que Replika no cumple con estos estándares fundamentales en lo relativo a la protección de datos de menores.

Protección de menores frente a tecnologías emergentes

La resolución refuerza la postura italiana frente a aplicaciones de inteligencia artificial que operan sin mecanismos efectivos de control. Además, se enmarca en un contexto europeo más amplio de vigilancia sobre los riesgos que suponen las IA generativas en términos de privacidad y derechos fundamentales. Italia se convierte así en uno de los primeros países en tomar medidas firmes y reiteradas contra este tipo de desarrollos tecnológicos, anticipándose a futuras regulaciones a nivel de la Unión Europea.

Consulta la noticia original si desea conocer más.