Uso indebido de IA generativa en imágenes íntimas no consentidas pone en alerta a las autoridades

La Superintendencia de Industria y Comercio de Colombia, SIC, lidera una alerta internacional por el uso indebido de IA generativa en la creación de imágenes íntimas no consentidas, una práctica que genera preocupación en materia de protección de datos y privacidad digital.

La advertencia cuenta con el respaldo de autoridades de 60 países que pidieron fortalecer las garantías para los ciudadanos frente a estos riesgos tecnológicos.

El pronunciamiento conjunto advierte que las herramientas de IA generativa permiten crear, modificar y difundir imágenes con apariencia real, incluso cuando no corresponden a hechos auténticos.

En consecuencia, el uso de estas tecnologías para producir imágenes íntimas sin autorización vulnera derechos fundamentales y expone a las personas a afectaciones en su vida privada.

Además, las autoridades señalaron que la circulación masiva de este tipo de contenidos en entornos digitales amplifica el impacto sobre las víctimas.

La facilidad para compartir archivos en redes sociales y otras plataformas incrementa la exposición y dificulta la contención del daño una vez el material se difunde.

Por ello, el llamado internacional busca que las empresas desarrolladoras y usuarias de IA generativa adopten medidas concretas para prevenir el uso indebido de estas herramientas.

La declaración subraya que la innovación tecnológica debe avanzar con responsabilidad y en cumplimiento de las normas de protección de datos.

Medidas y protección de datos en entornos digitales

El documento plantea la necesidad de implementar salvaguardas técnicas que limiten la creación de imágenes íntimas no consentidas mediante IA generativa.

Asimismo, insta a reforzar los controles de seguridad y los mecanismos de supervisión sobre el funcionamiento de estos sistemas.

De igual forma, las autoridades recomiendan establecer políticas claras sobre el tratamiento de datos personales utilizados para entrenar modelos de IA generativa.

También piden fortalecer los canales para reportar y retirar contenidos que vulneren la privacidad de las personas.

Un punto central de la alerta se enfoca en la protección de niñas, niños y adolescentes. Las entidades firmantes proponen adoptar salvaguardas reforzadas e incluir información clara dirigida a padres, tutores y educadores sobre los riesgos asociados al uso indebido de estas tecnologías.

En ese contexto, la cooperación regulatoria internacional se presenta como un elemento clave para enfrentar un fenómeno que trasciende fronteras.

Las autoridades reiteraron su compromiso de coordinar acciones educativas, de seguimiento y de política pública para responder a este desafío global.

En Colombia, la Superintendencia de Industria y Comercio reafirmó su papel como autoridad nacional de protección de datos personales.

La entidad recordó que las organizaciones que desarrollan o utilizan IA generativa deben cumplir los estándares de seguridad y las obligaciones legales vigentes.

Comments