Una nueva Especificación Técnica del Instituto Europeo de Normas de Telecomunicaciones (ETSI) busca reducir el riesgo de que los sistemas de inteligencia artificial generativa produzcan deepfakes dañinos. El documento ETSI TS 104 275, desarrollado por el Comité Técnico de ETSI sobre Seguridad de la Inteligencia Artificial (TC SAI), plantea medidas prácticas y salvaguardas para reforzar la rendición de cuentas de desarrolladores y operadores de IA.
La especificación desplaza el enfoque habitual, centrado principalmente en detectar contenidos manipulados una vez creados, hacia una estrategia preventiva. ETSI plantea la prevención de deepfakes como un reto de seguridad y gobernanza que debe abordarse durante todo el ciclo de vida de los sistemas de IA.
El nuevo texto se apoya en los requisitos básicos de ciberseguridad recogidos en la norma ETSI EN 304 223 para modelos y sistemas de IA. Su objetivo es ayudar a las organizaciones a reducir la posibilidad de que estos sistemas generen deepfakes perjudiciales y, al mismo tiempo, respaldar objetivos previstos en la Ley de Inteligencia Artificial de la UE, extendiendo la seguridad más allá de los sistemas clasificados como de alto riesgo.
Medidas para limitar el uso indebido de la IA generativa
Entre las medidas previstas, el TC SAI incluye la realización de evaluaciones de riesgo antes del despliegue. Estas evaluaciones deben identificar posibles usos indebidos de los sistemas de inteligencia artificial generativa e incorporar salvaguardas antes de su puesta a disposición.
La especificación también contempla la supervisión humana mediante procesos de revisión e intervención. Con ello, las organizaciones deben mantener capacidad de control sobre el comportamiento de los sistemas y actuar cuando sea necesario.
Otro bloque de actuaciones se centra en la protección frente al uso indebido. ETSI menciona medidas como el filtrado de contenidos, el etiquetado de material generado por IA y las advertencias a los usuarios cuando resulten apropiadas.
El documento incorpora además la monitorización continua de amenazas emergentes, la investigación de incidentes y la actualización de las salvaguardas a medida que se identifiquen nuevos riesgos. A ello se suma una evaluación basada en evidencias, con documentación y registros que permitan demostrar si los controles adecuados se han implantado y funcionan según lo previsto.
Junto con estas medidas de seguridad, la ETSI TS 104 275 define escenarios de prueba y criterios de superación o fallo. Estas herramientas buscan que las organizaciones puedan comprobar si se ha reducido efectivamente el riesgo asociado a los deepfakes, en lugar de basarse únicamente en compromisos generales sobre un desarrollo responsable de la IA.
La entrada La prevención de deepfakes generados con IA se refuerza con una nueva especificación de ETSI aparece primero en CASADOMO.