Rusia insta a las redes sociales a bloquear contenidos generados con IA

El regulador ruso de las comunicaciones, Roskomnadzor, llamó a las redes sociales a encargarse de bloquear los contenidos 'deepfake' -vídeos e imágenes generados por medios de inteligencia artificial (IA)-, según informó este viernes el periódico ruso Kommersant.

Según el rotativo, la iniciativa fue propuesta por Roskomnadzor en un foro dedicado a las tecnologías de IA "confiables", y permitiría detectar y limitar la difusión de 'deepfake' hasta que sean verificadas las informaciones sobre personas u organizaciones a las que se refieren.

Marcado y bloqueo de contenidos

El regulador estima que las redes sociales deben saber cómo detener la difusión de contenidos sospechosos mientras no se establezca su veracidad y propone medidas como el marcado de los materiales generados con IA y la creación de una base de datos de amenazas tecnológicas.

Sin embargo, según los expertos citados por Kommersant, las redes sociales actualmente no disponen de herramientas fiables para establecer sin errores que los contenidos han sido creados por medio de IA. Indicaron que los modelos actuales de generación digital de contenidos podrán superar rápidamente los sistemas de detección y los bloqueos erróneos generarán conflictos con los usuarios y las marcas comerciales. Por ello, la variante más realista, según los expertos, será un esquema mixto, en el que los filtros automáticos detecten los materiales sospechosos que posteriormente serán verificados por seres humanos.