La red social X, propiedad del magnate Elon Musk, ha anunciado que bloqueará la generación de imágenes sexualizadas a través de Grok, la inteligencia artificial de la aplicación, tras la creciente polémica relacionada con la creación de fotografías de personas con ropa interior o bikinis, entre ellas menores de edad.
En un mensaje publicado en la propia plataforma, la cuenta de seguridad de X explicó que la medida llega con el compromiso de la red social de "crear un espacio seguro para todos y continuar con la tolerancia cero con cualquier forma de explotación sexual de menores, desnudos sin consentimiento y contenido sexual no deseado".
"Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago", informó X.
Restricciones ampliadas y geográficas
El pasado 9 de enero, X anunció que la función de generación de imágenes se limitaría para los usuarios con suscripción. Ahora, ha ampliado la restricción a todos los usuarios de la plataforma. De esta forma, ya no se podrán crear fotografías o ilustraciones con bikinis o prendas íntimas.
"Bloqueamos geográficamente la posibilidad de todos los usuarios para generar imágenes de personas reales en bikini, ropa interior y atuendos similares a través de la cuenta Grok y en Grok in X en aquellas jurisdicciones donde sea ilegal", matizó la compañía.
Presiones internacionales y de organizaciones
Más allá del compromiso de tolerancia cero de X, la medida llega tras una creciente serie de presiones hacia la plataforma.
Varios países han tomado medidas para frenar esta práctica de la IA de X: la Unión Europea pidió conservar toda la documentación relativa a la generación de imágenes hasta finales de año; Reino Unido amenazó con bloquear la red social; y Malasia e Indonesia prohibieron directamente el uso de Grok.
Además, organizaciones de derechos digitales, seguridad infantil y derechos de las mujeres han pedido a Apple y Google que tomen medidas para "prohibir Grok" en sus tiendas de aplicaciones. "Grok se está utilizando para crear cantidades masivas de imágenes íntimas no consentidas, incluyendo material de abuso sexual infantil, contenido que constituye un delito penal y que infringe directamente las Directrices de Revisión de Aplicaciones de Apple", señalaron en una carta abierta.
