Es indudable que la inteligencia artificial (IA) ha venido para quedarse y que ofrece numerosas posibilidades en casi todos los ámbitos de la vida y de la sociedad, como por ejemplo en la medicina, la meteorología o el acceso a la información. Sus ventajas son evidentes y están revolucionando el mundo tal y como lo conocemos, pero también tiene sus riesgos, ya que un mal uso de esta nueva tecnología puede resultar catastrófico y todavía no cuenta con los controles necesarios para evitarlo.
Conexión IA-discursos de odio
Uno de los problemas que se está evidenciando es la estrecha conexión entre los discursos de odio y la IA, como se expuso este lunes en la ONU en el marco del Día Internacional de la Lucha contra el Discurso de Odio, un evento en el que participaron diplomáticos, expertos y representantes de grandes tecnológicas. El objetivo de este encuentro era crear "coaliciones para recuperar espacios inclusivos, seguros y libres de odio".
El secretario general de la ONU, António Guterres, no estuvo de manera presencial en el evento, pero sí quiso intervenir mediante una carta, en la que señaló que "el discurso de odio está contaminado por la sociedad" y que este tipo de retórica "se propaga más rápido y más lejos que nunca, amplificado por la inteligencia artificial y algoritmos sesgados".
Cooperación internacional
Según el dirigente portugués, una de las soluciones sería "exigir una cooperación internacional más sólida para combatir el odio en línea, basada en los derechos humanos y el derecho internacional". "Necesitamos alianzas a todos los niveles: entre gobiernos, sociedad civil, empresas privadas y líderes religiosos y comunitarios. Necesitamos contrarrestar las narrativas tóxicas con mensajes positivos y empoderar a las personas para que reconozcan, rechacen y se enfrenten al discurso de odio", señaló Guterres.
El secretario general animó también a los miembros de la ONU a utilizar la IA no como una herramienta de odio, sino como una fuerza para el bien, y a mantenerse "unidos en la búsqueda de la paz, el respeto mutuo y la comprensión para todos".
Refuerza el sesgo
Por su parte, Miguel Ángel Moratinos, alto representante para la Alianza de Civilizaciones de las Naciones Unidas (UNAOC), resaltó que la IA tiene el potencial de ser una herramienta poderosa para el bien, para detectar contenido dañino, traducirse entre culturas y expandir la aceptación del conocimiento.
"Sin embargo, si no se controla, también puede reforzar el sesgo, la discriminación automática y alimentar la misma narrativa que buscamos desmantelar", subrayó Moratinos.
