tecnologías de reconocimiento facial

Estas tecnologías, mal usadas, pueden traer muchos disgustos a varios derechos fundamentales: derecho a la intimidad, derecho al honor, etc. También es verdad que sabemos bien que sufren del evidente sesgo que puede tener todo algoritmo que sobreaprende unas determinadas características (si un algoritmo solo estudia fotos de europeos, solo verá europeos, lógicamente). Son problemas sociales que no se pueden atender solo tecnológicamente.

A comienzos del año 2020, el New York Times publicó una investigación en la que hablaba de la startup Clearview AI. Al parecer, esta organización recopilaba miles de millones de fotografías de personas sin su permiso en redes sociales (especialmente de YouTube, Facebook y Twitter). La compañía apelaba a la primera enmienda para ejercer su derecho a tomar esas imágenes. Por otro lado, durante el verano, grandes empresas tecnológicas como IBM o Microsoft anunciaban el cese de algunos proyectos de reconocimiento facial. Especialmente, aquellos en los que estaban trabajando con diferentes cuerpos y fuerzas de seguridad del estado. Amazon, por otro lado, que ofrecía su software Rekognition a cuerpos policiales, interrumpió el servicio durante un año para estudiar y reflexionar sobre el mismo. Es decir, la oferta se tomaba un tiempo para pensar sobre esta tecnología.

La demanda de estos servicios, parece que también comenzó a actuar. En 2019, San Francisco fue la primera ciudad que prohibió el uso de los sistemas de reconocimiento facial. Desde entonces, son varias las ciudades que han seguido el mismo modelo. En diciembre de 2020, el primer estado en abordar la misma medida fue el de Massachusetts, donde está enclavada la ciudad de Boston. Que polos tecnológicos de esta naturaleza estén tomando medidas tan restrictivas nos tendría que hacer pensar a nosotros. El siguiente paso lógico sería, evidentemente, que fuera una medida federal, para circunscribir así a todo el país. La privacidad y las libertades civiles son los aspectos que siempre citan las personas cercanas a esta materia.

Pero lo curioso de esta historia es que seguimos usando estas tecnologías en nuestro día a día. Por ejemplo, al desbloquear un iPhone. Y la segunda curiosidad es que las mascarillas han quitado buena parte de su uso. Incluso hay personas que emplean a veces un reconocimiento con mascarilla, y otras veces sin ella. Como se puede ver, el mundo no se ha detenido. Es más, siguen recopilando imágenes en su día a día para ser capaces de seguir dando de comer a los algoritmos. Éste quizás sea ese pequeño secreto muy bien guardado por estas compañías; sin fotografías digitalizadas, esta industria no es capaz de hacer nada. Por lo tanto, más allá del marco legislativo, quizás también convendría explicar a la ciudadanía qué sucede cuando Google Photos tiene amablemente a bien cedernos su espacio gratuitamente o Facebook nos ofrece la capacidad de enviar una fotografía a la otra punta del mundo también gratuitamente. Por lo tanto, las empresas tecnológicas tampoco han parado.

Decíamos antes que habían detenido el servicio. Pero no cesado. De hecho, Amazon está trabajando en un marco regulatorio que quiere presentar en el Congreso. Es evidente que Amazon peleará hasta el último día esto. La entrega domiciliaria aún más rápida depende bastante de este tipo de tecnologías.

Lo que me pregunto es si sobre esa mesa no debieran haber otras lógicas. Por ejemplo, lo que son imágenes del ámbito de la educación, la sanidad o los servicios sociales. No es lo mismo recibir un paquete de Amazon, que ser identificado para la prescripción de un fármaco o un determinado estudio.

En 2019, San Francisco fue la primera ciudad que prohibió el uso de los sistemas de reconocimiento facial. Desde entonces, son varias las ciudades que han seguido el mismo modelo