Amazon, IBM y Microsoft dejaron de ofrecer el software de reconocimiento facial, debido a las dudas éticas que les surgieron en torno al uso que le han dado algunos organismos encargados de hacer cumplir la ley.
Esta decisión tuvo lugar en medio de las protestas masivas que se desencadenaron en Estados Unidos por la muerte de George Floyd, un hombre de raza negra que murió bajo custodia policial.
En una carta abierta al Congreso de Estados Unidos, Arvind Krishna, el nuevo CEO de IBM, informó que la compañía dejaría de ofrecer el sistema de reconocimiento facial y se mostró en contra de todo tipo de tecnología que promocionara el racismo y la injusticia social.
“IBM se opone firmemente y no aprobará el uso de ninguna tecnología, incluida la de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, la elaboración de perfiles raciales, las violaciones de los derechos humanos, las libertades básicas o cualquier otro propósito que no sea coherente con nuestros valores y principios de confianza y transparencia”.
“Con ese fin, queremos trabajar con el Congreso en la búsqueda de la justicia y la equidad racial, buscamos que se centre la atención en tres áreas políticas clave: la reforma de la policía, el uso responsable de la tecnología y la ampliación de las habilidades y oportunidades educativas”, escribió Krishna.
En la actualidad, el reconocimiento facial se define como una forma de autenticación biométrica que mide la forma y estructura única de los rostros para verificar una identidad.
El reconocimiento facial utiliza principalmente puntos de referencia como la nariz, la boca y los ojos para identificar un rostro, y mide tanto el ancho y la forma de los rasgos, como la distancia que hay entre ellos en la cara. Estas mediciones luego se convierten en un código numérico mediante un software que se utiliza para encontrar coincidencias y al dígito que se genera se le conoce como “huella facial” (faceprint).
Desde sus primeras apariciones, los sistemas de reconocimiento facial fueron criticados en los Estados Unidos después de que una investigación de la Oficina de Responsabilidad del Gobierno revelara que los algoritmos que utilizaba el FBI eran inexactos en un 14 por ciento y que además, incrementaban la posibilidad de que las personas de raza negra fueran identificadas de manera errónea.
Algunos especialistas aseguran que este sistema a pesar de ser tan avanzado puede ser derrotado por algo tan simple como expresiones faciales distintas a las previamente registradas, o al usar anteojos o bufandas que cubran partes del rostro.
Tecnología y gobierno sin tregua
Microsoft fue otra de las gigantes tecnológicas que se negó a instalar la tecnología de reconocimiento facial para una fuerza policial de Estados Unidos, debido a la preocupación por sesgos prejuiciosos que había en torno la inteligencia artificial (IA) y a la falta de regulaciones gubernamentales.
La compañía eliminó una gran base de datos de reconocimiento facial que, según informa, contenía 10 millones de imágenes utilizadas para entrenar este sistema.
“No venderemos tecnología de reconocimiento facial a los departamentos de policía en Estados Unidos hasta que tengamos una ley nacional, basada en los derechos humanos, la cual regirá esta tecnología”, dijo el presidente de Microsoft, Brad Smith.
Por otra parte, la policía tampoco podrá utilizar el software de reconocimiento facial de Amazon durante el próximo año. La compañía informó que habrá una moratoria por ese periodo de tiempo en su herramienta Rekognition para que el congreso tenga tiempo de implementar la legislación adecuada para el uso de esta tecnología basada en la inteligencia artificial por parte de las fuerzas de la ley.
“Hemos abogado porque los gobiernos establezcan regulaciones más estrictas para promover el uso ético de la tecnología de reconocimiento facial, y en los últimos días hemos visto que el congreso no parece estar listo para asumir este desafío”, dijo Amazon en la publicación.
Paralelamente a las decisiones de las gigantes tecnológicas, las autoridades de San Francisco, California, también prohibieron el uso del sistema de reconocimiento facial, lo que significa que las agencias y policías locales y otras agencias de la ciudad, como las de transporte, no podrán utilizar esta herramienta en ninguno de sus sistemas.
¿En dónde se utiliza el reconocimiento facial?
El reconocimiento facial moderno comenzó de manera formal en las décadas de 1980 y 1990, desde ese entonces se ha integrado en todo tipo de aplicaciones comerciales e institucionales, con diversos grados de éxito.
En la actualidad, el gobierno chino utiliza el reconocimiento facial para vigilancia a gran escala en cámaras de CCTV públicas, tanto para capturar delincuentes como para monitorizar el comportamiento de todos sus ciudadanos con la finalidad de convertir los datos en puntuaciones.
De esa forma, las faltas aparentemente inofensivas, como comprar demasiados videojuegos o cruzar imprudentemente la calle, pueden reducir su puntuación. China utiliza este puntaje en una especie de sistema de crédito social que determina si se debe permitir a una persona obtener un préstamo, comprar una casa o incluso cosas mucho más simples como abordar un avión o acceder a Internet.
Además de servir para la vigilancia de criminales, el reconocimiento facial también puede tener grandes implicaciones para los minoristas y profesionales del marketing, ya que las cámaras al reconocer los rostros pueden comenzar a hacer recomendaciones de compra personalizadas.
