Compañías que utilizan reconocimiento facial necesitan seguir estándares éticos, dicen legisladores

Por Masooma Haq
18 de Enero de 2020 Actualizado: 18 de Enero de 2020

La tecnología de reconocimiento facial, sin que los ciudadanos lo sepan, se utiliza en una variedad de entornos públicos, pero algunos legisladores estadounidenses dicen que la tecnología no debe desplegarse libremente hasta que se puedan mitigar las preocupaciones de seguridad, privacidad y exactitud, y se puedan garantizar las libertades civiles.

La Comisión de Supervisión y Reforma de la Cámara de Representantes celebró una audiencia sobre el uso de la tecnología de reconocimiento facial (FR) el miércoles, la tercera de una serie de tres partes. Las audiencias son un esfuerzo por entender el alcance de cómo las empresas privadas y públicas están utilizando esta tecnología, para que estas empresas puedan ser responsables de las normas éticas.

El uso de la tecnología de reconocimiento facial está aumentando. Se puede encontrar en sistemas de seguridad para el hogar, sitios de redes sociales, estadios deportivos y en otros lugares para usos como la publicidad, la seguridad, el acceso, la foto y la identificación de datos de video y la accesibilidad.

El Instituto Nacional de Estándares y Tecnología (NIST) publicó (pdf) un informe en diciembre en el que se analizan las empresas privadas de sistemas de reconocimiento facial. El informe encontró que “a través de los datos demográficos, las tasas de falsos positivos a menudo varían por factores de 10 a más de 100 veces”, y que los africanos y los asiáticos fueron identificados erróneamente con mayor frecuencia.

La representante Eleanor Holmes Norton (D-Wash.) expresó su preocupación por el hecho de que los consumidores no son conscientes de los problemas de seguridad que plantea el reconocimiento facial en su teléfono móvil. Preguntó al panel si había algún medio por el cual los consumidores pudieran confirmar que estos fabricantes de teléfonos celulares están almacenando sus datos biométricos o de otro tipo en sus servidores.

Meredith Whittaker (pdf), cofundadora del Instituto AI Now de la Universidad de Nueva York, dijo que esta tecnología “se esconde detrás del secreto comercial”. Añadió: “Se trata de una tecnología corporativa que no está abierta al escrutinio y la auditoría de expertos externos. Creo que es notable que mientras el NIST revisó 189 algoritmos para su último informe, Amazon se negó a presentar su algoritmo de reconocimiento al NIST, y afirmó que no podía modificarlo para cumplir con las normas del NIST”.

Whittaker expresó su sospecha sobre el incumplimiento de la multimillonaria empresa con la investigación del NIST y señaló su alcance global y sus innovaciones. Dijo que cualquiera que sea la razón para no revelar información sobre su tecnología de reconocimiento facial, “tenemos que confiar en estas compañías, pero no tenemos muchas opciones para decir que no o para escudriñar las afirmaciones que hacen”.

La representante Brenda Lawrence (D-Mich.) presentó el proyecto de ley HR153, que aborda la necesidad de elaborar directrices para el desarrollo ético de la transparencia y la ética en los procesos de los sistemas de IA (inteligencia artificial), y las implicaciones de ello. Lawrence dijo que actualmente no hay controles sobre cómo y cuándo se utiliza la tecnología, y lo que las empresas están haciendo con los datos.

“En este momento, tenemos el salvaje oeste en lo que se refiere a la IA”, dijo.

El proyecto de ley de Lawrence aborda el hecho de que la inteligencia artificial no es la única tecnología emergente que requiere el desarrollo de directrices éticas; las mismas preocupaciones existen para la tecnología de reconocimiento facial.

La congresista representa un distrito de Michigan que está compuesto en un 67 por ciento por personas de una minoría étnica, y le preocupan los hallazgos del informe del NIST, que confirmó que las personas africanas y asiáticas son identificadas con mayor frecuencia de forma errónea por los algoritmos de reconocimiento facial.

Lawrence dijo: “En Estados Unidos tenemos el derecho de saber si estamos bajo vigilancia y qué están haciendo con ella. Cualquier divulgación de los datos que [están] reuniendo debe ser exigida para pasar por algún tipo de proceso para la divulgación de eso”.

Otros legisladores se hicieron eco de esta preocupación y preguntaron a los expertos qué podría o debería hacerse para regular la industria y garantizar las libertades civiles de los ciudadanos.

“Creo que necesitamos pausar la tecnología y dejar que el resto de ella se ponga al día para no permitir que los intereses corporativos y la tecnología corporativa corran por delante y sean construidos en nuestra infraestructura central sin haber puesto las salvaguardias en su lugar”, dijo Whittaker.

El congresista Jim Jordan (R-Ohio) dijo que esta tecnología sin control podría ser una amenaza a los derechos civiles fundamentales de los estadounidenses. “Dijeron que este reconocimiento facial plantea una amenaza existencial a la democracia y la libertad. Mi principal preocupación es cómo [un] gobierno puede usar esto para dañar nuestra libertad de la Primera Enmienda y la Cuarta Enmienda”.

La representante Rashida Tliab (D-Mich.) dijo que le preocupa que en su distrito el reconocimiento facial se esté usando en instalaciones de vivienda del gobierno para personas de bajos ingresos.

“No creo que ser pobre o ser de la clase trabajadora signifique de alguna manera que uno se merece menos libertades civiles o menos privacidad”, dijo Tlaib.

Se dejó claro que el público no tiene un conocimiento sustancial sobre el uso de esta tecnología y su precisión, y que el informe del NIST es solo una pieza del rompecabezas.

“No tenemos una forma de auditar si los resultados del NIST en el laboratorio representan el desempeño en diferentes contextos, como en parques de atracciones o estadios, o en cualquier otro lugar, por lo que hay una gran brecha en las normas de auditoría”, dijo Whittaker. “Aunque las auditorías que tenemos ahora mismo han mostrado resultados extremadamente preocupantes”.

Los legisladores y expertos estuvieron de acuerdo en que las comunidades deben ser informadas sobre cuándo se utiliza esta tecnología, el daño que puede hacer a sus comunidades, y tener voz y voto en el lugar donde se utiliza.

Descubra

La regulación de Internet podría decidir lo que puedes hacer

TE RECOMENDAMOS