El uso del sistema de reconocimiento facial por parte del Gobierno es objeto de debate

ID.me dice que los primeros resultados muestran que el trabajo del equipo humano ha reducido un 18% la cantidad de usuarios que necesita verificar su identidad a través del chat de video. 

También dijo que los usuarios de ID.me podrán eliminar sus selfis o sus fotos en account.ID.me a partir del 1.º de marzo.

Se puede vincular las bases de datos

Jennifer Lynch, directora de litigios en materia de vigilancia de la organización sin fines de lucro Electronic Frontier Foundation (EFF) que defiende las libertades civiles en el mundo digital, sostiene que se ha sentido igualmente preocupada por los planes del IRS como por el uso de reconocimiento facial en general.

“A diferencia de un número de Seguro Social o de tarjeta de crédito, el rostro nunca se puede cambiar”, señala. “Una vez que todos estemos en una base de datos de reconocimiento facial, será posible conectar esas bases de datos con las redes de cámaras que se encuentran en la comunidad e identificar a las personas mientras circulan por ella”.

Por ejemplo, considera la posibilidad de descubrir el nombre y otros detalles de una atractiva persona desconocida con la que te cruzas por la calle.

El IRS busca equilibrar la privacidad y la protección contra el fraude

Fight for the Future, Algorithmic Justice League, Electronic Privacy Information Center (EPIC) y otras organizaciones de derechos civiles lanzaron un sitio web que invita a la población a adoptar medidas contra el plan del IRS. Al anunciar los planes para desarrollar un proceso de verificación adicional en línea que no involucre el reconocimiento facial, el comisionado del IRS, Chuck Rettig, reconoció las preocupaciones que se expresaron.

“El IRS siempre busca formas de eliminar riesgos en el proceso de declaración de impuestos, pero queremos dejar claro que nadie se verá obligado a tomarse una selfi para presentar su declaración”, declaró el Departamento del Tesoro de EE.UU. en un comunicado. “Creemos en la importancia de proteger la privacidad de los contribuyentes y al mismo tiempo garantizar que sus cuentas no resulten accesibles para los delincuentes”.

La protesta pública sobre el uso de reconocimiento facial ciertamente precede a la situación del IRS. En el 2020, el papa Francisco planteó problemas éticos en torno a esta tecnología. Varios estados y ciudades en el país han prohibido o limitado su uso por parte de la policía. Los gigantes tecnológicos Amazon, Facebook, IBM y Microsoft han desistido del reconocimiento facial, al menos hasta cierto punto.

En el pasado mes de noviembre, Facebook anunció que eliminaría más de mil millones de plantillas individuales de reconocimiento facial, lo que significa que los usuarios de la red social que eligieron la opción de reconocimiento facial ya no serán reconocidos automáticamente en fotos y videos. Aun así, Facebook no está dispuesto a renunciar a la tecnología de forma indefinida.

“En cuanto al futuro, todavía consideramos que la tecnología de reconocimiento facial es una herramienta poderosa, por ejemplo, para las personas que necesitan verificar su identidad o para prevenir el fraude y la suplantación de identidad”, publicó en un blog Jérôme Pesenti, quien dirige las iniciativas de inteligencia artificial en Meta, la empresa matriz de Facebook. “Consideramos que el sistema de reconocimiento facial puede ayudar con productos como estos en cuanto a la privacidad, la transparencia y el control, para que tú decidas si se utiliza tu rostro y de qué modo. Continuaremos trabajando en estas tecnologías y recurriendo a expertos externos”.

Lucha contra las estafas de romance y búsqueda de personas desaparecidas

Una empresa que todavía está profundamente comprometida con el uso de la tecnología de reconocimiento facial es Clearview AI, cuyo software es utilizado por las autoridades del orden público. El cofundador y director ejecutivo Hoan Ton-That citó casos en los que el reconocimiento facial de Clearview ayudó a capturar a delincuentes que se aprovechan de los adultos mayores mediante estafas de romance. También mencionó un caso en el que la tecnología ayudó a las autoridades a identificar a una mujer desorientada con demencia que deambulaba por una tienda y no llevaba identificación.

“El proceso habría sido mucho más largo si hubieran usado huellas dactilares que podrían no haber funcionado, o si hubieran esperado a que se presentara una denuncia de personas desaparecidas”, le dijo Ton-That a AARP.

El software de Clearview busca en todo el internet para encontrar fotos de acceso público, de ahí que Ton-That lo describa como una especie de “Google para rostros” con una base de datos de más de 10,000 millones de imágenes. Las imágenes se pueden obtener de las redes sociales, los sitios web de las escuelas, los sitios de noticias, etc.

El “índice de aciertos” de Clearview es del 75%, lo que significa que las autoridades del orden público obtienen una concordancia exacta en un 75% de los casos, explica Ton-That. En cuanto al 25% restante, “la búsqueda no arroja ningún resultado. Preferimos no hallar nada que hallar un falso positivo”.

Prejuicios en el sistema de reconocimiento facial

Algunos estudios realizados hasta la fecha han identificado los sesgos implícitos en algunos algoritmos de reconocimiento facial que produjeron índices de error más elevados para mujeres de color, adultos mayores y niños, en algunos casos. Ton-That, que es mitad asiático y mitad australiano, indica que está al corriente del sesgo.

“Entrenamos [nuestro algoritmo] con muchos ejemplos de rostros de cada etnia obtenidos de internet de acceso libre”, explica. Los índices de exactitud de Clearview entre diversos segmentos demográficos están muy por encima del 99% de las pruebas que llevó a cabo el Instituto Nacional de Estándares y Tecnología (NIST) del Gobierno de Estados Unidos.

Ton-That dice que no se admiten las fotos en los tribunales y simplemente ofrecen una pista para las autoridades del orden público en “investigaciones posteriores al hecho” y no en tiempo real.

Clearview ha estado en la mira de los defensores de la privacidad desde hace algún tiempo. La empresa no vende una versión de su software al público..

Prohíben la venta 

En mayo, prohibirán a Clearview vender su base de datos reconocimiento facial a la mayoría de las empresas estadounidenses y "otras entidades privadas" después que se resolviera una demanda que presentó la Unión Estadounidense de Libertades Civiles en Illinois. Clearview también acordó poner fin a la práctica de ofrecer cuentas gratuitas a los agentes de policía, sin la aprobación de sus jefes.

“Clearview ya no puede tratar los identificadores biométricos únicos de las personas como una fuente de ganancias sin restricciones. Sería prudente que tomen nota otras empresas, y otros estados deberían seguir el ejemplo de Illinois al promulgar leyes estrictas de privacidad biométrica”, dijo en un comunicado Nathan Freed Wessler, subdirector del Proyecto de Tecnología, Privacidad y Discurso de la ACLU.

La base de datos de Clearview sigue disponible para las agencias gubernamentales.

“Establecimos algunos controles sobre esta tecnología para asegurarnos de que las fuerzas del orden la usen de manera adecuada y [los oficiales] no la usen como única fuente de arresto o investigación”, dijo Ton-That a AARP meses antes del acuerdo.

Los sistemas de identificación son difíciles de utilizar

Lynch, de EFF, plantea un problema que puede preocupar a algunos adultos mayores. Los sistemas están “creados por personas que tienen acceso a las últimas tecnologías de nuestros teléfonos celulares y computadoras y saben cómo utilizarlas”.

“Sin embargo, después son utilizados por personas que usan tecnologías más antiguas, que pueden tener discapacidades y que pueden tener dificultad para manejar las tecnologías modernas actuales”, señala. “Luego te encuentras con lo que estamos viendo en el IRS y algunas de las agencias estatales. Entras en un ciclo en el que en realidad no puedes verificar tu propia identidad”.

Hasta las personas que dominan la técnica encuentran dificultades. El experto en seguridad Brian Krebs creó deliberadamente una cuenta en ID.me.

“La verificación correcta de tu identidad con ID.me puede requerir mucho tiempo y bastante paciencia”, escribió en su blog KrebsOnSecurity. “Por ejemplo, interrumpir durante un poco más de cinco minutos uno de los muchos pasos del proceso de solicitud hizo necesario volver a iniciar sesión y luego cargar de nuevo los documentos que ya había subido”.

La tecnología se adelanta a la ley vigente

El uso del reconocimiento facial como una opción para verificar la identidad de una persona puede depender de las medidas de los legisladores.

“Efectivamente, es necesario que haya un debate público sobre la aprobación de una ley federal exhaustiva que contemple la privacidad de los datos biométricos antes de siquiera considerar proceder [con] usos especialmente masivos, como pretendía hacer el IRS en su actividad con ID.me”, dice Jeramie D. Scott, asesor principal de EPIC. “Si bien el sistema de reconocimiento facial tiene usos positivos, se trata de una tecnología de vigilancia muy invasiva y poderosa que es realmente fácil —y por ello muy tentadora— de utilizar, tanto por parte del Gobierno como de las empresas”.

Nota de redacción: este artículo se publicó originalmente el 3 de febrero de 2022. Ha sido actualizado con información del cambio en los planes del IRS y la decisión de ID.me de ofrecer otro tipo de verificación.