San Francisco, primera ciudad en prohibir el uso de tecnologías de reconocimiento facial

El reconocimiento facial de Amazon combinó a 28 miembros del Congreso con fotos policiales criminales. Foto: The Verge.

De la redacción

En una votación de 8 a 1 este martes pasó dicha ordenanza, que también requerirá de las agencias municipales obtener la aprobación de la Junta de Supervisores antes de comprar otra tecnología de vigilancia, incluidos lectores de placas, cámaras corporales y tecnología biométrica, entre otros.

“La propensión a que la tecnología de reconocimiento facial ponga en peligro los derechos civiles y las libertades civiles supera sustancialmente sus supuestos beneficios”, dice la ordenanza de San Francisco. “Y la tecnología exacerbará la injusticia racial y amenazará nuestra capacidad de vivir sin la supervisión continua del gobierno”, reporta The Huffingtn Post.

La fuente indica que esta tecnología de reconocimiento facial ha suscitado un estricto escrutinio por sus fallas, en particular “por la frecuente identificación inadecuada de personas de piel más oscura”.

En un ejemplo de alto perfil que derivo de una prueba realizada el año pasado por la Unión de Libertades Civiles (ACLU), la herramienta de reconocimiento facial de Amazon emparejó incorrectamente los rostros de 28 legisladores con personas dispares y personas de color mal identificadas de manera desproporcionada.

“Sabemos que la tecnología de vigilancia de rostros es menos precisa para las personas de color, y una identificación errónea podría someter a dichas personas a una violencia policial racial”, declaró al Post la mana pasada Matt Cagle, abogado de la ACLU del norte de California.

El reconocimiento facial equivocado que hizo la tecnología de Amazon entre un gruupo de congresistas. Foto: ACLU.

“La propensión a que la tecnología de reconocimiento facial ponga en peligro los derechos civiles y las libertades civiles supera sustancialmente sus supuestos beneficios”, reitera la ordenanza de San Francisco. “Y la tecnología exacerbará la injusticia racial y amenazará nuestra capacidad de vivir sin la supervisión continua del gobierno”.

La legislación también señala que, históricamente, la vigilancia se ha utilizado para “intimidar y oprimir a ciertas comunidades y grupos más que a otros”, es decir, a las minorías raciales y religiosas.

La tecnología de reconocimiento facial es falible, opinan os críticos del uso de este recurso para identificar a las personas; especialmente porque con frecuencia identifica incorrectamente a las personas de piel más oscura. Léase, los latinos.

“Pero incluso si la tecnología fuera perfectamente precisa, aún es demasiado peligroso para implementarla contra el público. La vigilancia de rostros expandiría radical y masivamente el poder del gobierno para rastrear y controlar a las personas que realizan sus vidas privadas”.

La fuente indica que la ciudad de Oakland no se quedará atrás. Se espera que también prohíba el uso de esta tecnología, “para que cualquier departamento se abstenga de obtener, conservar, acceder o usar” cualquier tecnología de reconocimiento facial o información obtenida a través ella.

Otras ciudades y condados del área de La Bahía, incluidos Berkeley, Palo Alto y el Condado de Santa Clara observan reglas similares para comprar tecnología de vigilancia, y se espera que la prohibición del uso de tecnología para el reconocimiento facial que acaba de pasar en San Francisco sentará un precedente en esa dirección.

Fotografía obtenida con el uso de un programa de computación (software) parra tecnología de reconocimiento facial. Foto: www.perpetuallineup.org.

En Oakland, por ejemplo, una propuesta para agregar el reconocimiento facial a las regulaciones de la ciudad sobre el uso de dicha tecnología de vigilancia será considerada por el Comité de Seguridad Pública de esa ciudad a finales de este mes, dice la Huffpost.

Brian Hofer, el presidente de la Comisión Asesora de Privacidad de Oakland, que ha ayudado a redactar ordenanzas en el área de La Bahía, dijo que por lo que él sabe, la policía no utiliza el reconocimiento facial en esa ciudad.

“Esa es la razón por la que estamos tratando de evitar eso ahora”, agregó Hofer, “quien presentó una demanda contra el Departamento del Sheriff del Condado de Contra Costa, el Departamento de Policía de San José y otros, después de que dijo haber sido detenido y esposado el año pasado, con armas de fuego”. Esto sucedió cuando un lector de matrículas de autos “identificó erróneamente como robado” el auto de alquiler que conducía Hofer. “El genio no está fuera de la botella todavía”, ironizó.

Según la fuente, expertos en inteligencia artificial instaron a Amazon en abril a que deje de vender software de reconocimiento facial a las autoridades policiales hasta que se implementen las salvaguardas y leyes. (La policía ahora está probando su tecnología en Oregón). Los accionistas de Amazon tienen previsto votar a fines de este mes sobre una resolución de ellos que exhorta a Amazon a dejar de vender Rekognition.

Las compañías que hacen las tecnologías también han pedido límites y regulaciones: a fines del año pasado, “Microsoft solicitó la regulación de la inteligencia artificial, y Amazon hizo lo mismo a principios de este año”.

Además, la Partnership on AI, cuyos miembros incluyen Facebook, Google, Amazon.com, Apple, Microsoft, IBM e investigadores académicos, dijo la semana pasada que la policía no debería usar algoritmos de inteligencia artificial para tomar decisiones sobre el encarcelamiento de personas■