Colorado avanza en regular la inteligencia artificial

Hace dos años, Colorado aprobó una ley estatal pionera que busca prevenir los sesgos algorítmicos en sistemas de inteligencia artificial considerados de “alto riesgo”. Su implementación se retrasó debido a las objeciones de empresas cibernéticas y, recientemente, de la Casa Blanca. Sin embargo, finalmente entrará en vigor a finales de junio. ¿Cómo superaron los obstáculos? ¿De qué manera beneficiará a quienes buscan empleo, crédito o vivienda? Desde Denver, reporta Jesús Sánchez Melean.

Esta es una transcripción/edición del audio…

Imagine esta situación:

Usted solicita un crédito, aplica a un empleo o intenta alquilar un apartamento. Antes, una persona escuchaba su historia, revisaba sus documentos y tomaba una decisión. Hoy, en muchos casos, quien decide es un algoritmo. Programas de inteligencia artificial analizan enormes cantidades de datos y determinan en segundos si usted es aceptado o rechazado.

El problema es que esos sistemas también pueden reproducir prejuicios que están escondidos en los datos con los que fueron entrenados.

Eso significa que una persona podría ser descartada por su edad, su género o su origen étnico… sin saberlo.

Para enfrentar ese riesgo, Colorado aprobó en 2024 la ley conocida como Colorado AI Act o SB 24-205.

La medida fue impulsada por el senador estatal Robert Rodríguez y firmada por el gobernador Jared Polis.

La legislación adopta un enfoque basado en el riesgo. No regula toda la inteligencia artificial. Se concentra únicamente en los llamados sistemas de alto riesgo, es decir, aquellos que influyen en decisiones importantes para la vida de una persona, como empleo, crédito, vivienda, educación o acceso a servicios de salud.

Si una empresa utiliza inteligencia artificial en estos procesos, deberá demostrar que actuó con diligencia razonable para evitar discriminación algorítmica.

Eso implica realizar evaluaciones de impacto, documentar cómo funcionan los sistemas y permitir que una persona pueda impugnar una decisión automatizada y solicitar una revisión humana.

Para entender la filosofía de esta norma, escuchemos al senador Rodríguez, su creador:

“I think it’s a great tool if it speeds up stuff and helps them, but not at the expense of somebody that’s using it that doesn’t know why they’re being denied health care“

 (Creo que es una gran herramienta si acelera procesos y ayuda a las personas, pero no a costa de alguien que la utiliza y no sabe por qué le están negando la atención médica).

Rodríguez también señala que la intención es adelantarse a posibles abusos antes de que la tecnología cause daños reales.

“I’m trying to be ahead of the curve before it’s too late and say, this is how we’ve always done it. I’m trying to do this so we don’t have to hurt people“

(Estoy tratando de anticiparme antes de que sea demasiado tarde y decir: así es como siempre lo hemos hecho. Estoy intentando hacer esto para que no tengamos que hacerle daño a las personas).

Aunque la ley fue aprobada en 2024, su entrada en vigor se retrasó para dar tiempo a que empresas y autoridades prepararan su implementación.

Durante ese período, el gobernador Jared Polis creó una fuerza de tarea para revisar la norma y buscar un equilibrio entre proteger a los consumidores y no frenar la innovación tecnológica.

Expertos en tecnología coinciden en que la regulación es necesaria, pero advierten que debe diseñarse cuidadosamente.

Andreu Sureda, especialista en informática, lo explica de esta manera.

“A mí lo que me preocupa más que la regulación, la regulación en sí, que creo que es necesaria…, el riesgo es una mala regulación. Si está bien diseñada puede impulsar una innovación más responsable“

Sureda también enfatiza la importancia de mantener la supervisión humana.

“Los sistemas que nosotros desarrollamos, la IA se usa para analizar datos o comparar alternativas; pero nunca, nunca, nunca toma la decisión final. La decisión final siempre la toma una persona y la persona mantiene la responsabilidad“

Para los pequeños negocios, sin embargo, el cambio también implica desafíos.

Jesús Carrillo, director de membresía de la Colorado Hispanic Chamber of Commerce, explica que muchas empresas tendrán que revisar cuidadosamente las herramientas tecnológicas que utilizan en sus procesos.

“Las empresas van a tener que evaluar con mucho cuidado las aplicaciones que emplean para sus procesos, y muchas veces eso significa incrementar los costos relacionados con la tecnología“

Aun así, el optimismo persiste entre los impulsores de la norma.

Para el senador Rodríguez, la meta es garantizar que la inteligencia artificial avance sin sacrificar los derechos de las personas.

Porque la inteligencia artificial ha llegado para quedarse. Y el desafío ahora es asegurarse de que su poder se utilice para ampliar oportunidades, no para reproducir desigualdades.

La Colorado AI Act intenta establecer un principio sencillo pero profundo: Detrás de cada algoritmo debe existir siempre responsabilidad humana.

Para la Edición Semanaria de Noticiero Latino, desde Denver, Colorado, Jesús Sánchez Melean.