La preocupación en Reino Unido por el uso creciente de inteligencia artificial en la administración pública

Una investigación del diario británico The Guardian revela que ocho ministerios están delegando algunas de sus tareas a la inteligencia artificial.

En algunos casos, lo hacen por razones prácticas básicamente y no presentan un impacto trascendente, como por ejemplo para el control automático de pasaportes en los aeropuertos.

El Ministerio de Empleo sin embargo usa algoritmos para atribuir ayudas y prestaciones, filtrando solicitudes abusivas. El software de reconocimiento facial de la policía también es automático y el Ministerio del Interior utiliza la tecnología para validar licencias matrimoniales e identificar matrimonios falsos.

Algunas de estas inteligencias artificiales son sofisticadas, no siempre las entienden del todo los empleados de estos departamentos y, como lo señala The Guardian, no siempre están bien manejadas.

Según expertos jurídicos independientes, Reino Unido se encamina hacia un escándalo de Estado por culpa de estos sistemas, que tienden a reproducir la discriminación social.

Los sistemas de inteligencia artificial “aprenden” a partir de conjuntos de datos extremadamente amplios, extraídos de casos que previamente han sido examinados por humanos. Una de las consecuencias de este tipo de aprendizaje es el mimetismo y la amplificación de prejuicios que ya existen en la sociedad.

En el caso de las prestaciones, por ejemplo, una diputada explicó que a más de una docena de personas de su circunscripción les habían suspendido los pagos sin motivo. Lo que tenían en común era que casi todos eran de nacionalidad búlgara.

En cuanto al reconocimiento facial de la policía, los rostros negros destacan más a menudo como “sospechosos” que los blancos.

Varios especialistas en derecho y ética denuncian que no se le pida cuentas a estos procesos automáticos. El mes pasado el gobierno desmanteló el Centro de Ética e Innovación de Datos, un grupo de consultoría independiente especializado en IA.

Sin embargo, la inteligencia artificial es uno de los temas favoritos del actual gobierno. El propio primer ministro Rishi Sunak está fomentando el uso de la IA en los servicios públicos. Dice podría mejorar la precisión y la rapidez de los exámenes médicos, o ahorrar a los profesores horas de trabajo en la preparación de sus clases.

Los expertos reconocen que haya un enorme potencial, pero que conlleva riesgos. El 1 y 2 de noviembre, Sunak organiza en el norte de Londres una cumbre internacional sobre “IA y seguridad”, con actores del sector de todo el mundo. Las asociaciones reclaman mayor transparencia y regulación en este ámbito.