Los grupos de campaña han instado al gobierno del Reino Unido a eliminar el uso "perturbador" de la IA y han afirmado que está "atrasado" en la regulación de su uso por parte de las autoridades públicas.

Los grupos, como Public Law Project y Big Brother Watch, advirtieron que los organismos públicos del Reino Unido han estado utilizando la IA de manera "inquietante" y "secreta" durante "años".

Se produce después de que Rishi Sunak anunciara planes esta semana para hacer de Gran Bretaña el hogar de la "regulación global de seguridad de la IA" en medio de crecientes preocupaciones sobre su uso en el sector privado.

Pero la tecnología ya se utiliza de manera opaca en toda Gran Bretaña en áreas como la policía, la vivienda, la asistencia social y la inmigración, según los grupos.

En un caso, se descubrió que el uso 'orwelliano' del AFR (reconocimiento facial automatizado) por parte de la policía de Gales del Sur había violado los derechos de privacidad, las leyes de protección de datos y la legislación de igualdad.

Shameem Ahmad, director ejecutivo de Public Law Project (PLP), dijo: 'La IA es enormemente poderosa. Chat GPT ha llamado la atención de todos, pero las autoridades públicas han estado utilizando esta tecnología durante años y en este momento el Gobierno está detrás de la curva en la gestión de riesgos.

'Hemos visto organismos públicos utilizando esta tecnología de maneras inquietantes, desde el uso de reconocimiento facial discriminatorio por parte de la policía de Gales del Sur hasta el Departamento de Trabajo y Pensiones utilizando IA para investigar a los solicitantes de beneficios.

"El uso gubernamental de la IA puede ser secreto, puede resultar contraproducente y puede exacerbar las desigualdades existentes, socavando los derechos fundamentales".

En un documento dirigido a parlamentarios de todos los partidos, treinta grupos, incluidos Public Law Project y Big Brother Watch, han instado al Gobierno a adoptar una regulación y transparencia más estrictas en torno al uso de la IA por parte de las autoridades públicas.

Piden "mecanismos claros de rendición de cuentas" y un "regulador especializado" con una forma para que el público busque reparación cuando el uso de la IA sale mal.

El año pasado, se descubrió que el DWP estaba probando un algoritmo automático para predecir si los solicitantes de crédito universal deberían recibir beneficios en función de su probabilidad percibida de cometer fraude en el futuro.

El juicio fue "problemático" y corría el riesgo de discriminar a personas con reclamos genuinos, según el PLP.

El grupo también dijo que había una falta de transparencia en torno al uso de la tecnología por parte del DWP, lo que significa que no era posible saber si el sistema funcionaba "de manera confiable, legal o justa".

Y en 2019, cuatro de cada cinco personas identificadas por la tecnología facial AFR de la Policía Metropolitana como posibles sospechosos eran inocentes, según un informe.

Madeleine Stone, responsable legal y de políticas de Big Brother Watch, dijo a MailOnline: 'El enfoque del gobierno hacia la IA es confuso, vago y no hará nada para protegernos de la creciente amenaza que el uso de la IA representa para nuestros derechos.

'En lugar de tomar las medidas que se necesitan con urgencia para protegernos de algoritmos fuera de control, el Gobierno está tratando de eliminar los derechos sobre los datos y debilitar las salvaguardias.

"El Gobierno debe prohibir los usos más peligrosos de la IA que no tienen cabida en una democracia, como la vigilancia por reconocimiento facial en vivo, y garantizar que el público tenga derechos sólidos y legalmente exigibles cuando se utilice la IA para tomar decisiones".

Por el contrario, la Unión Europea está tomando medidas para prohibir las AFR en espacios públicos a través de su próxima Ley de Inteligencia Artificial.

Prohibiría a las autoridades públicas utilizar la IA para clasificar el comportamiento de los ciudadanos y establecería límites estrictos al reconocimiento facial basado en IA utilizado por las fuerzas del orden.

El profesor Sampson, comisionado de biometría y cámaras de vigilancia, también advirtió anteriormente que el Reino Unido tiene el marco regulatorio "escaso" para las autoridades públicas que utilizan este tipo de tecnología.

Dijo: "Puede que no estemos tan lejos de utilizar una IA como ChatGPT para redactar órdenes judiciales o declaraciones de testigos, pero tenemos el marco regulatorio más escaso bajo el cual aquellos que usan la tecnología tendrán que rendir cuentas".

Un portavoz del Departamento de Ciencia, Innovación y Tecnología dijo: "El Libro Blanco sobre la regulación de la IA del gobierno establece un enfoque coherente para la regulación de la IA para apoyar su desarrollo y despliegue responsable en el Reino Unido, además de abordar los riesgos potenciales que presenta".

«La IA es una tecnología que evoluciona rápidamente y necesitamos que nuestras normas sean igualmente ágiles para mantener a las personas a salvo de estos riesgos emergentes y, al mismo tiempo, poder aprovechar los beneficios a medida que se desarrolla esta tecnología.

"El AI Taskforce también ha sido equipado con una inversión inicial de £100 millones para gestionar su desarrollo e implementación seguros".