Reino Unido usa IA em crianças refugiadas
O governo do Reino Unido está seguindo adiante com o uso de uma ferramenta de inteligência artificial para verificar a idade de crianças migrantes, apesar de alertas de seus próprios conselheiros de que o sistema é “terrivelmente impreciso”, segundo o The Independent.
O Ministério do Interior anunciou no mês passado que a tecnologia de estimativa facial de idade (FAE) seria usada por oficiais de imigração a partir de 2027 para “combater falsas alegações de pessoas que chegam em pequenas embarcações se passando por crianças”. No entanto, dois relatórios identificaram problemas graves com a tecnologia.
Como funciona a FAE?
Ferramentas de FAE movidas por IA já são usadas para impedir que crianças acessem bens e serviços com restrição de idade, incluindo cigarros, álcool e conteúdo online adulto. Agora, o “endurecimento da política em torno do asilo” abriu um novo mercado com “apostas muito mais altas” – usar IA para determinar se migrantes indocumentados têm menos ou mais de 18 anos, informou o Lighthouse Reports em parceria com o The Independent e a Wired.
Uma fotografia é inserida em um sistema de IA e passa por várias camadas de análise, cada uma captando “padrões cada vez mais sutis”, disse Oli Buckley, professor de cibersegurança da Universidade de Loughborough, no site The Conversation. O sistema, que é “treinado com milhões de fotografias de pessoas cujas idades já são conhecidas”, aprendeu a associar padrões faciais com faixas etárias prováveis. Ele estuda a textura da pele, a profundidade das linhas ao redor dos olhos, a estrutura óssea e a distribuição de tecidos moles, antes de entregar uma “distribuição de probabilidade” – algo mais próximo de “provavelmente entre 17 e 21 anos” do que “esta pessoa tem 18 anos”.
Tudo isso importa porque, na fronteira do Reino Unido, decidir se alguém tem 17 ou 19 anos é um julgamento muito “consequente”. Se o erro for “para um lado”, uma “criança vulnerável” perde as proteções legais a que tem direito, mas “se o erro for na outra direção”, um adulto “entra em um sistema projetado para menores”.
Quais são os problemas?
A tecnologia classificou incorretamente mais de um terço dos jovens de 16 anos como adultos e, em alguns testes, apresentou avaliação errada em 70% dos casos, de acordo com uma auditoria do Lighthouse Reports.
Um relatório separado e vazado, que o Ministério do Interior tentou reter, constatou que a tecnologia é menos precisa ao avaliar migrantes de países como Eritreia e Sudão, que têm o maior número de migrantes chegando ao Reino Unido em pequenas embarcações. Isso gerou acusações de que a tecnologia tem “viés racial embutido”, disse o The Independent.
O relatório também alertou que “as taxas de erro são particularmente altas para crianças migrantes do sexo feminino da África Subsaariana”. As estimativas erravam por uma média de 4,6 anos – “o que significa que uma menina de 14 anos poderia ser considerada adulta”. A ferramenta de IA também pode ser menos precisa para pessoas com envelhecimento visível causado pelo “estresse da viagem”.
Ela ainda será usada?
O Ministério do Interior afirmou que tem “processos rigorosos para verificar a idade de um indivíduo” e que a “ferramenta auxiliar inovadora é projetada como uma fonte adicional de informação para oficiais de imigração, e não substitui ou anula o julgamento humano”.
No entanto, Anna Bacciarelli, pesquisadora sênior de tecnologia, direitos e investigações da Human Rights Watch, disse ao Lighthouse Reports que isso oferece pouco conforto devido ao “fenômeno bem estabelecido” do viés de automação, onde as pessoas tendem a confiar mais na decisão do computador do que no próprio julgamento.
O uso da tecnologia pelo Reino Unido estabelece um “precedente perigoso”, disse ela, e “outros países em pontos de entrada por toda a Europa provavelmente seguirão o exemplo”. Como resultado, “o uso dessa tecnologia imprecisa e invasiva pode se tornar generalizado”.