Um juiz federal acabou de incluir uma nota de rodapé interessante que está a gerar conversa. Acontece que as agências de fiscalização da imigração têm estado a recorrer a ferramentas de IA para as suas operações, e o juiz destacou algo que ninguém pediu, mas que todos precisavam de ouvir: estes sistemas podem não ser tão fiáveis como pensamos.

As preocupações? Duas grandes. Primeiro, a precisão. Os modelos de IA podem errar, identificar incorretamente ou gerar resultados com base em dados de treinamento defeituosos. Quando você está lidando com o status de imigração das pessoas, essa não é exatamente uma margem de erro na qual você queira arriscar. Segundo, a privacidade. Que dados essas ferramentas estão extraindo? Quem tem acesso? Quanto tempo é armazenado? A nota do juiz não forneceu respostas, mas certamente levantou as perguntas certas.

Isto não é apenas uma questão de política de imigração. Trata-se de como os governos adotam tecnologia sem estruturas transparentes. Numa era em que sistemas descentralizados e soberania de dados são temas quentes nos círculos Web3, ver autoridades centralizadas a utilizar ferramentas de IA opacas parece um retrocesso. Se os defensores da blockchain pregam transparência e controlo dos utilizadores, não deveriam as instituições públicas ser responsabilizadas pelos mesmos padrões?