A tradução da IA está prejudicando os pedidos de asilo afegãos

Esta história foi traduzida para sua conveniência usando o Google Tradutor. Nenhuma tradução automática é perfeita, nem pretende substituir os tradutores humanos. Saiba mais »

Em 2020, Uma Mirkhail teve uma demonstração em primeira mão de como uma tradução ruim pode ser prejudicial.

Tradutor de crise especializado em línguas afegãs, Mirkhail estava trabalhando com um refugiado de língua pashto que havia fugido do Afeganistão. Um tribunal dos EUA negou o pedido de asilo da refugiada porque seu pedido por escrito não correspondia à história contada nas entrevistas iniciais.

Nas entrevistas, a refugiada primeiro sustentou que havia passado por um evento específico sozinha, mas a declaração escrita parecia fazer referência a outras pessoas com ela na época – uma discrepância grande o suficiente para um juiz rejeitar seu pedido de asilo.

Depois que Mirkhail examinou os documentos, ela viu o que havia dado errado: uma ferramenta de tradução automática havia trocado os pronomes “eu” na declaração da mulher por “nós”.

Mirkhail trabalha com a Respond Crisis Translation, uma coalizão de mais de 2.500 tradutores que oferece serviços de interpretação e tradução para migrantes e solicitantes de asilo em todo o mundo. Ela disse ao Rest of World que esse tipo de pequeno erro pode mudar a vida de um refugiado. Após o retorno do Talibã ao poder no Afeganistão, há uma demanda urgente por tradutores de crise que trabalhem em idiomas como pashto e dari. Trabalhando ao lado de refugiados, esses tradutores podem ajudar os clientes a navegar em sistemas complexos de imigração, incluindo a elaboração de formulários de imigração, como pedidos de asilo. Mas uma nova geração de ferramentas de tradução automática está mudando a paisagem desse campo – e adicionando um novo conjunto de riscos para os refugiados.

A tradução automática está em ascensão desde a introdução de técnicas de redes neurais, semelhantes às usadas na inteligência artificial generativa. Em 2016, o Google lançou seu primeiro sistema de tradução automática neural . Hoje, ao legendar filmes para empresas de streaming ou redigir documentos para escritórios de advocacia, algumas das empresas de tradução globais mais estabelecidas usam a tradução automática neural em seu fluxo de trabalho em um esforço para reduzir custos e aumentar a produtividade. Mas, como a nova geração de chatbots de IA, as ferramentas de tradução automática estão longe de serem perfeitas e os erros que introduzem podem ter consequências graves.

As empresas que trabalham nesse espaço geralmente reconhecem o perigo da automação pura e insistem em que suas ferramentas sejam usadas apenas sob supervisão humana. “As traduções de aprendizado de máquina ainda não são totalmente confiáveis sem revisão humana”, disse Sara Haj-Hassan, diretora de operações da Tarjimly, uma startup sem fins lucrativos que conecta refugiados e requerentes de asilo com tradutores e intérpretes humanos voluntários, para Rest do Mundo . “Fazer isso seria irresponsável e levaria a oportunidades desiguais para as populações que recebem traduções de IA, uma vez que erros de tradução podem levar à rejeição de casos ou outras consequências graves”.

A demanda não atendida, porém, é inegável. Tarjimly, que atualmente trabalha com mais de 250 pares de idiomas, viu um aumento de quatro vezes nas solicitações de idiomas afegãos em 2022, de acordo com o relatório de impacto da organização.

Preocupações semelhantes foram levantadas sobre ferramentas de IA generativas. A OpenAI, empresa que fabrica o ChatGPT, atualizou suas políticas de usuário no final de março com regras que proíbem o uso do chatbot de IA em “tomadas de decisão governamentais de alto risco”, incluindo trabalhos relacionados à migração e asilo.

As apostas para obter traduções corretas podem ser graves para os requerentes de asilo que preenchem os pedidos. “Uma das coisas que vemos com frequência é apontar pequenos detalhes técnicos nos pedidos de asilo”, disse Ariel Koren, fundador da Respond Crisis Translation, ao Rest of World . “É por isso que você precisa de atenção humana. A máquina, pode ser seu amigo que você usa como ajudante, mas se você estiver usando isso como a [solução] definitiva, se é onde começa e termina, você vai falhar com essa pessoa.”

Isso é particularmente verdadeiro no trabalho com refugiados afegãos que falam pashto e dari – idiomas nativos de dezenas de milhões de afegãos em todo o mundo. O Alto Comissariado das Nações Unidas para Refugiados (ACNUR) estima que mais de 6 milhões de afegãos foram deslocados até o final de 2021, incluindo aqueles deslocados após a retirada dos EUA do Afeganistão e o retorno do Talibã ao poder. Ao mesmo tempo, as ferramentas de linguagem AI para pashto ficaram para trás de idiomas mais dominantes, como inglês e mandarim. Estes últimos são considerados idiomas de “alto recurso”, com uma grande quantidade de textos disponíveis online em comparação com um idioma como o pashto .

É difícil dizer o quão prevalente é a tradução automática no sistema de imigração, mas há evidências claras de que ela está sendo usada. Em 2019, a ProPublica informou que os funcionários dos Serviços de Cidadania e Imigração dos EUA (USCIS) foram instruídos a usar o Google Tradutor para examinar as contas de mídia social dos requerentes de asilo. Grandes empresas de tradução como LanguageLine, TransPerfect e Lionbridge têm contratos com agências federais de imigração dos EUA, alguns totalizando milhões de dólares. Cada uma dessas empresas anuncia tradução automática em seu conjunto de serviços. Em última análise, cabe a cada agência e departamento se eles aceitam ou não essas ferramentas em suas operações diárias.

6 milhões O número estimado de afegãos deslocados até o final de 2021.

ACNUR

Ao mesmo tempo, os provedores estão promovendo ativamente organizações de refugiados para integrar a tradução automática em seu trabalho. O Projeto Internacional de Assistência a Refugiados (IRAP), uma organização sem fins lucrativos que oferece apoio jurídico a refugiados no Afeganistão e no Paquistão, recebeu vários e-mails de solicitação de um contratante do governo com fins lucrativos sobre tradução automática.

Um desses e-mails, enviado pela empresa de tradução britânica The Big Word, apresentou o WordSynk: o produto de assinatura da empresa, descrito em seu site como “utilizando tradução automática, IA e memória de tradução para alavancar resultados econômicos e de alta qualidade. ” O IRAP nunca respondeu ao discurso de vendas do The Big Word, mas a empresa lista o Departamento de Defesa dos EUA, o Exército dos EUA e o Ministério da Justiça do Reino Unido entre seus clientes. Um documento interno, analisado pelo Rest of World , lista o pashto e o dari entre as ofertas de “línguas centrais” do The Big Word para clientes do governo.

The Big Word não respondeu ao pedido de comentários do resto do mundo .

Quer sejam automatizadas ou não, as falhas de tradução em pashto e dari tornaram-se comuns. No início de abril, a Embaixada da Alemanha no Afeganistão postou um tuíte em pashto denunciando a proibição do Talibã de mulheres trabalharem. O tweet foi rapidamente ridicularizado por falantes nativos, com alguns tweets de citação alegando que nenhuma frase era legível.

“Por favor, não insulte nossa linguagem. Milhares [de] pashtuns vivem na Alemanha, mas ainda não contratam um especialista em pashto”, postou um usuário, o pesquisador Afzal Zarghoni. A Embaixada da Alemanha posteriormente excluiu o tweet.

Erros de tradução aparentemente triviais podem, às vezes, levar a distorções prejudiciais ao redigir os pedidos de asilo.

“[A tradução automática] não tem consciência cultural. Especialmente se você estiver fazendo coisas como uma declaração pessoal escrita à mão por alguém”, disse Damian Harris-Hernandez, cofundador do Refugee Translation Project, ao Rest of World . “A pessoa pode não ser perfeita na escrita e também pode usar metáforas, expressões idiomáticas, frases que, se você interpretar literalmente, não fazem o menor sentido.”

Com sede em Nova York, o Refugee Translation Project trabalha extensivamente com refugiados afegãos, traduzindo relatórios policiais, recortes de notícias e testemunhos pessoais para reforçar as alegações de que os requerentes de asilo têm um medo crível de perseguição. Quando a tradução automática é usada para redigir esses documentos, pontos cegos culturais e falhas na compreensão de coloquialismos regionais podem introduzir imprecisões. Esses erros podem comprometer as reivindicações na rigorosa revisão que tantos refugiados afegãos vivenciam.

Dari e Pashto são atualmente os idiomas mais solicitados pelo Refugee Translation Project, de acordo com Harris-Hernandez. Apesar da demanda, a organização se recusa a usar ferramentas de tradução automática, contando exclusivamente com tradutores humanos.

“Não há muita vantagem na [tradução automática]. A vantagem surge se você não conhece o idioma e está tentando traduzir algo para um cliente”, disse Harris-Hernandez, explicando que os incentivos parecem diferentes para sua organização em comparação com muitos provedores com fins lucrativos. “A única coisa que importa é o dinheiro que entra.”

Muhammed Yaseen, membro da equipe afegã da Respond Crisis Translation, disse ao Rest of World que as organizações estão proibindo o uso de tradução automática por um bom motivo. Ele afirma que as máquinas-ferramentas que ele testou são incapazes de traduzir certas palavras, como os termos para alguns parentes em dialetos dari, e palavras especializadas como patentes militares que podem ser vitais para os pedidos de asilo de ex-soldados aliados dos EUA.

“Se usarmos máquinas para os afegãos, acho que seríamos injustos com eles”, disse Yaseen. “Eu realmente sinto que, se dependermos de máquinas, espero que pelo menos 40% de nossa tomada de decisão sobre os pedidos de asilo para refugiados seja incorreta.”