Direto Notícias Imparcial, Transparente e Direto!
Artigos Relacionados
A consultoria Deloitte devolveu US$ 440 mil ao governo da Austrália depois de admitir que usou inteligência artificial generativa na produção de um relatório oficial com erros e informações inventadas. O documento foi entregue em 4 de julho e passou por uma revisão em agosto, quando as falhas já tinham sido apontadas publicamente.
O contrato previa a revisão da estrutura interna dos sistemas de conformidade e de tecnologia da informação da Assistência Social australiana — os mesmos que automatizam penalidades aplicadas a trabalhadores que descumprem obrigações legais. Foi nesse relatório que especialistas encontraram incoerências e afirmações sem fonte rastreável.
O que apareceu no documento entregue ao governo
À primeira vista, a entrega parecia técnica e rotineira. O problema surgiu quando o texto começou a ser conferido linha a linha: havia trechos apoiados em referências que ninguém conseguia localizar. É o que se convencionou chamar de alucinação — o nome dado ao comportamento de sistemas de inteligência artificial que inventam informação para preencher uma lacuna.
Quem analisou o relatório em detalhe foi Christopher Rudge, pesquisador da Universidade de Sydney. A conclusão dele é que a versão revisada não corrigiu o defeito: trocou dados errados por outros igualmente falsos.
Em vez de substituir as alucinações inventadas por uma referência real, eles acrescentaram novas informações falsas no lugar das apontadas anteriormente
A avaliação é do pesquisador Christopher Rudge, em declaração ao The Guardian. Na mesma fala, ele resumiu o que a repetição do erro indicava:
O que isso sugere é que as afirmações feitas no relatório não foram baseadas em nenhuma fonte probatória real.
A repercussão pública levou o Departamento de Emprego e Relações de Trabalho da Austrália a confirmar que o contrato seria tornado público — mas somente depois da devolução integral dos US$ 440 mil.
O reconhecimento veio no apêndice técnico
No relatório revisado, a Deloitte incluiu uma menção discreta ao uso de inteligência artificial generativa no apêndice técnico, reconhecendo que parte do conteúdo havia sido gerada pela plataforma Azure OpenAI, da Microsoft. Em nota oficial, a empresa não confirmou se o uso da tecnologia foi responsável pelos erros originais. Limitou-se a dizer que
o assunto foi resolvido diretamente com o contratante.
A declaração é da própria consultoria, em nota. Vale registrar o que não está detalhado no material divulgado: não há explicação sobre o motivo formal do reembolso, sobre se os US$ 440 mil correspondem ao valor total do contrato ou a uma parcela dele, nem sobre qual etapa do trabalho foi refeita. O que está confirmado é o valor devolvido, a data de entrega do documento, a revisão de agosto e a condição imposta para a publicação do contrato.
O que é alucinação de IA em documento técnico
Entender o termo ajuda a dimensionar o caso. Um sistema de escrita automática não consulta um arquivo de documentos antes de responder: ele calcula qual sequência de palavras tem mais chance de vir a seguir. Quando existe informação suficiente no que ele aprendeu, o resultado tende a bater com a realidade. Quando não existe, o texto não para nem avisa — a lacuna sai preenchida com algo verossímil.
Num relatório técnico, esse preenchimento não aparece como erro de português. Aparece como o tipo de detalhe que dá credibilidade a um parecer: a citação de um dispositivo legal que não existe naquela redação, a referência bibliográfica com autor, ano e página que nunca foi publicada, o número que fecha a conta e não tem origem. São exatamente os elementos que o leitor tende a não conferir, porque parecem a parte checada do documento.
Daí a gravidade do detalhe apontado pelo pesquisador: quando a versão corrigida substitui referências falsas por outras também falsas, o indício é de que a checagem não foi feita nem na segunda passagem.
O que muda para quem contrata consultoria
O episódio envolve um governo estrangeiro e uma consultoria global, mas o problema é o mesmo em qualquer contrato de estudo, parecer ou auditoria: o cliente recebe um documento pronto e raramente tem tempo de refazer o caminho de cada afirmação. Cinco medidas práticas reduzem esse risco antes da assinatura:
- 1. Declaração de uso. Escreva no contrato que o fornecedor precisa informar se usou inteligência artificial generativa, em quais etapas e com qual ferramenta — no corpo do trabalho, não em apêndice.
- 2. Fonte para cada afirmação. Exija que dado, número e citação venham com referência verificável: documento, endereço eletrônico, página. Afirmação sem origem não é entrega concluída.
- 3. Conferência por amostragem. Antes de aceitar, sorteie de dez a quinze referências do relatório e tente localizar cada uma. Alucinação costuma cair já na primeira rodada de amostras.
- 4. Responsável técnico identificado. Peça o nome de quem assina o conteúdo e responde por ele. Ferramenta não assina documento nem responde por erro.
- 5. Regra de correção combinada. Defina no contrato o que acontece se o erro aparecer depois: prazo para refazer, quem paga a revisão e em que hipótese cabe devolução de valores.
Nada disso impede o uso da tecnologia na produção de um documento. O que essas medidas fazem é manter no contrato aquilo que o caso australiano só deixou claro depois da entrega: quem responde pelo que está escrito é quem assina.
