Relatório inventado pelo Copilot levou a banimento de torcida no Reino Unido

Embora a Microsoft continue a insistir que a inteligência artificial (IA) é o futuro e que o Copilot é uma ferramenta confiável, continuam surgindo provas do contrário. Esta semana, o chefe de polícia da West Midlands Police, Craig Guildford, confirmou que um relatório gerado pela ferramenta foi o responsável por banir a torcida do Maccabi Tel Aviv de uma partida de futebol realizada no Reino Unido.

No caso, os fãs da equipe foram proibidos de participar de um embate contra o Aston Villa pela Europa League. O relatório inventado pelo Copilot afirmou que a torcida participou de diversos atos de violência durante uma partida contra o West Ham United — episódio que nunca aconteceu, até porque a disputa que teria sido o contexto da confusão nunca foi realizada.

O chefe da West Midlands Police admitiu que o relatório gerado pela IA da Microsoft foi aceito como correto, e sua principal informação não foi checada. Anteriormente, Guildford havia informado que não havia usado a ferramenta para gerar seu relatório de inteligência. Segundo ele, o banimento inadequado havia sido resultado de relatos mentirosos de mídias sociais e de pesquisas do Google que apresentaram resultados enganadores.

Copilot pode cometer erros, alerta a Microsoft

O erro que impediu a torcida do Maccabi Tel Aviv de testemunhar a derrota de 2 a 0 do seu time para o Aston Villa é algo que a própria Microsoft alerta que pode acontecer. Ao mesmo tempo em que insiste em colocar recursos do Copilot em todos os seus produtos, a empresa também deixa claro que a ferramente “pode cometer erros”.

Essa é uma característica comum de todos os modelos de IA generativa que se baseiam em grandes modelos de linguagem (LLMs) para funcionar. Até mesmo por isso, a corporação afirma que suas tecnologias não devem ser usadas por ninguém que precisa de exatidão ou em processos que dependem da reprodutibilidade.

No entanto, isso não tem impedido a companhia de continuar anunciando a solução como parte inevitável de seu futuro — mesmo quando não há sinais de melhorias claras para os consumidores em geral. Vale notar que o Copilot é baseado em tecnologias oferecidas pela OpenIA (do ChatGPT), empresa na qual a Microsoft tem um grande investimento.

Em um comunicado ao The Verge, a corporação explicou que não tem como confirmar se seu assistente esteve envolvido no relatório criado pela polícia britânica. No entanto, o diretor sênior de comunicações da empresa, Jeffrey Jones, afirmou que qualquer um que usa a tecnologia deve fazer uma revisão manual de suas fontes para não cometer erros semelhantes.

Fonte: The Verge

Conteúdo Relacionado

Pequeno e focado em IA

Novo mini PC Panther Lake da JWIPC traz pequena tela LCD e até 96GB de RAM