Como Garantir que a IA Diga a Verdade: Propostas para Alinhar Inteligência Artificial à Veracidade

A IA e sua relação complexa com a verdade

Por design, a IA, especialmente os modelos de linguagem, como o GPT, não são intrinsecamente preocupados com a verdade. Eles produzem respostas com base em previsões, o que significa que muitas vezes podem gerar respostas verdadeiras por coincidência. Isso é conhecido como ‘verdade acidental’, como apontam os pesquisadores de Oxford. A IA reproduz informações populares, mas isso também significa que quanto mais uma falsidade é propagada, maior a chance de ela ser escolhida em uma resposta. Esse fenômeno é chamado de ‘viés de token comum’.

A proposta dos pesquisadores de Oxford

Pesquisadores como Wachter, Mittelstadt e Russell, da Universidade de Oxford, propõem uma mudança nas responsabilidades dos desenvolvedores de IA. Eles sugerem que a veracidade seja um requisito fundamental no design dessas ferramentas. Atualmente, as IAs são projetadas para serem persuasivas e úteis, mas não necessariamente verdadeiras. A proposta visa mudar esse foco para uma IA que priorize a verdade, mesmo que isso signifique comprometer a ‘ajuda’ em algumas interações.

O problema do ‘careless speech’

Os pesquisadores destacam que, além das alucinações claras, a IA frequentemente gera o que chamam de ‘careless speech’ (discurso descuidado), onde as respostas podem ser factualmente corretas, mas incompletas ou sem o contexto adequado. Isso pode incluir a falta de referências confiáveis, a exclusão de pontos de vista minoritários ou o uso de dados sintéticos que diluem a autenticidade das informações.

Os riscos de confiar cegamente na IA

Outro risco levantado é o potencial de a IA homogeneizar contas históricas e científicas, não por intenção política, mas devido ao design de prever respostas com base na frequência. Isso pode levar a uma reescrita inadvertida da história ou à erosão de bases científicas objetivas, especialmente em setores como a educação e a justiça, que já enfrentam subfinanciamento e ineficiência. O perigo aqui é que a IA possa preencher lacunas de recursos e expertise, mas com informações imprecisas.

Uma obrigação legal de verdade para IA?

Os pesquisadores sugerem a criação de uma obrigação legal que minimize o discurso descuidado gerado por IAs. A proposta não é alinhar as IAs a um único corpo de conhecimento autoritário, mas garantir que os desenvolvedores sigam uma abordagem epistemológica que privilegie a investigação e a justificação da verdade. O objetivo é mudar os incentivos para que a verdade seja uma prioridade no design e teste dos sistemas de IA.

Curso de Design Gráfico Online | Transformação Criativa

• Desenvolver uma plataforma de verificação de fatos baseada em IA que seja usada por jornalistas e educadores.
• Criar uma consultoria para auxiliar empresas no design de sistemas de IA que priorizem a verdade e a transparência.
• Lançar uma ferramenta de IA que auxilie tribunais a revisar automaticamente a veracidade de provas e depoimentos digitais.

Há quem acredite que a corrida para criar uma IA sempre ‘verdadeira’ faz parte de um plano maior das big techs para centralizar o controle sobre o fluxo de informações globais. Se os sistemas de IA forem obrigados a priorizar a verdade, quem vai decidir o que é verdade? E será que isso poderia dar às grandes empresas de tecnologia o poder de reescrever a história e ditar o que é considerado factual no futuro? Essa é uma questão que levanta preocupações sobre monopólios de informação e controle ideológico.

• Por que a IA foi ao tribunal? Para provar que ela sabia todos os ‘fatos’… ou quase!
• O que a IA disse para o advogado? ‘Eu só quero prever a verdade, não garanti-la!’
• Qual é o maior medo de uma IA? Ser pega em flagrante por uma mentira algorítmica!

Será que a criação de uma obrigação legal de verdade para IA realmente resolveria o problema da desinformação? Ou estaríamos apenas criando uma nova forma de controle sobre o que pode ou não ser dito?