Governo Trump usa IA de Musk para analisar dados federais e levanta suspeitas de conflito de interesses

23 de maio (Reuters) - A equipe DOGE do bilionário Elon Musk está expandindo o uso de seu chatbot de inteligência artificial Grok no governo federal dos EUA para analisar dados, disseram três pessoas familiarizadas com o assunto, potencialmente violando leis de conflito de interesses e colocando em risco informações confidenciais de milhões de americanos.

Esse uso do Grok pode reforçar as preocupações entre os defensores da privacidade e outros de que a equipe do Departamento de Eficiência Governamental de Musk parece estar deixando de lado proteções há muito estabelecidas sobre o manuseio de dados confidenciais, enquanto o presidente Donald Trump abala a burocracia dos EUA.

Uma das três pessoas familiarizadas com o assunto, que tem conhecimento das atividades do DOGE, disse que a equipe de Musk estava usando uma versão personalizada do chatbot Grok. O objetivo aparente era que o DOGE analisasse os dados com mais eficiência, disse essa pessoa. "Eles fazem perguntas, solicitam que ele prepare relatórios e forneçam análises de dados."

A segunda e a terceira pessoas disseram que a equipe do DOGE também pediu aos funcionários do Departamento de Segurança Interna para usá-lo, embora Grok não tivesse sido aprovado pelo departamento.

A Reuters não conseguiu determinar os dados específicos que foram inseridos na ferramenta de IA generativa ou como o sistema personalizado foi configurado. O Grok foi desenvolvido pela xAI, uma operação de tecnologia que Musk lançou em 2023 em sua plataforma de mídia social, X.

Se os dados fossem informações governamentais confidenciais ou sigilosas, o acordo poderia violar as leis de segurança e privacidade, disseram cinco especialistas em tecnologia e ética governamental.

A medida também poderia dar ao CEO da Tesla e da SpaceX o a valiosos dados não públicos de contratos federais em agências com as quais ele mantém relações comerciais privadas, ou ser usada para ajudar a treinar o Grok, um processo no qual modelos de IA analisam um grande volume de dados, disseram os especialistas. Musk também poderia obter uma vantagem competitiva injusta sobre outros provedores de serviços de IA com o uso do Grok no governo federal, acrescentaram.

Musk, a Casa Branca e a xAI não responderam aos pedidos de comentário. Um porta-voz da Segurança Interna negou que o DOGE tenha pressionado funcionários do DHS a usar o Grok. "O DOGE não pressionou nenhum funcionário a usar nenhuma ferramenta ou produto específico", disse o porta-voz, que não respondeu a perguntas adicionais. "O DOGE está aqui para identificar e combater o desperdício, a fraude e o abuso."

A xAI de Musk, uma novata no setor em comparação com as rivais OpenAI e Anthropic, diz em seu site que pode monitorar os usuários do Grok para "fins comerciais específicos". "O conhecimento da IA ​​deve ser abrangente e o mais abrangente possível", diz o site.

Como parte do esforço declarado de Musk para eliminar o desperdício e a ineficiência do governo, o bilionário e sua equipe do DOGE aram bancos de dados federais altamente protegidos que armazenam informações pessoais de milhões de americanos. Especialistas afirmam que esses dados normalmente são proibidos para todos, exceto para algumas poucas autoridades, devido ao risco de serem vendidos, perdidos, vazados, violarem a privacidade dos americanos ou exporem o país a ameaças à segurança.

Normalmente, o compartilhamento de dados dentro do governo federal exige autorização da agência e o envolvimento de especialistas do governo para garantir a conformidade com as leis de privacidade, confidencialidade e outras.

Analisar dados federais sensíveis com a Grok marcaria uma mudança importante no trabalho do DOGE, uma equipe de engenheiros de software e outros ligados a Musk. Eles supervisionaram a demissão de milhares de funcionários federais, assumiram o controle de sistemas de dados sensíveis e buscaram desmantelar agências em nome do combate a supostos desperdícios, fraudes e abusos.

“Dada a escala de dados que o DOGE acumulou e dadas as inúmeras preocupações de portar esses dados para softwares como o Grok, para mim isso é uma ameaça à privacidade tão séria quanto possível”, disse Albert Fox Cahn, diretor executivo do Surveillance Technology Oversight Project, uma organização sem fins lucrativos que defende a privacidade.

Suas preocupações incluem o risco de que dados do governo vazem para a xAI, uma empresa privada, e a falta de clareza sobre quem tem o a essa versão personalizada do Grok.

O o do DOGE a informações federais pode dar à Grok e à xAI uma vantagem sobre outras potenciais contratadas de IA que buscam fornecer serviços governamentais, disse Cary Coglianese, especialista em regulamentações federais e ética da Universidade da Pensilvânia. "A empresa tem interesse financeiro em insistir que seu produto seja usado por funcionários federais", disse ele.

“APARÊNCIA DE AUTO-NEGOCIAÇÃO”

Além de usar o Grok para sua própria análise de dados governamentais, a equipe do DOGE instruiu autoridades do DHS nos últimos dois meses a usar o Grok, mesmo que ele não tivesse sido aprovado para uso na agência, disseram a segunda e a terceira pessoas. O DHS supervisiona a segurança de fronteiras, a fiscalização da imigração, a segurança cibernética e outras funções sensíveis de segurança nacional.

Se funcionários federais tiverem o oficial ao Grok para tal uso, o governo federal terá que pagar à organização de Musk pelo o, disseram as pessoas.

“Eles estavam insistindo para que fosse usado em todo o departamento”, disse uma das pessoas.

A Reuters não conseguiu estabelecer de forma independente se e quanto o governo federal teria sido cobrado pelo uso do Grok. Os repórteres também não conseguiram determinar se os funcionários do DHS seguiram a orientação da equipe do DOGE para usar o Grok ou ignoraram a solicitação.

O DHS, sob o governo Biden anterior, criou políticas no ano ado permitindo que seus funcionários usassem plataformas de IA específicas, incluindo o ChatGPT da OpenAI, o chatbot Claude desenvolvido pela Anthropic e outra ferramenta de IA desenvolvida pela Grammarly. O DHS também criou um chatbot interno.

O objetivo era tornar o DHS uma das primeiras agências federais a adotar a tecnologia e usar IA generativa, capaz de redigir relatórios de pesquisa e realizar outras tarefas complexas em resposta a solicitações. Segundo a política, os funcionários poderiam usar os bots comerciais para dados não sensíveis e não confidenciais, enquanto o bot interno do DHS poderia ser alimentado com dados mais sensíveis, mostram registros publicados no site do DHS.

Em maio, autoridades do DHS suspenderam abruptamente o o dos funcionários a todas as ferramentas comerciais de IA – incluindo o ChatGPT – após suspeitas de uso indevido de dados confidenciais por parte dos funcionários, disseram a segunda e a terceira fontes. Em vez disso, os funcionários ainda podem usar a ferramenta interna de IA do DHS. A Reuters não conseguiu determinar se isso impediu o DOGE de promover o Grok no DHS.

O DHS não respondeu a perguntas sobre o assunto.

Musk, a pessoa mais rica do mundo, disse a investidores no mês ado que reduziria seu tempo no DOGE para um ou dois dias por semana a partir de maio. Como funcionário especial do governo, ele só pode servir por 130 dias. Não está claro quando esse mandato termina. Se ele reduzir seu horário para meio período, poderá estender seu mandato para além de maio. Ele afirmou, no entanto, que sua equipe no DOGE continuará trabalhando enquanto ele encerra seu mandato na Casa Branca.

Se Musk estivesse diretamente envolvido nas decisões de usar o Grok, isso poderia violar um estatuto criminal de conflito de interesses que proíbe autoridades — incluindo funcionários especiais do governo — de participar de assuntos que poderiam beneficiá-las financeiramente, disse Richard Painter, consultor de ética do ex-presidente republicano George W. Bush e professor da Universidade de Minnesota.

"Isso dá a impressão de que o DOGE está pressionando agências a usar software para enriquecer Musk e a xAI, e não para o benefício do povo americano", disse Painter. O estatuto raramente é processado, mas pode resultar em multas ou pena de prisão.

Se os funcionários do DOGE estivessem promovendo o uso de Grok sem o envolvimento de Musk, por exemplo, para se aproximarem do bilionário, isso seria eticamente problemático, mas não uma violação do estatuto de conflito de interesses, disse Painter. "Não podemos processar, mas seria tarefa da Casa Branca impedi-lo. Dá a impressão de interesse próprio."

A iniciativa para usar o Grok coincide com um esforço maior do DOGE, liderado por dois membros da equipe de Musk, Kyle Schutt e Edward Coristine, para usar IA na burocracia federal, disseram outras duas pessoas familiarizadas com as operações do DOGE. Coristine, uma jovem de 19 anos que usa o apelido online "Big Balls", é um dos membros mais destacados do DOGE.

Schutt e Coristine não responderam aos pedidos de comentários.

Funcionários do DOGE tentaram obter o a e-mails de funcionários do DHS nos últimos meses e ordenaram que treinassem a inteligência artificial para identificar comunicações que sugerissem que um funcionário não fosse "leal" à agenda política de Trump, disseram as duas fontes. A Reuters não conseguiu determinar se Grok foi usado para tal vigilância.

Nas últimas semanas, um grupo de cerca de uma dúzia de funcionários de uma agência do Departamento de Defesa foi informado por um supervisor que uma ferramenta algorítmica estava monitorando algumas de suas atividades de computador, de acordo com duas outras pessoas informadas sobre as conversas.

A Reuters também analisou duas trocas de mensagens de texto separadas por pessoas diretamente envolvidas nas conversas. As fontes pediram que a agência específica não fosse identificada por receio de possíveis retaliações. Elas não sabiam qual ferramenta estava sendo usada.

Usar IA para identificar as crenças políticas pessoais dos funcionários pode violar as leis do serviço público que visam proteger servidores públicos de carreira de interferências políticas, disse Coglianese, especialista em regulamentações federais e ética da Universidade da Pensilvânia.

Em comunicado à Reuters, o Departamento de Defesa afirmou que a equipe DOGE do departamento não esteve envolvida em nenhum monitoramento de rede, nem foi "orientada" a usar quaisquer ferramentas de IA, incluindo o Grok. "É importante observar que todos os computadores do governo estão inerentemente sujeitos a monitoramento como parte do acordo padrão do usuário", disse Kingsley Wilson, porta-voz do Pentágono.

O departamento não respondeu a perguntas complementares sobre se algum novo sistema de monitoramento havia sido implantado recentemente.

Reportagem adicional de Jeffrey Dastin e Alexandra Alper. Edição de Jason Szep.