04 mar Governo dos EUA é quem decide qual o uso militar das IAs, diz Sam Altman

O CEO da OpenAI, Sam Altman, fez uma reunião com todos os funcionários para tirar dúvidas da equipe sobre o novo contrato da empresa com o governo dos Estados Unidos. Na conversa, ele falou mais sobre a atual parceria da dona do ChatGPT com o Pentágono.

Desinstalações do ChatGPT disparam em 295% após acordo da OpenAI com os EUA

De acordo com a CNBC, que teve acesso a uma transcrição com as respostas do executivo, ele explicou que a OpenAI não tem qualquer poder de decisão operacional sobre como a inteligência artificial (IA) da companhia será usada por militares.

“Então, talvez você pense que o ataque ao Irã foi bom e a invasão na Venezuela foi ruim. (…) Você não pode opinar sobre isso“, disse Altman. Todas as ações envolvendo IA e guerra passam necessariamente pelo atual secretário do setor, Pete Hegseth.

Por outro lado, o CEO disse ainda que o Pentágono respeita o “conhecimento técnico” da OpenAI, quer sugestões sobre onde os modelos podem ser melhor aplicados e vai deixar que a empresa construa mecanismos de segurança que ela considerar apropriados.

As críticas ao envolvimento militar da OpenAI

A OpenAI fechou nos últimos dias um acordo com o Departamento de Guerra dos EUA para que a IA da empresa seja usada inclusive em operações militares. O caso gerou polêmica, em especial pelas possíveis condições dessa aliança.

A empresa ocupou a posição que antes era da Anthropic, do Claude, mas a companhia perdeu o contrato após se recusar a flexibilizar a segurança da plataforma para permitir o uso dela em vigilância doméstica e controle de armas letais autônomas;O período da troca de empresas deu a entender que a OpenAI teria aceitado as condições do Pentágono. Altman disse no X que não permitiria o uso da tecnologia para vigilância doméstica e nem por agências paralelas de inteligência, como a Agência de Segurança Nacional (NSA);Porém, depois de várias críticas e até uma explosão de downloads do Claude em dispositivos móveis, ele reconheceu que a empresa precisava “revisar o acordo” para reforçar restrições de segurança;

“Uma coisa que acho que fiz de errado: não deveríamos ter nos precipitado para divulgar isso na sexta-feira. As questões são extremamente complexas e exigem uma comunicação clara. Estávamos genuinamente tentando acalmar os ânimos e evitar um desfecho muito pior, mas acho que acabamos parecendo oportunistas e negligentes“, disse o CEO no X.

Ainda assim, a fala de Altman na reunião contrasta com essas explicações e novamente dá a entender que, mesmo que a companhia tenha algumas ressalvas, os militares dos EUA é que darão a última palavra sobre onde e como usar a IA em operações.