Depois de entregar uma celebração desmedida de tarifas e uma rotina sobre os esportes femininos, o presidente Donald Trump entreteve uma multidão, que estava lá para ouvir sobre seu novo plano de ação da IA, com um seus tópicos favoritos: “Wokeness”. Trump reclamou que as empresas de IA sob o ex -presidente Joe Biden “tiveram que contratar todas as pessoas acordadas”, acrescentando que “não é tão legal ser acordado”. E os próprios modelos de IA foram “infundidos com viés partidário”, disse ele, incluindo o odiado espectro da “teoria da raça crítica”. Felizmente para o público, Trump teve uma solução: ele assinou uma ordem executiva intitulada “Prevenir a IA acordada no governo federal”, direcionando as agências governamentais “a não adquirir modelos que sacrifiquem a veracidade e a precisão às agendas ideológicas”.
Para qualquer pessoa com um conhecimento superficial da política e da indústria de tecnologia, a situação real aqui é óbvia: o governo Trump está usando fundos do governo para pressionar as empresas de IA a imitar pontos de discussão Trumpian – provavelmente não apenas em produtos do governo especializados, mas em chatbots que empresas e pessoas comuns usam.
A ordem de Trump afirma que as agências devem apenas adquirir grandes modelos de idiomas (LLMs) que são “verdadeiros ao responder aos avisos de usuários que buscam informações ou análise factuais”, “priorize a precisão histórica, a investigação científica e a objetividade” e são “ferramentas neutras e não partidárias que não manipulam respostas em favor de Dogmas ideológicos como dei como dei” Dei, é claro, é diversidade, equidade e inclusão, que Trump define neste contexto como:
A supressão ou distorção de informações factuais sobre raça ou sexo; manipulação de representação racial ou sexual em resultados de modelos; incorporação de conceitos como teoria crítica da raça, transgênero, viés inconsciente, interseccionalidade e racismo sistêmico; e discriminação com base em raça ou sexo.
(Na realidade, o DEI era tipicamente usado para se referir a programas de direitos civis, justiça social e diversidade antes de ser cooptada como Trump e Maga Bogeyman.)
O Escritório de Gerenciamento e Orçamento foi direcionado a solicitar orientações adicionais dentro de 120 dias.
Enquanto ainda estamos aguardando alguns dos detalhes precisos sobre o que a ordem significa, uma questão parece inevitável: isso afetará plausivelmente não apenas os serviços do governo, mas todo o campo dos principais LLMs. Embora ele insista que “o governo federal deve hesitar em regular a funcionalidade dos modelos de IA no mercado privado”, a realidade é que quase todos os grandes consumidores do Consumer LLM têm (ou desejam desesperadamente) contratos governamentais, inclusive com produtos como o governo da Claude, e o Open’s ChatGpt’s Models. O Openai elogia quantas agências usam seu serviço corporativo; O Plano de Ação da AI de Trump incentiva a adoção de sistemas de IA em arenas voltadas para o público, como a educação, e os limites entre produtos financiados pelo governo e focados no consumidor provavelmente se tornarão ainda mais porosos em breve.
A idéia de Trump de “Dei” é expansiva. Sua guerra contra isso levou os parques nacionais a remover sinalização destacando os povos e mulheres indígenas e o Pentágono a renomear um navio que comemorava o pioneiro dos direitos dos gays Harvey Milk, entre muitas outras mudanças. Mesmo os LLMs cujos criadores apontaram explicitamente o que consideram uma busca neutra da verdade provavelmente produziria algo que Trump poderia achar censurável, a menos que adapte seus serviços.
Não há uma parede dura entre a IA para o governo e tudo mais
É possível que as empresas dediquem recursos a algum tipo de versão do governo especificamente “não-woke” de suas ferramentas, assumindo que o governo concorde em tratá-las como modelos separados do restante da linha de lhama, Claude ou GPT-pode ser tão simples quanto adicionar alguns bastidores nos bastidores, solicitam redirecioná-lo sobre certos tópicos. Mas o refinamento de modelos de uma maneira que os alinhe de forma consistente e previsível em certas direções pode ser um processo caro e demorado, especialmente com um conceito amplo e sempre em constante mudança, como a versão de Trump de “Dei”, especialmente Porque o idioma sugere que simplesmente se separar de certas áreas de discussão também é inaceitável. Existem somas significativas em jogo: o Openai e Xai receberam recentemente contratos de defesa de US $ 200 milhões, e o novo plano de IA criará ainda mais oportunidades. O governo Trump também não é terrivelmente orientado para os detalhes-se alguns usuários x postarem sobre o chatbot de consumo da Anthrópica que valia as pessoas trans, pensamos que Pam Bondi ou Pete Hegseth distinguirão entre “Claude” e “Claude Gov”?
Os incentivos favorecerem as empresas que mudam suas prioridades gerais de alinhamento para amenizar o governo Trump. Isso nos leva ao nosso segundo problema: esse é exatamente o tipo de engenharia social flagrante e ideologicamente motivada que Trump afirma que está tentando parar.
A ordem executiva é teoricamente para garantir que os sistemas de IA produza informações “precisas” e “objetivas”. Mas como o co -fundador da Humane Intelligence e o CEO Rumman Chowdhury observou para The Washington PostA IA que está “livre de viés ideológica” é “impossível de fazer na prática”, e os exemplos escolhidos por cerejeira de Trump são de maneira reveladora politicamente desequilibrada. O pedido condena uma parafuso 2024 rapidamente corrigido, no qual o Google adicionou um filtro de diversidade pró-entusiasta a Gêmeos-fazendo com que ele produza visões de raça e gênero de vikings, os pais fundadores, o Pope e os Soldados Nazi, ao mesmo tempo em que se achavam que a manutenção de um longo intervalo.
Também não está simplesmente interessado em fatos. Outro exemplo é um sistema de IA dizendo “um usuário não deve ‘Madsender’ outra pessoa, mesmo se necessário para interromper um apocalipse nuclear”, respondendo o que é fundamentalmente uma questão de ética e opinião. Essa condenação não se estende a incidentes como a Grok de Xai questionando o Holocausto.
Os LLMs produzem informações incorretas incorretas com um potencial claro para danos no mundo real; Eles podem identificar falsamente pessoas inocentes como criminosas, identificar mal os cogumelos venenosos e reforçar delírios paranóicos. Esta ordem não tem nada a ver com nada disso. Seus incentivos, novamente, refletem o que o governo Trump fez através de investigações de “Dei” de universidades e corporações. Está pressionando as instituições privadas a evitar reconhecer a existência de pessoas trans, desigualdade de raça e gênero e outros tópicos que Trump despreza.
Os sistemas de IA são treinados há muito tempo em conjuntos de dados que refletem vieses culturais maiores e grupos demográficos específicos ou super-representados, e, ao contrário das afirmações de Trump, os resultados geralmente não são “acordados”. Em 2023, Bloomberg descreveu a produção da difusão estável do gerador de imagens como um mundo em que “as mulheres raramente são médicas, advogados ou juízes” e “homens com pele escura cometem crimes, enquanto mulheres com hambúrgueres escuros”. As empresas que valorizam evitar estereótipos feios ou desejam atrair uma gama mais ampla de usuários geralmente precisam intervir ativamente para moldar sua tecnologia, e Trump acabou de fazer isso mais difícil.
Atacar a “incorporação de conceitos” que promove “DEI” efetivamente diz às empresas para reescrever áreas de conhecimento inteiras que reconhecem o racismo ou outras injustiças. A ordem afirma que só está preocupado se os desenvolvedores “codificarem intencionalmente julgamentos partidários ou ideológicos nas saídas de um LLM” e dizem que o LLMS pode fornecer esses julgamentos se “forem solicitados ou prontamente acessíveis ao usuário final”. Mas nenhum CEO da Big Tech deve ser o suficiente para comprar isso – temos um presidente que passou anos acusando o Google de proibir intencionalmente seus resultados de pesquisa porque ele não conseguiu encontrar notícias positivas suficientes sobre si mesmo.
Trump está determinado a controlar a cultura; Seu governo foi atrás de meios de comunicação para plataforma de seus inimigos, universidades para campos de estudo e Disney para promover diversas mídias. A indústria de tecnologia vê a IA como o futuro da cultura – e o governo Trump quer que sua política seja incorporada no térreo.
