OpenAI revela uso secreto de ChatGPT pela China em campanhas de propaganda

China usou ChatGPT em operações secretas de propaganda, revela OpenAI

Com o avanço da inteligência artificial (IA), seu uso indevido se torna cada vez mais frequente. A OpenAI, responsável pelo famoso ChatGPT, revelou recentemente que interrompeu diversas campanhas secretas de influência, sendo quatro delas relacionadas à China, nas quais seus sistemas de IA foram usados para manipular conversas online e disseminar propaganda.

Essas campanhas fazem parte de um fenômeno maior, que inclui operações também associadas a Rússia, Irã e Coreia do Norte. A China utilizou o ChatGPT para criar publicações e comentários politicamente carregados, além de gerar identidades falsas com o intuito de influenciar interações em redes sociais. Uma das campanhas chinesas, chamada “Tio Spam”, visava criar controvérsias sobre questões sensíveis nos Estados Unidos.

As investigações da OpenAI mostraram que essas campanhas não se limitaram à criação de conteúdo. A IA foi usada para simular interações reais e até para criar relatórios de desempenho, que eram passados aos responsáveis pelas campanhas para avaliar sua eficácia.

Ben Nimmo, chefe da análise de ameaças na OpenAI, alertou sobre um “grande número de operações secretas” vindas da China, destacando a evolução das táticas de desinformação. Essas campanhas não se limitaram a publicações anônimas, mas também incluíram e-mails gerados por IA enviados a jornalistas, políticos e analistas para ganhar sua confiança sob falsos pretextos e obter informações.

Esse relatório destaca a necessidade urgente de uma colaboração global no desenvolvimento de uma IA ética. Embora a IA possa ser uma grande força para o bem – em áreas como saúde, educação e pesquisa – ela também pode ser usada para a guerra psicológica e para disseminação de desinformação, se não for devidamente controlada.

As revelações da OpenAI marcam um ponto de virada na governança da IA. À medida que o abuso dessas ferramentas se torna mais sofisticado, a questão não é apenas se a IA pode ser controlada, mas quem será responsável quando isso não ocorrer. Se ferramentas avançadas como o ChatGPT se tornarem mercenários digitais em campanhas de influência, a transparência, a supervisão e a resiliência precisam ser integradas no sistema desde o início.

O recado é claro: a IA não é mais um simples instrumento, ela é uma arma. E como toda arma, tudo depende de quem a utiliza.