OpenAI encerra contas ligadas a uma suposta ferramenta de vigilância chinesa

A OpenAI baniu várias contas que alegadamente utilizaram o ChatGPT para criar uma ferramenta de monitorização dos meios de comunicação social destinada a denunciar protestos anti-China nos EUA e noutros países ocidentais. A empresa afirma que a rede estava provavelmente ligada à China.

A OpenAI está a apertar o cerco à utilização abusiva da IA, encerrando várias contas que alegadamente utilizavam o ChatGPT para alimentar uma ferramenta de vigilância das redes sociais. As contas estavam supostamente ligadas a uma operação apoiada pela China que visava coletar dados em tempo real sobre protestos anti-China nos EUA, Reino Unido e outras nações ocidentais, de acordo com um relatório da OpenAI.

O chamado "Qianyue Overseas Public Opinion AI Assistant" foi descrito em materiais de marketing como um software projetado para rastrear e relatar discussões online sobre protestos de direitos humanos diretamente para as autoridades chinesas, agências de inteligência e embaixadas. A OpenAI não conseguiu verificar de forma independente a existência da ferramenta, mas teve acesso a materiais promocionais que detalhavam as suas capacidades - principalmente a análise de plataformas como X, Facebook e Instagram para conversas relevantes.

Ben Nimmo, um dos principais investigadores da OpenAI, chamou o caso de um exemplo preocupante de um "regime autoritário tentando explorar a IA baseada nos EUA para fins antidemocráticos". As descobertas ocorrem à medida que as tensões crescem sobre o uso da tecnologia ocidental pela China, com a OpenAI alertando ativamente os formuladores de políticas dos EUA sobre os riscos de segurança nacional da IA chinesa.

As contas banidas também fizeram referência ao uso de outros modelos de IA, incluindo o Llama de código aberto da Meta. A Meta reconheceu a possibilidade, mas salientou que os maus actores têm acesso a muitas ferramentas de IA, incluindo as desenvolvidas na China.

Esta não é a primeira vez que a OpenAI toma medidas contra actividades questionáveis. A empresa também baniu contas ligadas a operações de influência iraniana, golpes de emprego relacionados à Coreia do Norte e outra rede afiliada à China que gera conteúdo em espanhol crítico ao governo dos EUA.

Com a ascensão de startups chinesas de IA como a DeepSeek, a OpenAI está a considerar abrir alguns dos seus próprios modelos para competir. Entretanto, os decisores políticos dos EUA estão a tentar equilibrar a inovação da IA com as preocupações de segurança nacional.