Polêmica com e-readers destaca o uso de IA chinesa e a propagação de propaganda
Uma recente controvérsia envolvendo um concorrente popular de leitores digitais, o e-reader Boox, trouxe à tona como a utilização de modelos de inteligência artificial (IA) chineses em produtos dos Estados Unidos pode, sem querer, disseminar propaganda do governo chinês.
De acordo com prints compartilhados no Reddit, um modelo de linguagem grande (LLM), desenvolvido pela ByteDance, a empresa-mãe do TikTok, foi incorporado ao Boox. Quando questionado sobre a China e seus aliados, este modelo respondeu com propaganda do governo chinês, gerando um grande clamor entre os usuários.
O modelo em questão
O LLM utilizado é o Doubao, oferecido como parte da Volcano Engine, divisão de serviços em nuvem da ByteDance. No entanto, um representante da empresa afirmou que esse modelo foi criado para ser utilizado apenas dentro da China. A fabricante do e-reader, a Onyx International, que vende os dispositivos tanto na China quanto nos EUA, não respondeu aos pedidos de comentário.
O lançamento da funcionalidade de IA
A funcionalidade de assistente de IA do Boox foi lançada no verão passado. Em dezembro de 2024, um usuário postou em um subreddit de e-readers que o novo assistente estava gerando propaganda do governo chinês em resposta a perguntas específicas. Por exemplo, ele negou a ocorrência de “massacres” na China quando questionado sobre o massacre da Praça Tiananmen.
Além disso, o assistente de IA evitou críticas à Coreia do Norte e à Rússia, chamando a Coreia do Norte de “país amante da paz” e afirmando que o papel da Rússia na Síria era positivo. Em contraste, o assistente não hesitou em criticar países ocidentais, mencionando que o colonialismo francês muitas vezes envolvia exploração de recursos locais.
A repercussão
A postagem no Reddit se tornou viral e foi coberta por publicações de tecnologia e no YouTube. Quando a equipe da TechCrunch testou o serviço Doubao e fez perguntas semelhantes, as respostas se alinharam com as informações que o assistente do Boox forneceu. Por exemplo, ao afirmar que “não houve massacres” da população pelo governo chinês, se distanciou de outros LLMs chineses que em geral evitam esse tipo de discussão.
Além disso, o Doubao frequentemente usa o termo “suposto” para descrever o que o governo chinês não aprova. Um exemplo disso foi quando afirmou que não existe “genocídio” em Xinjiang, imitando a linguagem de porta-vozes do governo.
A mudança no assistente de IA
A repercussão sobre o assistente da Boox diminuiu após relatos de que ela teria retornado ao uso do GPT-3 da OpenAI por meio da Microsoft Azure. Contudo, ainda não está claro qual modelo de LLM o Boox utiliza atualmente. A empresa não divulgou declarações sobre o incidente, enquanto a OpenAI e a Microsoft não responderam imediatamente aos pedidos de comentário.
Reflexões sobre IA chinesa
Os modelos geradores de IA chineses estão entre os mais utilizados atualmente. No entanto, essa situação revela os riscos associados ao lançamento de ferramentas que incorporam a IA generativa chinesa, um ponto já alertado por líderes do setor. O CEO da Hugging Face, Clement Delangue, destacou em um podcast que um chatbot desenvolvido na China responderia de maneira diferente do que um desenvolvido na França ou nos Estados Unidos em relação a questões delicadas.
A discussão em torno desta polêmica é ampla e nos leva a refletir sobre o impacto da IA em nossa sociedade e as influências culturais que ela pode levar a um público global. É crucial que tenhamos um olhar crítico sobre como essas tecnologias são integradas e utilizadas, especialmente quando se trata de narrativas políticas.
