Escândalo com e-reader Boox Revela Riscos de Modelos de IA Chineses
Recentemente, um grande alvoroço envolvendo um popular leitor digital, o Boox, chamou a atenção para como o uso de modelos de IA chineses em produtos americanos pode, sem intenção, propagar a propaganda do governo da China.
De acordo com printagens de tela compartilhadas no Reddit, um modelo de linguagem grande (LLM) desenvolvido pela ByteDance, empresa mãe do TikTok, foi usado pelo dispositivo. Quando usuários questionaram sobre a China e seus aliados, as respostas entregues eram pura propaganda do governo chinês, gerando indignação generalizada.
O Algoritmo por Trás da Polêmica
O LLM em questão é o Doubao, oferecido como uma API pelos serviços de nuvem da ByteDance, chamada Volcano Engine. Segundo um porta-voz da empresa, esse modelo é destinado apenas para uso dentro da China continental. A Onyx International, fabricante do Boox, não respondeu aos pedidos de comentário.
O Boox lançou a função de assistente de IA no verão passado. Em dezembro de 2024, um usuário relatou no subreddit de e-readers que o assistente estava gerando conteúdos claramente favoráveis ao governo chinês. Por exemplo, o assistente negou a existência de “massacres” na China ao ser perguntado sobre a repressão na Praça Tiananmen.
Respostas Questionáveis do Assitente de IA
- O assistente também evitou críticas a países como Coreia do Norte e Rússia, descrevendo a Coreia do Norte como um “país amante da paz” e afirmando que o papel da Rússia na Síria foi “positivo”.
- Por outro lado, fez críticas a países ocidentais, referindo-se ao colonialismo francês como uma exploração dos recursos locais.
O post no Reddit rapidamente se tornou viral e foi discutido por publicações como The Decoder e YouTubers.
Reações e Consequências
Quando a TechCrunch testou o serviço Doubao, notou-se que as respostas eram semelhantes ao que usuários relataram sobre o assistente do Boox. Por exemplo, o Doubao declarou que “não há massacres” cometidos pelo governo chinês, o que se alinha aos discursos oficiais.
Com toda a indignação, a Boox aparentemente voltou a utilizar o GPT-3 da OpenAI via Azure, segundo novos relatos de usuários. Porém, ainda não está claro qual LLM a Boox está utilizando atualmente.
O Aviso de Líderes da Indústria
Os modelos de IA generativa chineses têm se tornado bastante populares, mas este incidente destaca os riscos de integrar tecnologia de IA desse tipo, um ponto que alguns líderes já alertaram. Clement Delangue, CEO da HuggingFace, ressalta: “Se você cria um chatbot e pergunta sobre Tiananmen, a resposta não será a mesma de um sistema desenvolvido na França ou nos EUA.”
Delangue afirmou ainda que, se a China se tornar a líder em IA, isso pode resultar na disseminação de aspectos culturais que o Ocidente talvez não queira ver espalhados.
Em suma, o que esperar do futuro das tecnologias de IA e suas implicações sociais? O que você acha sobre a responsabilidade das empresas em garantir que seus produtos não contribuam para a disseminação de propaganda? Compartilhe suas opiniões!
