Nvidia Lança Três Novos Microserviços NIM para Aumentar a Segurança em Agentes de IA
A Nvidia está introduzindo três novos microserviços NIM, que são pequenas unidades independentes, mas que fazem parte de aplicações maiores. O objetivo dessas inovações é auxiliar empresas a melhorar o controle e as medidas de segurança de seus agentes de inteligência artificial.
Um desses novos serviços NIM foca na segurança de conteúdo, evitando que um agente de IA produza resultados prejudiciais ou tendenciosos. Outro serviço garante que as conversas permaneçam dentro de tópicos aprovados, enquanto o terceiro ajuda a evitar tentativas de jailbreak, ou seja, a remoção de restrições de software dos agentes.
Esses três novos microserviços fazem parte do Nvidia NeMo Guardrails, uma coleção de ferramentas e microserviços de código aberto da Nvidia, projetada para ajudar as empresas a aprimorar suas aplicações de IA.
“Ao aplicar múltiplos modelos leves e especializados como barreiras, os desenvolvedores podem cobrir lacunas que podem surgir quando apenas políticas e proteções globais mais gerais estão em vigor — já que uma abordagem única não consegue proteger e controlar fluxo de trabalho de IA complexos de forma eficaz”, afirmou o comunicado de imprensa.
Parece que as empresas de IA começam a perceber que convencer as empresas a adotar sua tecnologia de agentes de IA não será tão simples como pensavam inicialmente. Embora figuras como o CEO da Salesforce, Marc Benioff, tenha previsto recentemente que haverá mais de um bilhão de agentes operando apenas na Salesforce nos próximos 12 meses, a realidade pode ser um pouco diferente.
Um estudo recente da Deloitte previu que cerca de 25% das empresas já estão usando agentes de IA ou pretendem utilizá-los até 2025. O relatório também indicou que até 2027, cerca de metade das empresas estarão usando agentes. Isso demonstra que, embora haja um claro interesse por parte das empresas em agentes de IA, a adoção dessa tecnologia não está ocorrendo na mesma velocidade das inovações no setor de inteligência artificial.
A Nvidia espera que iniciativas como essa façam com que a adoção de agentes de IA pareça mais segura e menos experimental. Só o tempo dirá se isso será realmente verdade.
