Inteligência Artificial gera dilema para empresas
A Inteligência Artificial (IA) apresenta um desafio curioso para as empresas. De um lado, a implementação da tecnologia promete ganhos de produtividade e outros benefícios valiosos. Mas, por outro lado, se feita de maneira inadequada, pode expor os negócios e clientes a riscos significativos.
É nesse cenário que surgem novas startups focadas em “segurança para IA”. A proposta dessas empresas é lidar com ameaças que não podem ser ignoradas, como o jailbreak e a injeção de prompts.
Entre as startups que estão nesse movimento, temos a israelense Noma, as concorrentes estadunidenses Hidden Layer e Protect AI, além da britânica Mindgard, uma spinoff de universidade. Segundo o CEO e CTO da Mindgard, Professor Peter Garraghan,
“A IA ainda é software, portanto, todos os riscos cibernéticos que você provavelmente ouviu falar também se aplicam à IA.”
Caminho inovador para a segurança da IA
O que diferencia a Mindgard é sua abordagem chamada Dynamic Application Security Testing for AI (DAST-AI), que visa identificar vulnerabilidades durante a execução da aplicação. Isso é feito por meio de uma simulação contínua e automatizada de ataques, usando a biblioteca de ameaças da Mindgard. Por exemplo, a plataforma pode testar a robustez de classificadores de imagem contra entradas adversariais.
A tecnologia da Mindgard se beneficia do histórico de Garraghan como professor e pesquisador em segurança da IA. O campo está em rápida evolução — conforme ele mesmo destacou, quando começou a trabalhar nele, o ChatGPT ainda não existia, mas ele já previa que modelos de linguagem natural e de imagem enfrentariam novas ameaças.
Expansão e estratégias da Mindgard
A companhia, que agora está consolidada no mercado, tem como clientes naturais as grandes empresas, assim como equipes tradicionais de red teaming e teste de penetração. No entanto, a Mindgard também colabora com startups de IA que precisam demonstrar sua capacidade em prevenir riscos associados.
Com muitos desses clientes potenciais localizados nos EUA, a Mindgard decidiu adicionar um toque americano a sua base de investidores. Após levantar £3 milhões em rodada seed em 2023, a startup agora anuncia uma nova rodada de investimento de $8 milhões, liderada pela Boston-based .406 Ventures, com a participação da Atlantic Bridge, WillowTree Investments, além de investidores já existentes.
O futuro da Mindgard
Com esses recursos, a Mindgard pretende
“construir a equipe, desenvolver produtos, realizar P&D e tudo o que se espera de uma startup”, além de expandir suas operações para os EUA. Fergal Glynn, ex-CMO da Next DLP e agora VP de marketing da empresa, está baseado em Boston, enquanto pesquisa e engenharia continuarão em Londres.
A equipe da Mindgard conta com 15 colaboradores e deve permanecer pequena, com planos de alcançar de 20 a 25 pessoas até o final do próximo ano. Garraghan observa que a segurança da IA “ainda não está em seu auge”. Porém, quando a IA começar a ser amplamente adotada e as ameaças de segurança crescerem, ele acredita que a Mindgard estará pronta para o desafio.
“Criamos esta empresa para fazer o bem ao mundo, e esse bem é permitir que as pessoas confiem e usem a IA de maneira segura e protegida”, conclui Garraghan.
