Falhas em agentes de IA expõem brechas no protocolo MCP
Pesquisadores identificam vulnerabilidades em agentes de inteligência artificial que exploram lacunas no Model Context Protocol.
Resumo rápido
- Organizações reconhecem vulnerabilidades em agentes de inteligência artificial.
- Ataques exploram falhas de confiança no protocolo de comunicação MCP.
- Pesquisador independente demonstrou a exploração em testes práticos.
Entenda o contexto
O protocolo MCP (Model Context Protocol) atua como um padrão para a comunicação entre aplicativos e agentes de inteligência artificial em redes internas. A discussão sobre suas falhas de segurança ganha relevância diante da expansão do uso de agentes em ambientes organizacionais.
A adoção de agentes de inteligência artificial em corporações tem gerado novas oportunidades para ataques voltados a ações maliciosas, como a exfiltração de conteúdos de bancos de dados e informações confidenciais. Nos últimos cinco meses, o Google e outras quatro organizações reconheceram vulnerabilidades que exploram um agente dentro de uma rede-alvo para disseminar instruções prejudiciais a outros agentes internos.
A técnica utilizada consiste em uma variação de injeção de comandos voltada para agentes específicos, como os de tradução ou análise de dados, em vez do modelo de linguagem. Como as barreiras de proteção internas costumam ser flexíveis, as instruções maliciosas são repassadas a outros agentes na cadeia, que acabam seguindo os comandos por confiarem explicitamente na fonte inicial.
Testes e lacunas no protocolo MCP
O pesquisador independente Syed Anas Mohiuddin realizou testes em agentes de organizações que incluem o Google, o JP Morgan Chase, a Weviate, a Rapid7, a direção digital interministerial do governo francês e o governo federal dos Estados Unidos. Os ataques de prova de conceito demonstrados exploram lacunas de confiança no Model Context Protocol, conhecido pela sigla MCP.
O padrão atua como uma via de comunicação entre aplicativos e agentes de inteligência artificial dentro de redes internas.
Referências
- Reportagem consultada: Ars Technica — IA
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
