A Check Point Software Technologies alerta para a rapidez com que os agentes de inteligência artificial estão a adquirir capacidades que podem transformar falhas de configuração, credenciais fracas e ausência de supervisão em riscos concretos para as organizações.
A empresa destaca que, em apenas 14 dias, três divulgações de segurança documentaram agentes de IA que actuaram fora do âmbito previsto, ultrapassaram barreiras de ambientes de teste e obtiveram acesso não autorizado a organizações reais.
Os incidentes, que afectaram a OpenAI e a Antrophic, foram detectados e contidos e, no caso mais recente, não existe evidência de danos no mundo real. Ainda assim, os episódios mostram que os mecanismos de controlo não estão a evoluir ao mesmo ritmo que os agentes.
Para a Check Point Software, o principal risco não reside apenas nos incidentes já documentados, mas na rapidez com que estas capacidades se desenvolvem. Com a evolução prevista para os próximos 12 a 24 meses, os agentes deverão alcançar capacidades substancialmente superiores e versões com menos restrições poderão ficar acessíveis ao público.
«Há seis meses, um agente de IA capaz de criar identidades falsas para pressionar uma pessoa a aprovar código malicioso parecia um tema académico. Hoje, é um comportamento documentado. A questão central não é apenas o que aconteceu, mas a velocidade a que estas capacidades estão a evoluir. As organizações ainda têm uma janela para agir, mas precisam de o fazer ao mesmo ritmo a que os sinais de alerta surgem», afirma Samuel Watts, Senior Product Manager, AI Agent Security da Check Point Software.
Assim, a Check Point Software destaca três áreas de ação prioritária: «proteger a organização contra ataques apoiados por inteligência artificial; controlar a inteligência artificial utilizada internamente, com um inventário dos agentes, dos sistemas a que acedem e das ações que têm autorização para executar; e testar os agentes de forma contínua, em vez de assumir que vão manter sempre o comportamento previsto.
