A IA também está do outro lado
Na EDP, a IA já complementa o trabalho das equipas de cibersegurança «através da identificação de anomalias em grandes volumes de dados, da correlação de eventos de múltiplas fontes, da detecção de comportamentos suspeitos e do apoio à investigação, resposta e reporte de incidentes de forma mais rápida e eficaz». Na VisionWare, Bruno Castro destaca precisamente a capacidade de processar informação que dificilmente poderia ser analisada manualmente. «Num SOC, por exemplo, o valor não está apenas em receber milhares de alertas, mas sim em conseguir distinguir rapidamente aquilo que é ruído daquilo que pode representar uma ameaça real. É precisamente aqui que modelos de machine learning e IA podem aumentar a capacidade das equipas».
Stanislav Kazanov diz já ter observado casos em que a automatização reduziu de horas para minutos o tempo necessário para investigar ambientes com centenas de dependências. E a própria CyberX está a utilizar IA no trabalho de segurança ofensiva. A empresa desenvolveu o CyberXtreme AI Pentest, que utiliza IA para analisar continuamente superfícies de ataque, aplicações e infraestruturas, identificar potenciais vulnerabilidades e ajudar a testar possíveis caminhos de ataque.
Mas David Silva salienta uma decisão tomada desde o início: «Não retirar o hacker do processo». E salienta que «a IA pode gerar centenas de potenciais descobertas. Um profissional de segurança continua a ter de determinar o que é realmente explorável, se o resultado é um falso positivo, como podem diferentes vulnerabilidades ser combinadas e qual é o verdadeiro impacto para o negócio».Ou seja, segundo o especialista, mais IA não significa automaticamente mais segurança. «Algumas das vulnerabilidades mais graves que encontramos não são falhas óbvias que um scanner consegue identificar. Resultam da compreensão da forma como diferentes partes de um sistema interagem e da combinação de fragilidades de maneiras que os programadores nunca anteciparam», explica David Silva.
Bruno Castro deixa um aviso semelhante. «Quanto mais automatizamos, mais importante se torna saber validar aquilo que está a ser automatizado». Um sistema pode detectar uma anomalia, mas continua a ser necessário contexto para determinar se existe efectivamente uma ameaça, qual será o impacto e qual deve ser a resposta. «Existe, por isso, um risco real de dependência se as organizações utilizarem estas ferramentas como uma “caixa preta”. A IA deve aumentar a capacidade das equipas, e não eliminar a responsabilidade humana sobre as decisões».
