A implementação de soluções baseadas em IA na estratégia de cibersegurança das empresas apresenta desafios que vão além da tecnologia, defende Filipe Poeiras, CSO da CompuWorks: «Um dos principais desafios é garantir a qualidade dos dados recolhidos, uma vez que para que as ferramentas de IA funcionem de forma eficaz necessitam de dados precisos e diversificados, algo que muitas organizações nem sempre conseguem assegurar».
Outro desafio é a integração com sistemas legacy: «Na CompuWorks, lidamos com muitas empresas que ainda dependem de infra-estruturas antigas que não foram projectadas para trabalhar com IA, tornando o processo de integração complexo e, por vezes, dispendioso», garante Filipe Poeiras. A compatibilidade entre as tecnologias mais antigas e as novas ferramentas, segundo este especialista, pode ser um «obstáculo que dificulta a eficácia das implementações». Além disto, Filipe Poeiras diz ser essencial equilibrar a automação e supervisão humana: «Por mais avançados que os algoritmos sejam, continuam susceptíveis a erros o que, numa situação crítica, pode levar a decisões incorrectas se não houver uma supervisão adequada».
Por fim, há a questão da cibersegurança da própria IA. Estas soluções podem ser alvos atractivos e exploradas por atacantes, para obter informações sensíveis ou manipular os seus resultados; assim, a CompuWorks tem vindo a «implementar medidas de protecção robustas para evitar compromissos». Para Filipe Poeiras, a conjugação destes factores exige uma «abordagem estratégica, com foco tanto na tecnologia, como nas pessoas e processos», para que a implementação da IA traga os resultados «esperados, sem comprometer a segurança das pessoas».
Falta de histórico é entrave
Nuno Ruivo relembra que um dos desafios que maior impacto tem tido durante a implementação de soluções baseadas em IA é a falta de dados de histórico de qualidade que permitam ser utilizados para definir o verdadeiro padrão de funcionamento dos sistemas: «Esta ausência de dados de qualidade limita a eficácia dos modelos de IA, pelo que uma das soluções que tem sido considerada muito promissora é a possibilidade de utilização de dados sintéticos, e com isto, permitir treinar modelos simulando cenários reais».
Por outro lado, a falta de recursos qualificados nestas áreas «limita a capacidade de resposta das empresas», que, aliada à evolução tecnológica que estamos a testemunhar, onde vemos uma constante evolução das tecnologias associadas à IA, e à constante evolução das tipologias de ameaças de segurança, «cria grandes desafios para que as empresas se mantenham protegidas de ameaças». Nuno Ruivo diz ainda que existem muitas pessoas que ainda não têm sensibilidade para temas relacionados com segurança, e que, por vezes, «são os canais de entrada das ameaças dentro das organizações».
Ou seja, segundo este especialista, ainda existe um longo trabalho de consciencialização para temas de segurança, a nível empresarial.
