A metodologia AI TRiSM centra-se, assim, na confiança, na gestão do risco e na gestão da segurança dos modelos de IA, servindo de guia a uma organização que quer usar IA em larga escala para dar apoio a processos de negócio. «Como referido anteriormente, esta guia serve de “mapa da mina”, mas é necessário utilizar as ferramentas adequadas à sua operacionalização e formar os recursos humanos da empresa, no sentido de estarem sensibilizados para os impactos e riscos da utilização da IA. A segurança e a governança dos modelos de IA irá ter, no médio prazo, impacto na estratégia de qualquer empresa».
Recursos humanos são valiosos
Mas, como pode este conceito ajudar as empresas a avaliar e gerir os riscos associados à adopção de soluções de IA? Segundo Nuno Maximiano, a própria regulamentação define e caracteriza os tipos de riscos associados às soluções de IA, sendo, nesse sentido, importante classificar de forma adequada os diversos tipos de modelos em utilização na empresa e colocar planos de mitigação de risco em prática: «Por exemplo, a IA generativa, pela sua natureza criativa, apresenta um conjunto de factores de risco que são diferentes da IA não-generativa. Na IBM desenvolvemos um conjunto de ferramentas, disponíveis no IBM watsonx, que permitem aos nossos clientes monitorizar em tempo real todos os tipos de modelos, qual o seu desempenho num determinado momento, que riscos estão a emergir e que acções proactivas são propostas para os mitigar, de imediato».
Nuno Maximiano não tem dúvidas de que as empresas devem priorizar a segurança em todo o processo de treino e execução dos modelos de IA, existindo para isso diversas técnicas que podem ser incorporadas para mitigar os ataques. Contudo, é de «extrema importância que os recursos humanos responsáveis pela gestão dos modelos de IA tenham o conhecimento necessário para poder ajustar as medidas defensivas consoante a utilização dos modelos evolui na empresa».
Integração dos sistemas legacy é um desafio
Entre os principais desafios que as empresas enfrentam ao adoptar soluções de IA, Nuno Vieira, CTO da Fujitsu Portugal, destacou a integração de sistemas legacy, alguma falta de expertise ainda nesta área, bem como questões éticas e de privacidade: «Em alguns destes domínios, a IA TRiSM pode, de facto, ajudar a mitigá-los, através de uma abordagem mais estruturada e integrada, enfatizando a transparência, a responsabilidade e a segurança», disse à businessIT. «A IA TRiSM consegue, efectivamente, promover a confidencialidade e protecção da privacidade, ao incorporar práticas de segurança robustas e garantir que os dados são tratados de acordo com as normas de privacidade».
Explicando que a IA TRiSM apresenta um framework que assegura que os modelos de IA estão em conformidade com as regulamentações e normas de conformidade, através de auditorias constantes e adaptação às mudanças legais, Nuno Vieira menciona que, entre os principais componentes do IA TRiSM, encontramos a governance de dados, análise de riscos, compliance, segurança de dados e a própria ética em IA: «Estes componentes trabalham juntos para assegurar a governança e segurança dos modelos de IA».
