Por outro lado, ao introduzir plataformas de monitorização de IA, as empresas também podem melhorar a precisão de seus modelos: «Essas plataformas podem ajudar a identificar erros e inconsistências nos dados, permitindo que as empresas melhorem os seus modelos e algoritmos para um melhor desempenho». Basicamente, estas plataformas «fornecem insights sobre o desempenho do modelo, outliers nas previsões e suspeitas de ataques adversários». Estas, tentam, assim, «resolver um dos problemas da IA – a falta de visibilidade na tomada de decisões algorítmicas – aumentando a transparência em torno das decisões de negócios tomadas usando a IA».
Colmatar falhas na formação dos colaboradores é outro desafio
Muitas das ferramentas de IA disponíveis para as organizações são complexas, mas trazem uma série de benefícios, riscos e desafios sobre os quais todos os utilizadores devem estar cientes. Embora a adopção destas soluções de IA seja feita transversalmente, por vezes há falhas na formação dos colaboradores sobre os riscos associados e na compreensão da extensão desses, sobretudo no que diz respeito a questões de privacidade, segurança e direitos de utilização das informações. É nessa perspectiva que, no entender de Ricardo Martins, expert data scientist na Zühlke, as soluções relacionadas com AI TRiSM se mostram importantes, já que vêm criar, desde o início e em diferentes pilares, um modelo para diminuir falhas e proteger informações: «Para todas as empresas e profissionais que querem ser líderes nos seus sectores, não há grande margem para erro e é preciso ter em mente de forma constante a segurança. Um programa que caminha lado a lado com as políticas de privacidade de dados mais actuais é essencial para diminuir falhas».
À businessIT, o especialista em dados explica que os temas de confidencialidade estão intimamente relacionados com regulamentações e políticas de uso de dados, como o RGPD, estendendo também a preocupação ao funcionamento de IA e o que isso significa: «Estas preocupações com a segurança e privacidade devem estar, de forma constante, no centro da forma como as empresas funcionam, se organizam e evoluem. A confiança de clientes, ou utilizadores, nas organizações e marcas é essencial para a sustentabilidade e longevidade do negócio».
Conformidade e ética na adopção de IA
Segundo Ricardo Martins, assistimos, nos últimos anos, a momentos marcantes e de viragem no que respeita à preocupação dos cidadãos com a preservação da sua privacidade e, no fim do dia, esse é um aspecto determinante para a credibilidade, reputação e crescimento das empresas. Aliás, para o expert data scientist, são soluções baseadas nos pilares basilares do AI TRiSM que vêm dar transparência aos modelos, mostrando como são auditados e analisados de forma constante: «Através da definição de requisitos mínimos aceitáveis e da constante monitorização destes modelos e das suas previsões, é possível perceber algum viés e corrigir ou actualizar esse modelo». Embora no entender de Ricardo Martins isto não seja um garante dessa compatibilidade, estes programas vêm obrigar a uma maior transparência por parte dos modelos e das plataformas: «Há uma escolha mais criteriosa, por parte das empresas, relativamente à conformidade e ética das ferramentas que usam e, com a IA, isso não será diferente».
Viés é normal
É normal que haja viés nos modelos de IA, diz Ricardo Martins, quanto mais não seja porque, na realidade, a vida também é marcado por esse viés: «Nesta perspectiva, inerente ao AI TRiSM, de análise e feedback constante que as plataformas de IA recebem para “alimentar” os seus modelos, é possível ir “treinando” o modelo de forma contínua para estar actualizado e, por isso, diminuir o viés». Assim, é necessário atender às mudanças constantes em todos os parâmetros que possam influenciar os modelos de IA, de modo a reformular e definir ao pormenor o que se pretende para alcançar um resultado o mais alinhado possível: «O que serviu ontem pode já não estar actualizado amanhã, mas esse é o funcionamento normal do mundo – e, por consequência, das plataformas de IA».
