O poder transformador da IA está a remodelar as indústrias, em todo o mundo. Na vanguarda desta revolução está, agora, o AI TRiSM, apresentado em português como ‘Gestão de Confiança, Risco e Segurança da IA’, uma estrutura avançada concebida para estabelecer confiança, mitigar riscos e melhorar a segurança neste domínio em constante evolução da tecnologia de IA. O conceito que, basicamente, representa um segmento de mercado para produtos e serviços de governação de IA – desde ferramentas de auditoria e monitorização, a quadros de governação que incluem transparência, gestão de dados e requisitos de segurança – tem sido “validado” pela Gartner, que o define como uma das grandes tendências para os próximos anos. Vamos aos sempre interessantes números: o mercado global de soluções AI TRiSM deverá atingir 7,74 mil milhões de dólares até ao final de 2032, de acordo com relatórios de pesquisa de mercado do Gartner, do Emergen Research e do Allied Market Research.
Acesso à IA tornou-se mais democrático
São vários os factores atribuídos ao rápido crescimento deste mercado de AI TRiSM, desde logo, o óbvio aumento da adopção da IA. A plataforma educacional Technopedia estima que quase metade das empresas está, neste momento, a utilizar IA para melhorar a eficiência operacional e obter vantagens competitivas. Isto é algo apenas possível face à crescente disponibilidade de aplicações de IA por parte de terceiros e interfaces de programas de aplicações (API), que reduziram a barreira para a entrada na IA. Ou seja, o acesso à IA tornou-se mais democrático, mas, por outro lado, criou a necessidade de novos tipos de ferramentas de governança e estruturas de gestão de segurança.
Confiança na tomada de decisões
À medida que a utilização da IA se torna mais comum e parte integrante das operações, as organizações estão cada vez mais conscientes dos potenciais riscos financeiros e de reputação associados à utilização da tecnologia. Esta consciência está a impulsionar a procura de empresas para incorporar a governação da IA nas suas estratégias mais amplas de gestão de riscos e conformidade, potenciando, uma vez mais, o conceito de AI TRiSM.
Por outro lado, a adopção generalizada da IA em domínios de alto risco, como os cuidados de saúde e as finanças, exige confiança nos processos de tomada de decisão: «Os modelos de IA transparentes facilitam a determinação da responsabilidade quando as decisões baseadas em IA levam a consequências não-intencionais, dilemas éticos ou questões legais», fundamenta Margaret Rouse, uma galardoada escritora da área tecnológica conhecida pela sua capacidade para falar para audiências não-tecnológicas.
A questão do “envenenamento de modelos”
Outro aspecto que potencia este conceito tem que ver com o facto de as soluções de AI TRiSM estarem a ser frequentemente comercializadas como ferramentas que facilitam o cumprimento dos benchmarks de IA responsável e a conformidade com padrões regulamentares relativos à justiça, privacidade e segurança de dados. Algumas das ferramentas TRiSM mais populares incluem funcionalidades de segurança concebidas para tornar os modelos de IA menos susceptíveis a problemas de segurança centradas na IA, como o “envenenamento de modelos”, como lhe chama Margaret Rouse.
