A mudança estrutural que é expectável através dos agentes inteligentes só consegue, no entender do INESC TEC, efectivamente ser concretizada «após uma análise estratégica e cuidadosa dos objectivos de negócio das entidades e do seu alinhamento com as fontes/relações de dados recolhidos ao longo da cadeia de valor, de modo a que agentes inteligentes possam ter as melhores fontes de dados ao nível da qualidade e, portanto, possam fornecer as respostas atempadas, com maior eficácia e direccionadas às intenções de melhoria das entidades».
Um agente não falha necessariamente por um erro de raciocínio
Ayise Trigueiros, Data & AI Solution advisor da SAP Portugal, acrescenta à conversa que a confiança em agentes inteligentes capazes de apoiar ou executar decisões críticas exige muito mais do que modelos avançados de IA. «Requer uma combinação de dados confiáveis, governação rigorosa, integrações robustas e supervisão humana adequada. Na prática, o que determina a confiança num agente não é a sofisticação do modelo, mas a solidez da infra-estrutura empresarial que o suporta». Quanto à qualidade dos dados, explica que os agentes de IA são tão eficazes quanto os dados que utilizam. «Como tomam decisões com base no contexto que consomem, qualquer erro, lacuna ou inconsistência nos dados pode ser amplificado à escala dos processos que executam».
Por isso, defende que os dados críticos devem ser precisos, completos e consistentes, governados por responsáveis claramente definidos, protegidos por regras de negócio e totalmente rastreáveis ao longo de todo o seu ciclo de vida. «É igualmente essencial que exista uma definição comum dos principais conceitos de negócio para que diferentes áreas da organização operem sobre a mesma realidade empresarial». Em última análise, explica Ayise Trigueiros, um agente não falha necessariamente por um erro de raciocínio. Muitas vezes, falha porque recebeu informação incorrecta. E quando a execução é automatizada, esse erro pode propagar-se de forma rápida e sistemática.
Já a governação «estabelece os limites dentro dos quais os agentes podem operar. Sem governação, a autonomia transforma-se rapidamente em risco». Para a especialista, isso implica definir claramente responsabilidades e níveis de autoridade, aplicar políticas de segurança e conformidade, monitorizar continuamente o desempenho dos agentes e garantir que os modelos são avaliados e revistos de forma periódica. «As organizações precisam igualmente de mecanismos que permitam compreender, auditar e justificar as acções tomadas pelos agentes». Quanto à integração, Ayise Trigueiros diz que um agente só consegue gerar valor quando está inserido no contexto real da organização. «A diferença entre uma IA genérica e uma IA verdadeiramente empresarial não reside apenas na conectividade técnica, mas sobretudo na capacidade de compreender o significado dos dados, dos processos e das relações de negócio». Para isso, diz serem necessárias integrações fiáveis, API e eventos empresariais consistentes, controlos transaccionais, mecanismos de observabilidade e elevados níveis de resiliência operacional. «Os agentes precisam de compreender não apenas os dados, mas também o contexto em que esses dados existem e são utilizados».
Por último, a abordagem da SAP assenta na supervisão humana, que não é considerada uma fase transitória da adopção da IA, mas um princípio permanente para decisões de maior impacto ou risco. «Na prática, isso significa definir antecipadamente os processos que exigem aprovação humana explícita, estabelecer mecanismos de contingência para situações excepcionais, garantir a identificação clara de conteúdos e recomendações gerados por IA, implementar segregação de funções em arquitecturas multiagente e utilizar métricas objectivas para avaliar resultados e comportamentos».
