Isso significa prestar mais atenção à qualidade dos dados, ao ciclo de vida dos modelos, à transparência das decisões e à capacidade de explicar como os sistemas funcionam. Na Starkdata, Catarina Santos Nunes acredita que o AI Act representa um ponto de viragem. «O regulamento europeu decreta o fim da era da ‘caixa-negra’ tecnológica», admitindo que as organizações deixam de poder limitar-se a comprar tecnologia e esperar que tudo funcione para passarem a ter de conhecer a proveniência dos dados, monitorizar continuamente os modelos utilizados, exigir transparência aos fornecedores e garantir supervisão humana sobre os sistemas. «A conformidade com o AI Act é apenas a linha de partida», sustenta. «A verdadeira soberania tecnológica é uma maratona operacional de controlo de risco». A responsável considera que a soberania não é um estado que se alcança uma vez, mas uma capacidade que tem de ser mantida todos os dias. «À medida que os modelos de IA operam, interagem com novos fluxos de dados e sofrem actualizações dos fornecedores, a perda de controlo invisível é constante se não existirem ferramentas de monitorização contínua».
Portugal ainda está a aprender a fazer as perguntas certas
Na opinião dos especialistas ouvidos pela businessIT, a maturidade das organizações portuguesas em matéria de soberania da IA continua a ser muito desigual, com os sectores mais regulados a serem os primeiros a colocar estas questões, não apenas por imposição legal, mas porque já estavam habituados a lidar com temas como continuidade operacional, localização dos dados ou auditoria. «Banca, seguros e administração pública lideram claramente», observa Pedro Teixeira. «Também temos visto uma preocupação crescente na indústria e nas infra-estruturas críticas, onde a continuidade operacional é, por si só, um requisito de negócio».
Nos restantes sectores, o cenário é diferente. «A prioridade ainda é a adopção rápida, e a urgência da soberania surge mais tarde, normalmente depois de um incidente, uma auditoria ou uma exigência contratual de um cliente ou parceiro», acrescenta. Também Catarina Santos Nunes entende que grande parte das empresas portuguesas continua focada nos ganhos imediatos de produtividade. «A preocupação com a resiliência profunda, a autonomia tecnológica e a independência face a fornecedores externos ainda não é a norma na maioria das organizações», reconhece. Ainda assim, acredita que essa realidade está a mudar rapidamente. «O actual contexto tecnológico e regulatório europeu, e a crescente sofisticação das ameaças à segurança dos dados, estão a funcionar como um catalisador inevitável de mudança».
Muito para lá da conformidade
Ao longo desta reportagem, uma ideia repetiu-se de diferentes formas. Soberania não significa construir toda a tecnologia na Europa. Não significa abandonar plataformas globais. Nem tão pouco implica desenvolver modelos próprios para todas as aplicações. Significa, acima de tudo, manter capacidade de decisão. Significa saber de que depende a inteligência artificial utilizada pela organização, perceber onde estão os pontos críticos, evitar dependências desnecessárias e garantir que existe liberdade para mudar de rumo quando as circunstâncias o exigirem. Na IBM, Gonçalo Costa Andrade acredita que esta será uma das grandes diferenças entre as organizações que simplesmente adoptam inteligência artificial e aquelas que conseguem transformá-la numa vantagem competitiva. «As organizações que tiverem sucesso serão aquelas que conseguirem escalar a utilização da IA mantendo simultaneamente o controlo sobre os seus dados, modelos e operações».
Ulrich Ahle deixa uma ideia semelhante quando defende que a Europa deve deixar de olhar para a soberania como um conceito abstracto e passar a tratá-la como uma tarefa concreta. «A Europa tem de deixar de encarar a soberania como um objectivo abstracto e começar a tratá-la como uma tarefa de implementação». No fundo, e se é possível retirar apenas uma conclusão, a soberania da IA não se resume à localização dos dados nem à escolha de um fornecedor. Mede-se pela capacidade de uma organização manter liberdade de decisão sobre uma tecnologia que será cada vez mais crítica para o seu negócio.
