Quando a Presidente da Comissão Europeia fez o seu primeiro discurso perante o Parlamento Europeu, em dezembro de 2019, reconheceu oficialmente a “Inteligência Artificial” como uma área de importância estratégica para a União Europeia. Nove meses depois, ao dirigir-se mais uma vez ao Parlamento Europeu com o seu “discurso [inaugural] sobre o Estado da União”, ela deixou de dizer “Inteligência Artificial” por inteiro para expressá-la como “IA” – de tão conhecida que a tecnologia é agora dentro do espaço da UE. Isso não é assim tão surpreendente, num momento em que a IA está a ser empregue na maioria dos setores da economia (senão todos), desde o diagnóstico de doenças à minimização do impacto ambiental da agricultura.
É verdade que muito do trabalho tem sido feito pela Comissão Europeia desde que a Presidente Ursula Von der Leyen e a sua equipa tomaram posse. Em dezembro de 2019 já houvera sido prometida uma “proposta legislativa” para a IA – com efeito, em seu lugar, foi apresentado, em fevereiro, um White Paper relativo à IA. Apesar de, temos de admitir, não ser uma proposta legislativa, é um documento que deu início ao debate sobre a IA humana e ética, a utilização de Big Data e como estas tecnologias podem ser utilizadas para gerar valor para a sociedade e para o mundo empresarial.
O White Paper da Comissão salienta a importância de estabelecer uma abordagem uniforme à IA nos 27 Estados-Membros da UE, pois diferentes países começaram a adotar a sua própria abordagem em termos de regulamentação e, portanto, estão, potencialmente, a erguer barreiras ao mercado único da UE. Também aborda aquilo que é importante para a Huawei: os planos para adotar uma abordagem com base no risco para regulamentar a IA.
Na Huawei, estudamos o White Paper com interesse e, juntamente com (mais de 1250!) outras partes interessadas, contribuímos para a consulta pública da Comissão, que terminou em 14 de junho, dando o nosso contributo e ideias como especialistas que trabalhamos neste campo.
Encontrar o equilíbrio
O principal ponto que salientamos para a Comissão é a necessidade de encontrar o equilíbrio certo entre permitir a inovação e garantir a proteção adequada dos cidadãos.
Em particular, concentramo-nos na necessidade de as aplicações de alto risco serem regulamentadas sob uma estrutura legal clara e propusemos ideias de como deveria ser a definição de IA. A este respeito, acreditamos que a definição de IA deve resumir-se à sua aplicação, com avaliações de risco a focar a utilização prevista da aplicação e o tipo de impacto resultante da função da IA. Se houver listas de avaliação detalhadas e procedimentos em vigor para as empresas fazerem as suas próprias autoavaliações, então, isso reduzirá o custo da avaliação de risco inicial – que tem de corresponder aos requisitos específicos do setor.
Recomendamos que a Comissão analise a possibilidade de reunir organizações de consumidores, universidades, Estados-Membros e empresas para avaliar se um sistema de IA pode ser qualificado como sendo de alto risco. Já existe um órgão estabelecido para lidar com este tipo de questões – o Comité Técnico permanente de Sistemas de Alto Risco (TCRAI). Acreditamos que este órgão pode analisar e avaliar os sistemas de IA face aos critérios de alto risco, tanto a nível legal como técnico. Se este órgão assumisse algum controlo, combinado com um sistema de rotulação voluntária, seria oferecido um modelo de governança que
• consideraria toda a cadeia de fornecimento
• definiria os critérios certos e teria em vista o alcance do objetivo pretendido de transparência para consumidores/empresas
• incentivaria o desenvolvimento responsável e a implementação de IA, e
• criaria um ecossistema de confiança.
Fora das aplicações de alto risco da IA, declaramos à Comissão que o quadro jurídico existente com base na responsabilidade sobre as faltas e na responsabilidade contratual é suficiente – mesmo para tecnologias de ponta como a IA, onde poderia haver o medo de a nova tecnologia exigir novas regras. A regulamentação extra é, contudo, desnecessária; seria uma sobrecarga e desincentivaria a adoção da IA.
Pelo que sabemos das atuais considerações da Comissão, tudo aparenta que esta também pretende adotar uma abordagem com base nos riscos para regulamentar a IA. Em específico, a Comissão propõe concentrar-se a curto prazo em aplicações de IA de “alto risco” – quer se trate de setores de alto risco (como a saúde) ou de utilizações em situação de alto risco (por exemplo, caso produza efeitos legais ou igualmente significativos nos direitos de um indivíduo).
Então, o que acontece a seguir?
A Comissão tem muito trabalho a fazer ao abordar todas as respostas da consulta, tendo em conta as necessidades das empresas, da sociedade civil, das associações comerciais, das ONG e outros. O esforço acrescido de ter de lidar com a crise do coronavírus não tem ajudado propriamente, não se esperando uma resposta formal da Comissão agora senão até ao primeiro trimestre de 2021.
O coronavírus veio mudar tudo em termos de utilização da tecnologia no setor da saúde e, sem dúvida, terá um impacto nas considerações da Comissão nesta área. Termos como “telemedicina” são falados há anos, mas a crise transformou as consultas virtuais numa realidade – quase da noite para o dia.
Além da saúde, vemos uma contínua implementação da IA em áreas como a agricultura, assim como no âmbito dos esforços da UE para combater as mudanças climáticas. Na Huawei, estamos orgulhosos por fazer parte deste contínuo desenvolvimento digital na Europa – uma região na qual e para a qual trabalhamos há 20 anos. O desenvolvimento das competências digitais é o centro de interesse, o que não apenas vem equipar as gerações futuras com as ferramentas para aproveitar o potencial da IA, mas também permitirá à atual força de trabalho ser ativa e ágil num mundo em constante mudança: é necessário que a abordagem à educação e à formação no âmbito da IA seja inclusiva, sustentada na aprendizagem ao longo da vida e orientada para a inovação, para ajudar as pessoas a fazerem a transição entre empregos sem problemas. O mercado de trabalho sofreu um forte impacto devido à crise e são necessárias soluções rápidas.
Enquanto aguardamos a resposta formal da Comissão ao White Paper, o que mais haverá a dizer sobre a IA na Europa? Melhores cuidados de saúde, transportes mais seguros e limpos, produção mais eficiente, agricultura inteligente e fontes de energia mais baratas e sustentáveis: estes são apenas alguns dos benefícios que a IA poderá trazer às nossas sociedades e à UE no seu todo. A Huawei trabalhará com os legisladores da UE e esforçar-se-á por assegurar que a região irá obter o equilíbrio certo: inovação combinada com proteção ao consumidor.
