Os fronteiras éticas da IA
Para Daniela Costa, chief operating officer da Eurotux, a IA generativa enfrenta desafios como o consumo intenso de recursos computacionais e a necessidade de vastos conjuntos de dados de qualidade para treino: «A precisão na determinação do output gerado é outra limitação técnica. Além disso, a complexidade da tecnologia e um certo desconhecimento sobre as suas capacidades têm dissuadido algumas empresas de a explorar profundamente», disse à businessIT.
A COO, para quem o uso da IA generativa em campos como arte, música e notícias suscita preocupações éticas, assume que emergem questões de propriedade intelectual, uma vez que não está claro quem detém os direitos sobre obras geradas por máquinas: «A possibilidade de a IA replicar estilos coloca em causa a valorização da originalidade. E, no jornalismo, o risco de disseminação de desinformação através de notícias geradas por IA é muito real».
Aliás, para Daniela Costa, existe o risco de a IA generativa ser usada de forma prejudicial ou enganosa: «Definitivamente, um dos maiores riscos da IA generativa é a sua potencial utilização em deepfakes, bem como na criação de código malicioso para ataques cibernéticos. As capacidades avançadas dos modelos generativos podem ser usadas para produzir conteúdo altamente enganoso, seja para difamação, manipulação política ou até fraude».
Para a executiva, adaptar-se a esta realidade requer uma combinação de educação e literacia digital: «A sociedade precisa ser informada sobre as capacidades e limitações da IA generativa. Além disso, o desenvolvimento e disseminação de ferramentas que detectem conteúdo gerado por IA serão fundamentais para o controlo destas tecnologias».
Assumindo que se espera uma integração cada vez maior da IA generativa em diversas ferramentas de software e operações empresariais, Daniela Costa refere que muitas empresas, já com as suas equipas internas de data science e IA, estão a aplicar modelos generativos na análise e processamento de documentação interna. «A IA generativa tem o potencial de remodelar o mundo laboral, automatizando tarefas e introduzindo novos paradigmas. Economicamente, pode abrir portas para modelos de negócios inovadores e reforçar competências como curadoria e interpretação de conteúdo gerado por IA. Mais do que originar a perda de empregos, a IA pode tornar cada ser humano muito mais produtivo e capaz no seu dia-a-dia», prevê a responsável da Eurotux.
Daniela Costa é da opinião que muitas empresas estão já a incorporar soluções de IA generativa nas suas operações diárias, não apenas para acelerar processos, mas também para explorar novas perspetivas criativas, optimizar a produção e atingir mercados de formas inovadoras: «Alguns exemplos práticos são a geração de uma comunicação interna com base em alguns tópicos, o planeamento de um evento com todos os passos detalhados, ou a criação de uma campanha de marketing para o lançamento de um novo produto». A especialista avança que está a emergir um nicho focado em ferramentas e soluções de IA generativa, destacando-se o “prompt engineering”, referindo-se à técnica de formular instruções para dirigir eficazmente modelos de linguagem generativos.
