O mais recente ‘State of the Connected Customer’ da Salesforce revela que a inteligência artificial deve ser usada de forma prudente pelas empresas, já que os clientes têm alguma desconfiança em relação a esta tecnologia. O estudo, que entrevistou 11 mil consumidores e 3300 compradores empresariais, em 25 países, mostra que quase três quartos dos entrevistados estão preocupados com o uso anti-ético da IA e com o facto de a inteligência artificial generativa poder introduzir novos riscos para a segurança dos dados. Além disso, 63% dos entrevistados estão preocupados com a possibilidade de a IA não ser imparcial.
Embora a maioria dos compradores empresariais (73%) e dos consumidores (51%) esteja aberta à utilização da IA para melhorar as suas experiências de compra, estes valores diminuíram em relação ao relatório de 2022, em que os dados eram de 82% e 65%, respectivamente.
A verdade é que apenas 37% dos clientes confiam na realidade de os resultados da IA serem tão exactos, como os de um colaborador de uma empresa; para combater esta desconfiança, as organizações têm de trabalhar a transparência e garantir que são os humanos que ainda tomam as decisões. De acordo com o estudo, os factores mais valorizados pelos clientes empresarias e individuais são uma maior visibilidade da utilização da tecnologia (57%), a validação humana dos resultados (52%) e um maior controlo do cliente (49%).
Kathy Baxter, principal architect, responsible AI & tech da Salesforce explica que a «IA ética é uma preocupação urgente para os clientes» e que, por isso, a utilização desta tecnologia «requer uma abordagem centrada na ética». Isto significa «recolher dados com transparência e consentimento, treinar algoritmos em diversos conjuntos de dados e nunca armazenar informações dos clientes de forma insegura».
Adopção de IA generativa
Os resultados do ‘State of the Connected Customer’ revelam ainda que IA generativa tem o poder de transformar os negócios e que, entre os profissionais inquiridos, são os das TI que mais acreditam nisso (84%), seguidos dos comerciais (79%) e dos de marketing (70%). Mas os clientes também acreditam nesta tecnologia: 72% dos compradores profissionais e 48% dos consumidores afirmam que a IA generativa irá ajudar as empresas a servi-los melhor.
A confiança nesta nova tecnologia, que está na moda, muda consoante as idades: a gerações Millennial e Z têm uma opinião mais positiva e estão mais entusiasmadas em relação à IA generativa, contrariamente aos Baby Boomers e à Geração X. No entanto, para todos os segmentos etários, a ‘curiosidade’ é o sentimento mais referido e presente.
De acordo com o estudo, 76% dos clientes acreditam que as empresas fazem afirmações honestas sobre os seus produtos e serviços, mas apenas 57% confiam nas empresas para utilizarem a IA de forma ética.
