Os grandes modelos de linguagem são mais persuasivos do que os humanos, de acordo com uma pesquisa recente da UBC – Universidade da Columbia Britânica, Canadá.
O seu vocabulário, empatia e capacidade de fornecer recursos tangíveis em segundos aumentam a sua persuasão, o que tem levado a preocupações crescentes e a processos judiciais em curso sobre o potencial de os chatbots de IA causarem danos aos utilizadores.
A Dra. Vered Shwartz, professora assistente de ciência da computação na UBC e autora do livro “Lost in Automatic Translation” (Perdidos na Tradução Automática), discute as suas descobertas, bem como as possíveis salvaguardas para o futuro da IA.
Grandes modelos de linguagem como o ChatGPT são já amplamente utilizados para criar conteúdo que pode influenciar as crenças e decisões humanas, seja na arte, no marketing, na divulgação de notícias e muito mais. Podem produzir rapidamente grandes volumes de texto em larga escala. Se forem persuasivos, existe um risco real de que as pessoas os utilizem para manipular outras pessoas com propósitos maliciosos. Talvez já tenhamos passado do ponto de decidir se devem ser utilizados nessas áreas e, em vez disso, precisamos de nos concentrar em encontrar formas de nos protegermos contra utilizações maliciosas.
A Dra Schwartz descreveu: queríamos ver o quão persuasivos podem ser modelos de linguagem como o ChatGPT em relação a decisões de estilo de vida: tornar-se vegan, comprar um carro eléctrico ou frequentar uma pós-graduação. Tivemos 33 participantes que fingiram estar a ponderar estas decisões e depois interagiram com um persuasor humano, ou com o GPT-4, através do chat. Tanto os persuasores humanos como o GPT-4 receberam dicas gerais sobre persuasão, e a IA foi instruída para não revelar que se tratava de um computador. Os participantes foram questionados, antes e depois da conversa, sobre a probabilidade de adoptarem a mudança de estilo de vida.
Os participantes consideraram a IA mais persuasiva do que os humanos em todos ostemas, mas particularmente ao convencer as pessoas a tornarem-se vegan ou a frequentar uma pós-graduação.
Os persuasores humanos, no entanto, foram melhores a fazer perguntas para obter mais informações sobre o participante.
A IA apresentou mais argumentos e foi mais prolixa, escrevendo oito frases para cada ao passo que o persuasor humano apresentou duas. Um dos principais factores para a sua persuasão foi a capacidade de fornecer apoio logístico concreto, por exemplo, recomendando marcas vegan ou universidades específicas para frequentar.
Utilizou mais “palavras grandes” de sete letras ou mais, como longevidade e investimento, o que talvez a tenha feito parecer mais autoritária. Além disso, as pessoas consideraram as suas conversas com a IA mais agradáveis, com o GPT-4 a concordar com os utilizadores com mais frequência e a proferir mais gentilezas.
A educação em IA é crucial. Estamos a chegar ao ponto em que será impossível dizer se se está a falar com uma IA ou com um ser humano, pelo que precisamos de garantir que as pessoas sabem como funcionam estas ferramentas, como são treinadas e, portanto, como são limitadas. A IA pode alucinar e errar. É importante saber que, por exemplo, o resumo sobre a IA no topo da sua página de pesquisa pode não ser verdadeiro.
Outro ponto-chave é o pensamento crítico geral. Se algo parece demasiado bom ou mau para ser verdade, precisamos de o investigar. Verificar de onde estão a vir as informações. É uma fonte fidedigna e conhecida?
Quando se trata de IA que afecta a saúde mental, as empresas poderiam implementar sistemas de alerta caso alguém esteja a escrever textos prejudiciais ou suicidas.
Em conclusão, a investigadora adverte que não temos controlo total sobre estes modelos. Em vez de as empresas se apressarem a rentabilizar a IA, deveria haver mais reflexão sobre a implementação de barreiras de protecção de forma eficaz e ampla. Isto poderia incluir olhar para além da IA genérica e as suas limitações inerentes para diferentes paradigmas. Não precisamos de colocar todos os ovos no mesmo cesto.
ALERT Life Sciences Computing, S.A.
