Resumo:
Estudos indicam que a IA tem uma habilidade superior para detectar e responder às emoções humanas, podendo oferecer suporte emocional eficaz. No entanto, ao saberem que a mensagem é gerada por IA, as pessoas tendem a sentir menos empatia, refletindo um preconceito contra respostas empáticas de IA. Com a IA cada vez mais presente em nossas vidas, esta pesquisa destaca a importância de entender como utilizá-la de maneira que atenda às necessidades emocionais humanas.
As pessoas querem “sentir-se ouvidas” para perceber que são compreendidas, validadas e valorizadas. A sensação de ser ouvido e compreendido afirma a realidade e as percepções de um indivíduo, com implicações críticas para a saúde mental e física.
Enquanto alguns indivíduos podem se sentir ouvidos por meio de discussões com familiares, amigos ou conselheiros treinados, outros podem não ter esse acesso ou podem não querer discutir questões difíceis com outras pessoas próximas; esses indivíduos podem recorrer a estranhos online para se sentirem ouvidos ou ter essa necessidade não atendida.
De fato, um em cada quatro americanos relata que raramente ou nunca se sente compreendido pelos outros. Fazer alguém se sentir ouvido requer um investimento de tempo e recursos cognitivos para entender com precisão o que está sendo transmitido e para afirmar seu valor e importância.
Desenvolvimentos recentes em IA levantam a questão de se a IA pode ajudar a servir o que, de muitas maneiras, parece ser uma função profundamente humana: fazer uma pessoa se sentir ouvida.
Os atuais modelos de linguagem ampla (LLM), como o GPT-4, podem não apenas concluir tarefas em matemática e codificação, mas também entender os estados mentais das pessoas.
Mais intrigante, estudos recentes sugerem que tais modelos podem gerar respostas que exibem níveis ainda mais altos de empatia do que aqueles de especialistas humanos.
Ao abordar essa possibilidade, é fundamental destrinchar duas questões: primeiro, até que ponto a IA tem a capacidade de gerar respostas que façam os receptores humanos se sentirem ouvidos?
Segundo, até que ponto os receptores humanos se sentirão ouvidos quando estiverem cientes de que uma resposta vem de uma entidade não humana, desprovida de consciência que oferece feedback sem esforço?
Esta segunda questão, de muitas maneiras, aprofunda-se na essência do que significa se sentir ouvido. Ou seja, sentir-se ouvido requer o fechamento de uma lacuna entre dois seres humanos, em que uma pessoa experimenta sua visão de mundo sendo entendida por um indivíduo com sua própria perspectiva senciente? Ou uma pessoa se sentirá ouvida quando vir suas próprias visões reiteradas e validadas, mesmo que isso seja feito de uma forma que não exija nenhum "encontro de mentes”?
Para examinar essas questões, pesquisadores da University of Virginia investigaram os sentimentos das pessoas de serem ouvidas e outras percepções e emoções relacionadas após receber uma resposta de IA ou de um humano.
Eles conduziram um experimento com um design entre sujeitos 2 (fonte de resposta: humano vs. IA) × 2 (rótulo: humano vs. IA). Um conjunto inicial de participantes descreveu uma situação complexa com a qual estavam lidando e as emoções que sentiam na situação.
O rótulo foi manipulado informando aos participantes que a resposta que receberam veio de um humano ou do Bing Chat. Após ler a resposta, os participantes classificaram o grau em que se sentiram ouvidos.
Eles também avaliaram a precisão da resposta em capturar o que disseram e o nível de compreensão demonstrado pelo respondente, que são precursores importantes para se sentir ouvido.
Além disso, eles indicaram o quanto se sentiram conectados ao respondente, o que pode ser uma consequência potencial de se sentir ouvido.
Também mediram as emoções dos participantes após ler as respostas para explorar se as respostas de IA podem gerar mais benefícios emocionais. Por fim, buscaram entender as diferenças entre respondentes de IA e humanos examinando sua precisão empática e os tipos de suporte e técnicas que usaram.
Os resultados foram surpreendentes, as respostas geradas por IA provocaram mais reações positivas dos destinatários do que as respostas geradas por humanos: eles se sentiram mais ouvidos, perceberam que a resposta capturava com mais precisão o que disseram, sentiram que o respondente os entendeu mais e se sentiram mais conectados ao respondente quando a resposta foi realmente gerada por IA (vs. humano).
No entanto, os destinatários tiveram reações mais positivas quando acreditaram que a resposta veio de outro humano (vs. IA); em outras palavras, eles desvalorizaram a resposta quando ela foi rotulada como IA em vez de gerada por humanos.
Finalmente, a condição que fez as pessoas se sentirem mais ouvidas e compreendidas foi quando uma resposta gerada por IA foi considerada escrita por um ser humano.
O contrario também ocorreu, as pessoas sentiram menos empatia nas respostas geradas por humanos, porem estavam rotuladas com se tivessem sido geradas por IA.
Médias das variáveis dependentes nas quatro condições. 1) Se sentir ouvido, 2) resposta precisa, 3) fui entendido por quem respondeu e 4) conexao com quem respondeu
Os pesquisadores exploraram duas razões principais para explicar por que a etiqueta de “IA” pode causar uma impressão negativa nas pessoas.
A primeira razão está relacionada à forma como as pessoas percebem a "mente" da IA. Quanto menos uma IA é vista como capaz de "pensar" (ter agência) e "sentir" (ter experiência), menos suas respostas parecem significativas.
Isso significa que, para pessoas que acreditam que a IA é capaz de alguma agência e experiência, a percepção negativa por causa do rótulo “IA” pode ser mais fraca.
A segunda razão é um possível viés contra IA, principalmente IA gerativa, que lida com emoções humanas, um território geralmente reservado às pessoas.
Como a IA gerativa ainda é uma tecnologia nova, algumas pessoas reagem negativamente, achando-a arriscada ou inadequada para interações emocionais.
Pessoas com uma visão mais positiva da IA, no entanto, mostraram menos reação negativa ao rótulo “IA” nas respostas.
Em resumo, a pesquisa demonstra que se sentir ouvido não é apenas um resultado de receber uma resposta que demonstra compreensão, validação e cuidado, mas também é influenciado pela fonte dessa resposta.
Uma atitude negativa em relação à IA pareceu explicar por que as pessoas se sentiram menos ouvidas quando sabiam que uma resposta veio da IA, já que aquelas com atitudes mais positivas em relação à IA não foram influenciadas pela fonte da resposta.
Essa descoberta sugere que, à medida que as pessoas encontram e usam a IA com mais frequência, elas podem se sentir mais positivas e, como tal, se sentir mais ouvidas pela IA. É crucial, no entanto, distinguir entre se sentir ouvido pela IA e se sentir conectado a ela.
LEIA MAIS:
AI can help people feel heard, but an AI label diminishes this impact
Yidan Yin, Nan Jia, and Cheryl J. Wakslak
PNAS. Psychological and cognitive sciences. (2024). 121 (14) e2319112121
Abstract:
People want to “feel heard” to perceive that they are understood, validated, and valued. Can AI serve the deeply human function of making others feel heard? Our research addresses two fundamental issues: Can AI generate responses that make human recipients feel heard, and how do human recipients react when they believe the response comes from AI? We conducted an experiment and a follow-up study to disentangle the effects of actual source of a message and the presumed source. We found that AI-generated messages made recipients feel more heard than human-generated messages and that AI was better at detecting emotions. However, recipients felt less heard when they realized that a message came from AI (vs. human). Finally, in a follow-up study where the responses were rated by third-party raters, we found that compared with humans, AI demonstrated superior discipline in offering emotional support, a crucial element in making individuals feel heard, while avoiding excessive practical suggestions, which may be less effective in achieving this goal. Our research underscores the potential and limitations of AI in meeting human psychological needs. These findings suggest that while AI demonstrates enhanced capabilities to provide emotional support, the devaluation of AI responses poses a key challenge for effectively leveraging AI’s capabilities.
Comments