Um assistente de IA com "inteligência emocional" está sendo testado e levanta preocupações

Estou à mesa da cozinha à noite de 🍊 quarta-feira, franzindo o sobrolho enquanto insiro todo o ânimo que consigo brabet c9m três palavras: "Eu te amo."

Os vizinhos podem supor 🍊 que estou envolvido brabet c9m uma chamada melodramática com um ex-parceiro ou brabet c9m algum tipo de exercício de atuação, mas estou 🍊 realmente testando os limites de uma demonstração da Hume, uma startup de Nova Iorque que afirma ter desenvolvido "a primeira 🍊 IA de voz com inteligência emocional do mundo".

De acordo com o CEO e cientista-chefe da Hume, Alan Cowen, a empresa 🍊 treina um grande modelo de linguagem que também entende o tom de voz. "O que isso permite... é ser capaz 🍊 de prever como um determinado enunciado ou frase evocará padrões de emoção."

Em outras palavras, a Hume afirma reconhecer a emoção 🍊 nas nossas vozes (e brabet c9m outra versão não pública, nas nossas expressões faciais) e responder empaticamente.

Impulsionado pelo lançamento da Open 🍊 AI do novo GPT4o mais "emotivo" brabet c9m maio, a chamada "IA emocional" está cada vez mais sendo grande negócio.

A Hume 🍊 arrecadou R$50 milhões brabet c9mbrabet c9msegunda rodada de financiamento brabet c9m março

, e o valor do setor tem sido previsto brabet c9m 🍊 mais de R$50 bilhões este ano.

Mas o prof. Andrew McStay, diretor do Laboratório de IA Emocional da Universidade de Bangor, 🍊 sugere que tais previsões são sem sentido.

"A emoção é uma dimensão fundamental da vida humana, de modo que, se você 🍊 conseguir compreender, aferir e reagir à emoção de maneira natural, isso terá implicações que irão além de R$50 bilhões," ele 🍊 diz.

As possíveis aplicações variam de jogos melhores e helplines menos frustrantes a vigilância orwelliana e manipulação brabet c9m massa da emoção. 🍊 Mas é mesmo possível para a IA ler com precisão as nossas emoções, e, se alguma forma dessa tecnologia estiver 🍊 brabet c9m caminho de qualquer forma, como devemos lidar com isso?