Um assistente de IA com "inteligência emocional" está sendo testado e levanta preocupações

Estou à mesa da cozinha à noite de 🍋 quarta-feira, franzindo o sobrolho enquanto insiro todo o ânimo que consigo apostar para ganhar três palavras: "Eu te amo."

Os vizinhos podem supor 🍋 que estou envolvido apostar para ganhar uma chamada melodramática com um ex-parceiro ou apostar para ganhar algum tipo de exercício de atuação, mas estou 🍋 realmente testando os limites de uma demonstração da Hume, uma startup de Nova Iorque que afirma ter desenvolvido "a primeira 🍋 IA de voz com inteligência emocional do mundo".

De acordo com o CEO e cientista-chefe da Hume, Alan Cowen, a empresa 🍋 treina um grande modelo de linguagem que também entende o tom de voz. "O que isso permite... é ser capaz 🍋 de prever como um determinado enunciado ou frase evocará padrões de emoção."

Em outras palavras, a Hume afirma reconhecer a emoção 🍋 nas nossas vozes (e apostar para ganhar outra versão não pública, nas nossas expressões faciais) e responder empaticamente.

Impulsionado pelo lançamento da Open 🍋 AI do novo GPT4o mais "emotivo" apostar para ganhar maio, a chamada "IA emocional" está cada vez mais sendo grande negócio.

A Hume 🍋 arrecadou R$50 milhões apostar para ganharapostar para ganharsegunda rodada de financiamento apostar para ganhar março

, e o valor do setor tem sido previsto apostar para ganhar 🍋 mais de R$50 bilhões este ano.

Mas o prof. Andrew McStay, diretor do Laboratório de IA Emocional da Universidade de Bangor, 🍋 sugere que tais previsões são sem sentido.

"A emoção é uma dimensão fundamental da vida humana, de modo que, se você 🍋 conseguir compreender, aferir e reagir à emoção de maneira natural, isso terá implicações que irão além de R$50 bilhões," ele 🍋 diz.

As possíveis aplicações variam de jogos melhores e helplines menos frustrantes a vigilância orwelliana e manipulação apostar para ganhar massa da emoção. 🍋 Mas é mesmo possível para a IA ler com precisão as nossas emoções, e, se alguma forma dessa tecnologia estiver 🍋 apostar para ganhar caminho de qualquer forma, como devemos lidar com isso?