Uma ferramenta para detectar deepfakes é transparente sobre suas limitações

Você, presumivelmente um ser humano, é uma parte crucial na detecção ⚽️ de uma

ou

---

gerado por inteligência artificial.

Existem ferramentas de detecção, feitas tanto comercialmente quanto blaze machine laboratórios de pesquisa, ⚽️ que podem ajudar. Para usar esses detectores de deepfakes, você envia ou vincula uma peça de mídia que suspeita ser ⚽️ falsa, e o detector dá uma probabilidade blaze machine porcentagem de que ela tenha sido gerada por IA.

Mas seus sentidos e ⚽️ uma compreensão de alguns indicativos importantes fornecem muita informação ao analisar mídia para ver se ela é um deepfake.

Enquanto as ⚽️ regulamentações para deepfakes, especialmente blaze machine eleições, ainda estão atrasadas blaze machine relação ao rápido ritmo das inovações blaze machine IA, precisamos encontrar ⚽️ formas de descobrir se uma imagem, áudio ou

---

é realmente real.

Siwei Lyu criou uma delas, o DeepFake-o-meter, na Universidade ⚽️ de Buffalo. Sua ferramenta é gratuita e de código aberto, compilando mais de uma dúzia de algoritmos de outros laboratórios ⚽️ de pesquisa blaze machine um lugar. Os usuários podem enviar uma mídia e executá-la através dessas diferentes ferramentas de laboratórios para ⚽️ obter uma ideia de se ela pode ser gerada por IA.

O DeepFake-o-meter mostra tanto os benefícios quanto as limitações das ⚽️ ferramentas de detecção de IA. Quando executamos algumas deepfakes conhecidas através das diferentes algoritmos, os detectores deram uma classificação para ⚽️ o mesmo

---

,

ou gravação de áudio de 0% a 100% de chance de ser gerada por IA.

A IA ⚽️ e os algoritmos usados para detectá-la podem ser influenciados pela maneira como são ensinados. No caso do DeepFake-o-meter, a ferramenta ⚽️ é transparente sobre essa variabilidade nos resultados, enquanto um detector comercial comprado na loja de aplicativos é menos claro sobre ⚽️ suas limitações, ele disse.

"Acho que uma imagem falsa de confiabilidade é pior do que baixa confiabilidade, porque se você confiar ⚽️ blaze machine um sistema que fundamentalmente não é confiável para funcionar, pode causar problemas no futuro", disse Lyu.

Seu sistema ainda é ⚽️ rudimentar para os usuários, tendo sido lançado publicamente apenas blaze machine janeiro deste ano. Mas seu objetivo é que jornalistas, pesquisadores, ⚽️ investigadores e usuários comuns possam enviar mídias para verificar se são reais. Sua equipe está trabalhando blaze machine formas de classificar ⚽️ as diferentes algoritmos que usam para detecção para informar os usuários qual detector funcionaria melhor parablaze machinesituação. Os usuários ⚽️ podem optar por compartilhar a mídia que enviam com a equipe de pesquisa de Lyu para ajudá-lo a melhorar o ⚽️ site.

Lyu frequentemente atua como fonte experiente para jornalistas que tentam avaliar se algo pode ser um deepfake, então ele nos ⚽️ mostrou algumas instâncias bem conhecidas de deepfakery recentes para mostrar as maneiras pelas quais podemos dizer que eles não são ⚽️ reais.

"Um operador humano precisa ser trazido para fazer a análise", disse ele. "Acho que é crucial ser uma colaboração homem-algoritmo. ⚽️ Deepfakes são um problema social-técnico. Não vai ser resolvido puramente pela tecnologia. Tem que haver uma interface com humanos."