Uma ferramenta para detectar deepfakes é transparente sobre suas limitações

Você, presumivelmente um ser humano, é uma parte crucial na detecção 2️⃣ de uma

ou

---

gerado por inteligência artificial.

Existem ferramentas de detecção, feitas tanto comercialmente quanto jogo de blaze que ganha dinheiro laboratórios de pesquisa, 2️⃣ que podem ajudar. Para usar esses detectores de deepfakes, você envia ou vincula uma peça de mídia que suspeita ser 2️⃣ falsa, e o detector dá uma probabilidade jogo de blaze que ganha dinheiro porcentagem de que ela tenha sido gerada por IA.

Mas seus sentidos e 2️⃣ uma compreensão de alguns indicativos importantes fornecem muita informação ao analisar mídia para ver se ela é um deepfake.

Enquanto as 2️⃣ regulamentações para deepfakes, especialmente jogo de blaze que ganha dinheiro eleições, ainda estão atrasadas jogo de blaze que ganha dinheiro relação ao rápido ritmo das inovações jogo de blaze que ganha dinheiro IA, precisamos encontrar 2️⃣ formas de descobrir se uma imagem, áudio ou

---

é realmente real.

Siwei Lyu criou uma delas, o DeepFake-o-meter, na Universidade 2️⃣ de Buffalo. Sua ferramenta é gratuita e de código aberto, compilando mais de uma dúzia de algoritmos de outros laboratórios 2️⃣ de pesquisa jogo de blaze que ganha dinheiro um lugar. Os usuários podem enviar uma mídia e executá-la através dessas diferentes ferramentas de laboratórios para 2️⃣ obter uma ideia de se ela pode ser gerada por IA.

O DeepFake-o-meter mostra tanto os benefícios quanto as limitações das 2️⃣ ferramentas de detecção de IA. Quando executamos algumas deepfakes conhecidas através das diferentes algoritmos, os detectores deram uma classificação para 2️⃣ o mesmo

---

,

ou gravação de áudio de 0% a 100% de chance de ser gerada por IA.

A IA 2️⃣ e os algoritmos usados para detectá-la podem ser influenciados pela maneira como são ensinados. No caso do DeepFake-o-meter, a ferramenta 2️⃣ é transparente sobre essa variabilidade nos resultados, enquanto um detector comercial comprado na loja de aplicativos é menos claro sobre 2️⃣ suas limitações, ele disse.

"Acho que uma imagem falsa de confiabilidade é pior do que baixa confiabilidade, porque se você confiar 2️⃣ jogo de blaze que ganha dinheiro um sistema que fundamentalmente não é confiável para funcionar, pode causar problemas no futuro", disse Lyu.

Seu sistema ainda é 2️⃣ rudimentar para os usuários, tendo sido lançado publicamente apenas jogo de blaze que ganha dinheiro janeiro deste ano. Mas seu objetivo é que jornalistas, pesquisadores, 2️⃣ investigadores e usuários comuns possam enviar mídias para verificar se são reais. Sua equipe está trabalhando jogo de blaze que ganha dinheiro formas de classificar 2️⃣ as diferentes algoritmos que usam para detecção para informar os usuários qual detector funcionaria melhor parajogo de blaze que ganha dinheirosituação. Os usuários 2️⃣ podem optar por compartilhar a mídia que enviam com a equipe de pesquisa de Lyu para ajudá-lo a melhorar o 2️⃣ site.

Lyu frequentemente atua como fonte experiente para jornalistas que tentam avaliar se algo pode ser um deepfake, então ele nos 2️⃣ mostrou algumas instâncias bem conhecidas de deepfakery recentes para mostrar as maneiras pelas quais podemos dizer que eles não são 2️⃣ reais.

"Um operador humano precisa ser trazido para fazer a análise", disse ele. "Acho que é crucial ser uma colaboração homem-algoritmo. 2️⃣ Deepfakes são um problema social-técnico. Não vai ser resolvido puramente pela tecnologia. Tem que haver uma interface com humanos."