April e Amelia: gemelas australianas que descobrem versões falsas de si mesmas prognóstico e palpites site de Inteligência Artificial

“Muito inquietante”, foi a 3️⃣ primeira reação de April ao ver o seu rosto prognóstico e palpites um site de Inteligência Artificial gerativa.

April é uma das gêmeas 3️⃣ Maddison. Ela eprognóstico e palpitesirmã Amelia produzem conteúdo para o site OnlyFans, Instagram e outras plataformas, mas também existem como 3️⃣ modelo gerativo de Inteligência Artificial personalizada, feito sem o seu consentimento.

Data	Fonte
2 de maio de 2024	The Guardian

“Foi realmente engraçado ver 3️⃣ nossos rostos, mas não nossos rostos”, ela diz. “É realmente perturbador.”

Os deepfakes – a criação de imagens,

---

s 3️⃣ e áudios realistas, mas falsos, usando inteligência artificial – estão no centro da agenda política, após o anúncio do governo 3️⃣ federal de que iria introduzir legislação para banir a criação e divulgação de deepfakes pornográficos, como medida para combater a 3️⃣ violência contra as mulheres.

“A divulgação de material sexual explícito usando tecnologia como a inteligência artificial estará sujeita 3️⃣ a penalidades criminais graves”, disse o primeiro-ministro, Anthony Albanese, prognóstico e palpites uma conferência de imprensa.

O modelo de Inteligência Artificial 3️⃣ de April e Amelia estava prognóstico e palpites um site chamado CivitAI, que permite que modelos de imagem de Inteligência Artificial open 3️⃣ source sejam carregados com base prognóstico e palpites um gerador conhecido como Diffusão Estável. O modelo baseado nas gêmeas era claramente rotulado 3️⃣ com seus nomes e indicava que foi treinado com mais de 900 de suas imagens. Qualquer um poderia então baixar 3️⃣ o programa e gerar imagens à semelhança de April e Amelia.

Estas são questões reais de segurança que merecem 3️⃣ uma abordagem mais refletida, abrangente e menos reativa.

Utilização de plataformas de Inteligência Artificial para fins ilícitos

Guardian Australia descobriu 3️⃣ que os criadores respondem a pedidos de usuários para criar modelos customizados de outras celebridades e influenciadores australianos. O uso 3️⃣ da plataforma para criar imagens sexuais, mesmo de pessoas não famosas, foi amplamente documentado.

“Modelos treinados para gerar a 3️⃣ semelhança de uma pessoa específica devem ser não comerciais e não sexuais e podem ser removidos à pedido da pessoa 3️⃣ retratada”, disse um porta-voz do CivitAI.

Enquanto o governo empurra adiante com novas regras, os deepfakes já estão sendo 3️⃣ abordados com leis existentes, mas não são facilmente aplicadas.