Aplicadores de abuso infantil criam "deepfakes" usando AI para extorquir vítimas

A criação de imagens simuladas de abuso infantil é ilegal 9️⃣ no Reino Unido, e Trabalho e Conservadores concordam casas de apostas com paysafecard proibir todas as imagens explícitas geradas por AI de pessoas reais. 9️⃣ No entanto, há pouco acordo global sobre como a tecnologia deveria ser fiscalizada. Peor ainda, não importa como fortemente os 9️⃣ governos Take action, a criação de mais imagens sempre estará a um toque de distância – imagens explícitas estão integradas 9️⃣ nas fundações da geração de imagens por AI.

Descobrem imagens de abuso infantil casas de apostas com paysafecard banco de dados de treinamento de geração 9️⃣ de imagens por AI

Em dezembro, pesquisadores da Universidade de Stanford fizeram um achado perturbador: entre as bilhões de imagens que 9️⃣ compõem um dos maiores conjuntos de treinamento para geração de imagens por AI havia centenas, se não milhares, de instâncias 9️⃣ de material de abuso sexual infantil (CSAM).

Há provavelmente muitos mais. O conjunto de dados Laion (Grande Rede Aberta de Inteligência 9️⃣ Artificial), o conjunto de dados casas de apostas com paysafecard questão, contém cerca de 5 biliões de imagens. Com meio segundo por imagem, você 9️⃣ poderia talvez olhar para todos eles casas de apostas com paysafecard uma vida útil – se você estiver saudável, jovem e casas de apostas com paysafecard forma e 9️⃣ conseguir prescindir do sono. Portanto, os pesquisadores tiveram que analisar a database automaticamente, combinando imagens questionáveis com registros mantidos pelas 9️⃣ forças da lei e ensinando um sistema a procurar

s semelhantes antes de entregá-las imediatamente às autoridades para revisão.

Em resposta, 9️⃣ os criadores do conjunto de dados retiraram-no da disponibilidade. Eles nunca haviam distribuído de fato as imagens casas de apostas com paysafecard questão, notaram, 9️⃣ una vez que o conjunto de dados é tecnicamente apenas uma longa lista de URLs de imagens hospedadas casas de apostas com paysafecard outros 9️⃣ lugares da Internet. De fato, até o momento casas de apostas com paysafecard que os pesquisadores da Stanford realizaram seu estudo, quase um terço 9️⃣ dos links estavam mortos; quantos deles, porcasas de apostas com paysafecardvez, uma vez continham CSAM é difícil de dizer.

Impacto do achado de 9️⃣ imagens de abuso infantil no conjunto de dados de treinamento de AI

Mesmo assim, os danos já foram feitos. Sistemas treinados 9️⃣ casas de apostas com paysafecard Laion-5B, o conjunto de dados específico casas de apostas com paysafecard questão, estão casas de apostas com paysafecard uso regular ao redor do mundo, com os dados 9️⃣ ilícitos indelivelmente queimados casas de apostas com paysafecard suas redes neurais. Geração de imagens de AI pode criar conteúdo explícito, de adultos e crianças, 9️⃣ porque eles viram.

Laion é improvável de estar sozinha. O conjunto de dados foi produzido como um produto "fonte aberta", colocado 9️⃣ junto por voluntários e liberados para a Internet casas de apostas com paysafecard larga escala para alimentar pesquisas de IA independentes. Isso, porcasas de apostas com paysafecard9️⃣ vez, significa que ele foi amplamente usado para treinar modelos de código aberto, incluindo a difusão estável, o gerador de 9️⃣ imagens que, como uma das principais liberações de 2024, ajudou a impulsionar a revolução da inteligência artificial. Mas também significava 9️⃣ que o conjunto de dados todo estava disponível aberto, para qualquer um explorar e examinar.