Aplicadores de abuso infantil criam "deepfakes" usando AI para extorquir vítimas

A criação de imagens simuladas de abuso infantil é ilegal 🛡 no Reino Unido, e Trabalho e Conservadores concordam da para ganhar dinheiro no aviator proibir todas as imagens explícitas geradas por AI de pessoas reais. 🛡 No entanto, há pouco acordo global sobre como a tecnologia deveria ser fiscalizada. Peor ainda, não importa como fortemente os 🛡 governos Take action, a criação de mais imagens sempre estará a um toque de distância – imagens explícitas estão integradas 🛡 nas fundações da geração de imagens por AI.

Descobrem imagens de abuso infantil da para ganhar dinheiro no aviator banco de dados de treinamento de geração 🛡 de imagens por AI

Em dezembro, pesquisadores da Universidade de Stanford fizeram um achado perturbador: entre as bilhões de imagens que 🛡 compõem um dos maiores conjuntos de treinamento para geração de imagens por AI havia centenas, se não milhares, de instâncias 🛡 de material de abuso sexual infantil (CSAM).

Há provavelmente muitos mais. O conjunto de dados Laion (Grande Rede Aberta de Inteligência 🛡 Artificial), o conjunto de dados da para ganhar dinheiro no aviator questão, contém cerca de 5 biliões de imagens. Com meio segundo por imagem, você 🛡 poderia talvez olhar para todos eles da para ganhar dinheiro no aviator uma vida útil – se você estiver saudável, jovem e da para ganhar dinheiro no aviator forma e 🛡 conseguir prescindir do sono. Portanto, os pesquisadores tiveram que analisar a database automaticamente, combinando imagens questionáveis com registros mantidos pelas 🛡 forças da lei e ensinando um sistema a procurar

s semelhantes antes de entregá-las imediatamente às autoridades para revisão.

Em resposta, 🛡 os criadores do conjunto de dados retiraram-no da disponibilidade. Eles nunca haviam distribuído de fato as imagens da para ganhar dinheiro no aviator questão, notaram, 🛡 una vez que o conjunto de dados é tecnicamente apenas uma longa lista de URLs de imagens hospedadas da para ganhar dinheiro no aviator outros 🛡 lugares da Internet. De fato, até o momento da para ganhar dinheiro no aviator que os pesquisadores da Stanford realizaram seu estudo, quase um terço 🛡 dos links estavam mortos; quantos deles, porda para ganhar dinheiro no aviatorvez, uma vez continham CSAM é difícil de dizer.

Impacto do achado de 🛡 imagens de abuso infantil no conjunto de dados de treinamento de AI

Mesmo assim, os danos já foram feitos. Sistemas treinados 🛡 da para ganhar dinheiro no aviator Laion-5B, o conjunto de dados específico da para ganhar dinheiro no aviator questão, estão da para ganhar dinheiro no aviator uso regular ao redor do mundo, com os dados 🛡 ilícitos indelivelmente queimados da para ganhar dinheiro no aviator suas redes neurais. Geração de imagens de AI pode criar conteúdo explícito, de adultos e crianças, 🛡 porque eles viram.

Laion é improvável de estar sozinha. O conjunto de dados foi produzido como um produto "fonte aberta", colocado 🛡 junto por voluntários e liberados para a Internet da para ganhar dinheiro no aviator larga escala para alimentar pesquisas de IA independentes. Isso, porda para ganhar dinheiro no aviator🛡 vez, significa que ele foi amplamente usado para treinar modelos de código aberto, incluindo a difusão estável, o gerador de 🛡 imagens que, como uma das principais liberações de 2024, ajudou a impulsionar a revolução da inteligência artificial. Mas também significava 🛡 que o conjunto de dados todo estava disponível aberto, para qualquer um explorar e examinar.