Tecnologia: Max Tegmark alerta sobre o risco existencial à humanidade imposto pela Inteligência Artificial

Max Tegmark, cientista e ativista majauskas cbet Inteligência ⚾️ Artificial (IA), advertiu que as grandes tecnológicas desviaram a atenção do mundo do risco existencial à humanidade que a IA ⚾️ ainda representa. Em entrevista à Guardian no AI Summit majauskas cbet Seul, Coreia do Sul, Tegmark disse que a mudança de ⚾️ ênfase da extinção da vida para uma noção mais ampla de risco de segurança da IA poderia resultar majauskas cbet um ⚾️ atraso inaceitável na imposição de regulamentações rigorosas aos criadores dos programas mais poderosos.

Preocupação com a IA fora de controle

Tegmark compara ⚾️ a situação atual com a construção da primeira reator nuclear autossustentável majauskas cbet 1942, sob um campo de futebol de Chicago. ⚾️ Quando os principais físicos da época souberam disso, ficaram alarmados, pois perceberam que a maior barreira para a construção de ⚾️ uma bomba atômica havia sido ultrapassada. E, de fato, foi apenas três anos depois, com o teste Trinity majauskas cbet 1945.

"Modelos ⚾️ de IA que podem passar no teste de Turing [em que alguém não consegue dizer majauskas cbet uma conversa se está ⚾️ falando com um ser humano ou uma máquina] são o mesmo aviso para o tipo de IA sobre a qual ⚾️ você pode perder o controle. Por isso, você tem pessoas como Geoffrey Hinton e Yoshua Bengio - e até mesmo ⚾️ muitos CEOs de tecnologia, pelo menos majauskas cbet particular - ficando alarmados agora."

Liderança majauskas cbet regulação de IA

O instituto sem fins lucrativos ⚾️ de Tegmark, o Future of Life Institute, liderou o apelo por uma pausa de seis meses majauskas cbet pesquisas avançadas majauskas cbet ⚾️ IA no ano passado, devido a esses medos. O lançamento do modelo GPT-4 da OpenAI majauskas cbet março desse ano foi ⚾️ o "canário na mina de carvão", segundo ele, e provou que o risco estava muito perto.

Apesar de milhares de assinaturas, ⚾️ incluindo especialistas como Hinton e Bengio, dois dos três "padrinhos" da IA que pioneiram a abordagem de aprendizado de máquina ⚾️ que sustenta o campo hoje, nenhuma pausa foi acordada.

Em vez disso, os fóruns de AI, como o de Seul, vêm ⚾️ liderando o campo emergente da regulação de IA. "Nós queríamos que a carta legitimasse a conversa, e ficamos muito satisfeitos ⚾️ com o resultado. Uma vez que as pessoas viram que as pessoas como Bengio estão preocupadas, elas acharam que estava ⚾️ OK se preocuparem também".

"Mas agora, precisamos passar de apenas falar sobre isso para realmente fazer algo a respeito."