Novas tecnologias de inteligência artificial trazem muitos benefícios, mas também desafios relacionados à segurança. No entanto, os cientistas estão trabalhando em formas de prevenir potenciais aplicações perigosas de IA, introduzindo limitações tecnológicas.
Em vez de depender exclusivamente de regulamentações e acordos internacionais, alguns pesquisadores sugerem codificar os princípios de segurança da IA diretamente nos processadores de computador. Essas limitações podem impedir que entidades irresponsáveis desenvolvam IA perigosa em segredo.
O último relatório do Center for New American Security sugere o uso de componentes de hardware confiáveis, como placas de vídeo, para controlar o acesso à potência computacional necessária para treinar os algoritmos de IA mais poderosos. Governos ou instituições reguladoras internacionais poderiam emitir licenças para o uso desses recursos, permitindo o monitoramento e a limitação do desenvolvimento de IA perigosa.
Implementar essas limitações tecnológicas não será fácil. Será necessário o desenvolvimento de novas tecnologias criptográficas e modificações de hardware que respeitem simultaneamente a privacidade e abordem de forma eficaz possíveis ameaças de segurança. Tentativas anteriores de introduzir soluções semelhantes enfrentaram resistência da indústria de tecnologia.
No entanto, o governo dos Estados Unidos mostrou interesse nesse conceito e solicitou a consideração de soluções técnicas que permitissem o controle sobre as capacidades de IA por meio dos processadores. Acredita-se que esse controle tecnológico possa ser uma forma de garantir a segurança dos sistemas de IA.
Embora ainda haja muito trabalho a ser feito para implementar limitações tecnológicas práticas para a IA, essa ideia parece promissora. Alguns pesquisadores veem potencial nesse método de controle dos processos de IA para evitar ameaças futuras e manter a segurança no campo da inteligência artificial.
FAQ
The source of the article is from the blog lokale-komercyjne.pl