A Inteligência Artificial (IA) tem trazido grandes benefícios para a sociedade, mas também traz consigo desafios relacionados à segurança. No entanto, cientistas estão trabalhando em maneiras de prevenir potenciais aplicações perigosas da IA ao introduzir limitações tecnológicas.
Em vez de depender exclusivamente de regulamentações e acordos internacionais, alguns pesquisadores sugerem a codificação dos princípios de segurança da IA diretamente nos processadores de computador. Essas limitações poderiam impedir que entidades irresponsáveis desenvolvam IA perigosa em segredo.
O mais recente relatório do Centro de Segurança da Nova América sugere o uso de componentes de hardware confiáveis, como placas de vídeo, para controlar o acesso à capacidade computacional necessária para treinar os algoritmos de IA mais poderosos. Governos ou instituições regulatórias internacionais poderiam emitir licenças para o uso desses recursos, permitindo o monitoramento e a limitação do desenvolvimento de IA perigosa.
Implementar essas limitações tecnológicas não será fácil. Será necessário o desenvolvimento de novas tecnologias criptográficas e modificações de hardware que respeitem simultaneamente a privacidade e abordem efetivamente possíveis ameaças à segurança. Tentativas anteriores de introduzir soluções semelhantes enfrentaram resistência da indústria de tecnologia.
No entanto, o governo dos Estados Unidos tem demonstrado interesse nesse conceito e solicitou a consideração de soluções técnicas que possibilitem o controle das capacidades da IA por meio dos processadores. Acredita-se que esse controle tecnológico possa ser uma maneira de garantir a segurança dos sistemas de IA.
Embora ainda haja muito trabalho a ser feito para implementar limitações tecnológicas práticas para a IA, essa ideia parece promissora. Alguns pesquisadores veem potencial nesse método de controle dos processos de IA para prevenir ameaças futuras e manter a segurança no campo da inteligência artificial.
FAQ:
The source of the article is from the blog aovotice.cz