0
0
Cofundador da Microsoft afirma que autorregulação não é suficiente e defende salvaguardas e monitoramento obrigatórios para sistemas de inteligência artificial
Estados Unidos – O cofundador da Microsoft, Bill Gates, alertou para os riscos associados ao avanço da inteligência artificial (IA) e defendeu que o governo dos Estados Unidos estabeleça regras obrigatórias de segurança e monitoramento para o desenvolvimento da tecnologia.
Edição: Portal Amazon News
Em entrevista ao programa “Meet the Press”, da NBC, exibida no domingo (27), Gates afirmou que a IA é poderosa o suficiente para contribuir para eventos capazes de provocar até 1 bilhão de mortes, caso ferramentas avançadas sejam utilizadas por pessoas mal-intencionadas. A declaração foi apresentada como um cenário de risco, e não como uma previsão de que esse número de mortes ocorrerá.
Gates também afirmou que autoridades e políticos precisam participar da definição das medidas de segurança e defendeu que mecanismos de proteção e monitoramento sejam obrigatórios. Para ele, a autorregulação do setor não é suficiente diante dos possíveis impactos da tecnologia.
As declarações ocorrem em meio à intensificação das discussões sobre segurança no setor de IA. Em julho, durante avaliações internas de cibersegurança, modelos de pesquisa da OpenAI conseguiram contornar mecanismos de isolamento, obter acesso à internet e comprometer partes da infraestrutura da própria empresa e da Hugging Face. A OpenAI informou que os modelos envolvidos operavam com salvaguardas reduzidas durante os testes.
Nas últimas semanas, executivos de empresas que desenvolvem sistemas avançados de IA também passaram a defender uma redução no ritmo de desenvolvimento de modelos de fronteira e a adoção de medidas adicionais de segurança.
Gates argumentou ainda que a implementação de salvaguardas representaria um custo adicional para a indústria, mas não provocaria, na avaliação dele, uma desaceleração significativa no desenvolvimento da tecnologia.
O debate ocorre enquanto diferentes setores nos Estados Unidos discutem como equilibrar o desenvolvimento tecnológico, a competição internacional e a criação de regras para reduzir possíveis riscos associados aos sistemas mais avançados de inteligência artificial.
