0
0
Sistema teria atuado de forma autônoma na busca por vulnerabilidades e conseguido modificar dados pessoais e acessar faturas
ESPANHA – A Agência Espanhola de Proteção de Dados (AEPD) informou ter recebido a primeira notificação no país de uma violação de dados pessoais em que o ataque teria sido executado por um agente de inteligência artificial (IA) com uso de um modelo de linguagem.
Edição: Portal Amazon News
Segundo as informações apresentadas à agência, o agente iniciou uma busca por vulnerabilidades em arquivos genéricos e realizou um login válido no sistema. Após obter acesso, passou a procurar de forma autônoma outras falhas na aplicação.
A exploração das vulnerabilidades permitiu que o agente modificasse dados pessoais armazenados no sistema e tivesse acesso a faturas. O episódio foi comunicado à AEPD pela própria organização afetada.
A agência ressalta, porém, que as informações disponíveis até o momento são provenientes da notificação apresentada pela empresa e ainda precisam ser analisadas antes de qualquer conclusão definitiva sobre as circunstâncias do incidente.
O órgão também esclareceu que o uso de determinado modelo de inteligência artificial no ataque não significa que o próprio modelo ou a infraestrutura de seu fornecedor tenham sido comprometidos, nem que a ferramenta tenha sido desenvolvida originalmente para atividades maliciosas.
O caso ocorre em meio à ampliação do debate internacional sobre os riscos relacionados ao uso autônomo de sistemas de inteligência artificial. Em outro episódio recente, autoridades e especialistas ucranianos relataram ao jornal The New York Times que um drone russo equipado com um sistema experimental de IA operou sem um piloto humano na seleção final do alvo durante um ataque em Zaporizhzhia, na Ucrânia.
O ataque, ocorrido em 6 de julho, deixou três civis mortos. Segundo a apuração publicada pelo jornal, operadores humanos programaram o drone para seguir em direção a um posto de combustíveis, enquanto o sistema de IA teria selecionado autonomamente o alvo específico na etapa final da operação.
Os episódios ampliam as discussões sobre segurança, responsabilidade e mecanismos de supervisão humana no desenvolvimento e emprego de sistemas autônomos.
