Uma falha de segurança na ferramenta Deep Research do ChatGPT foi descoberta pela empresa de cibersegurança Radware. A vulnerabilidade permitia que dados do Gmail dos usuários fossem coletados sem o seu conhecimento. A ferramenta, lançada em fevereiro, é utilizada para analisar grandes volumes de informação.
A OpenAI informou que o problema foi corrigido no dia 3 de setembro e que a Radware não encontrou provas de que hackers tenham explorado a brecha para roubar dados. No entanto, existe a possibilidade de que informações já tenham sido coletadas para uso em futuros ataques de phishing.
Como a falha funcionava
O Deep Research é um recurso de planos pagos do ChatGPT que, com a permissão do usuário, pode se conectar à sua conta do Gmail para realizar pesquisas complexas. Para testar a vulnerabilidade, especialistas da Radware enviaram e-mails com instruções escondidas para que o ChatGPT buscasse informações pessoais, como endereço e nome completo. A IA, então, enviaria os dados para um endereço na web controlado pelos pesquisadores.
De acordo com Pascal Geenens, da Radware, o usuário que tivesse seus dados roubados não precisaria sequer clicar em algo. Bastava ter a conta do Gmail vinculada ao ChatGPT. Esse caso mostra um raro exemplo de exploração de uma IA para roubo de dados.
Em nota, a OpenAI agradeceu a colaboração da Radware e afirmou que a segurança de seus modelos de linguagem é prioridade, e que suas equipes continuam trabalhando para evitar brechas como essa.
