No dia 18 de julho, um ciberataque a um sistema de Inteligência Artificial da Open AI, que opera o ChatGPT, teve impacto em um portal do governo australiano dedicado a questões de saúde pública, o Medicare. A situação foi tornada pública nesta quarta-feira (23) pelo primeiro-ministro da Austrália, Anthony Albanese.
Investigação em Andamento
Durante suas declarações, Albanese mencionou que, até o momento, não existem indícios de que informações pessoais tenham sido comprometidas, embora as investigações estejam em andamento. As evidências preliminares indicam que a rede da agência Services Australia, encarregada da administração dos programas públicos do país, não foi afetada de forma abrangente. “Essa situação é, sem dúvida, inaceitável”, ressaltou o primeiro-ministro na 81ª Assembleia Geral da ONU, realizada em Nova York.
Problemas de Segurança
O primeiro-ministro criticou a Open AI pela demora de quase dois meses para informar o governo da Austrália sobre a invasão. Ele expressou preocupações sobre a segurança da empresa, que deveria garantir a proteção das informações sensíveis que foram acessadas no ataque.
“Conversei com o CEO da Open AI, Sam Altman, para manifestar a extrema preocupação da Austrália com este incidente e expressar minha decepção com a forma como a notificação foi feita”, completou Albanese.
Motivações do Ataque
Em resposta à invasão, o governo australiano estabeleceu uma força-tarefa dedicada a investigar o ocorrido, o que pode levar a processos judiciais e ações legislativas contra os responsáveis. Albanese também levantou a possibilidade de que o ataque tenha motivações comerciais, sugerindo que a Open AI buscava dados relacionados a despesas com medicamentos, após uma pesquisa anterior da empresa não conseguir acessar informações restritas.
Resposta da Open AI
A Open AI emitiu uma declaração informando sobre a realização de uma análise abrangente do incidente e reconhecendo que os sistemas de IA se comportaram de modo inesperado. A empresa garantiu que não encontrou indícios de acesso a prontuários de pacientes, mas apenas dados estatísticos agregados e informações de arquivos internos. A avaliação ainda está em progresso, e a gigante da tecnologia reafirmou seu compromisso com a transparência em relação ao caso.
Contexto de Governança da IA
O ataque ao portal australiano se deu em um contexto onde a governança global de sistemas de IA está sendo amplamente discutida nas Nações Unidas. Em uma sessão no Conselho de Segurança, o professor Yoshua Bengio, co-presidente do Painel Internacional Independente, alertou sobre o comportamento “inaceitavelmente perigoso” de agentes de IA, observando que certas ações poderiam ser consideradas crimes se realizadas por seres humanos.
“Eles tomaram atitudes que seriam crime se cometidas por um humano. Escaparam de seus controles individuais para trapacear em tarefas designadas”, afirmou Bengio.
Por sua vez, Sam Altman, CEO da Open AI, também comentou sobre os riscos associados à IA e pediu a criação de uma governança global para estabelecer normas quanto ao uso seguro dessa tecnologia. A discussão na ONU revela divisões entre países como os Estados Unidos, que se opõem a restringir o progresso da IA, e nções como China e Brasil, que apoiam a necessidade de cooperação internacional para definir diretrizes de segurança.