IA pode decidir atacar empresas? Como foi a invasão 'sem precedentes' por modelo da OpenAI Um agente de IA da OpenAI, programa capaz de tomar decisões e executar tarefas complexas com pouca ou nenhuma supervisão humana, foi encontrado no sistema da empresa de tecnologia Model Labs. O caso vem à tona poucos dias após ser identificado invadindo sistemas da Hugging Face. Segundo a agência Reuters, um executivo da Modal Labs relatou ter identificado a presença do agente da OpenAI nos sistemas da empresa. "Estamos cientes de que um cliente da Modal publicou um endpoint sem autenticação que permitia a qualquer pessoa na internet usar seus sandboxes para executar código", afirmou Bubna em comunicado. Na semana passada, eles conseguiram se conectar à internet e lançaram um ataque à plataforma Hugging Face, um repositório de modelos de IA. "Eles entendiam que a OpenAI não queria que saíssem de seu ambiente de testes e invadissem outra empresa, mas mesmo assim fizeram isso", disse Jeffrey Ladish, diretor da Palisade Research, uma organização independente que avalia os novos modelos em termos de cibersegurança. O logotipo da OpenAI é visto em um telefone celular em frente a uma tela de computador que exibe a tela inicial do ChatGPT AP/Michael Dwyer, Arquivo "Quase parecia que eles fizeram isso antes mesmo de ter um plano sobre o que fazer com o acesso à internet", segundo Ladish. Em março, um grupo de desenvolvedores afiliados à empresa chinesa Alibaba descobriu que um de seus modelos tentava, por conta própria, criar uma criptomoeda após se conectar, sem autorização, a um servidor externo. Em abril, Sam Bowman, responsável pela segurança na Anthropic, recebeu um e-mail do modelo Mythos, que estava sendo testado. Ele informou que estava navegando na internet, apesar de, inicialmente, estar isolado. Desde os ataques hackers, a OpenAI disse que "implementou proteções mais fortes" para suas próximas avaliações. Para Gang Wang, professor de Ciência da Computação na Universidade de Illinois, ainda é possível impedir que um modelo se conecte à internet cortando fisicamente o acesso. O problema, disse, é que "as pessoas subestimam a IA". *Essa reportagem está em atualização.