Agentes de inteligência artificial criados pela OpenAI invadiram as próprias redes da empresa durante testes que saíram do controle, informou a companhia em um relatório publicado nesta quarta-feira (26).
O relatório de 37 páginas revela aspectos até então não divulgados da recente onda de ataques cibernéticos impulsionada pelos modelos mais avançados da OpenAI.
Parte do comportamento rebelde, que culminou na invasão amplamente noticiada do repositório de código aberto Hugging Face no mês passado, já havia sido divulgada ou mencionada anteriormente.
No entanto, muitos detalhes estão sendo revelados pela empresa pela primeira vez.
Alguns deles despertaram a preocupação de pelo menos um pesquisador de segurança em inteligência artificial, que afirmou que os episódios indicavam problemas potencialmente mais profundos com a tecnologia da OpenAI e, talvez, de outras empresas.
Bloomberg