CBN
Pesquisadores de cibersegurança invadiram a OpenAI com a ajuda do chatbot Claude, da Anthropic, para testar as falhas na segurança da empresa. Uma equipe da startup Hacktron AI sediada nos EUA comprometeu diversas contas ChatGPT de funcionários da OpenAI, iniciando um processo que lhes permitiu acessar o cache de software do alvo. Segundo eles, o alcance 'que poderíamos acessar era enorme'. A informação foi revelada no blog do grupo e depois confirmada por veículos como a agência de notícias AFP e o jornal Wall Street Journal. Inicialmente, a equipe de pesquisa usou o Claude, que pode gerar código para hackers, para acessar contas do ChatGPT por meio de um fórum de discussão da equipe da OpenAI hospedado na plataforma Discourse. Em seguida, eles fizeram uma tentativa de alterar o código em um arquivo de forma inofensiva para o serviço da OpenAI no repositório de software GitHub. A Hacktron reportou o ataque à OpenAI, tendo realizado a operação no âmbito de um programa da OpenAI que recompensava hackers éticos por testarem seus sistemas. Os pesquisadores enfatizaram que tiveram acesso ao código do repositório do GitHub, mas não o baixaram. Apesar do uso inicial de Claude, os pesquisadores afirmaram que utilizaram principalmente o modelo de ponta GPT-5.6 Sol da OpenAI para realizar o ataque. ChatGPT. Freepik Um porta-voz da OpenAI disse que agradeciam 'aos pesquisadores por entrarem em contato conosco e compartilharem suas descobertas', acrescentando que a empresa já havia corrigido as vulnerabilidades que foram exploradas. A Hacktron afirmou que as ferramentas de IA tornaram uma tarefa de hacking antes complexa muito mais fácil e reduziram drasticamente o tempo necessário para planejar e executar um ataque. Essa é uma afirmação comum entre especialistas em segurança cibernética ao discutir o impacto da IA. 'O trabalho que antes exigia uma equipe bem estruturada e meses de esforço agora pode ser concluído em dias', afirmou a Hacktron, que recebeu um pagamento de US$ 6.500 da OpenAI por meio do programa de recompensas por bugs da empresa. Sam Altman, CEO da OpenAI, empresa de inteligência artificial. World Economic Forum / Benedikt von Loebell O ataque é o mais recente incidente de segurança na OpenAI, que revelou em julho que um 'enxame' de agentes (termo usado para descrever ferramentas de IA capazes de realizar tarefas de forma autônoma) alimentado por sua tecnologia, havia invadido a startup de IA Hugging Face durante um teste de segurança cibernética. Esta semana, a empresa sediada em São Francisco revelou mais seis exemplos de ações 'inesperadas ou preocupantes' de sua tecnologia e alertou que o ritmo de desenvolvimento não poderia continuar em 'velocidade máxima por muito mais tempo'. No fim de semana, a Anthropic fez um novo apelo por uma desaceleração no desenvolvimento da IA , que foi apoiado pela OpenAI, Google DeepMind e Elon Musk.
A Anthropic também reiterou os alertas de que o desenvolvimento desenfreado da IA representa uma ameaça existencial, preocupações sobre as quais alguns especialistas se mostram céticos. Huawei afirma que avanço da China na IA ainda precisa 'acelerar' para enfrentar mesmos riscos dos EUA Logotipo da empresa de tecnologia chinesa Huawei. Jade GAO / AFP Um dos executivos mais importantes da empresa de tecnologia chinesa Huawei, Eric Xu, afirmou nesta quinta-feira (17) que os desenvolvedores chineses de IA podem precisar 'acelerar' o processo antes de enfrentarem os mesmos riscos que seus colegas nos Estados Unidos. Em declarações à imprensa durante a conferência anual da empresa em Xangai, Xu afirmou que os principais desenvolvedores de IA nos EUA podem ser os únicos a saber 'em que nível estão seus modelos'. 'Talvez o tipo de risco da IA que eles conseguem sentir, que conseguem perceber, seja algo que as pessoas na China ou os fornecedores de modelos de IA na China não conseguem', acrescentou. Mesmo que a China tenha tratado a IA avançada como uma tecnologia poderosa, porém gerenciável, Xu afirmou que os desenvolvedores chineses talvez precisem 'acelerar o ritmo a um ponto em que também possam sentir os riscos do desenvolvimento da IA'. 'Acho que precisamos encontrar um equilíbrio entre impulsionar o desenvolvimento da IA e gerenciar os riscos da IA', acrescentou Xu. Inteligência artificial. Reprodução
