Valor
A Seed, unidade de pesquisa em inteligência artificial da gigante chinesa de tecnologia ByteDance, criou uma equipe de alinhamento e preparação e iniciou uma campanha global para contratar dez pesquisadores, afirmando que fará investimentos de longo prazo em segurança de IA para seus modelos, que estão se tornando cada vez mais avançados. A iniciativa de contratação ocorre em meio ao aumento do escrutínio sobre a segurança dos agentes de inteligência artificial na China e nos Estados Unidos, especialmente à medida que os desenvolvedores concedem a esses sistemas autonomia para acessar a internet. O alinhamento de IA refere-se aos esforços para garantir que sistemas avançados de inteligência artificial atuem de acordo com os objetivos humanos e os requisitos de segurança, especialmente ao executar tarefas complexas que envolvem várias etapas. O anúncio da ByteDance representa uma rara divulgação pública, por parte de uma grande desenvolvedora chinesa de inteligência artificial, de uma iniciativa dedicada à segurança de modelos de fronteira, ao alinhamento e à preparação para riscos emergentes. O jornal The Paper, apoiado pelo Estado chinês, informou na terça-feira que a Seed foi o primeiro laboratório chinês de IA de fronteira a estabelecer um departamento independente de segurança e alinhamento. A iniciativa também ocorre em meio a discussões mais amplas entre Estados Unidos e China sobre mecanismos de proteção para a inteligência artificial, riscos de segurança e canais de comunicação sobre incidentes graves relacionados à tecnologia, mesmo com os dois países competindo pela liderança em IA avançada. À medida que as capacidades dos modelos melhoram, a segurança e o alinhamento deixam de ser apenas mecanismos de proteção contra riscos e passam a ser capacidades essenciais que determinarão se os modelos poderão ser implementados em larga escala, afirmou a Seed em um anúncio de recrutamento publicado na quarta-feira em sua conta oficial no WeChat. A Seed afirmou que disponibilizará à nova equipe capacidade computacional e recursos de pesquisa comparáveis aos oferecidos às equipes responsáveis pelo desenvolvimento de modelos de fronteira. As vagas estão localizadas em Pequim, Xangai e San José, na Califórnia. As pesquisas incluirão treinamento de segurança em diferentes etapas do desenvolvimento dos modelos, testes automatizados para identificar vulnerabilidades, ferramentas para monitorar e explicar o comportamento dos modelos, ambientes de testes para agentes de inteligência artificial e preparação para riscos emergentes.
A Seed afirmou que também buscará avaliações independentes e trabalhará com universidades e instituições de pesquisa, aplicando os estudos de segurança ao treinamento, à avaliação e à implementação dos modelos.
Dado Ruvic/Reuters
