IA enfrenta menos regras de segurança que leite e precisa de regulação urgente, diz Microsoft

A inteligência artificial necessita de regulação global urgente, com avaliadores independentes capazes de fiscalizar novos avanços tecnológicos, afirmou o presidente da Microsoft, Brad Smith, alertando que a IA enfrenta atualmente menos exigências de segurança do que o leite. Em entrevista à BBC publicada nesta segunda-feira (12), Smith afirmou que um conjunto de regras globais de segurança precisa ser estabelecido, exigindo que uma “vítima” seja notificada caso seu sistema seja violado por um agente autônomo de IA corrompido e que haja um “freio de emergência” disponível. Ele defendeu ainda a obrigatoriedade jurídica de as empresas elaborarem “relatórios de incidentes”. “Sabemos como fazer isso para outros produtos”, disse Smith. “Deveríamos nos apoiar nesse conhecimento e pensar em como aplicá-lo à IA.” “Neste momento, a sua máquina de lavar roupa está sujeita a mais regras de segurança do que a IA. Cada caixa de leite que você vê no supermercado passa por inspeção e regras sanitárias.” Empresas de tecnologia como Anthropic e OpenAI começaram a divulgar comportamentos indesejados ou autônomos de agentes de IA como parte de um debate global sobre a rápida evolução da tecnologia, que inclui alertas de pesquisadores sobre uma eventual ameaça existencial à humanidade. Algumas companhias pediram desaceleração no desenvolvimento da IA, mas o apelo deflagrou discussões sobre se os executivos teriam segundas intenções, como estabelecer barreiras regulatórias que preservem a liderança de suas próprias empresas, antecipar-se a reações governamentais mais duras ou simplesmente conter gastos operacionais desenfreados. O presidente da Microsoft afirmou que o país mais bem posicionado para liderar a regulação da tecnologia é o Reino Unido, graças ao AI Security Institute, lançado sob a gestão do ex-primeiro-ministro Rishi Sunak. Smith pontuou que autoridades em Washington enxergam Londres de forma muito diferente de Bruxelas, cuja União Europeia regula a IA com base em níveis de risco por meio da legislação AI Act. O instituto britânico obtém acesso prévio aos modelos antes de sua disponibilização comercial, sob acordos voluntários com os principais desenvolvedores de IA, permitindo avaliar capacidades e potenciais riscos. O ministro de IA do Reino Unido, Kanishka Narayan, disse à Reuters que o país considera impor regras mandatórias sobre modelos avançados caso o sistema atual se mostre insuficiente.