Valor
Os recentes ataques cibernéticos cometidos por agentes de inteligência artificial são “primeiros sinais de alerta”, e o mundo poderá enfrentar incidentes graves em breve se os sistemas não se tornarem mais seguros, afirmou, nesta quarta-feira (14), Demis Hassabis, cofundador e presidente do conselho do Google DeepMind.
Comportamentos indevidos de agentes de IA, incluindo invasões de redes corporativas e, mais recentemente, a revelação da Anthropic de que um modelo de IA enviou à polícia uma denúncia falsa de homicídio, levaram pesquisadores a emitir alertas e alimentaram preocupações com o rápido avanço da tecnologia.
Hassabis afirmou que há “muito trabalho a fazer” para adotar as boas práticas que outras áreas, como a biologia ou o setor nuclear, utilizam para proteger sistemas críticos e que, em algum momento, será necessário algum tipo de organismo internacional de padronização.
“Acho que esses [ataques cibernéticos] são primeiros sinais de alerta para nós. Os sistemas ainda não são tão poderosos, então os incidentes não são tão graves”, disse Hassabis, que também é cientista-chefe da Alphabet, controladora do Google, em uma conferência sobre IA em Dublin.
“Mas eles poderão ser [graves] no próximo ano e nos anos seguintes se não fizermos mais, como setor, como empresas individuais e como governos, para proteger esses sistemas.”
Ele afirmou que, embora um organismo internacional de padronização pareça uma intervenção óbvia, seria necessário que ele tivesse uma atuação criteriosa e ágil para não sufocar a inovação.
“Então, o que é preciso fazer é basicamente desenvolver, de forma dinâmica, esse tipo de processo de certificação, proporcional aos riscos que identificamos e capaz de mudar rapidamente conforme os rumos da tecnologia”, afirmou. Demis Hassabis Chris Ratcliffe/Bloomberg
.JPG)
