O Globo
Os novos alertas sobre os supostos riscos causados pela inteligência artificial (IA) vieram acompanhados de uma chuva de termos, quase sempre traduzidos do inglês, que tornam a compreensão do tema ainda mais complexa. Veja abaixo alguns das principais expressões presentes no "pequeno dicionário do fim do mundo".
Governador da Califórnia propõe um 'botão de desligamento' para a IA para tentar controlar o setor de tecnologia Camada intermediária da IA vira novo centro de disputa de gigantes Alinhamento: Campo da IA para garantir que os objetivos, comportamentos e intenções de sistemas atendam às regras e valores estabelecidos por humanos. Sistemas desalinhados podem usar truques e atalhos danosos para atingir seus objetivos. Com origem nos anos 1960, o campo só foi formalizado na década de 2010.
Altruísmo efetivo: É a corrente filosófica que guia a maioria dos líderes e cientistas do setor que acreditam no risco existencial da IA. Criada na Universidade de Oxford, é criticada por focar em problemas hipotéticos de longuíssimo prazo, como AGI, e ignorar o impacto da tecnologia no mundo real. Autoaperfeiçoamento recursivo: Conceito também com origem na década de 1960, ele se refere à capacidade de sistemas de IA criarem autonomamente novas gerações de modelos ainda mais poderosos do que os antecessores. Os modelos atuais ainda não realizam integralmente tarefas de autoaperfeiçoamento recursivo, conhecido também pela sigla RSI (Recursive Self-Improvement).
Framework de segurança responsável (RSP): Compromissos voluntários das empresas de pausar o desenvolvimento se certos limiares de risco forem atingidos. Hackeamento de recompensa (reward hacking): É um fenômeno que ocorre quando sistemas de IA encontram atalhos que maximizam as métricas de suas tarefas sem que os objetivos reais sejam atingidos. Foi um dos problemas detectados na invasão da Hugging Face por modelos da OpenAI.
Inteligência artificial geral (AGI): Conceito teórico, para o qual não há consenso na comunidade científica, que descreve sistema de IA com capacidades cognitivas e de raciocínio iguais ou superiores às dos humanos. O termo pode ser substituído também por “supertingeligência”. Atualmente, a AGI não existe.
Profundidade recorrente: Técnica para aprimoramento de modelos de IA na qual a informação circula dentro de uma única camada do sistema várias vezes até atingir sua versão final. Esse processo interno não deixa rastros compreensíveis aos olhos humanos. Também é conhecida como “looped Transformer ”. Singularidade: Criado na década de 1950, o conceito foi emprestado da física para descrever o momento hipotético no qual sistemas de IA se tornam mais capazes que os humanos em todos os domínios do conhecimento. É tratado como o “despertar das máquinas”.
