"Law is Law", "Code is Law" ou "Code is Police"

Em 1999, o jurista norte-americano Lawrence Lessig publicou um livro que se tornaria uma das obras mais influentes da era digital.
Seu argumento era simples: "Code is Law".
O código (isto é, a arquitetura dos sistemas digitais) passaria a regular nosso comportamento com tanta ou mais eficiência do que as próprias leis.
Na época, a ideia parecia ousada.
Lessig defendia que a internet não era apenas um espaço onde as leis seriam aplicadas.
O próprio desenho das plataformas, seus algoritmos e suas regras técnicas determinariam o que seria possível fazer, o que seria permitido e o que seria proibido.
Se uma rede social impede determinado conteúdo de ser publicado, se um aplicativo não permite copiar um arquivo ou se um sistema bloqueia automaticamente uma determinada operação, quem está impondo a regra não é um policial nem um juiz.
É o código.
Vinte e sete anos depois, talvez seja hora de atualizar essa famosa frase.
O código em muitos casos virou lei.
Mas ele passou a desempenhar também outra função: tornou-se polícia.
Li uma notícia recente envolvendo a OpenAI.
Segundo informações divulgadas pela empresa, seus sistemas identificaram conversas nas quais um usuário buscava utilizar o ChatGPT para planejar o assassinato do próprio filho pequeno.
A interação foi interrompida pelos mecanismos de segurança da plataforma, que também adotou os procedimentos previstos para situações de risco extremo.
Independentemente dos detalhes específicos desse caso, o episódio revela uma transformação silenciosa.
Empresas responsáveis por modelos de Inteligência Artificial deixam de apenas oferecer tecnologia e passam a exercer funções que, até pouco tempo atrás, associávamos exclusivamente ao Estado.
Elas observam comportamentos, identificam riscos, bloqueiam ações, restringem acessos, preservam evidências e, quando necessário, colaboram com autoridades públicas.
Não estão apenas executando software.
Estão exercendo uma forma de supervisão social.
Mas esse movimento começou muito antes da Inteligência Artificial.
No sistema financeiro, convivemos com ele há décadas.
Bancos e fintechs não são apenas instituições que movimentam dinheiro.
Eles monitoram continuamente o comportamento financeiro de seus clientes, analisam padrões de movimentação, identificam operações suspeitas, bloqueiam transações, encerram relacionamentos comerciais e comunicam atividades potencialmente ilícitas aos órgãos competentes.
O Estado percebeu que seria impossível acompanhar, sozinho, bilhões de transações realizadas diariamente e passou a utilizar a infraestrutura privada como sua primeira linha de fiscalização.
As plataformas digitais seguiram caminho semelhante.
Redes sociais identificam conteúdos potencialmente ilegais antes mesmo de qualquer decisão judicial.
Marketplaces removem produtos proibidos.
Serviços de computação em nuvem detectam ataques cibernéticos automaticamente.
Aplicativos de transporte monitoram comportamentos considerados inseguros.
Agora, modelos de Inteligência Artificial começam a avaliar não apenas o que fazemos, mas também aquilo que pretendemos fazer.
Não se trata de afirmar que essas empresas substituíram o Estado.
O que mudou foi a arquitetura da regulação.
Em vez de fiscalizar diretamente cada cidadão, governos passaram a impor obrigações regulatórias aos grandes intermediários digitais (os chamados gatekeepers).
São eles que desenvolvem os algoritmos capazes de detectar fraudes, impedir crimes, bloquear conteúdos, reduzir riscos e aplicar, em tempo real, políticas públicas que nenhuma estrutura estatal conseguiria executar na mesma escala.
É uma solução extremamente eficiente.
Assim como extremamente transformadora.
Quando um algoritmo impede uma transação financeira suspeita, remove um conteúdo, bloqueia uma conta ou interrompe uma interação com um modelo de IA, estamos diante de uma decisão técnica, de uma decisão empresarial ou de uma nova forma de exercício do poder regulatório?
Essa seja a pergunta da próxima década: Quem regula aqueles que passaram a regular a sociedade por meio da Inteligência Artificial?
A história mostra que toda grande inovação tecnológica altera a distribuição do poder.
A prensa transformou a circulação do conhecimento.
A eletricidade reorganizou a indústria.
A internet redefiniu a informação.
A Inteligência Artificial parece estar promovendo uma mudança ainda mais profunda: ela está redesenhando a forma como o Estado exerce sua própria autoridade.
Talvez Lawrence Lessig continue tendo razão.
O código continua sendo a lei.
Mas, olhando para o mundo de hoje, tenho a impressão de que ele se tornou também a polícia.
Mais Lidas