CHINA IMPLEMENTA DECISÕES “JUDICIAIS” POR IA E MANDA QUE JUÍZES HUMANOS JUSTIFIQUEM DIVERGÊNCIA COM MÁQUINAS

O sistema de decisões judiciárias por inteligência artificial vem sendo testado desde 2016 e, segundo a Suprema Corte de Pequim, já reduziu um terço da carga de trabalho do Judiciário. Mas há muitas críticas aos procedimentos.

Rodrigo Trindade

A inteligência artificial tem sido muito utilizada por todo o sistema judiciário chinês, ocupando espaços em diversos tipos de ação – é o que informa a propaganda da Suprema Corte Popular, em Pequim.

De acordo com a reportagem do South China Morning Post, o Smart Court SoS (system of systems) já conecta a mesa de trabalho de cada juiz do país, e segue crescendo. O sistema desenvolvido com tecnologia de aprendizado, automaticamente indica casos julgados como referência, recomenda leis e regulamentos, rascunha documentos legais, identifica e altera erros humanos.

O jornal de Hong Kong também relata um notável ganho de produtividade, tendo poupado cerca de 1/3 da carga de serviço de juízes e economia aos cidadãos chineses 1,7 bilhão de horas de trabalho, entre 2019 e 2021. Também informou que o país deixou de gastar mais de ¥ 300 bilhões (US$ 45 bilhões), no mesmo período – equivalente a metade do total de honorários advocatícios praticados na China no último ano.

Conforme o Daily Mail, o sistema de IA está igualmente conectado em bancos de informações policiais e no ultra vigiado sistema de crédito social. Com isso, consegue promover punições rápidas de infratores, impedindo compras de passagens no transporte público e até botando suas propriedades para venda online.

O processo de ampliação de recursos de informática no Judiciário chinês vem em um crescente. Introduziu recepcionistas robôs em fóruns para oferecer auxílio legal, permitiu reconhecimento de voz para registos de audiências (eliminando transcrição) e criou salas de audiência virtuais, em que demandas são resolvidas online. O Judiciário local também estabeleceu unidades especializadas para casos relacionados ao mundo virtual, como empréstimos online, disputas de domínios da internet e questões de direitos autorais. São precisamente a partir dessas matérias e seus bancos de dados que a IA iniciou seu aprendizado, para, então, passar a lançar suas recomendações gerais de julgamento.

Quando criado, o Smart Court System era apenas uma base de dados. Mas passou, nos anos seguintes, a ser cada vez mais usado na formação das decisões. Na atualidade, e conforme determinado pela Suprema Corte, os juízes são obrigados a consultador a IA em cada demanda. Caso o magistrado rejeite a recomendação da máquina, ela demanda o registro por escrito da justificativa, para posterior auditoria.

As decisões automatizadas já começaram a atingir o direito penal. De acordo com o South Morning Post, um programa de IA faz as vezes de promotor de justiça, reconhecendo crimes de pessoas em Shanghai e promovendo ações reparadoras e punitivas.   

Nossa revisão

A notícia parece a introdução de um filme distópico, projetando sociedade (ou ausência de uma) em que pessoas são governadas por máquinas.

O sistema desenvolvido na China vai de encontro a maior parte das orientações contemporâneas ocidentais para uso da inteligência artificial em decisões judiciais. As razões orientais parecem residir em justificações culturais e políticas.

No país asiático, aparentemente, pretende-se o estabelecimento de um procedimento para simples massificação e padronização de decisões – o que é muito próprio da cultura chinesa. Há reduzida valorização cultural da individualidade, e isso também se projeta nas expectativas sobre procedimentos e conteúdo das decisões judiciais.

O caráter ainda pouco democrático da sociedade chinesa (para os padrões ocidentais) ainda projeta outro problema: politicamente, Pequim possui permanente compulsão pela centralização. Isso ocorre não apenas nas políticas de Estado, com partido único, economia e relações internacionais pragmaticamente dirigidas, mas também se alonga na concentração dos encaminhamentos dados pelo Judiciário.

Tudo isso torna “pouco recomendado” para juízes que promovam decisões com avaliações pontuais de indivíduos e suas circunstâncias. E faz com que decisões contrastantes ao padrão recomendado sejam, no mínimo, vistas com desconfiança.

Nos padrões culturais ocidentais, as pretensões de singularidade de personalidade e estilo de vida também se projetam nas expectativas de provimentos jurisdicionais. É por isso que, de modo geral, as iniciativas nos países democráticos são de utilização da IA como instrumento de facilitação de pesquisa, essencialmente com redução de horas de trabalho massificado, mas sem se pensar (pelo menos explicitamente) na simples substituição de pessoas por máquinas.

Mas ninguém mais pode ignorar o rápido avanço da China sobre diversos setores do Ocidente. E – isso, sim, pode ser preocupante – não foram poucas as vezes em que cenários distópicos se aproximaram da realidade.