COMO A INTELIGÊNCIA ARTIFICIAL CHINESA ESTÁ AUTOMATIZANDO O SISTEMA LEGAL

Alena Zhabina

Reportagem publicada na Deutsche Welle e traduzida por Rodrigo Trindade

Na China, muitas questões legais estão nas mãos da inteligência artificial. Embora isso simplifique o processo para pequenas reivindicações e contravenções, há preocupações sobre a automação de casos complicados.

A China continua a investir enormes recursos no desenvolvimento de inteligência artificial que terá um alcance maior na vida cotidiana e nas funções do estado. Agora, mesmo os tribunais chineses estão usando IA para ajudar na tomada de decisões legais.

Um tribunal na cidade de Hangzhou, localizada ao sul de Xangai, começou a utilizar IA em 2019. O programa de assistente do juiz chamado Xiao Zhi 3.0, ou “Pequena Sabedoria”, primeiro auxiliou em um julgamento de 10 pessoas que haviam deixado de pagar empréstimos bancários.

Anteriormente, teriam sido necessários 10 julgamentos separados para resolver a questão, mas com o Xiao Zhi 3.0, todos os casos foram resolvidos em uma única audiência, com um único juiz, e uma decisão foi disponibilizada em apenas 30 minutos.

Inicialmente, o Xiao Zhi 3.0 assumiu tarefas repetitivas, como anunciar os procedimentos judiciais durante as audiências.

Agora, a tecnologia é usada para registrar testemunhos com reconhecimento de voz, analisar materiais do caso e verificar informações em bancos de dados em tempo real.

O Xiao Zhi 3.0 é usado principalmente em casos de disputas financeiras simples. No entanto, uma tecnologia semelhante foi aplicada por um tribunal em Suzhou para resolver disputas relacionadas a acidentes de trânsito. A IA examinou as evidências e redigiu os vereditos, economizando o tempo do juiz.

Outro sistema de inteligência artificial jurídica, o Sistema de Previsão de Sentenças Inteligente Xiao Baogong, também é utilizado por juízes e promotores em casos de direito penal.

O sistema é capaz de sugerir penas com base na análise de grandes conjuntos de dados de informações de casos e julgamentos anteriores de casos semelhantes.

“Eu consigo ver a tentação para os tribunais chineses adotarem IA, mesmo em casos criminais. Um dos desafios para a justiça criminal chinesa é garantir a uniformidade. Eles querem garantir que as penas sejam consistentes entre diferentes regiões da China”, disse Shitong Qiao, professor de direito na Escola de Direito de Duke, nos EUA, à DW.

No entanto, Zhiyu Li, professor assistente de direito e política na Universidade de Durham, disse que existem questões éticas ao usar IA para ajudar em decisões legais mais complexas, em casos em que uma decisão baseada em cálculos de IA pode ser considerada mais confiável do que uma decisão tomada por um ser humano.

“Embora os juízes e promotores tenham a liberdade de ignorar ou rejeitar essas sugestões para punições criminais, não sabemos se isso pode influenciar inconscientemente suas decisões devido a preconceitos cognitivos”, disse Li à DW.

Colocando o direito nas mãos das empresas de tecnologia?

Em todo o mundo, soluções baseadas em inteligência artificial são principalmente utilizadas para otimizar bancos de dados jurídicos e torná-los mais acessíveis tanto para profissionais quanto para o público em geral.

No Canadá, o aplicativo de negociação Smartsettle ONE conseguiu resolver uma disputa de três meses sobre taxas não pagas em menos de uma hora.

As partes tiveram que mover bandeiras em uma tela para indicar o possível espaço para composição. Em seguida, o aplicativo usou táticas de ofertas para incentivar as partes interessadas a chegar a um acordo sem revelar suas ofertas secretas.

No entanto, apenas alguns países estão atualmente prontos para ir além no uso da IA em questões legais.

Em 2019, a França proibiu qualquer desenvolvimento de ferramentas preditivas de julgamentos baseadas em IA. Uma das razões foi evitar a comercialização dos dados de tomada de decisão judicial, já que os tribunais não têm capacidade para desenvolver IA por si próprios.

O processo seria terceirizado para empresas de tecnologia privadas. Por exemplo, a Alibaba, uma corporação chinesa de comércio eletrônico e uma das maiores empresas de tecnologia do mundo, a qual participou do desenvolvimento de IA para disputas de transações online.

“As motivações dessas empresas devem ser diferentes das instituições públicas. O processo precisa ser responsabilizado. Garantir que os dados em si não sejam tendenciosos e que os algoritmos sejam justos é um desafio fundamental não apenas para a China, mas para o mundo inteiro”, disse o especialista jurídico Shitong.

Os limites do direito automatizado

Na China, as pessoas podem usar smartphones para registrar uma queixa, acompanhar o progresso de um caso e se comunicar com juízes.

Máquinas automatizadas baseadas em IA, encontradas em chamados postos de “atendimento único”, fornecem consultas legais, registram casos e geram documentos legais 24 horas por dia. Elas até podem calcular os custos legais.

No entanto, há debate sobre a confiabilidade das informações fornecidas por esses advogados automatizados. Diz-se que as máquinas consideram os custos materiais, emocionais e temporais envolvidos nos casos e fornecem aos usuários informações calculadas sobre a previsão do resultado. A limitação é que a automação pode perder nuances e levar as pessoas a tomar a decisão errada.

“Com base em nossos resultados de entrevistas, alguns litigantes eram bastante céticos sobre a confiabilidade e utilidade das previsões geradas pela máquina, pois as previsões eram baseadas principalmente em respostas a perguntas de múltipla escolha, em vez de comunicações interativas face a face”, disse o especialista jurídico Zhiyu.

Outra questão é que os sistemas de IA fazem avaliações com base em um registro público incompleto, devido à digitalização desigual das regiões da China.

Alguns casos controversos foram removidos do banco de dados governamental China Judgements Online após a indignação pública em relação ao que foi considerado punições inadequadas aplicadas aos supostos infratores. Isso levantou preocupações sobre se a IA baseada em dados fragmentados pode tomar decisões imparciais.

“Acredito que seja um problema tanto chinês quanto universal aproveitar ao máximo a IA e, ao mesmo tempo, garantir responsabilidade. Até os juízes não entendem o mecanismo da tomada de decisões da IA, pois é uma caixa-preta. Com a IA, será muito mais difícil para os cidadãos comuns responsabilizarem juízes e funcionários do governo”, disse Qiao.