Atualizado: 04 de julho 2022
1) Resumo
A 3ª Reunião do Grupo de Especialistas em transformação digital ocorreu pela plataforma de teleconferências Zoom e deu sequência ao debate tornar mais eficiente e efetiva a aplicação de tecnologias emergentes na gestão pública, desta vez observando-se os processos de implementação de inteligência artificial (IA)na gestão pública brasileira.
O encontro contou com duas palestras sobre o uso de IA pela administração pública, a primeira realizada pelo Tribunal de Contas da União (TCU) no contexto da administração pública federal e a segunda, um estudo sobre a aplicação desta tecnologia no Poder Judiciário brasileiro feito por representantes do Conselho Nacional de Justiça (CNJ). Após a apresentação dos estudos, a discussão foi aberta para intervenção do plenário, onde os especialistas puderam levantar dúvidas e apontamentos sobre o tema, com base em suas experiências com tecnologia e inovação na administração pública. Após as intervenções dos membros do grupo, foi dado um momento para que os palestrantes respondessem as questões e por fim realizado o encerramento com apontamentos para o próximo encontro.
2) Abertura do encontro
O coordenador Vagner Diniz inicia este encontro dando as boas novos integrantes do Grupo de Especialistas e. Aproveitou também para agradecer a presença dos demais especialistas e convidados neste 3º encontro.
Logo em seguida é passada a palavra para o palestrante Gledson Pompeu, para que se possa fazer a apresentação do Levantamento sobre inteligência Artificial na Administração Pública feito pelo Tribunal de Contas da União (TCU) e depois para Rafael Leite Paulo e Raquel Lasalvia Correia, para apresentar um estudo sobre a utilização de Inteligência Artificial no Judiciário.
3) Apresentação do Levantamento sobre inteligência Artificial na Administração Pública feito pelo Tribunal de Contas da União
3.1) Introdução e objetivos do levantamento
A apresentação inicia com o palestrante agradecendo o convite para participar deste seleto grupo e apontando que este estudo foi divulgado em plenário do TCU na última quarta feira, porém ainda não foi realizada uma divulgação oficial, portanto este conteúdo está sendo trazido em primeira mão para este espaço. Este levantamento é um processo feito em 2021. O ministro Aroldo Cedraz foi relator deste processo e de vários outros ligados à transformação digital.
Para explicar o contexto: o TCU vem desde 2015, a partir de uma iniciativa chamada Brasil 100% digital, investindo em processos para impulsionar o trabalho do governo federal. Depois de muito trabalho em diversas frentes, o Brasil chegou ao 7º lugar no Ranking do Banco Mundial sobre serviços digitais em relação ao mundo. Porém, quando se olha o levantamento da ONU chamado E governmentSurvey que considera outros fatores como capacitação pessoal e infraestrutura do país, ainda estamos em uma posição não tão confortável. Mas é fato que o governo avançou muito nos processos de transformação digital e agora estamos tentando fazer com que novos passos sejam dados. Dentro do TCU já se usa IA há muito tempo. Em 2015 foi criada uma plataforma de controle digital para trabalhar análises de dados e IA com dados da administração pública. Apartir destas plataformas foram construídas uma série de algoritmos e vários desses casos ganharam repercussão nacional.
Pode-se compreender 4 principais objetivos deste trabalho, que são:
1) Avaliar o estado atual e as perspectivas de uso de IA na administração pública federal;
2) Identificar os principais riscos e dificuldades;
3) Avaliar o papel da estratégia Brasileira de IA (EBIA);
4) Internalizar competências no TCU para auditorias futuras
Em fevereiro deste ano (2022), o TCU publicou um edital de contratação de inovação por encomenda tecnológica, que é algo ainda bastante recente no arcabouço da legislação de contratos brasileira, para contratar uma solução de IA mais avançada que seja capaz de fazer análise textual dos processos de denúncia e representação que chegam ao tribunal, a partir de uma busca por similaridade de assuntos dentro da base de jurisprudência, conseguindo trabalhar em instrução assistida. O TCU está investindo em diversas frentes para solucionar estes casos, com equipes internas trabalhando no desenvolvimento de algoritmos de instruções assistidas para área de recursos, e na área de consultoria jurídica para respostas a demandas judiciais do tribunal. Como o TCU investe nessa área de AI há muito tempo, portanto nada mais natural do que tirar uma fotografia de como está essa realidade dentro do governo federal, para que se possa usar essa fotografia para se trabalhar uma indução mais sistemática de adoção de IA pelo governo brasileiro.
O levantamento foi conduzido pela secretaria de fiscalização de TI, teve o objetivo principal de avaliar o estado atual de uso de IA pelo governo federal e identificar perspectivas, riscos e obstáculos do uso potencial desta tecnologia, pois para induzir a utilização é necessário entender as barreiras que existem hoje. Portanto, durante o planejamento desta auditoria, observou governo federal com relação a criação de uma estratégia brasileira de IA (EBIA), então pediu-se que a secretaria incluísse no levantamento, a perspectiva de como a Mundial sobre serviços digitais em relação ao lises ereiro fazer análise textual dos processos de denúncia e frentes para solucionar estes casos, área de IA há muito observou-se o trabalho do EBIA pode contribuir, ou o que precisa ser melhorado para que ela possa contribuir para adoção efetiva destas tecnologias pelo governo. E como objetivo final a internalização de competências da equipe do próprio tribunal para fiscalizar a IA, pois o TCU tem uma missão gigante, que é a de fiscalizar tudo o que acontece no governo federal em termos de alocação de recursos e execução de políticas públicas e cada vez mais isso vem sendo suportado por sistemas de IA. Da mesma forma que o TCU audita processos manuais ou via sistemas tradicionais da administração pública, é necessário ser capaz de auditar o que vai ser determinado dentro dos algoritmos de IA.
3.2) Evolução Histórica da Inteligência Artificial
É importante também fazer um esclarecimento. Quando se fala de inteligência artificial o campo é muito amplo, há os sistemas de primeira onda que ficaram no passado, que evoluíram para os sistemas especialistas baseados em regra e posteriormente para máquina), o principal avanço dessa tecnologia mais recente. Muito embora sistemas especialistas baseados em regra sejam extremamente úteis no contexto da administração pública, e o próprio TCU é exemplo para iss dos sistemas fiscalizados continuamente, (folha de pagamento, benefícios previdenciários, licitações e contratos)é sistemas especialistas (baseados em termos e regras). sistemas especialistas são muito mais fáceis de implementar do que machinelearning.
3.3) Avaliação do estado atual e as perspectivas de uso de IA na administração pública federal e seus desafios
Com este foco e olhando para os sistemas de questionário eletrônico aplicado em 263 organizações públicas federais, buscando responder: 1) Qual é a linha de base, ou estado atual de uso; 2) Principais tecnologias e domínios destas aplicações; 3) Casos práticos de uso e experiências de sucesso; 4) Principais dificultadores.
Olhando de uma forma superficial, pode-se entender que a situação não é nada animadora, uma vez que o nível 0 compreende quase 40% do total, porém deve-se lembrar que essa é a fotografia em relação ao machinelearning, mas se for feito esse questionário levando em consideração as IA que utilizam sistemas baseados em regra, esse número deve aumentar. A boa notícia é que há cerca de 35% das organizações no 1º nível, demonstrando que há interesse de adoção desta tecnologia, e outros cerca de 30% que já avançaram, seja na apresentação de provas de conceito, criação de sistemas ou até mesmo se utilizando rotineiramente em suas operações. Portanto, pode-se entender que ao menos 60% das organizações públicas têm conhecimento e buscam de alguma forma se apropriar de tal tecnologia, enquanto os outros 40% ainda desconhecem ou não planejam executar métodos de implementação de IA com machinelearning.
Detalhando um pouco mais esse quadro, pode-se observar nas organizações que apresentaram níveis de 2 a 5 de uso o seguinte padrão de utilização de técnicas e algoritmos:
● Aprendizado supervisionado (modelo tradicional): 31,5%;
● Processamento de Linguagem Natural: 17,1%;
● Aprendizado não supervisionado: 17,1%;
● Redes neurais profundas (deeplearning): 16,5%;
● Aprendizado por reforço: 8.0%;
● Outros: 9,8%.
Portanto, pode-se dizer que tem muita gente boa fazendo coisas interessantes na administração pública, e existe uma base que podemos mobilizar para que isso possa avançar ainda mais em sua implementação no setor público brasileiro.
A partir dos principais dificultadores encontrados, pode-se construir um mapa com as principais dificuldades a serem enfrentadas para a indução de processos de implementação de Inteligência Artificial que utilizam machinelearning pelo serviço público no Brasil. Observou-se os seguinte principais dificultadores:
A capacitação do funcionalismo público em IA: acontece que a maioria das organizações conta com menos de 5 pessoas capacitadas para trabalhar com machinelearning. Muito embora se tenha um número importante, cerca de 80 organizações trabalham com IA’s de tipo avançada, apesar de limitações em números de agentes públicos que conseguem desenvolver projetos desse tipo. Um outro sintoma desta dificuldade, que pode ser considerado importante, é que para uma parte das organizações não se buscou formas de se exigir essas competências a partir de seus sistemas de ingresso nas carreiras via concurso público como critério de seleção para contratação, o que vem sendo atualmente aplicado pelos Tribunais de Contas e recentemente pelas polícias, como uma forma importante de avançar no uso e implementação dessas tecnologias.
Obtenção de dados úteis e/ou relevantes: este é um problema clássico da administração pública. Em que pese o TCU tenha costume de solicitar dados e por isso temos uma base de dados gigantes da administração pública, ainda existe aquelas organizações que têm noções patrimonialistas dos dados públicos e criam dificuldade para disponibilização desses dados, mesmo que seja para uso interno de outras organizações ligadas a administração pública, dificultando os processos de implantação de machinelearning, pois, quando não se tem dados, não há sobre o que o sistema aprender. Portanto esse é um desafio de ordem cultural que o tribunal vem tentando resolver há muito tempo.
Identificação de oportunidades e benefícios: trata-se principalmente de uma questão de maturidade uma vez que muitas organizações não conseguem compreender como o machinelearning pode contribuir em seus modelos de negócio e prestação de serviços para a população. Inclusive, considero como uma grande contribuição do CONIP, conseguir apresentar esses benefícios aos servidores.
Riscos éticos, legais e regulatórios: aqui destaca-se o papel da burocracia para controle que emerge das preocupações de implementar o machinelearning com transparência e de acordo com as bases legais e regulatórias, considerando as características dos algoritmos.
3.4) Avaliação sobre o papel Estratégia Brasileira de Inteligência Artificial (EBIA)
A EBIA foi capitaneada pelo Ministério da CIência e da Tecnologia e Inovação (MCTI) para orientar o processo de implementação de inteligência artificial no Brasil, estabelecendo os seguinte objetivos como principais:
A primeira percepção é que os objetivos desta estratégia são de certa forma princípios gerais norteadores. O MCTI caracteriza que EBIA é uma política pública para fomentar o uso de IA, portanto o Tribunal apresentou para essa análise um modelo de avaliação de políticas públicas, para ver se ela foi bem desenhada e estruturada.
Em termos de desenho desta política pública observou-se que este ela é pouco eficiente por três motivos: 1) Ausência de objetivos específicos, realistas e manuseáveis; 2) Ausência de referências iniciais para avaliação do resultado; 3) Falhas no modelo de vinculação lógica entre problemas, ações e resultados. Portanto, como não se tem metas claras e não se sabe de onde estamos partindo, fica praticamente impossível definir o que será feito e os resultados esperados. O próprio MCTI reconheceu isso ao instaurar o comitê gestor da EBIA e já notificou o TCU de que está trabalhando para refinar as definições dos objetivos desta estratégia.
3.5) Estudo da Oxford: Insights sobre a prontidão dos governos para investimento em IA e o trabalho exercido pela Câmara dos Deputados para aprovar o marco regulatório para Inteligência Artificial
Pode-se observar que o Brasil teve um ganho importante no Ranking de 2020 a 2021, pois passamos da posição 63º em relação ao resto do mundo para 40º e de 6º para 1º na América Latina. Essa mudança deve-se principalmente ao fato de que o Brasil publicou a sua EBIA. No entanto, deve-se tomar cuidado para não se atribuir indicadores que não estejam calcados na realidade, pois para que tenhamos uma estratégia de implementação de IA no setor público bem estruturada é necessário ter objetivos e metas claras, indicadores manuseáveis e outras informações que dêem condições de pensarmos diretrizes bem definidas para adoção destas tecnologias.
Deve-se ressaltar o trabalho da Câmara dos Deputados para aprovar este marco legal, capitaneado pela deputada Luiza Canziani, que foi enviado ao Senado que decidiu uma comissão de juristas para avaliar os requisitos legais para aprovação deste marco regulatório e discutir em plenário estas medidas, junto a especialistas.
Acredito que esta seja uma oportunidade para o TCU como órgão de Controle e o CONIP como a entidade que busca contribuir para o avanço da tecnologia no Brasil de participar do debate e fazer com esse marco saia em um bom nível de maturidade, e assim tentar induzir a efetiva apropriação desta tecnologia pela gestão pública brasileira.
3.6) Processos para Internalizar competências para auditorias futuras e decisões tomadas pelo TCU a partir do levantamento
Para o cumprimento deste objetivo, a equipe fez um levantamento de referências nacionais e internacionais sobre análise e auditoria de algoritmos de IA, uma vez que existe uma grande preocupação sobre transparência algorítmica, ausência de viés e aplicabilidade dos algoritmos quando se fala em machinelearning. E portanto foram disponibilizadas, entre outras, as seguinte leituras para aprimoração das capacidades do corpo técnico:
Decisões tomadas pelo TCU a partir deste levantamento:
- Avaliar periodicamente o nível de maturidade dos órgãos da administração pública federal no uso de inteligência artificial, abrangendo sistemas especialistas e de aprendizagem de máquina;
- Desenvolver referencial próprio para auditoria de sistemas e algoritmos de inteligência artificial;
- Avaliar de forma concomitante a Estratégia Brasileira de Inteligência Artificial (EBIA);
- Elaborar um guia para auxiliar líderes e gestores públicos no processo de implementação ou contratação de serviços que envolvam o uso de inteligência artificial.
4) Apresentação estudo sobre utilização inteligência Artificial no Judiciário feito pelo Conselho Nacional de Justiça
4.1) Introdução e objetivos do levantamento
De modo inicial, Eduardo Arruda nos introduz ao conteúdo que os palestrantes vão apresentar. O Poder Judiciário por meio do CNJ está desenvolvendo um programa de transformação digital bastante amplo que tem previsão de se estender até dezembro de 2024 e vem sendo executado em uma cooperação técnica com o Programa das Nações Unidas para o Desenvolvimento (PNUD).
Após isso, o Dr. Rafael Leite Paulo fez um paralelo entre a apresentação feita sobre o levantamento do uso de inteligência artificial na administração pública federal e a história do desenvolvimento de IA no Judiciário. Desde 2018 pode-se ver algumas iniciativas bem significativas que estabelecem o padrão de uso de IA dentro do setor público. Devido ao trabalho de servidores que se qualificaram para não só criar esses padrões de implementação, mas gerando plataformas inteiras de orientação para uso desta tecnologia, pode-se avançar para que enxergássemos sistematicamente oportunidades para implementar de maneira mais rápida tecnologias emergentes, englobando as de inteligência artificial. Portanto, trago aqui algumas iniciativas que são importantes para entender a implementação de IA no Judiciário.
Em 2018, foi identificado pelo CNJ a criação do sistema Sinapses a partir do Tribunal Regional Federal presente em Rondônia. Essa plataforma foi adotada pelo CNJ como um modelo padrão nacional para aplicações de IA, a partir da criação de um ambiente para hospedar os algoritmos dos tribunais com uma série de parâmetros já definidos. A resolução nº 332 do CNJ estabelece quais são os parâmetros éticos para aplicações desta tecnologia pelo Poder Judiciário.
Esse estudo serviu como estabelecimento de um primeiro nível de governança para os projetos relacionados ao tema no Judiciário. Este estudo foi possível ser feito a partir de uma série de perguntas realizadas pelo CNJ, em parceria com a Universidade de Columbia e o ITS Rio que entrevistou os gestores de projetos ligados a IA com o objetivo de identificar os principais quesitos para se fazer o acompanhamento de adoção desta tecnologia.
Portanto, neste estudo busca-se definir e ajudar a criar a infraestrutura necessária para que se possa processar os insumos (dados massivos, normalizados e disponíveis em tempo real) que são gerados pelo Poder Judiciário na ponta dos processos. Atualmente, foi constituída a marca de 100% dos processos da Justiça federal digitalizados, porém uma coisa é se ter os processos no sistema, uma outra coisa é se ter os dados deste processo organizados em uma base e disponíveis para os mais diversos fins, inclusive para serem processados por inteligência artificial.
4.2) O estudo e seus principais apontamentos
Raquel Lasalvia: Esta pesquisa foi respondida por 88 dos 94 tribunais existentes da justiça brasileira, portanto há representatividade da maioria destes. Dos tribunais que responderam, mais da metade tem projetos de IA. O questionário tinha cerca de 40 perguntas e a partir de suas respostas pode-se constatar um aumento no uso de IA pelo Judiciário de forma geral. O número de projetos que utilizam a tecnologia avançou significativamente de 38 projetos no ano passado para 111 este ano, como pode-se observar a seguir:
Se observados os números de projetos que utilizam Inteligência Artificial por diferentes tribunais e ramos da justiça brasileira, ter-se-á a seguinte fotografia:
Aqui observa-se que a IA está presente na maioria dos tribunais nesses 111 projetos de IA em funcionamento no Judiciário brasileiro, o que representa a absoluta maioria dos órgãos que o compõem, sendo 65 da Justiça estadual, o que reflete também o seu grande número de tribunais. Cabe aqui ressaltar que os tribunais eleitorais e do trabalho, embora tenham pequena representação neste quadro, muito se beneficiam dos sistemas produzidos pelos seus respectivos tribunais superiores. Somente os tribunais militares, inclusive na Justiça superior, não possuem projetos de IA em andamento.
Importante observar também que são bastante variados os motivos pelos quais se emprega o uso de ferramentas de Inteligência Artificial no Judiciário brasileiro, estando os principais motivadores: 1) Aumento de produtividade (29%); 2) Inovação (27%); 3) Melhora na qualidade de serviços (26%); 4) Redução de custos (17%).
Cerca de 89% desses projetos beneficiam ou irão beneficiar mais de 1000 processos judiciais e 55% está sendo ou foi desenvolvido para o sistema do Processo Judicial Eletrônico (PJE), então há uma expectativa grande no impacto destes projetos no dia a dia do Judiciário.
Rafael Leite Paulo: a grande pressão do Judiciário para se implementar processos com inteligência artificial, tem a ver com o fato de que os ganhos em escala do processo de digitalização, vem começando a se arrefecer uma vez que estamos chegando a marca de 100% de distribuição dos processos digitalizados, tramitando integralmente dentro de sistemas internos dos tribunais, desta forma se busca de forma generalizada no Judiciário, investir em processos que envolvam novas tecnologias. Portanto, pode-se entender que esses movimentos acontecem em duas levas distintas, a primeira representando a digitalização dos processos e o segundo a sistemática incorporação de IA ao longo do fluxo de tramitação dos textos. O esforço geral do Judiciário vem sendo em aprimorar os algoritmos de processamento de linguagem natural e tivemos sensíveis melhorias de desempenho nos últimos anos, uma vez que os algoritmos começaram a ter capacidades de mais do que aprender com a massa de dados, compreender o contexto e trazer inferências que são essenciais para boa aplicação no Judiciário, e portanto estamos em um ciclo virtuoso onde se termina o processo de digitalização e já pode-se observar a próxima tecnologia que irá trazer avanços.
Pode-se considerar que há o entendimento construído no Judiciário de forma geral de que o uso de novas tecnologias pode ser um aliado importante para a diminuição do fluxo passivo de processos, potencializando os esforços que nos últimos anos vem dando bons resultados. Há uma certa expectativa que este emprego gere uma diminuição na duração média do trâmite processual, replicação automática de sentenças dos tribunais superiores pelos tribunais e de segundo grau pelos juízes em primeira instância, o que resultará na manutenção da progressão dos níveis de produtividade do Judiciário como um todo.
Raquel Lasalvia: é interessante notar que mais da metade dos projetos já está em produção, o que significa que eles já estão disponíveis ou sendo de fato utilizados. Foram também identificados muitos processos que estão para iniciar, em fase de discussão ou aprovação de suas provas de conceito, teve-se a seguinte fotografia sobre os níveis dos projetos que utilizam IA no Judiciário: I) 10 projetos ainda não iniciados; II) 20 projetos em fase inicial; III) 18 projetos em fase final; IV) 63 projetos em produção.
4.3) Exemplos de uso de IA no Judiciário e a integração entre os projetos
Dentro desses projetos já em fase avançada de implementação, foram observados alguns exemplos que serão trazidos adiante, mas antes devemos notar que há uma certa afinidade entre os modelos de solução aplicados, o que nos dá indícios de que a colaboração e a troca de informações entre as equipes em diferentes tribunais pode construir uma rede importante de troca não só de modelos tecnológicos, mas de experiências para servir de apoio na consolidação de soluções e processo de adoção dessas tecnologias.
Rafael Leite Paulo: a visão de futuro que tentamos incorporar no programa Justiça 4.0, para a criação da plataforma digital do Poder Judiciário e também sobre a estratégia específica de IA no Judiciário consiste em replicar as melhores práticas que existem atualmente no mundo moderno para a construção de uma plataforma onde seja possível,com um mínimo esforço, qualquer pessoa, empresa ou organização possa se utilizar das soluções lá apresentadas em sistemas de código aberto, e portanto, podendo se criar e até mesmo replicar soluções com facilidade dentro de outros contextos. Os grandes projetos que se encontram no Judiciário têm uma característica em comum que é o fato destes terem sido feitos em colaboração entre equipes internas e externas, como a academia por exemplo, e também que todos eles foram pensados para serem plataformas do código aberto, para que esses modelos de soluções possam ser aplicados em outros tribunais e até mesmo em outros ramos da justiça. O Sinapses, por exemplo, contempla essa lógica, possibilitando que uma solução seja aplicada em diferentes ramos da justiça. O Janus também é outro exemplo uma vez que a solução de classificação que era aplicada no tribunal de Justiça de Rondônia, foi apropriada, melhorada e colocada dentro da base dados do Tribunal Eleitoral.
Portanto, a lógica desta plataforma é que ela funcione como um marketplace, onde você pega a solução e coloca pra rodar em sua máquina. Como as questões no Judiciário são volumosas, porém parecidas, é possível que um modelo treinado em uma massa de dados do Judiciário possa ser aplicado em outro ambiente dentro do próprio Judiciário. Todos esses modelos de projeto, dando destaque ao Janus e ao Sofia, utilizam modelos já existentes dentro do Sinapses para replicar. OJanus, por exemplo, opera integrado ao sistema de processo eletrônico, o Sofia opera como um chatbot onde o usuário pode pedir processos similares disponibilizados e faz uma sugestão do número, indicando o nível de similaridade. Portanto é este ambiente que se deve investir uma vez que as respostas nos mostram que estamos transitando exatamente para essa realidade.
4.4) Dados sobre as características e desafios dos projetos de implantação de IA no Judiciário Brasileiro
Raquel Lasalvia: para complementar a fala do Dr. Rafael e também dar sequência a apresentação é importante notar a grande diversidade de recursos e métodos que estão sendo aplicados pelos projetos.
I) 86% Utiliza a linguagem Python; em que pese 86% utilize python, Java vem logo em seguida, sendo utilizada em 39% dos projetos, o que não é feito de forma exclusiva uma vez que por diversas vezes mais de uma linguagem são usadas em um mesmo projeto
II) 53% Aplica redes neurais; logo em seguida vem muitos projetos de agrupamento em 36% dos projetos
III) 88% Realiza análise de textos; aqui se observou que há muitas variedades de recursos como por exemplo os ligados a reconhecimento facial
Um dos principais entraves que a gente nota na pesquisa é a falta de recursos humanos especializados, uma vez que entre os 35 tribunais que alegaram não ter projetos de IA, atribuem a falta de recursos humanos como o principal motivo. A média de 4 pessoas por equipe dedicada pode variar de acordo com o ramo de justiça a ser avaliado, o CNJ por exemplo tem cerca de 9 pessoas, mas têm projetos que tem 40 pessoas. Esses projetos normalmente são feitos interequipes nos tribunais ou em parceria com a academia, o que pode aumentar ainda mais o número de agentes da equipe. 63% dessas equipes são treinadas pela plataforma Sinapses e os projetos em produção também são hospedados na mesma framework, o que nos demonstra, hospedarem seus projetos no sistema, um certo nível de governança e transparência. Um último dado importante de se observar é o de que 54% dos tribunais não possuem projetos de IA por falta de recursos humanos especializados, por isso a troca e reaproveitamento de modelos podem ajudar muito, pois muitas vezes nem se precisaria de cientistas de dados na equipe, podendo ser implementados por equipes de perfis menos especializadas.
Outro dado bastante interessante é que por 95% dos projetos serem desenvolvidos com a equipe interna ou em colaboração com universidades e outros tribunais, a maior parte dos tribunais tem acesso ao código fonte desses projetos, o que é bastante importante para garantia de mecanismos eficientes de governança desses projetos.
O outro grande desafio é o acesso aos dados e qualidade desses dados. Considerando que em 86% desses projetos foram utilizados dados gerados pelos tribunais, o CODEX pode ser uma ferramenta de grande ajuda. Veja no canto inferior esquerdo da imagem acima uma fotografia da situação dos dados do CODEX.
Rafael Leite Paulo: Hoje há de fato 75 milhões de processos no país em uma plataforma unificada disponível na nuvem, como uma etapa fundamental da discussão de IA dentro do Judiciário. Não tem como os algoritmos que temos disponíveis pensar uma estratégia de IA que não envolve construção de uma infraestrutura básica para que esses projetos possam de fato acontecer. Para as equipes e agentes envolvidos nesse ambiente o grande gargalo que consome mais tempo hoje é ter um insumo básico para aplicar o algoritmo. Os algoritmos que permitem reconhecimento de imagem, reconhecimento facial, compreensão da linguagem, resumir textos e responder perguntas sobre conteúdos textuais, são soluções que estão sendo constantemente aprimoradas. Por incrível que pareça, o maior desafio não são os algoritmos nem a capacidade de processamento, mas sim a falta de insumos básicos que são os dados de fato prontos para serem consumidos, e o Judiciário está focado nesta entrega para ter uma estrutura básica que conecte todos os tribunais e permita ter esses dados prontos e disponíveis para serem utilizados por em soluções de diversos tipos, inclusive de Inteligência artificial. Quando se cria esse ambiente, a expectativa é que fique mais fácil para criar novos projetos, implementar projetos já existentes, incorporar novos algoritmos que surjam, pensar e novas estratégias para melhoria do ambiente do Poder Judiciário nacional. Portanto, nós estamos atuando em duas pontas, tanto na criação do insumo quanto na entrega do produto e no resultado que temos interessa.
4.5) Painel de resultados disponibilizados
Raquel Lasalvia: portanto foi possível com todos esses resultados constituir esta plataforma que possibilita uma análise interativa onde você pode filtrar por ramo da justiça, tribunal ou estado do brasil e analisar o resultado dessas aproximadamente 40 perguntas que foram feitas para os tribunais.
Link para o painel de projetos do sistema Judiciário que utilizam IA: https://paineisanalytics.cnj.jus.br/single/?appid=9e4f18ac-e253-4893-8ca1-b81d8af59ff6&sheet=b8267e5a-1f1f-41a7-90ff-d7a2f4ed34ea&lang=pt-BR&theme=IA_PJ&opt=ctxmenu,currsel&select=language,BR
Link do site com demais projetos da Justiça 4.0: https://www.cnj.jus.br/tecnologia-da-informacao-e-comunicacao/justica-4-0/
5) Debate com os especialistas
Alexandre Libonati: gostaria de parabenizar a todas as exposições, e voltando para a primeira exposição, quando se menciona a necessidade de capacitação de servidores, eu gostaria de acrescentar que o CNJ aprovou em Janeiro de 2022 a Resolução nº 443, onde se estabeleceu que o conteúdo mínimo para os editais de seleção dos próximos servidores da área de TI do Judiciário, então acredito que esse problema de nivelamento será resolvidos nos próximos anos. No bojo do programa Justiça 4.0 nós estamos trazendo a capacitação para todos os servidores do Poder Judiciário, portanto nós imaginamos conseguir esse nivelamento nacional em um prazo razoável
Gledson Pompeu: um comentário que se pode fazer é que é louvável a iniciativa do CNJ de focar na formação dos profissionais de TI. Deixo um ponto para a reflexão: se não vale a pena a gente tentar fazer um algo similar, \comvisão de entendimento de negócio sobre IA, não só para o pessoal de TI.
Gilmar: gostaria de agradecer o convite que o CONIP fez para que eu participasse deste evento e vejo que neste pouco tempo em que estamos aqui pudemos obter muito conhecimento pelo debate e apresentação do TCU e CNJ. Em 2011, eu fiz mestrado em Inteligência Artificial, nesta época havia um boom de inteligência artificial no mundo todo e também no Brasil, na época se achava que esta tecnologia resolveria todos os problemas no mundo. Como se fossemos apertar um botão e resolver todos os nossos problemas, porém percebeu-se que teríamos um longo caminho até chegar no momento de ter esse botão.Ainda necessita ser feito um trabalho estrutural, não só no treinamento de profissionais em tecnologia, mas capacitação de forma geral, pois precisamos mudar a cultura das instituições para que consigamos trazer soluções que façam a transformação digital judicial.
Na Justiça eleitoral, a pandemia acelerou de uma forma nunca vista antes a transformação digital, aqui no TRE do Paraná nós vivemos em três anos uma evolução de 15 anos, se olharmos a área de TI. Essa evolução se dá no plano da prestação de serviços externa e também na capacitação interna, o que nos possibilitou criar e pensar em tecnologias inéditas. Até então, quando se falava em inteligência artificial, não se olhava a tecnologia como uma solução para resolução do problema de forma geral, mas sim como uma simples ferramenta para desenrolar gargalos. Olhando para dentro da Justiça eleitoral, eu percebi que existe uma maturidade no processo, que está se evoluindo, pois até pouco tempo atrás não se tinha nenhuma base de dados estruturada para se aplicar sistemas de IA como machinelearning ou redes neurais. Quando se falava de processo judicial eletrônico, os tribunais em sua maioria tramitavam processos em papel, portanto foi feita a digitalização dos processos. Mas neste momento eu acredito que tenhamos uma estrutura de dados para falar de forma séria sobre inteligência artificial. Desta forma, nós vemos que as iniciativas fazem efeito, minimizando os trabalhos e processos utilizados na justiça. Só para se ter uma ideia, aqui no TRE do Paraná nós fazemos a prestação de contas nas eleições e nós tivemos em um mês (póseleitoral) 37 mil processos no PJE de prestação de contas. São 37 mil casos que precisam ser avaliados pelas áreas do tribunal, portanto precisa ser criado uma estrutura muito grande para fazer análises desses processos, a grande demanda e os esforços do Judiciário nesse sentido nos trouxeram uma maturidade para se aplicar IA em problemas do dia a dia da Justiça eleitoral.
José Carlos Vaz: bom dia a todos e todas, agradeço a oportunidade de estar aqui com vocês e afirmo que as apresentações foram muito esclarecedoras. Tenho 4 pontos rápidos baseados nestas apresentações que são:
I) Como a gente avança na avaliação das práticas de IA no setor público. Por exemplo: essa abordagem de modelos de maturidade apresentada, como a gente faz com que ela avance para que pra além de padrões únicos tenhamos padrões personalizados que considerem os diferentes perfis para tipos de organizações públicas, pois o Judiciário por exemplo tem uma lógica diferente de uma organização que presta serviços assistenciais diretamente ou opera certas redes de serviço. Como conseguimos avançar de forma a termos mais clareza das potencialidades e naturezas de aplicação para cada organização e modelos de maturidade mais personalizados que estimulem as organizações a fazerem as suas próprias avaliações;
II) O quanto que nós podemos avançar em tipos de aplicação de IA que ampliem a transparência e o controle social do Judiciário;
III) Criação de capacidades para adoção de IA nos estados e municípios, tem a ver com a estratégia de adoção de IA, pois há pouca capacidade local e recursos limitados nos municípios. Percebo que o Judiciário apresenta algumas possibilidades de trabalho colaborativo de criação de comunidades de software públicos de código aberto compartilhado entre vários órgãos, acho que nós precisamos pensar em como fazer isso voltado para os municípios.
IV) Pensar quais são os caminhos para a disponibilização e mobilização de infraestrutura e seus impactos mais amplos, por exemplo as tecnologias de nuvem que vamos empregar e como isso vai ser colocado à disposição no contexto federativo. Como foi falado há pouco, para o Judiciário nacional a infraestrutura não é o maior problema, mas para os estados e municípios podem vir a ser, portanto levando para o campo de executivo como podemos pegar os aprendizados do Judiciário e criar estruturas e capacidades mais disseminadas federativamente.
Paulo César Neves Júnior: gostaria de cumprimentar a todos os especialistas presentes neste grupo. Trago rapidamente duas perguntas para tentar obter mais informações se é que nós a temos nesse momento:
I) Se há boas experiências com inovação aberta identificada no Judiciário pelo país a fora nessa atuação com Inteligência Artificial;
II) Alguma outra iniciativa ligada a modelos de contratação, uma vez que foi falado até aqui sobre a resolução do CNJ envolvendo edital para contratação de novos servidores com conhecimento específico de IA, mas também pode-se ver que tem muita coisa rápida acontecendo fora do Judiciário e um concurso público talvez demore para trazer para dentro. Mas pensando em futuro, houve nessas iniciativas identificadas algum tipo de modelo já utilizado para contratação de serviços e projetos? Como por exemplo a iniciativa apresentada pelo TCU de construção de manuais de contratação e outras iniciativas interessantes que possam nos orientar nos processos de adoção desta tecnologia pela gestão pública.
Neide Sordi: gostaria de perguntar sobre a utilização de IA na classificação dos processos da massa documental acumulada seja ela digital, pois nós temos processos eletrônicos há 21 anos,A IA pode ajudar na classificação desses processos até para cumprir a resolução nº 324 do CNJ que estabeleceu a necessidade dos tribunais terem repositórios arquivísticos digitais confiáveis para a guarda dos processos permanentes. O Dr. Rafael contou que o foco da classificação é primeiro apoiar os julgados, mas a massa documental digital dos documentos precisa ser preservada não só para acesso à informação mas para preservação permanente, uma vez que a IA poderia apoiar o cumprimento da resolução do CNJ, pois sem o apoio da IA não seria possível.
Henrique Castro: obrigado Vagner e demais colegas. Tentarei aqui falar rapidamente um pouco de onde venho e como eu posso ajudar estando nesse grupo, estabelecendo uma conversa com o conteúdo dos palestrantes. Eu sou cientista político, mas boa parte da minha carreira acadêmica é ligada a projetos e consultorias de grande porte para o governo federal e isso começou quando eu era professor da Universidade de Brasília no fim dos anos 90 e meados dos 2000, quando eu me transferi pra UFRGS. Talvez eu possa dar destaque nesse momento para o projeto que participei chamado Justiça em Números, onde coordenei junto a colegas este trabalho de forma interdisciplinar. Portanto o que eu posso dizer da minha experiência é que da mesma forma que GeorgesClemenceau, que foi um grande estadista francês disse que a guerra é um assunto importante demais para ser deixado nas mãos do militares, da mesma forma digo que: ‘’ A inteligência artificial é importante demais para ser deixado apenas nas mãos dos técnicos’’, temos que pensar isso de forma mais ampla.
Não podemos tratar isso como se fosse apenas uma técnica utilizada para atingir objetivos sem entender o impacto disso na sociedade e isso é algo que não deve ser olhado apenas da perspectiva do Estado. Nós temos que arear o nosso debate e não podemos fazer um debate intramuros, que seja corporativo, por melhores e mais bem qualificadas e capacitadas que sejam as pessoas, nós precisamos de olhares externos. A universidade ajuda nisso, ela consegue ter olhares externos aos processos que geralmente existem, mas não é necessário apenas a universidade. Portanto a minha contribuição é que se nós ficarmos em um debate intramuros nós podemos tender a construímos vieses quer sejam tão complicados como os próprios vezes já discutidos no contexto dos algoritmos, ou seja nós não podemos deixar que a nossa vontade de fazer as coisas seja mais forte que a nossa responsabilidade com a sociedade brasileira.
Alexandre Atheniense: de forma breve, eu gostaria de dizer que nós estamos com uma missão muito interessante e estão presentes aqui os principais protagonistas que estiverem à frente dos processos de implementação dos sistemas de práticas processuais eletrônicos do Brasil. Agora o desafio é a implantação da inteligência artificial. Eu gostaria de levar a ciência que a OAB e o Centro de Estudos de Sociedades dos Advogados estão atentos a este assunto e ao mesmo tempo preocupada com a transparência dos critérios, algoritmos e implantações que vierem a acontecer. Esse debate é excepcional,a meu ver, pois cria essa ponte, então sempre que a gente puder falar com os agentes envolvidos é de enorme valia para todo processo.
Levanto também aqui a questão relacionada à proteção de dados pessoais, pois é um assunto que não se desvincula da implementação de sistemas de IA e precisa ser sempre sopesado na hora de tomar decisões e sistemas. De qualquer maneira sou uma pessoa muito positiva e fiquei satisfeito em ter acesso aos estudos que nos façam entender nossa situação no momento atual e me coloco a disposição do grupo.
6) Encerramento
Vagner Diniz: nós temos 6 perguntas pelo o que eu consegui sintetizar aqui das contribuições. Vou repassá-las aqui e vocês se dividam para responder, por favor. Para que todas possam dar a sua contribuição final e encerrarmos esse evento. Antes de qualquer coisa, deve-se destacar que boa parte dessas perguntas dizem respeito a governança da Inteligência Artificial. Parece que as duas pesquisas não tiveram foco explícito na identificação da governança de IA, embora há nuances e ações que remetem a ela.
As perguntas são:
I) Como avançar na avaliação das práticas de IA (como avaliar e garantir o avanço no modelo de maturidade que foi exposto pelo Gledson)?;
II) Como melhorar o uso de IA para garantir a transparência e o controle social (como melhorar a transparência algoritma)?;
III) Existem modelos de inovação aberta no Judiciário?;
IV) Existem modelos de contratação para projetos que envolvem IA, por agentes fora do Judiciário em termos de inovação aberta?;
V) Sobre o uso de IA na classificação de massa documental para manter o acervo de processo permanentes;
VI) Como estender os benefícios do uso de IA para outras esferas de governo como Estados e Municípios (como podemos compartilhar com outros órgãos e esferas de governo que não tem esse poder computacional as soluções criadas).
Gledson Pompeu: o primeiro ponto é que esse modelo de maturidade que utilizamos foi usado como um instrumento para simplificar a comunicação sobre resultados, então ele foi usado para interpretar o resultado e classificar as organizações em uma escala. Mas o questionário é muito mais amplo do que isso, são dezenas de perguntas específicas. E já respondendo a pergunta sobre como avançar nos métodos de avaliação, a tendência é que a cada novo ciclo deste acompanhamento a gente tenha ali pequenos ajustes nessas perguntas para ir melhorando essa avaliação e ir refinando alguns pontos como foram citados a questão da governança que é uma preocupação nossa também do tribunal e que vai ser melhor explorada a medida que a gente tiver condições de trabalhar a partir desta primeira fotografia que criamos.
Daí eu puxo também a questão de transparência e de uso responsável pelas organizações: é justamente por isso que a gente vai desenvolver um modelo próprio para fazer auditoria de soluções baseadas em IA, principalmente a machinelearning, pois nós temos essas questões relacionadas a vieses e a transparência algorítmica e precisamos inclusive discutir alguns parâmetros. Analogamente, quando a gente vai a uma consulta médica para tratar de coisa mais sérias, o que o médico faz é te examinar para dizer do que se trata a situação e qual remédio precisa ser dado. , Nem sempre ele não consegue te explicar 100% de forma objetiva o raciocínio dele, pois parte dele é lógico e parte vem da experiência acumulada. , Portanto teremos que encontrar esses parâmetros para avaliar a implementação de algoritmos IA na administração pública e espera-se que o modelo de auditoria do tribunal consiga de certa forma contribuir nesse caminho. Respondendo pontualmente a pergunta que foi feita sobre o modelo de contratação, o Ministério da Saúde e INCRA relataram que estão fazendo contratações de soluções com IA. Um último aspecto em relação a transparência dos algoritmos, é que deve-se considerar que sempre vai ter que existir um humano responsável por validar e assumir a responsabilidade pelos resultados que são dados pelos algoritmos, esse é o princípio que queremos adotar no TCU, que o algoritmo pode não ser explicável mas precisa ter alguém responsável pelos processo que esse algoritmo estiver produzindo.
Rafael Leite Paulo: primeiro, a provocação do professor Vagner sobre a governança de IA: acredito que a pesquisa é o primeiro nível de governança pois nos ajuda a enxergar o que existe, e daí podemos ir ao ponto mais fundo que é enxergar o algoritmo, o que está sendo feito e os resultados. Na lógica do CNJ nós temos uma regulação específica que é a resolução nº 332, mas a gente está com essa visão do ciclo de governança, começamos por enxergar o dataset (a massa de dados que foi utilizado para treinar) o algoritmo em si que foi treinado em cima desse dataset, os resultados e a validação pelos usuários, pois a plataforma também contempla isso, então estamos com uma visão do ciclo de governança completo de implementação de IA no Judiciário e como a Raquel apontou na pesquisa nós estamos com 95% dos tribunais com acesso ao código fonte, então a estratégia está tendo resultados e seguindo o caminho que queremos.
Sobre a proteção de dados pessoais, isso tem pautado a lógica desde o nascimento dos processos, uma vez que todos os tribunais que estão se integrando tem processo extremamente sensíveis em sua base, não só por questões pessoais, mas por questão de Estado, de crime e segurança de pessoas, informações de saúde e ocorrências de violência contra pessoas, Então isso está pautando todas a regras mínimas nos autos processuais ao nível digital, pelo estabelecimento de níveis de segurança de acesso ao processo a cada documento sendo implementado e no consumo desse dado também está sendo reforçado esse mesmo padrão de segurança. Se tratando das questões de descarte de processo apresentados aqui, vou dizer que isso é um não problema, uma vez que a tendência é que há uma curva exponencial de crescimento do processamento e capacidade de armazenamento de dados, que nos leva a crer que não vamos precisar descartar, pois os maiores processos que tivermos tramitando no país serão de tamanho insignificante se comparado a um episódio de 4k da sua série preferida, portanto os nosso dados são insignificantes na massa de dados existentes e o custo vai se aproximando de zero e será mais caro processar se preciso apagar ou não ou simplesmente deixar ele lá.
Se tratando da colaboração IA, pode-se dizer que está acontecendo em muitas frentes, com a academia, organismos internacionais como o PNUD (organismo da ONU), empresas privadas. A AWS tem programas que foram utilizados para nossos projetos de armazenamento em nuvem abertos em uma frente conosco. Se você olhar a plataforma do sistema Judiciário verá que soluções podem também serem encomendadas ou desenvolvidas junto com a iniciativa privada, porém a empresa tem que ser honesta e trazer o código dela aberto e de forma que você tenha pleno controle do ciclo. Pode-se contratar essas empresas ainda para aprimorar projetos já existentes. Sobre como replicar essas soluções da melhor forma, acredito que seja no caminho que o CNJ vem propondo, pois ela entrega uma solução pronta. E falando dos municípios, se o poder público federal na hora de fazer qualquer acordo ou celebração para repasses de verbas federais pedisse que houvesse uma infraestrutura de dados localmente, a gente criaria um espaço para replicar soluções, pois como eu falei o insumo é o dado, e, portanto, a União tem a capacidade de incentivar que os municípios para que tenham o ambiente para receber essas novas tecnologias. Por fim, sobre aumentar transparência e o controle público é o que buscamos fazer, uma vez que para isso é necessário que se tenha o dado, pois a lógica sempre foi cobrar sem ter isso dentro e estamos mudando o raciocínio pois quem vai divulgar o dado precisa ter acesso simples e fácil a ele, para que o responsável por disponibilizar os dados os consiga transmitir de forma fácil e com maior facilidade.
Vagner Diniz: por fim, quero agradecer aos convidados pela disponibilidade e pelo tempo dedicado nesta reunião conversando, expondo seus trabalhos e respondendo as perguntas, o que foi uma contribuição extremamente relevante e aumentou nosso conhecimento e capacidade de reflexão. A todos os participantes que ficaram meia hora depois do combinado eu agradeço muitíssimo e quero só afirmar para vocês que estaremos em breve entregando um relatório para vocês nesse encontro que irá sistematizar e sintetizar tudo que foi aqui conversado. O nosso objetivo é construir esse espaço de reflexão e esperamos que ao longo do tempos nós também consigamos reunir um conjunto de sugestões sobre adoção de tecnologias emergentes na gestão pública para que possamos entregar ao próximo governo, gostaríamos muito de sermos um lugar de reflexão e colaboração para a melhoria da qualidade do serviço público. O tema do próximo encontro vai ser Justiça 4.0. Muito obrigado a todos e nos encontramos em breve.
7) Lista de especialistas convidados presentes
➢ Coordenador: Vagner Diniz – Gerente do Centro de Estudos sobre Tecnologias Web, do Nic.br.
➢ Palestrantes: Gledson Pompeu, Assessor para Inovação e Governo Digital do Tribunal de Contas da União apresentando o trabalho do TCU e Rafael Leite Paulo – Juiz Federal no TRF1 e Juiz auxiliar no CNJ e Raquel Lasalvia Correia, gerente da plataforma SINAPSES do CNJ.
➢ Relator: Anderson Ribeiro- Pesquisador do Grupo de Estudos sobre Tecnologia e Inovação na Gestão Pública (GETIP) da EACH-USP.
➢ Álvaro Gregório – Coordenador do Núcleo de Inovação e Tecnologia da Cia. Do Metropolitano de São Paulo – Metrô SP
➢ Alexandre Atheniense – Sócio do Alexandre Atheniense Advogados
➢ Alexandre Libonati De Abreu – Juiz auxiliar da presidência do Conselho Nacional da Justiça.
➢ Eduardo Arruda – Coordenador Técnico do Programa Justiça 4.0 – CNJ/PNUD
➢ José Carlos Vaz – Professor da Universidade de São Paulo – USP
➢ Leandro Vilar – Coordenador de Sistemas – Tribunal Regional Federal da 1ª Região (TRF1)
➢ Maria Alexandra Cunha, Professora da Fundação Getúlio Vargas -FGV-SP
➢ Neide Alves Dias De Sordi – Membro do Comitê do Programa Nacional de Gestão de Documentos e Memória do Poder Judiciário
➢ Nicolau Reinhard – professor da Universidade de São Paulo – USP
➢ Paulo Cezar Neves Junior – Coordenador do programa de inovação em direito do Mackenzie e Juiz Federal do Tribunal Regional Federal da 3ª Região – TRF 3ª.
➢ Paulo Roberto Pinto – Pesquisador da Universidade Federal do Rio Grande do Sul – UFRGS
➢ Henrique Carlos de Oliveira de Castro – Professor – Universidade Federal do Rio Grande do Sul – UFRGS
➢ Gilmar José Fernandes de Deus – Secretário de TI – Tribunal Regional Eleitoral do Paraná
➢ Marco Antonio Lopes Samaan – Secretário de TI – Tribunal de Justiça de São Paulo
➢ Flavia L M Campos – Gerente de Projetos – CNJ
➢ Diego Cerqueira – Analista de projetos Web, Centro de Estudos Sobre Tecnologia Web – NIC.br. e professor PUC-SP
➢ Diogo Cortiz – Analista de projetos Web, Centro de Estudos Sobre – NIC.br. e professor PUC-SP
➢ José Avelino – CNJ
➢ Sílvia Moreira – CNJ
