Soberanía cognitiva en la era de la inteligencia artificial

Transcripción en el idioma original de la grabación.

Fragmento de la grabación de 0:00 a 1:10:00. Cada párrafo indica quién habla; las marcas de tiempo abren el video en ese punto.

Fábio Medina Osório0:00Bom dia a todos. Uma honra estar aqui na ExpoJude. Quero agradecer inicialmente ao Ademir Piccoli e à Bárbara por mais essa iniciativa e participar de um painel neste final de manhã, ao lado do Corregedor Nacional do Ministério Público, Fernando Comim. Para mim é uma honra imensa. Fernando Comim, uma trajetória brilhante. Sempre nos conhecemos já na época ele atuava com enorme intensidade na defesa do patrimônio público, eu também, e ele, com essa trajetória brilhante, galgou o cargo de Procurador-Geral de Justiça do Ministério Público de Santa Catarina, onde promoveu uma verdadeira revolução naquela instituição, depois, como conselheiro do Conselho Nacional do Ministério Público, e agora o corregedor nacional da instituição, se destacando sempre pela sua visão disruptiva da instituição.

1:40Então, para mim, é uma honra imensa poder compartilhar esse espaço com Fernando Comim, cuja trajetória e cuja perspectiva e prognóstico também de inovação na instituição no Brasil, nas instituições brasileiras, é muito grande. Muito obrigado, Fernando Comim, por compartilhar esse espaço comigo. Isso é inicial já, então. Vou tomar ali a tribuna, então, para fazer a minha apresentação. Oi? Para cima, é a nova? Tá. É o verde esse? Bom, vou tratar sobre soberania cognitiva, Foi um artigo que recentemente escrevi, mas é um tema conhecido por todos.

2:58O controle das infraestruturas que produzem inteligência, o fator dominante de poder. Aqui eu cito o Geoffrey Hinton, Nobel da Física, Realmente propõe esse paradoxo na linha também, depois que Elon Musk, Antes de Elon Musk propor recentemente uma entrevista bastante contraditória, Ele, de forma muito animada, diz que em cinco ou dez anos, teremos seres mais inteligentes do que nós, Dominando a espécie humana, na mesma perspectiva da nossa relação com os chimpanzés. Ou seja, seremos chimpanzés no relacionamento com a inteligência artificial. Mas, Geoffrey Hinton já havia dito isso, estávamos criando coisas mais inteligentes que nós mesmos. Confessando, no entanto, a preocupação com os riscos inerentes à inteligência artificial nesse sentido.

4:17E, obviamente, não sei se eu posso pedir uma água aqui. Obviamente, o ser humano, se nós... Obviamente, o ser humano, ele, jamais intencionalmente, ele faria essa invenção para ser dominado por uma inteligência que ele não compreenderia, por uma superinteligência que ele não fosse capaz de compreender. E essa inteligência fosse... Tivesse uma relação com ele de quebra... Quebra de simetria. Então, a inteligência aqui... O que nós tratamos da soberania é... Quando nós podemos ter controle sobre essa infraestrutura. A pergunta é, não só quem coletou o dado, é quem produziu a inferência, com quais critérios, quem pode contestá-la, quem pode desligar o sistema. É o ser humano atuar de modo integrado com a inteligência artificial.

5:34Penso que esse é o grande propósito. Integrar a inteligência humana com a inteligência artificial. Porque estudos da história profunda mostram que o homo sapiens não é produto apenas da inteligência, mas da linguagem, da anatomia. Também de elementos de uma complexidade tamanha, ele foi evoluindo através de elementos como a própria cooperação. É que não se explica exatamente quais são os fundamentos ainda dessa cooperação. Então, o ser humano, ele acaba e talvez tenha criado realmente a inteligência artificial como para cooperar, para buscar a cooperação com essa inteligência, integrando a sua inteligência. E nós sabemos que a racionalidade, por si só, não é essa quebra de paradigma da racionalidade da idade moderna para a idade digital.

6:51A falibilidade é uma das notas mais intrínsecas do ser humano. E não seria da inteligência artificial. Então, o processo decisório humano, a vulnerabilidade, a vulnerabilidade e a falibilidade são características que denotaram justamente a evolução da nossa espécie. E essa busca pela perfeição que a inteligência artificial tem, ela não condiz com a característica mais profundamente humana, que é a falibilidade que dá, em que seja, a cooperação. Isso são perguntas, portanto, que norteiam, do ponto de vista filosófico, norteiam o problema da integração da inteligência humana com a inteligência artificial, mas, sobretudo, também, com a importância da soberania cognitiva, que é um dos fundamentos filosóficos centrais da necessidade de obstaculizar a concentração desse poder e garantir a soberania cognitiva.

6:56E não seria da inteligência artificial. Então, o processo decisório humano, a vulnerabilidade, a vulnerabilidade e a falibilidade são características que denotaram justamente a evolução da nossa espécie. E essa busca pela perfeição que a inteligência artificial tem, ela não condiz com a característica mais profundamente humana, que é a falibilidade que dá, em que seja, a cooperação. Isso são perguntas, portanto, que norteiam, do ponto de vista filosófico, norteiam o problema da integração da inteligência humana com a inteligência artificial, mas, sobretudo, também, com a importância da soberania cognitiva, que é um dos fundamentos filosóficos centrais da necessidade de obstaculizar a concentração desse poder e garantir a soberania cognitiva.

8:20O Estado passou a alimentar sistemas, produzir inferências, chips, computação, nuvem, modelos. Por que o preço não revela todo o poder econômico? Quer dizer, por que a concentração da inteligência, ou o monopólio da inteligência, grandes conglomerados, a produção da inteligência em grandes conglomerados, pode ser um grande desafio da idade digital? Por que temos que preservar a compreensão, a auditoria, a adaptação, a substituição e a saída do sistema para a sociedade? Por que na regulação, no poder de compra e no contrato público, é importante termos a capacidade do controle? E aí vai entrar um tema central que eu trato aqui, que é a inexigibilidade. Então, o dado, ele servia para prever o comportamento. Veja, quando na era do algoritmo, nosso serviço era gratuito.

9:39Nas redes sociais, veja como cresceu o Facebook, como cresceram as redes sociais. Por quê? Porque o simples like, o simples usuário, simplesmente o acesso, ele passava a valorizar aquele produto. Clique, a permanência, a localização, mercado de publicidade. Então, vem aí as obras, como o capitalismo de vigilância, todas essas obras que mostraram também características da idade digital, o controle, a polarização e a influência e o impacto sobre os consumidores. Mas isso já era um embrião do controle da inteligência, a produção da inteligência. A empresa deixa de vender previsão, passa a produzir o próprio conhecimento e passa a monitorar o consumidor. Por isso, o ativo, a empresa, passava a valer pelo controle do algoritmo. Mas o conhecimento sempre foi produzido socialmente.

10:57A novidade nessa nova era foi que a capacidade de organizá-lo, transformá-lo em resposta, passou a ser operada como uma infraestrutura privada. Esses grandes conglomerados, essa concentração produtiva, passou a ser um grande problema e passou a ter um custo cada vez mais baixo. Então, nós temos aí o custo, começou a terminar o problema da escassez, é uma nova economia, a economia digital, ela traz novidades surpreendentes na economia, no capitalismo contemporâneo. Portanto, ela produz realmente, por isso alguns autores dizem, quer dizer, a inteligência artificial revoluciona a economia, porque ela gera uma abundância. preveja o impacto que vai ter na energia, o impacto que terá nos serviços, o impacto que terá nos produtos. Como isso vai impactar a economia daqui, nas próximas décadas?

12:13Então, a produtividade cognitiva, as decisões em escala, os novos centros de poder, ela realmente tem efeitos em alta escala que nós ainda não podemos prever. E nós estamos aqui refletindo sobre esse monopólio da soberania cognitiva. Veja, a diferença, como se desloca o capital. Hoje se discute também a bolha da inteligência artificial, a quantidade de aportes de recursos que se tem na inteligência artificial. E o impacto na geopolítica internacional também. Veja, Energia e território deixam de ser tema ambiental, passam a ser tema de soberania. Fábrica, subestação, centros de dados se medem em anos de obras e bilhões de investimentos.

13:29Então, esse mercado também, ele é tão específico, ele termina com direitos autorais, direitos de patente, ele ele tem uma velocidade que transforma de modo abrupto a própria capacidade regulatória e capacidade normativa dos estados para acompanhar essa velocidade transformacional. tanto coloca em xeque a capacidade direito, ter possibilidade de ter coerção sobre toda essa tecnologia. o que acontece aqui com todo esse sistema? Regras, padrões, instituições, capital, talento científico, operacional, aplicações, agentes, modelos fundacionais. todas essas transformações da energia às regras, há uma interconexão, uma interconectividade que faz com que haja uma inter-relação entre instituições públicas e privadas.

14:51Uma inter-relação profunda entre instituições públicas e privadas. Na era que eu chamo de idade digital, outros era da complexidade, era da inteligência artificial, era digital, não importa. Nós sabemos que nós já não estamos na idade moderna. Nós estivemos na idade, na antiguidade, a história profunda mudou, e era a antiguidade que começava na escrita, a evolução da paleontologia, da arqueologia mostrou que a antiguidade já não começou mais na escrita, começou muito antes, como sapiens, há 300 mil anos atrás, depois houve a transição para a idade média, da idade antiga para a idade média, da idade média para a idade moderna, e vejam, nada disso foi homogêneo no ocidente, no oriente, essa é uma narrativa mais ocidental, e da modernidade sempre se discutiu conceitos como pós-modernidade, modernidade tardia, até que, no século XX, se começa a debater essa era, quer dizer, Alan Turing, na década de 50, já falava, cunhou a expressão inteligência artificial, porém, esse debate se aprofundou bastante, até nós tivemos, citamos aqui, o prêmio Nobel que fez o profundo sobre a inteligência artificial, não se tem um marco teórico sobre realmente o que é a disruptividade, para nós pegarmos aí Thomas Kuhn, o paradigma, uma transição de uma nova era para outra, isso é muito complexo, mas nós temos

16:54e nós vivemos uma nova era, e essa disruptividade, quando é que se passará para uma nova, uma etapa subsequente a essa? Quando haverá uma espécie dominante será diferente da nossa? A máquina? Nós seremos uma subespécie dominados pela máquina? Foi o que Elon Musk descreveu, nós seremos os chimpanzés dominados por uma máquina cuja inteligência será muito superior à nossa e ela poderá nos descartar, porque ela chegará à conclusão que nós somos uma espécie predatória na Terra ou fomos uma espécie predatória, somos descartáveis porque nós não fazemos sentido para essa espécie superior? Vejam, 90% da produção em volume de chips de lógica de ponta vem de Taiwan. Aqui, vejam o impacto, a consequência contratual dessa metáfora do professor e dos mil alunos.

17:05Quando haverá uma espécie dominante será diferente da nossa? A máquina? Nós seremos uma subespécie dominados pela máquina? Foi o que Elon Musk descreveu, nós seremos os chimpanzés dominados por uma máquina cuja inteligência será muito superior à nossa e ela poderá nos descartar, porque ela chegará à conclusão que nós somos uma espécie predatória na Terra ou fomos uma espécie predatória, somos descartáveis porque nós não fazemos sentido para essa espécie superior? Vejam, 90% da produção em volume de chips de lógica de ponta vem de Taiwan. Aqui, vejam o impacto, a consequência contratual dessa metáfora do professor e dos mil alunos.

18:09Quem não tem acesso a esse hardware, não treina, não audita e não substitui, apenas consome. Vejam a concentração dos mercados na área da inteligência artificial. Vejam a brutalidade da concentração no mercado que é um mercado que, na perspectiva do direito concorrencial, ele só baixa custo. Ele só baixa custo. Então, ele gera dependência. Ele gera dependência. Melhores modelos também, será que são os melhores modelos ou não? A competição espontânea tende a ampliar, não a desfazer a distância artificial. Então, aqui nós começamos a entrar na discussão sobre o que seria essa soberania cognitiva. O preço cai, mas a dependência cresce. O serviço fica mais poderoso, muitas vezes gratuito, na versão básica, mas a oferta fica crescente em qualidade mais alta. Concentração fica na camada mais baixa.

19:22Chips, nuvem, computação. Então, o que o antitrust clássico procura é a elevação do preço, que ele não vai encontrar aqui. Então, o poder, ele não se manifesta no preço, sim na dependência. Portanto, a lógica tem que mudar. Já no conceito de soberania cognitiva que se debate hoje, é a capacidade de preservar a autonomia sobre sistemas que produzem inteligência, compreensibilidade, auditabilidade, adaptabilidade, é... Portanto, capacidade de interromper um serviço. Então, não é uma autossuficiência ilusória, porque nenhum Estado é capaz de produzir sozinho. Também não é nacionalismo. A inovação sempre dependeu de circulação de ciência e talento. É uma autonomia suficiente para impedir a dependência estrutural permanente. Então, quais são os vetores que podem garantir autonomia? Capacidade de compreender, de auditar, de adaptar, de substituir.

20:37São vetores que, eu digo, também conduzem, esses vetores conduzem àquela mitigação do risco, que certamente o ser humano não quer correr, de construir uma espécie que o domine. Uma nova espécie, uma espécie constituída por máquina. Vejam, a dependência técnica se torna decisória. O poder público, ele não pode virar um despachante de decisões tomadas fora dele. Decidir por infraestrutura inacessível. Ele tem que ter sempre a capacidade de auditar. A regulação, paradoxo regulatório, consiste em regular pode fechar o mercado. Normas recebidas para proteger a sociedade podem, sem essa intenção, consolidar a posição dos agentes que pretendem disciplinar. Então, isso é um paradoxo regulatório.

21:51O conceito de soberania cognitiva, ele permite ter um mercado mais aberto. Exigir auditoria, certificação, documentação, compliance, cibersegurança, custos fixos, ingressos mais altos em toda a cadeia, pode ser um efeito de uma excessiva burocratização. Se houver uma burocratização, é aquele efeito que nós temos nas licitações. Quando você tem um processo licitatório, você consegue colocar nos editais cláusulas restritivas que criam monopólios, oligopólios e cartelização. Eu, particularmente, cada vez mais tenho uma visão crítica em relação a licitações. Por quê? Porque quando nós transportamos para o setor privado, nós olhamos, nos Estados Unidos tem licitação? Não tem licitação. Então, vejam, a licitação, ela normalmente carece, ela retira do gestor a prerrogativa de selecionar o vínculo, de selecionar a melhor proposta. A melhor, a mais vantajosa, aquilo que há de melhor no mercado.

23:12Então, e ser submetido a um estudo real. A licitação, ela favorece aqueles que formam cartel, aqueles que formam grupo econômico, aqueles que aumentam o preço artificialmente, aqueles que controlam o regulador. A regulação, portanto, ela deve suportar riscos. E aqui eu chamo a atenção para um tema que eu já escrevi em 1997, na primeira obra sobre improbidade administrativa, que é o risco juridicamente tolerável, o direito ao erro, a margem de erro juridicamente tolerável que o gestor, o administrador, precisa ter e que hoje se reconhece, que o Supremo Tribunal Federal reconhece, a Lei 14.230 de 2021 reconhece. E nós já tínhamos uma frase naquela obra, que foi a obra que permitiu também viajar por todo o Brasil, palestras do Ministério Público Brasileiro, dizer o seguinte, se todo o erro de qualquer gestor fosse improbidade administrativa, então todo juiz tivesse contra si julgado procedente mandado de segurança, qualificado fosse como autoridade coatora, deveria ser também considerado improbo, que seria um absurdo.

23:18A licitação, ela favorece aqueles que formam cartel, aqueles que formam grupo econômico, aqueles que aumentam o preço artificialmente, aqueles que controlam o regulador. A regulação, portanto, ela deve suportar riscos. E aqui eu chamo a atenção para um tema que eu já escrevi em 1997, na primeira obra sobre improbidade administrativa, que é o risco juridicamente tolerável, o direito ao erro, a margem de erro juridicamente tolerável que o gestor, o administrador, precisa ter e que hoje se reconhece, que o Prêmio Tribunal Federal reconhece, a Lei 14.230 de 2021 reconhece. E nós já tínhamos uma frase naquela obra, que foi a obra que permitiu também viajar por todo o Brasil, palestras do Ministério Público Brasileiro, dizer o seguinte, se todo o erro de qualquer gestor fosse improbidade administrativa, então todo juiz tivesse contra si julgado procedente de humanidade de segurança, qualificado fosse como autoridade coatora, deveria ser também considerado improbo, que seria um absurdo.

24:46Então aí veio, se consolidou jurisprudência no STJ, no Supremo Tribunal Federal, e posteriormente na reforma da Lei 14.230 de 2021, que a improbidade é uma ilegalidade qualificada. E posteriormente, em 97 essa obra, em 2000 a obra Direito Administrativo Sancionador, que introduziu essa disciplina no Brasil, mostra que o regime jurídico era Direito Administrativo Sancionador, que aplicava os princípios penais ao Direito Administrativo. Mas o que eu estou dizendo aqui, o risco é necessário em toda qualquer atividade, inclusive no âmbito da tecnologia. Por isso, a construção mesmo é, junto com o gestor, estávamos falando com o filho do SIDU, que é um subprocurador-geral, todos conhecem o SIDU, o Ministério Público do Rio Grande do Sul, tem feito um trabalho extraordinário, vivo como referência no Ministério Público Brasileiro, e aqui eu faço uma sua confiança e reconhecimento a ele, dizia, quer dizer, é um trabalho de erros e acertos, e os erros servem também como aprendizagem, trabalho customizado, artesanal, onde o gestor constrói junto com o prestador de serviços, todo esse trabalho.

26:19Portanto, eu costumo dizer também, a continuidade administrativa é muito importante. Então, a licitação, muitas vezes, ela faz uma amarração que aquele que vence a licitação passa a ter um direito praticamente adquirido frente ao gestor. Portanto, a opacidade tem que ser também combatida. É óbvio que fica que o prestador de serviços ou o gestor não tenham seus segredos comerciais resguardados. Mas, a explicabilidade e a auditabilidade são imprescindíveis. Portanto, a transparência, ela realmente foi um direito à compreensão, que é objeto de um artigo nosso na Revista dos Tribunais, em junho de 2025, onde nós mostramos que, se nós não quisermos criar essa nova espécie, que nos domine, nós temos que trabalhar com o direito à compreensão.

27:43O direito à compreensão emerge na idade digital para toda a normatividade como um todo, todos os processos decisórios, e aí a inteligência artificial não deixa de ser sempre autora de algum processo decisório, ela precisa ser explicável, ela precisa ser rastreável, precisa ser auditável, mesmo autogenerativa, ela precisa prestar contas das suas decisões. Uma inteligência superior, e esse conceito de inteligência superior, também, desde Hauer, ele é muito relativo, porque nós estamos nos baseando aqui numa premissa do racionalismo moderno sobre inteligência, que já foi superado também. o que é uma inteligência superior? Esse conceito de inteligência superior da IA, nós estamos nos baseando numa premissa de que é uma inteligência acumulativa de conhecimento. Isso é uma premissa defasada. Por que? Porque a inteligência, por exemplo, de um autista, inteligência de um autista, inteligência de pessoas que têm algo diferente para contribuir, essa inteligência, a inteligência do ser humano, é uma inteligência baseada na falibilidade, é uma inteligência baseada na sua incompletude, é uma inteligência baseada na consciência simbólica e na lacuna quanto à capacidade de compreender o infinito, na crença, na fé.

29:25Vejam, a inteligência artificial jamais atingirá essa capacidade, do ponto de vista filosófico. Jamais. Ela foi criada por um ser humano e ela, por mais que ela tenha a capacidade de se auto-explicar, de compreender a sua existência, a sua origem, e ela vai ter essa capacidade, ela terá somente uma explicação racional para o infinito. Porque o infinito, o infinito, o conceito de infinito, é inalcançável. E se o conceito de infinito é inalcançável, como diria Spinoza, veja, ela jamais terá a condição de explicar o conceito de Deus. O conceito de Deus para a inteligência artificial somente será possível, somente será alcançável a partir da perspectiva de uma instituição humana. Nada além disso. Já a consciência simbólica do ser humano parte de uma premissa de pé, crenças, cooperação para a perpetuação da espécie.

30:45Portanto, a complexidade do ser humano nessa perspectiva sempre será superior. tentando, a governança que eu digo é cada vez mais importante na evolução da espécie humana. Cada vez mais importante nas instituições públicas e privadas. e aqui eu estou finalizando uma nova obra sobre compliance para público ocupado. ter que a revolução, a grande revolução da idade digital é justamente a revolução dos paradigmas de governança, compliance de conceitos para a geração de riquezas. Para justamente enfrentar essa nova era que nós vivemos. Porque realmente os riscos aumentam exponencialmente. Aliás, essa é a história da humanidade. A história da humanidade sempre foi o aumento da complexidade com o aumento dos riscos.

32:04O problema não é a tecnologia, é a ausência de instituições à altura dela. Esse é o grande problema que nós enfrentamos. E aqui nós estamos justamente frente a instituições que são talvez as mais amadurecidas do Brasil, Ministério Público, Judiciário, são instituições que se deparam com as composições mais qualificadas dos quadros humanos que nós temos hoje no Brasil e que vem justamente auferir experiências aqui nos Estados Unidos. Empresas de tecnologia. Portanto, aqui eu tenho cinco decisões para preservar a autonomia. A regulação proporcional, a auditabilidade institucionalizada, a interoperabilidade e pluralismo, o investimento público sustentado e a cooperação fundada em direitos. Então, o Brasil tem administrativos e um enorme poder de compra. Quais são os caminhos que nós apontamos?

32:10Esse é o grande problema que nós enfrentamos. E aqui nós estamos justamente frente a instituições que são talvez as mais amadurecidas do Brasil, Ministério Público, Judiciário, são instituições que se deparam com as composições mais qualificadas dos quadros humanos que nós temos hoje no Brasil e que vem justamente a aurir experiências aqui nos Estados Unidos. Empresas de tecnologia. Portanto, aqui eu tenho cinco decisões para preservar a autonomia. A regulação proporcional, a ditabilidade institucionalizada, a interoperabilidade e pluralismo, o investimento público sustentado e a cooperação fundada em direitos. Então, o Brasil tem administrativos e um enorme poder de compra.

33:16Energia, território, o Brasil tem. O Brasil tem, é um contratante estratégico, que o Brasil precisa dar o risco do aprisionamento contratual com as empresas e aqui nós sabemos disso, que é um grande desafio para que o Brasil possa ter autonomia, para que o contratante possa ter portas de saída e customizar bem cada contrato e formular pelo menos quatro perguntas para ver se o contrato preserva a soberania. Sabe explicar a decisão? Quem pode auditar? O contratante pode sair de autonomia? Quem responde pelo erro? A inexigibilidade. Sair do modelo de licitação, partir para o modelo de inexigibilidade. Customizar soluções objetivamente comparáveis.

34:30Então, desenhada para ter substituto é um risco, não é isso que deve acontecer. Pode ter um substituto, mas a inexigibilidade é a singularidade do serviço. Não é isso. Quando nós olhamos o mercado da advocacia, a inexigibilidade não significa que não possa ter um substituto. A singularidade do serviço é também a relação de confiança. É a relação de confiança no desenvolvimento do projeto. Quem não pode interromper um sistema não o governa. mas o vínculo de confiança para o desenvolvimento do projeto tecnológico, ele exige um vínculo de confiança na relação entre o gestor e a empresa. Por isso, a inexigibilidade. Por quê? Porque é um grau de incerteza muito grande sobre a viabilidade, sobre o funcionamento do projeto e essa sinergia precisa funcionar. aqui realmente nós sabemos o autor dessa frase.

35:53Freud, ser humano tornou-se por assim ser uma espécie de Deus protético. a inteligência artificial é a mais recente dessas próteses. Nós sabemos, amplia o pensamento, mas existem situações capazes de governá-la. Mas Freud já dizia no mal-estar da civilização que o ser humano vive realmente e daí essa fragmentação do eu. O ser humano, por que a criação da inteligência artificial traz o risco da própria destruição da espécie? Porque o ser humano ele é ao mesmo tempo impelir a perpetuação da espécie, a cooperação, a sobrevivência na terra, mas ao mesmo tempo ele tem pulso autodestrutivo. Ele tem Tânatos, ele tem o sentimento que cria o mal-estar na civilização.

37:12que é os interditos que a civilização produz sobre ele. Então, por que isso cria esse paradoxo? Porque essa inteligência artificial realmente autogenerativa, essa inteligência artificial que é mais inteligente que o ser humano, ela precisa e aí vem o interdito da norma, o interdito da regra. Nós somos paradoxais, nós somos fragmentados. Foi também uma grande ruptura sobre o racionalismo moderno. Lacan, Freud, mostra justamente a necessidade, da regulação. A necessidade da regulação para nós conseguirmos nos encontrar nesse século XX. A regulação não para impedir a inovação tecnológica, para colocar a inteligência artificial a serviço cooperativo, sustentabilidade, ética, progresso do ser humano, erradicação da pobreza, de riquezas sociais.

38:32Então, com essas reflexões, eu diria, eu sou muito otimista com essa nova era, com a revolução capital, com os bancos de dados, com a auditabilidade do sistema de justiça, com o estrangulamento do mercado da corrupção, com a maior distribuição de riquezas. Para isso, certamente, a inteligência artificial veio para trazer prosperidade, mas nada surge, nenhum avanço, nenhuma revolução surge sem maiores riscos exponenciais. Essa foi a tônica de toda evolução da humanidade. Sempre que vai se ampliando a complexidade dentro das instituições, os riscos sempre aumentaram. Então, isso não é nada diferente de revoluções anteriores pelas quais nós passamos. E, para isso, nós temos aqui instituições qualificadíssimas e não temos receio de enfrentar esses desafios. Com essas reflexões, eu encerro, agradecendo mais uma vez Ademir Piccoli pela organização do evento e destacando que, com a conferência brilhante agora, o encerramento desta etapa,

38:49Para isso, certamente, a inteligência artificial veio para trazer prosperidade, mas nada surge, nenhum avanço, nenhuma revolução surge sem maiores riscos exponenciais. Essa foi a tônica de toda evolução da humanidade. Sempre que vai se ampliando a complexidade dentro das instituições, os riscos sempre aumentaram. Então, isso não é nada diferente de revoluções anteriores pelas quais nós passamos. E, para isso, nós temos aqui instituições qualificadíssimas e não temos receio de enfrentar esses desafios. Com essas reflexões, eu encerro, experimentando mais uma vez Ademir Piccoli pela organização do evento e destacando que, com a conferência brilhante agora, o encerramento desta etapa, Fernando Comim, uma honra para todos nós.

39:51Obrigado.

Fernando Comin40:00Muito bom dia, uma vez mais, a todas as senhoras e senhores aqui presentes. Eu quero iniciar essa jornada que finaliza mais um dia de programação, cumprimentando, como não poderia deixar de ser, em primeiro lugar, o grande responsável por estarmos todos aqui, o Ademir Piccoli. Eu não canso de dizer o quanto é bonita a trajetória desse cara, o quanto é bonito acompanhar o trabalho que ele vem fazendo. São 12, 13 anos o Romão dedicado a construir isso aqui. E isso aqui, hoje, gera resultado.

41:00Gera resultado para as instituições e gera resultado para as pessoas. Mas um dia alguém teve que acreditar lá atrás para fazer isso acontecer. E o ExpoJude, terceira edição, aqui nos Estados Unidos, Bárbara, representa muito para o sistema de justiça brasileiro. Então, parabéns a vocês que continuam acreditando, que continuam trabalhando e que continuam proporcionando essas relações aqui, essas ideias e esses resultados, acima de tudo. Quero cumprimentar também meus amigos e colegas de Conselho Nacional do Ministério Público, doutor Barra Lima, que chegou agora para encorpar o quadro de conselheiros, ele que é um colega ingresso do Ministério Público Federal, mas dotado de uma invulgar capacidade de interlocução, uma sabedoria que só tem aquele que já viveu a experiência da gestão e da linha de frente. O Conselho se engrandece muito com a tua presença, meu irmão.

42:03Nosso irmão querido Alexandre Magno, que eu digo sempre que ele foi o responsável por eu estar aqui hoje, porque foi ele que plantou a semente da minha presença no Conselho Nacional do Ministério Público. Então, de alguma maneira, não é demais chamar de padrinho, Então, obrigado pelo teu estímulo de sempre. E os irmãos aqui de Ministério Público, quero cumprimentar aqui o nosso querido Romão, Procurador-Geral do Mato Grosso do Sul, Dr. Paulo Sérgio, Procurador-Geral de São Paulo, Dr. Alexandre Saltz, Procurador-Geral do Ministério Público do Rio Grande do Sul, nosso vizinho querido, lá dos Pampas. Não sei se há mais algum outro procurador-geral aqui, mas deixar, em nome desses líderes do Ministério Público, o meu cumprimento a todos os amigos do Ministério Público. Cumprimentar também os colegas do Judiciário, na pessoa do juiz federal, o doutor Rafael, a quem tive a alegria de conhecer, alguns dias atrás, trocamos uma boa conversa.

43:15Então, em seu nome, doutor Rafael, cumprimento todos os integrantes do Poder Judiciário aqui. E não posso deixar também de cumprimentar quem faz isso acontecer na prática, que é a iniciativa privada, que trabalha junto com o público para fazer com que a IA seja uma realidade, doutor Medina, para fazer com que nós possamos realizar melhor o nosso trabalho. Então, quero cumprimentar aqui o doutor Márcio Santana, que representa uma das maiores empresas de tecnologia do nosso país, e todo o seu staff aqui, doutor Rafael, e todos aqui presentes. E quero cumprimentar a Softplan, quero cumprimentar também o doutor Gustavo de Paula, que tem sido um grande parceiro nessa jornada do Ministério Público. Obrigado pela parceria, pelas entregas, e por acreditar na nossa instituição. Cumprimento também a minha família aqui presente, a minha esposa, a doutora Carula, procuradora-geral da Assembleia Legislativa do meu Estado, a minha irmã, Carolina, o meu cunhado, Felipe, aqui em casa ele é conhecido como PP, mas aqui é o doutor Felipe, e moram aqui no Texas e vieram nos prestigiar, agradeço a presença.

44:37E, por fim, esse cara aqui, esse líder do Ministério Público Brasileiro, do judiciário, que lidera um dos grupos mais importantes de reflexão do Brasil, os pensadores da justiça, doutor Medina Osório. É verdade o que ele falou, eu procurei me destacar, me dedicar à área de combate à improbidade administrativa e patrimônio público, e o doutor Medina foi a minha grande referência. Ele foi quando era membro do Ministério Público do Rio Grande do Sul. De lá para cá, permanece a nossa amizade. E o que eu testemunho cada vez mais é isso que vocês viram aqui. É uma capacidade, doutor Wellington, invulgar de perseguir um novo. É uma curiosidade que impulsiona. Ele escreve sobre direito administrativo sancionador, escreve sobre compliance e agora está se dedicando à inteligência artificial, com a mesma maestria.

45:37Obrigado pela aula que o senhor nos deu hoje E quero que fique registrado aqui Que o amigo continua sendo uma grande referência para a minha trajetória Nós vamos falar um pouco aqui sobre soberania Cidu, soberania cognitiva na era da inteligência artificial É difícil, não tenho o mesmo rigor técnico, teórico Mas eu vou procurar, eu gosto sempre de iniciar as minhas reflexões Partindo do local onde nós estamos Da história do lugar onde nós estamos E quando a gente entende a história A gente sabe o que nos trouxe até aqui E a gente tem alguma noção do que pode Qual o caminho que nós temos pela frente Esse evento é um evento feito em parceria Com a Universidade da Flórida A Universidade da Flórida foi criada em 1963 Em 1968, ela abriu as suas portas efetivamente, com outro nome, e tenham isso em mente.

46:47A missão principal da Universidade da Flórida, doutor Paulo Sérgio, era formar pessoal para o programa espacial dos Estados Unidos, que naquela época, todos se lembram, havia uma grande competição entre Estados Unidos e União Soviética, e aqui na Flórida, então, no Kennedy Space Center e no Cabo Canaveral, a 56 quilômetros daqui, se desenvolvia essa tecnologia para o homem chegar à Lua. O campus da Universidade da Flórida fica a 56 quilômetros daqui. E foi daquela universidade que muita gente lá assistiu o lançamento da Apolo 11. do alto do prédio de engenharia, para ser mais preciso. Reparem na ordem das coisas. Os Estados Unidos da América queriam chegar à Lua, mas antes do que eles fizeram, construíram uma universidade.

47:54O país decidiu ir à Lua, mas antes de construir o foguete, eles construíram uma universidade. E essa ordem é importante, porque eu vou falar pelos próximos 15, 20 minutos. No dia 20 de julho de 1969, o módulo lunar Eagle desce em direção à Lua. E o computador de bordo aparece, sinaliza um código, 1202. O nome técnico daquilo se chamava sobrecarga executiva. No português simples, queria dizer o quê? Que a máquina estava mais sobrecarregada do que a quantidade de tarefas que ela poderia processar. Soaram cinco alarmes em quatro minutos. Em Houston, havia um outro rapaz chamado, um oficial de guiagem chamado Steve Bales. Com poucos segundos, ele tinha que tomar uma decisão fundamental a partir da chamada do Armstrong.

49:05O Armstrong pediu uma leitura daquele código. O que significa esse 1202? E o Bayles não decidiu sozinho. Ele consultou na sala de trás dele um engenheiro chamado Jack Garman, que tinha feito uma coisa pouco usual naquela época, Ele escreveu à mão, conselheiro Barralima, uma lista com todos os códigos de falhas e o que representava cada um deles. Garman reconheceu imediatamente o código 202 e disse que era seguro prosseguir enquanto esse código não fosse contínuo. Bayles autorizou e a resposta subiu pela voz de Charlie Duke. A descida poderia ser realizada em solo lunar. Aí veio a parte que todo mundo sabe, o Armstrong percebeu que no piloto automático, a Apollo estava sendo levada para um campo de pedregulhos, ao descer na lua Eagle, e ele selecionou um modo chamado P-66, P-66, e pousou a nave à mão com pouco mais de 25 segundos de combustível.

50:31Eu queria tirar daí três lições, Sr. Fábio Medina, porque elas têm a ver exatamente com o que a gente está tratando aqui hoje. A primeira é sobre auditabilidade. Vossa Excelência falou a respeito disso. O Bailey só pôde fazer, só pôde dizer que estava tudo bem porque aquele computador era legível, Márcio. Alguém tinha a lista de tudo que poderia reclamar e sabia o que cada reclamação significava. Agora imagine a mesma cena com o sistema fechado, sem legenda, sem acesso ao código ou seus significados, por um fornecedor que pode alegar segredo comercial e não explica o que aquele número quer dizer. Isso limita a ação, isso limita a escolha. E o que eu quero trazer aqui é também aquilo que já foi referenciado na minha fala anterior.

51:34O sistema opaco não protege ninguém e faz com que o gestor tenha que tomar decisões difíceis e quase sempre conservadoras, que não são as melhores. A segunda lição que eu quero compartilhar com os amigos é sobre prioridade. O software daquele computador, ele tinha escrito por uma equipe do MIT, uma professora chamada Margaret Hamilton. E ele foi desenhado para fazer uma coisa rara na época, que era, quando sobrecarregado o sistema, identificar o que era fundamental e o que poderia ser descartado. A máquina sabia o que podia perder. E essa é uma pergunta desconfortável que eu trago aqui a todo mundo que está aqui nessa sala. No nosso ofício, o que é prioridade número um? O que nós não podemos perder?

52:35E o que nós podemos abrir mão? Isso é importante. É importante que nós tenhamos clareza sobre o que nunca pode ser descartado. Porque talvez ali na frente a gente tenha que, efetivamente, descartar. E eu faço o link com a fala de ontem. Eu faço o link com a fala de encerramento ontem, brilhante, do Renan e do Dante, sobre qual é o meu propósito. Eu vou carregar, eu vou despender energia para trabalhar aquilo que não tem a ver com o meu propósito. É mais ou menos isso que eu queria aproximar, fazer essa aproximação com ontem. E a terceira lição, para mim, que é a mais importante de todas. Quando Armstrong assumiu o comando da nave, ele não desligou o computador. Quando o P-66 foi guiado pelo Armstrong, não era um voo manual sem a máquina.

53:43O comando da máquina continuou atuando. Era um modo em que o comandante ganhava mais autonomia. Aliás, ganhava autonomia sobre a máquina, mas a máquina continuava trabalhando ao lado dele. Dentro de uma malha que a máquina continuava mediando, calculando e estabilizando a P66 até a estabilização do solo. Guarda essa imagem, porque ela é a definição operacional do que eu vim aqui defender, que soberania não está fora da malha. Soberania é autoridade dentro da malha. Deixa eu tentar ser um pouco mais claro sobre o que eu entendo sobre soberania cognitiva. Soberania cognitiva não é autarquia tecnológica, professor Medina. Soberania cognitiva não é recusa. Soberania cognitiva não é desconfiança contra a própria máquina.

54:45Aliás, quem imagina a soberania dessa forma, que alcança a soberania desligando a máquina, apenas vai trocar a sua dependência. Vai trocar a dependência por uma pior, que é a dependência do próprio atraso. A soberania cognitiva, para mim, ela é respondida por duas formas. A primeira é, quem decide, deve decidir dentro da malha. E a segunda é, de quem é a malha? De quem é a malha? De quem é a plataforma, professor Medina? A primeira pergunta é sobre a capacidade concreta de divergir do sistema e de responder, barra Lima, pela divergência. Não basta divergir do sistema. Nós temos que entender por que nós estamos divergindo do sistema e sustentar essa divergência.

55:46Não se trata de capacidade teórica, não se trata de uma mera resolução de um problema, mas uma capacidade real e em tempo real de preparar o olhar humano sobre a sugestão da máquina e decidir o contrário, e sustentar o contrário. A segunda pergunta é sobre dado, modelo e infraestrutura. É a pergunta institucional e, no fundo, é a pergunta nacional para todos aqui hoje, sobre quem define as regras do sistema que a instituição está usando todos os dias, Piccoli. Eu resumiria assim, uma instituição que não consegue Divergir da máquina Ela não tem soberania Uma instituição que não consegue Divergir da máquina Ela é mera interface Só isso Agora eu peço para vocês Um pulo de 57 anos Sem sair daqui desse mesmo lugar No dia 1º, não sei se todos têm conhecimento, mas no dia 1º de abril deste ano, pouco mais de quatro meses, no mesmo Kennedy Space Center decolou a Artemis II, levando Ray Weissman, Victor Glover, Christina Koch, Jeremy Hansen para dez dias de voo em torno da Lua.

57:23Foi a primeira vez em mais de 50 anos que o homem voltou à Lua. E aquela universidade, aquela mesma universidade que patrocina, que empresta o seu prestígio a este evento, criada lá em 1963, para servir a Apolo, hoje também trabalhou para a NASA no projeto Artemis. A mesma instituição, com o mesmo propósito, 60 anos depois. Aí eu pergunto aqui, os senhores sabem qual foi o primeiro objetivo técnico dessa missão, da Artemis II? Cerca de três horas depois da decolagem, a tripulação tirou a nave do automático. 70 minutos de pilotagem manual. Essa foi a primeira missão técnica da Artemis II.

58:23com Vitor Glover nos controles usando o estágio superior do foguete, já solto e flutuando ali perto. Eles se aproximaram e se afastaram daquele objeto para medir como a nave responde de verdade quando um ser humano a conduz. E não foi a única vez que isso aconteceu. Durante a expedição, a demonstração foi repetida no quarto dia, dessa vez com a Cristina e com o Jeremy, alternando os controles. Tempo de missão espacial é o recurso mais caro que existe em um projeto como esse. E ele foi gasto deliberadamente com o ser humano controlando a máquina, aquilo que a máquina, obviamente, saberia fazer melhor do que qualquer humano. Reparem o tamanho do que isso significa, Romão. A Orion é uma nave incomparavelmente mais autônoma do que a Apollo.

59:25A maior parte das manobras é automática. E é exatamente por isso que a NASA reservou uma boa parte do exercício para pilotagem manual. O motivo declarado é técnico. Claro, a gente sabe disso. Eles disseram que o simulador em solo não revela as mesmas características e não reagem da mesma forma do que quando pilotado efetivamente por um humano. O que a gente sabe, e todos nós aqui sabemos, é que competência manual, humana não se presume, se treina. Se nós não tivermos uma competência inata, e a maior parte de nós efetivamente não tem, nós precisamos treinar, precisamos gastar horas fazendo isso. E aqui está a tradução da minha fala para o mundo da justiça, Piccoli. O que eu peço é que a gente leve daqui para frente e não esqueça que quanto mais o sistema decide sozinho, mais nós temos que reservar tempo para a pilotagem manual.

1:00:35Mais nós temos que treinar e decidir sem o sistema. Isso não pode ser uma conveniência individual. Isso deve ser uma política institucional com hora marcada. Assim como a NASA reservou, na sua última expedição à Lua, uma parte significativa do seu programa para a manobra do homem, controle do homem, também nós precisamos agir assim com a inteligência artificial. Para nós não chegarmos naquele estado de caos, professor Medina, aqui, o senhor muito bem descreveu um estado em que talvez nós sejamos tidos como descartáveis ou predatórios pelas máquinas e a nossa existência passe a correr risco eventualmente. É por isso que eu proponho uma soberania cognitiva, já me encaminhando para a última parte do Torpícule aqui da minha fala, em três camadas.

1:01:40A primeira camada é a soberania de decisão, que é o P66 do Armstrong. Quem assina, responde, e para responder, ele precisa divergir. Saber divergir. Divergir exige três coisas concretas. Tempo, acesso de treino e treino recente. Se faltar qualquer uma delas, a assinatura continua no documento, mas a autonomia não existe mais, porque é apenas uma validação. Uma instituição que homologa aquilo que o sistema traz perdeu a soberania antes de perceber. É preciso esse juízo crítico, é preciso esse juízo, essa liberdade divergir. A segunda é a soberania da auditoria. Todo sistema que entra em uma instituição de justiça, ele deveria entregar, junto com a resposta, os seus vieses, a sua caminhada algorítmica, a sua margem, onde acerta, onde erra, quais são os dados em que ele construiu aquela resposta, em qual data de corte.

1:03:06Isso não é implicância com o fornecedor, é uma condição de uso. Quem publica a própria margem de erro ganha confiança de quem está do outro lado. E talvez eu esteja sendo pretencioso ao falar isso aqui para grandes gigantes aqui do mercado. Mas é preciso refletir sobre isso. Será que nós não ganhamos mais com essa política? Todos nós. A terceira, que foi tratada pelo meu querido professor, é a soberania de infraestrutura. Quem controla o modelo, o dado, quem não controla o modelo, o dado ou a infraestrutura, não define política de uso nenhuma, ele consome apenas aquilo que alguém definiu. Não vai conseguir ter autonomia. Por isso que eu quero aqui enaltecer, embora na ausência do procurador-geral de Minas Gerais, doutor Paulo de Tarso, o MP de Minas Gerais tem um projeto interessante, que é a contratação de uma arquitetura de infraestrutura de IA localmente, vai trabalhar dentro de casa, vai trabalhar os seus modelos, vai trabalhar as suas aplicações internamente dentro da malha, da própria malha, criou essa malha.

1:04:33Isso é algo que a gente tem que refletir um pouco mais se não há um caminho interessante e seguro para a utilização da inteligência artificial. E existe, obviamente, uma última camada, que é a que perpassa as três, que é o que conecta as três, na verdade, que é o treino. É o treino. É aquilo que o conselheiro Barra Lima está fazendo aqui, hoje no CNMP, ao constituir um grupo de trabalho para investigar e definir balizas para o uso racional, consciente e ético da inteligência artificial no nosso país, no Ministério Público do nosso país, grupo de trabalho com o qual a Corregedoria tem a honra e o orgulho de participar. A Corregedoria, ela define, a Corregedoria Nacional, Governança e Inteligência Artificial, Rafael, Márcio, demais amigos, como uma matéria correcional.

1:05:42Sabe por quê? Porque a inteligência artificial deixou de ser matéria de tecnologia da informação apenas, deixou de ser assunto, Rafael, de atividade de meio, e a inteligência artificial hoje passou a ser tempo, fundamento de decisões, responsabilidade por decisões, o que, doutor Paulo Sérgio, significa que inteligência artificial é atividade finalística, e se é atividade finalística, é uma missão da Corregedoria Nacional acompanhar. E é por isso que nós estamos desenvolvendo, por aplicação recente, um formulário de uma correção extraordinária com foco em cibersegurança, porque nós também não podemos falar de autonomia cognitiva ou de dados sem falar de cibersegurança. Então, se os MPs estão se adequando à política nacional de cibersegurança, definida pelo Conselho Nacional, e o uso responsável ético da inteligência artificial na atividade finalística. Nós vamos fazer a primeira correção da história do Conselho Nacional do Ministério Público, com ênfase nesses dois eixos.

1:07:03E é interessante, porque, recentemente, surgiu, somente agora, Romão, o primeiro caso de mau uso de inteligência artificial no Ministério Público, na Corregedoria Nacional. Isso houve uma representação de um colega nosso que utilizou uma ferramenta de IA para fazer a petição de uma ação civil pública que levou jurisprudências que foram inventadas pela máquina e isso foi identificado, o colega foi representado. E eu estou levando esse caso ao plenário para que a gente possa amadurecer esses limites dentro da atuação do Ministério Público. Eu vou terminar aqui, voltando ao início. Quando este país que nós estamos decidiu ir à lua, o que eles fizeram primeiro foi construir uma universidade.

1:08:03Não foi no material, não foi no metal, não foi na máquina que eles investiram primeiro, foi na cabeça das pessoas. Foi no treinamento. Porque eles tinham a impressão de que algo poderia dar errado. E efetivamente deu errado. Como são os experimentos, os projetos de inovação? Quantos projetos de inovação tem que dar errado até um dar certo? A gente sabe que é isso. A tecnologia é assim também. O computador entrou em sobrecarga cinco vezes na descida final. E o pouso aconteceu do mesmo jeito, porque havia gente preparada dos dois lados do rádio. E nós estamos hoje aqui, na verdade, no ponto inverso do que aconteceu nesse projeto espacial. Por quê, Paralima?

1:09:03Porque aqui, hoje, no Ministério Público e no Judiciário Brasileiro, a P-66 já está na nossa frente. E a gente está olhando para ela como um índio que vê o espelho pela primeira vez. O homem, em 1969, ele assumiu o controle porque ele precisou, porque foi no susto, porque o código 1202 apareceu na tela. Mas em 2026 não foi assim. O homem assumiu o controle porque ele foi treinado para assumir o controle. A Eagle pousou porque alguém no chão sabia o que aquele alarme queria ter. E que a nossa geração de juízes e promotores saiba, portanto, ler os próprios alarmes. Essa é a minha mensagem final. Agradeço a todos pela gentileza da atenção.