Revista Ibero-Americana de Humanidades, Ciências e Educação — REASE doi.org/10.51891/rease.v12i10.30505 RECONHECIMENTO FACIAL, DEVIDO PROCESSO LEGAL E RACISMO ALGORÍTMICO: FALHAS TECNOLÁGICAS E CONDENAÇÕES INJUSTAS NO BRASIL FACIAL RECOGNITION, DUE PROCESS, AND ALGO, AND ALGORITHMIC RACISM: TECHNOLOGICAL FLAWS AND WRONGFUL CONVICTIONS IN BRAZIL RECONOCIMIENTO FACIAL, DEBIDO PROCESSO LEGAL Y RACISMO ALGORÍTMICO: FALLOS TECNOLÓGICOS Y CONDENAS INJUSTAS EM BRASIL Juliel Marcos Alves Pimentel1 Alberto Picanço Senra Neto2 Renato Marcelo Resgala Júnior3 RESUMO: O presente artigo tem por objetivo analisar criticamente os riscos do uso do reconhecimento facial no sistema de justiça criminal brasileiro, especialmente quanto à produção de condenações injustas, à luz do devido processo legal e dos princípios constitucionais penais. Partindo-se da constatação de que a tecnologia, embora útil à investigação, é falível e pode potencializar desigualdades já existentes, pretende-se discutir como falhas humanas, tecnológicas e institucionais, somadas ao fenômeno do racismo algorítmico, contribuem para prisões e condenações de pessoas inocentes. Adotarse-á metodologia de caráter qualitativo, com pesquisa bibliográfica e documental, baseada em doutrina, legislação, decisões judiciais recentes (incluindo o Tema Repetitivo n. 1.258 do STJ) e relatórios de instituições como Defensorias Públicas e projetos de revisão de condenações. Busca-se, ao final, identificar parâmetros jurídicos e institucionais para o uso responsável do reconhecimento facial, em consonância com a Constituição Federal e com as garantias processuais penais, de modo a minimizar injustiças e violações de direitos fundamentais. Palavras-chave Reconhecimento Facial. Condenações Injustas. Devido Processo Legal. ABSTRACT: This article aims to critically analyze the risks associated with the use of facial recognition in the Brazilian criminal justice system—particularly regarding the occurrence of wrongful convictions—in light of due process and constitutional criminal law principles. Starting from the premise that the technology, while useful for investigations, is fallible and can exacerbate existing inequalities, the study discusses how human, technological, and institutional failures—compounded by the phenomenon of algorithmic racism—contribute to the arrest and conviction of innocent individuals. A qualitative methodology is employed, involving bibliographic and documentary research based on legal doctrine, legislation, recent court rulings (including STJ Repetitive Theme No. 1,258), and reports from institutions such as Public Defender's Offices and wrongful conviction review projects. Ultimately, the article seeks to identify legal and institutional parameters for the responsible use of facial recognition—aligned with the Federal Constitution and criminal procedural guarantees—in order to minimize injustices and violations of fundamental rights. Keywords: Facial Recognition. Wrongful Convictions. Due Process. 1Discente do curso de Direito no Centro Universitário Afya de Itaperuna. 2Orientador: Mestrando em Planejamento, Regional e Gestão de Cidades no Programa de Pós-Graduação da Universidade Candido Mendes - Campos. Pós-graduado em Direito Penal e Processo Penal; Pós-graduado em Direito de Família; Pós-graduado em Direito Digital e proteção de dados. Professor do curso de Direito Afya Centro Universitário de Itaperuna-RJ. 3Professor Coorientador da disciplina de TCC - Curso Direito - AFYA Centro Universitário - ITAPERUNA-RJ. Doutor em sociologia Política (UENF). Revista Ibero-Americana de Humanidades, Ciências e Educação. São Paulo, v. 12, n. 10, out. 2026. ISSN: 2675-3375 1 Revista Ibero-Americana de Humanidades, Ciências e Educação — REASE RESUMEN: El presente artículo tiene como objetivo analizar críticamente los riesgos del uso del reconocimiento facial en el sistema de justicia penal brasileño, especialmente en lo que respecta a la generación de condenas injustas, a la luz del debido proceso legal y de los principios constitucionales penales. Partiendo de la constatación de que la tecnología, si bien es útil para la investigación, es falible y puede exacerbar desigualdades preexistentes, se pretende discutir cómo los fallos humanos, tecnológicos e institucionales —sumados al fenómeno del racismo algorítmico— contribuyen a la detención y condena de personas inocentes. Se adoptará una metodología de carácter cualitativo, mediante investigación bibliográfica y documental, basada en doctrina, legislación, decisiones judiciales recientes (incluido el Tema Repetitivo n.º 1.258 del STJ) e informes de instituciones como las Defensorías Públicas y proyectos de revisión de condenas. Finalmente, se busca identificar parámetros jurídicos e institucionales para el uso responsable del reconocimiento facial, en consonancia con la Constitución Federal y las garantías procesales penales, a fin de minimizar las injusticias y las vulneraciones de derechos fundamentales. Palabras clave: Reconocimiento facial. Condenas injustas. Debido proceso legal. INTRODUÇÃO O presente artigo tem como tema as falhas do reconhecimento facial em condenações injustas, buscando discutir a importância da observância do devido processo legal diante dos avanços tecnológicos aplicados ao sistema de justiça criminal. A tecnologia, embora traga inúmeros benefícios à sociedade, também pode gerar prejuízos quando mal utilizada ou aplicada sem os devidos critérios legais e éticos. Nos últimos anos, o uso de sistemas de reconhecimento facial em investigações e prisões tem crescido de forma exponencial, acompanhando o avanço da inteligência artificial e o aumento do monitoramento urbano. No entanto, essa ferramenta, quando utilizada de forma inadequada, tem resultado em equívocos graves, culminando na privação indevida de liberdade de pessoas inocentes. Tal realidade evidencia um descompasso entre o progresso tecnológico e a efetiva aplicação das garantias constitucionais. Diante desse cenário, surge o problema central desta pesquisa: de que forma o uso do reconhecimento facial, sem observância rigorosa do devido processo legal e dos requisitos previstos no artigo 226 do Código de Processo Penal, contribui para condenações injustas no Brasil? O objetivo geral deste trabalho é discutir os riscos e consequências do uso inadequado do reconhecimento facial no sistema penal brasileiro, destacando a importância do cumprimento das normas legais e do princípio do in dubio pro reo. Sendo necessário identificar as principais falhas e limitações dos sistemas de reconhecimento facial aplicados no Brasil; examinar o artigo 226 do Código de Processo Penal Revista Ibero-Americana de Humanidades, Ciências e Educação. São Paulo, v. 12, n. 10, out. 2026. ISSN: 2675-3375 2 Revista Ibero-Americana de Humanidades, Ciências e Educação — REASE e a recente decisão do Superior Tribunal de Justiça sobre o tema; refletir sobre os impactos jurídicos e sociais das condenações baseadas em reconhecimentos incorretos. A utilização de instrumentos tecnológicos no campo jurídico deve ser acompanhada de rigoroso controle e observância das garantias constitucionais, assegurando que os avanços científicos sirvam à justiça e não se tornem instrumentos de violação de direitos fundamentais. MÉTODOS A pesquisa utiliza método de abordagem dedutivo e método de procedimento monográfico e documental, com enfoque qualitativo, de natureza básica e com objetivos exploratórios- descritivos. Será desenvolvida por meio de pesquisa bibliográfica e documental, analisando doutrina, legislação como Constituição Federal (CF), Lei Geral de Proteção de Dados (LGPD) e Código de Processo Penal (CPP), e normas sobre reconhecimento facial, jurisprudências de tribunais e relatórios de instituições como defensorias públicas, CONDEGE, e projetos voltados `revisão de condenações injustas. Os dados serão examinados mediante análise de conteúdo, buscando identificar como o uso de reconhecimento facial impacta o devido processo legal e a ocorrência de prisões e condenações injustas 3 DOS MEIOS TECNOLÓGICOS Reportagem veiculada pela Rede Globo, no programa Profissão Repórter, em 23 de julho de 2025, informou que o setor impulsionado por inteligência artificial movimentou, em 2024, aproximadamente 14 bilhões de reais, com previsão de crescimento superior a 22% para o ano de 2025. As câmeras de vigilância encontram-se hoje disseminadas em diversos espaços, como condomínios, estádios e vias públicas, tendo contribuído só no estado de São Paulo para a prisão de mais de 2.700 pessoas e para a localização, afirmação feita pela prefeitura de são Paulo. No município de São Paulo, estima-se a existência de cerca de 31 mil câmeras integradas ao programa “Smart Sampa”, das quais aproximadamente 20 mil são de uso público e 11 mil pertencem à rede privada. Tais tecnologias também se aplicam a documentos, a exemplo de operações bancárias e assinaturas de contratos, hoje frequentemente realizadas por meio eletrônico, o que tem despertado o interesse de criminosos que se valem de dados vazados para a prática de fraudes. Revista Ibero-Americana de Humanidades, Ciências e Educação. São Paulo, v. 12, n. 10, out. 2026. ISSN: 2675-3375 Revista Ibero-Americana de Humanidades, Ciências e Educação — REASE Não obstante a inegável eficiência desses recursos tecnológicos, um dos maiores problemas apontados pela doutrina e por instituições de defesa de direitos é o risco concreto de que pessoas sejam presas e condenadas injustamente com base em sistemas que ainda não são infalíveis, sobretudo quando empregados sem o devido controle e sem observância rigorosa às garantias processuais. O RECONHECIMENTO FACIAL E A LEGISLAÇÃO BRASILEIRA Tratando-se do reconhecimento facial no contexto penal brasileiro, é imprescindível mencionar o artigo 226 do Código de Processo Penal, que estabelece os requisitos para que a vítima ou testemunha reconheçam o suspeito de um crime. O Código de Processo Penal foi redigido em 1941, e, desde então, o entendimento e interpretação vem evoluindo. O Direito tem a obrigação de acompanhar a evolução da sociedade, incorporando novas regras e formas de interpretação que atendam às necessidades contemporâneas de justiça e cidadania. Segundo Miguel Reale, (2002) em sua teoria tridimensional do Direito, este se compõe de fato, valor e norma. O fato que presenciamos é uma inovação tecnológica que demanda uma norma capaz de discipliná-la dentro dos valores que a sociedade atribui a essa realidade. Até o ano de 2025, mais precisamente antes do julgamento do Tema Repetitivo nº 1.258 pelo Superior Tribunal de Justiça, o artigo 226 era tratado apenas como uma recomendação. Inclusive, o próprio STJ, em 2017, no julgamento do AgRg no AREsp nº 1.054.280/PE, (Sexta Turma, DJe de 13/6/2017), reconheceu que os requisitos previstos no referido artigo configuravam mera recomendação legal, e não uma regra obrigatória a ser observada nas delegacias ou nas audiências judiciais. Os episódios de negligência e prisões indevidas foram se acumulando até se tornarem objeto de tema repetitivo na instância superior, o que ocorre quando um mesmo conflito se repete em diversos processos em andamento pelo país, e sua decisão passa a ter efeito vinculante para casos semelhantes, conforme dispõe o artigo 1.039 do Código de Processo Civil. Nesse contexto, a Defensoria Pública da União interpôs recurso no STJ em favor de um condenado acusado de cometer um roubo em uma agência dos Correios. O indivíduo foi reconhecido de forma equivocada, sem observância dos trâmites legais previstos no artigo 226 do CPP. Em 12 de junho de 2025, a Terceira Seção do STJ passou a reconhecer a obrigatoriedade do cumprimento do referido dispositivo, sob pena de nulidade do ato de reconhecimento. Revista Ibero-Americana de Humanidades, Ciências e Educação. São Paulo, v. 12, n. 10, out. 2026. ISSN: 2675-3375 4 Revista Ibero-Americana de Humanidades, Ciências e Educação — REASE No caso concreto, o réu foi colocado ao lado de outras quatro pessoas, mas sua altura era cerca de 15 cm superior à dos demais. Duas testemunhas de outro roubo ocorrido na mesma agência afirmaram que a ação durou menos de dez minutos e que os autores estavam de boné e de cabeça baixa o tempo todo. Evidencia-se, assim, que um reconhecimento viciado e duvidoso fragiliza as provas no sentido condenatório. A legislação processual penal é clara quanto à dúvida: o princípio do in dubio pro reo determina que, havendo dúvida, o réu deve ser absolvido, conforme o artigo 386, inciso VII, do Código de Processo Penal. O ônus da prova pertence à acusação: “Art. 386. O juiz absolverá o réu, mencionando a causa na parte dispositiva, desde que reconheça: (...) VII – não existir prova suficiente para a condenação.” (Brasil, 2025). Com isso, demonstra-se a necessidade de um debate acerca da relevância do reconhecimento de pessoas, quanto a observação do devido processo legal, no sentido de cumprimento do artigo 226 do CPP. O estado brasileiro precisa, por meio dos Poderes Executivo, Legislativo e Judiciário, criar mecanismos administrativos que deem estruturas nas Delegacias de Polícia e nas dependências do Poder Judiciário permitindo o reconhecimento de pessoas na forma da lei vigente, buscando minorar os efeitos negativos dos erros ao ter um reconhecimento equivocado por não cumprimento de requisitos obrigatórios. OS VÍCIOS DO RECONHECIMENTO Ao tratarmos do tema de reconhecimento não há dúvidas quanto as falhas da memória humana, fatores como traumas e medo podem levar a vítima ao reconhecimento errado. Há consenso entre os especialistas da psicologia sobre a falsa memória. Uma hora diz conhecer a pessoas e em outro momento já não conhece mais. Neste sentido o Superior Tribunal de Justiça chegou ao entendimento de que o reconhecimento é prova irrepetível. Isso significa se inicialmente a vítima tiver dúvida sobre o reconhecimento, ele se torna viciado. Diante da falibilidade da memória humana. Se existirem outras provas que não dependam de reconhecimento, o magistrado poderá usa-las para se convencer da autoria. Não se coloca em dúvida a honestidade da vítima, mas a possibilidade de estar agindo no campo da falsa memória. Por isso a corte bane o uso de fotografias enviadas apenas por redes sociais. Revista Ibero-Americana de Humanidades, Ciências e Educação. São Paulo, v. 12, n. 10, out. 2026. ISSN: 2675-3375 5 Revista Ibero-Americana de Humanidades, Ciências e Educação — REASE Diante disso o Conselho Nacional de Justiça publicou a resolução 484/2022 que disciplina as regras de reconhecimento, fazendo ser respeitada a pessoa a que se suspeita, não deixando ser divulgada sua lista de antecedentes criminais para evitar que isso influencie nas emoções daquele que irá reconhecer. Também protege a testemunha que poderá fazer o reconhecimento sem ser vista pelo investigado. Antes se fará a entrevista previa com a vítima ou testemunha para descrição da pessoa investigada, orientação sobre o procedimento, alinhamento de pessoas ou fotografias, registro de resposta da vítima, registro do grau de convencimento. Além disso o procedimento será gravado desde a entrevista até a declaração de convencimento com disponibilização às partes se solicitado por elas, garantido a ampla defesa e contraditório. No julgamento do RHC n. 206.846/SP a segunda turma do Supremo Tribunal Federal ao analisar o recurso chegou à conclusão de que pessoas não devem ser colocadas para serem reconhecidas sem “justa causa”. Isso significa que só devem ser reconhecidos os que deram uma mínima causa, e não os que a investigação aponta ou fornece fotos de aplicativos por celular ou outros meios. Assim estamos evitando erros gerados pelas emoções das vítimas, além de não cedermos a pressa dos investigadores para concluírem uma investigação. Outro fato que não podemos excluir deste debate são as falhas da inteligência artificial. O algoritmo de reconhecimento não é cem por cento seguro. Por incrível que pareça o computador também pode errar. Segundo especialistas do sistema as falhas podem afetar sua confiabilidade. Sabemos que em inúmeras ocorrências pessoas têm sido detidas injustamente e já passaram por longos períodos presos. O algoritmo de reconhecimento facial não é totalmente seguro, ó que aponta um relatório da Defensoria Pública da União (DPU) em parceria com o Centro de Estudo e Cidadania (CESeC), Falhas podem variar e colocar em risco sua confiabilidade, representando riscos reais para pessoas inocentes. DO DEVIDO PROCESSO LEGAL Ao se pensar no devido processo legal nossa memória se volta para a obra de Cesare Beccaria escrita em 1764 em Milão na Itália. Neste livro ele defende que as penas devem ter um caráter de justiça social e não um massacre ao acusado. Também defende que as provas devem ser concretas, transparentes e sem dúvida. Revista Ibero-Americana de Humanidades, Ciências e Educação. São Paulo, v. 12, n. 10, out. 2026. ISSN: 2675-3375 6 Revista Ibero-Americana de Humanidades, Ciências e Educação — REASE Quando as provas de um fato se apoiam todas entre si, isto é, quando os indícios do delito não se sustentam senão uns pelos outros, quando a força de várias provas depende da verdade de uma só, o número dessas provas nada acrescenta nem subtrai à probabilidade do fato: merecem pouca consideração, porque, destruindo a única prova que parece certa, derrubais todas as outras. Mas, quando as provas são independentes, isto é quando cada indício se prova à parte, quanto mais numerosos forem esses indícios, tanto mais provável será o delito, porque a falsidade de uma prova em nada influi sobre a certeza das restantes. ( Becaria, 2001, p. 64) Interessante notar sua preocupação com as provas a mais de dois séculos atrás. Em nossa sociedade temos a constituição Federal que desde 1988 vem garantindo o contraditório e a ampla defesa mais precisamente em seu artigo 5° LV. Exigindo assim o devido processo legal sem qual ninguém poderá ser condenado. As falhas que temos notado passam por cima de muitos princípios jurídicos já adotados em nossa legislação. Podemos citar alguns deles como o princípio da verdade real ou da verdade material, que significa que no processo penal devem ser adotadas todas as medidas e realizadas todas as ações necessárias para se descobrir como realmente aconteceram todos os fatos. Nessa situação se observa que por vezes apenas uma foto serviu para condenação de alguém ou testemunho da vítima que estava em pânico e ainda alegava que o suspeito estava de máscara. Princípio do devido processo legal no qual ninguém poderá ser condenado sem que haja um processo anterior que permita o contraditório e a ampla defesa. Este princípio no cenário que se usa a tecnologia para a acusação ou provas viciadas tem sido grandemente ofendido. Desde a denúncia que não tem respeitado o artigo 41 do CPP até a prisão preventiva, que pode ser substituía por medidas cautelares diversas da prisão. Pessoas tem sido presas mesmo quando não há antecedentes e os suspeitos têm endereço fixo não apresentando risco de fuga. Parece que se tem certeza de que alguém deve ser preso primeiro, para depois se confirmar a autoria do delito. O princípio da vedação das provas ilícitas elencado na constituição federal em seu artigo 5° inciso LVI, também não fica de fora da lista das violações. Houve um caso no estado do Rio de Janeiro em que um homem foi acusado de 62 crimes que não cometeu por ter sido reconhecido por uma foto extraída de rede social. Impossível dizer que esta não foi uma prova ilícita. Revista Ibero-Americana de Humanidades, Ciências e Educação. São Paulo, v. 12, n. 10, out. 2026. ISSN: 2675-3375 7 Revista Ibero-Americana de Humanidades, Ciências e Educação — REASE Princípio da presunção de inocência registrado no 5° LVII, da Constituição ele diz que ninguém será considerado culpado até o trânsito em julgado da sentença penal condenatória. Fenando Capez, (2025, p.321) em sua obra diz o seguinte: Considerado cláusula pétrea pelo constituinte originário (art. 60, § 4º, IV, da CF), desdobra-se em três aspectos importantes: (i) instrução (o ônus da prova incumbe à acusação); (ii) valoração (em benefício do acusado – in dubio pro reo); (iii) excepcionalidade da prisão. Nesse ponto, nossa CF é mais avançada do que muitas legislações internacionais, na medida em que a Convenção Americana Sobre Direitos Humanos (Dec. n. 678/92, art. 8º, item 2) permite que a presunção de inocência deixe de ser aplicada se já comprovada a culpa, mesmo antes do trânsito em julgado. Por outro lado, mesmo o Pacto de San José da Costa Rica prevê expressamente que os direitos nela estabelecidos não poderão ser interpretados para restringir normas mais amplas do direito doméstico dos países signatários (vide art. 29, b)18. Assim, deverá sempre prevalecer a disposição mais favorável, que no caso é aquela do art. 5º, LVII, da CF, não sendo possível importar aspectos contidos nos sistemas penais de outros países para limitar nossas disposições constitucionais. Este princípio se fosse observado como o legislador propõe evitaria inúmeras condenações ilegais. Princípio da isonomia processual, exposto no artigo 5° da constituição em seu caput, diz que todos devem ser trados dentro do processo de forma igualitária. Princípio do contraditório e ampla defesa registrado no artigo 5°., LV, da CF, garante que ambas as partes serão avisadas dos passos do processo para poderem se defender com igualdade. Não conseguimos observar esta igualdade quando alguém é levado para delegacia e de lá vai parar num presidio, para depois um defensor público ou advogado dativo tentar soltalo. Princípio do juiz natural e do promotor natural estão no artigo 5° LIII, da CF. Este princípio diz que ninguém será processado ou julgado senão pela autoridade competente. O que nos chama a atenção é o fato da sobrecarga dos juízes e promotores, o que pode impedi-los de se atualizar em relação as novas tecnologias que vão surgindo e usadas em tribunais para acusar pessoas. Princípio da obrigatoriedade de motivação das decisões judiciais no qual as decisões do magistrado devem ser motivadas juridicamente diante do que prevê o artigo 93, IX da constituição federal e também o artigo 381 do código de processo penal que afirma que o magistrado será imparcial e suas decisões serão fundamentadas em lei sob pena de reforma ou invalidação das decisões. Vemos aí uma falha em usar meios tecnológicas ainda não aprovados e regulamentados na esfera federal. Muitas decisões já foram proferidas apoiadas em tecnologias que levaram à condenação de inocentes. Revista Ibero-Americana de Humanidades, Ciências e Educação. São Paulo, v. 12, n. 10, out. 2026. ISSN: 2675-3375 8 Revista Ibero-Americana de Humanidades, Ciências e Educação — REASE Princípio da publicidade previsto no artigo 93, IX da CF e no 792 caput do CPP, que afirmam que os atos serão públicos para assim evitar que o acusado seja protegido de tratamentos desumanos e parciais. Na prática o que se observa são prisões que ocorrem às pressas sem mais direito de defesa ou explicações de onde estão vindo as acusações, os processos começam com o réu já preso. Ao enumerar vários desde princípios observamos que nosso problema não é a construção de novas leis, mas sim o fato de desrespeitarmos àquelas já positivadas. DAS ESTATÍSTICAS No Brasil a tecnologia de reconhecimento facial ganhou destaque em 2014 com a copa do mundo que sediamos e em seguida as olimpíadas de 2016. Em outubro de 2019 entrou em vigor a portaria 793 do ministério da justiça que da permissão e incentivo ao uso da tecnologia de reconhecimento facial para combate ao crime organizado no brasil. Este fato fez aumentar o uso destes meios tecnológicos no contexto das investigações criminais. Dados da Defensoria Pública da União afirmam que mais de R$ 160 milhões já foram destinados para diversas federações do país no sentido de implementar estas tecnologias. O estado da Bahia foi o que mais declarou investimentos no setor, com contratos que chegam a R$ 66 milhões. Mas muitos estados não declaram seus dados. Dados do projeto o Panóptico afirmam que existem no brasil cerca de 389 projetos de reconhecimento facial em andamento. O número de pessoas monitoradas pelas câmeras já ultrapassa 80 milhões de pessoas, isso significa que quase 40 por cento da população total da nação brasileira já está sendo observada pelas câmeras. Está é uma situação quase irreversível pela qual notamos o aumento no uso seja por parte de governos ou iniciativa privada. Escolas, estádios de futebol, condomínios, igrejas, praias metrô já aderiram ao sistema. A defensoria pública do estado do Rio de Janeiro em uma pesquisa divulgou relatório em que houve 58 casos de reconhecimento fotográfico em delegacias que geraram prisões indevidas. Deste total 80 por cento eram pessoas declaradas negras e em 86 % dos casos houve pedido de prisões preventivas declaradas que variavam de cinco dias até três anos. A média ficou em 9 meses de prisão. Diante desses dados podemos afirmar que há uma abordagem racista seja no reconhecimento por fotografias ou até mesmo em algoritmos que programam os sistemas. Não Revista Ibero-Americana de Humanidades, Ciências e Educação. São Paulo, v. 12, n. 10, out. 2026. ISSN: 2675-3375 9 Revista Ibero-Americana de Humanidades, Ciências e Educação — REASE se pode confiar totalmente nos programas de computador. Eles cometem um erro chamado falso positivo. Tal erro consiste em um indivíduo ser comparado com a imagem do outro. O sistema aponta que uma pessoa é a outra. As pessoas que mais são confundidas são os negros, pardos mulheres e idosos. Os algoritmos não são perfeitos. O que força o quadro do racismo estrutural do brasil. Não sabemos se o erro está na máquina ou em quem configura a máquina, mas que pessoas inocentes têm sido presas injustamente com base em dados enviados pela inteligência artificial. Já podemos falar até mesmo no racismo algorítmico, que é quando a máquina tende a condenar mais uma raça do que a outra. Sendo este uma forma de trazer para dentro do sistema informatizado dados de preconceito e discriminação que existem a muitos anos no campo físico de nossa sociedade. Notamos que há uma continuidade da falta de respeito e do racismo até mesmo no que achávamos que seria “infalível” quando falamos da tecnologia e suas diversas áreas de atuação. Infelizmente o que se vê na vida prática é uma continuidade das desigualdades históricas de nosso país e de outros países. Precisamos tomar medidas para frear estes impactos negativos se não teremos novamente nossa sociedade manchada pela desigualdade e o preconceito com os mais vulneráveis. Ao observarmos os dados de uma pesquisa feita pela defensoria pública do Rio de Janeiro, feita no ano de não encontramos relatos de pessoas muito ricas que foram confundias em delegacias ou por meio de aplicativos de inteligência artificial. Mas sempre vemos os mais pobres sofrerem esses danos. O racismo algorítmico tem espalhado com facilidade, em redes sociais, sites de buscas e no campo investigativo. Grandes são as críticas em relação aos programadores das tecnologias. Muitas empresas do setor são de países de maioria branca com grande histórico racista. Alguns especialistas defendem a ideia de que a máquina é alimentada com dados que desrespeitam os direitos humanos, chega-se a dizer que não há tecnologia neutra. Por isso os resultados em condenações injustas. DOS PREJUÍZOS Quando falamos de injustiças é impossível não pensarmos em prejuízos. O maior prejuízo de uma condenação injusta é contra a própria vida da pessoa quando um pedaço dela Revista Ibero-Americana de Humanidades, Ciências e Educação. São Paulo, v. 12, n. 10, out. 2026. ISSN: 2675-3375 10 Revista Ibero-Americana de Humanidades, Ciências e Educação — REASE se perde lá dentro da prisão. Podemos notar que o tempo não volta atrás. Em vista disso é impossível a reparação total por parte do Estado diante de uma injustiça cometida. Ainda podemos enumerar outros prejuízos como psicológico, aquele que passa por longos períodos trancados em uma grade terão que sofrer com as lembranças depois que ficar livre do presidio, mas não se tornará livre de seu passado. Outro prejuízo é o da saúde física, diversas são as doenças adquiridas dentro do presidio muitas contagiosas e com potencial de levar à morte do paciente. O prejuízo profissional, a pessoa deixa de ganhar seu dinheiro e de se aperfeiçoar podendo perder seus clientes, se for um autônomo. Episódios de depressão severa podem levar ao suicídio. Ao estado cabe indenizar o cidadão por erros do judiciário, o estado tem responsabilidade objetiva. O que importa nesta situação é se o poder público falhou durante a prisão, não importando a culpa do agente que operou a prisão se por descuido ou por dolo, não há necessidade de se comprovar o elemento subjetivo. A constituição em seu artigo 5°,LXXV E 37 § 6° diz que é do estado o dever de indenizar aquele que for preso injustamente ou que passar tempo maior que o ordenado na sentença judicial. Mas este é um longo processo que muitas vezes demora mais que o normal para que exdetentos ou suas famílias recebam do estado uma compensação financeira nunca suficiente para cobrir os prejuízos à honra do cidadão lesado por ato viciado do estado democrático de direito. Não temos um valor exato para cada indenização paga. O código civil em seu artigo 944 diz que a indenização será medida pela extensão do dano. Temos processos com indenizações no valor de R$ 10.000,00 podendo chegar ao valor de mais de um milhão de reais. Na maioria dos processos o pagamento é feito um precatório que demoram muito além do fim do processo para serem pagos. RESULTADOS E DISCUSSÕES Tento em vista a situação descrita, há um clamor por mudanças do sistema biométrico. Por motivo de dúvida alguns países europeus já pensam em banir ou até reduzir o serviço de inteligência artificial. Não existe um consenso geral, mas alguns membros na União Europeia já pensam em usar o reconhecimento facial para fins policiais apenas em ocorrências de crimes de maior potencial ofensivo. Revista Ibero-Americana de Humanidades, Ciências e Educação. São Paulo, v. 12, n. 10, out. 2026. ISSN: 2675-3375 11 Revista Ibero-Americana de Humanidades, Ciências e Educação — REASE A ONU já recomenda um freio ao sistema que se tornou um risco aos direitos humanos. Ao pensarmos em segurança não podemos ter um modelo que cause mais problemas para o setor, se não nunca chegaremos a um nível pleno de segurança. Um modelo que acusa preconceituosamente não é um modelo a ser aceito. No Brasil ainda não temos uma lei que regulamente com suficiência este ramo da tecnologia ligado a segurança pública. O projeto de lei 2338 de 2023 foi aprovado pelo Senado e encaminhado à câmara dos deputados, mas ainda é pouco se tratando de um assunto tão importante. Dentre as propostas de soluções podemos sugerir que em quanto não se tiver certeza na eficiência dos sistemas eletrônicos para reconhecimento de pessoas em sede policial estes não devem ser usados. Que nunca sejam a única fonte provas. Que a legislação constitucional e penal relacionada aos direitos humanos seja respeitada. Que as equipes policiais, do ministério público, das defensorias públicas e os juízes passem por treinamentos rigorosos em relação ao assunto. Pessoas ainda estão sendo condenadas injustamente. Principalmente por causa do racismo enraizado na sociedade e pelos vicio da tecnologia e má aplicação das leis já existentes. Assim, compreendemos que os debates da sociedade em relação ao tema devem continuar em busca de soluções para que em tempos modernos pessoas não sejam condenadas injustamente. CONSIDERAÇÕES FINAIS Conclui-se que o uso inadequado do reconhecimento facial, associado a falhas humanas, tecnológicas e institucionais, contribui para condenações injustas, especialmente de grupos socialmente vulneráveis. A pesquisa demonstrou que a inobservância do artigo 226 do CPP e do devido processo legal compromete a validade da prova penal. É imprescindível que o Estado estabeleça parâmetros jurídicos claros, invista em capacitação e assegure que a tecnologia seja utilizada como instrumento auxiliar da justiça, e não como fator de reprodução de desigualdades e violações de direitos fundamentais. REFERÊNCIAS CONDEGE. Relatórios indicam prisões injustas após reconhecimento fotográfico. Disponível em: https://www.condege.org.br/arquivos/1029. Acesso em: 26 out. 2025. DEFENSORIA CEARÁ. Resolução prevê mudanças no processo de reconhecimento pessoal do réu. Disponível em: https://www.defensoria.ce.def.br/noticia/resolucao-preve-mudancas- Revista Ibero-Americana de Humanidades, Ciências e Educação. São Paulo, v. 12, n. 10, out. 2026. ISSN: 2675-3375 12 Revista Ibero-Americana de Humanidades, Ciências e Educação — REASE no-processo-de-reconhecimento-pessoal-do-reu-para-evitar-condenacoes-injustas/. Acesso em: 26 out. 2025. DEFENSORIA DO RIO DE JANEIRO https://www.defensoria.rj.def.br/noticia/detalhes/11088-Relatorios-apontam-falhas-emprisoes-apos-reconhecimento-fotograficoAcesso em . 26 de otubro de 2025 GLOBO. Relembre casos em que inocentes foram presos por engano pela polícia no Rio. Disponível em: https://oglobo.globo.com/rio/relembre-casos-em-que-inocentes-forampresos-por-engano-pela-policia-no-rio-2-25386459. Acesso em: 26 out. 2025. GLOECKNER, Ricardo J. Nulidades no processo penal. 3. ed. Rio de Janeiro: Editora Saraiva, 2017. E-book. Disponível em: https://integrada.minhabiblioteca.com.br/reader/books/9788547214678/. Acesso em: 24 out. 2025. INNOCENCE PROJECT BRASIL. Nossos casos. Disponível https://www.innocencebrasil.org/nossos-casos. Acesso em: 26 out. 2025. em: JUSBRASIL. Innocence Project Brasil e o enfrentamento da grave questão dos condenados inocentes no país. Disponível em: https://www.jusbrasil.com.br/artigos/innocence-projectbrasil-e-o-enfrentamento-da-grave-questao-dos-condenados-inocentes-no-pais/1753940020. Acesso em: 26 out. 2025. LABEURB UNICAMP. Discriminação codificada: O impacto do racismo algorítmico na sociedade. Disponível em: https://www.labeurb.unicamp.br/rua/artigo/ler_artigo/313-1discriminacao-codificada-o-impacto-do-racismo-algoritmico-na-sociedade. Acesso em: 26 out. 2025. LENZA, Pedro. Direito Constitucional. 28ª ed. Rio de Janeiro: Saraiva Jur, 2024. E-book. Disponível em: https://integrada.minhabiblioteca.com.br/reader/books/9788553621958/. Acesso em: 24 out. 2025. NUNES, Pablo et al. Mapeando a vigilância biométrica [livro eletrônico]: levantamento nacional sobre o uso do reconhecimento facial na segurança pública. Rio de Janeiro: CESeC, 2025 REALE, Miguel. Filosofia do Direito. 20. ed. São Paulo: Editora Saraiva, 2002. SENADO FEDERAL. Inteligência artificial e segurança pública. Disponível em: https://www12.senado.leg.br/ril/edicoes/58/232/ril_v58_n232_p87.pdf. Acesso em: 26 out. 2025. UN. ONU pede moratória para inteligência artificial. Disponível em: https://brasil.un.org/ptbr/144671-chefe-de-direitos-humanos-da-onu-pede-morat%C3%B3ria-paraintelig%C3%AAncia-artificial. Acesso em: 26 out. 2025. Revista Ibero-Americana de Humanidades, Ciências e Educação. São Paulo, v. 12, n. 10, out. 2026. ISSN: 2675-3375 13