São Paulo, Brasil – Enquanto a cidade de São Paulo se prepara para implantar milhares de câmeras de vigilância com reconhecimento facial, especialistas expressam preocupação com o uso indiscriminado dessa tecnologia na megalópole brasileira, que pode agravar problemas como racismo estrutural e desigualdade, além de representar riscos à privacidade de dados. e segurança cibernética.

O projeto Smart Sampa é o mais recente de uma série de iniciativas envolvendo modernas técnicas de vigilância em vários estados brasileiros. É importante pelo grande tamanho da população que vai atingir: São Paulo, a cidade mais populosa do hemisfério sul, tem 12 milhões de habitantes.

O projeto visa implementar uma plataforma única de videovigilância que integre e suporte as operações dos serviços de trânsito e emergência, rede de transportes públicos da cidade e forças policiais. Até 2024, serão instaladas até 20.000 câmeras e um número igual de câmeras privadas e de terceiros será integrado à rede.

As novas câmeras permitirão que a cidade monitore escolas, consultórios médicos, espaços públicos como praças e parques, além de conteúdos de redes sociais relevantes para a administração pública.

A combinação de análise em tempo real e tecnologia de reconhecimento facial, que detecta e compara rostos em um determinado espaço usando algoritmos de inteligência artificial (IA), visa agilizar o processo de identificação de criminosos procurados, carros roubados, pessoas desaparecidas, objetos perdidos e Gerenciar transporte público na cidade.

Estamos ansiosos para concluir o processo de recrutamento. [for Smart Sampa] o mais rápido possível, pois vai melhorar muito a segurança e a mobilidade da cidade”, disse o prefeito de São Paulo, Ricardo Nunes, durante o relançamento da licitação em maio.

Melhorias urgentes são necessárias em ambas as áreas e as reclamações sobre tempo excessivo de espera dos usuários de ônibus à autoridade de transporte da cidade aumentaram 42% no primeiro trimestre de 2023 e dados da segurança urbana indicam um aumento de 35,7% nos assaltos na cidade em 2023 em relação a 2021.

Com dados em tempo real de câmeras e algoritmos, a cidade espera prever e agir mais rapidamente. Também espera antecipar padrões de tráfego e possíveis pontos de congestionamento e usar informações para ajustar horários de ônibus, por exemplo.

Apesar do apelo das tecnologias de vigilância remota para resolver os problemas da cidade, os críticos do Smart Sampa temem que o projeto viole os direitos humanos fundamentais dos cidadãos, incluindo privacidade, liberdade de expressão, reunião e associação.

Essas preocupações levaram à suspensão do processo de licitação em duas ocasiões e desencadearam investigações por parte do Ministério Público sobre possíveis obstáculos ao projeto em áreas que incluem a privacidade do cidadão.

O processo de contratação foi autorizado a continuar depois que os tribunais de São Paulo concluíram que não havia provas suficientes para mostrar que o sistema é tendencioso contra os negros. A PK9, empresa de tecnologia com sede em São Paulo, apresentou uma oferta mensal de R$ 9,2 milhões (US$ 1,8 milhão) para operar o sistema por um período de 60 meses.

Os riscos para os negros brasileiros

Uma das principais questões destacadas pelos especialistas em relação ao Smart Sampa diz respeito às consequências negativas que o sistema pode gerar, principalmente para grupos como a comunidade negra, que constitui 56% da população do Brasil, segundo o Instituto Brasileiro de Geografia e Estatística. (IBGE). . Especialistas argumentam que o projeto de lei pode prejudicar o direito à não discriminação e desafiar o princípio da presunção de inocência.

Segundo Fernanda Rodrigues, advogada de direitos digitais e coordenadora de pesquisas do Instituto de Pesquisas em Internet e Sociedade (IRIS), a tecnologia de reconhecimento facial tem o potencial de levar a falsos positivos (combinar erroneamente o rosto de uma pessoa com uma imagem). no banco de dados) e alimentar o encarceramento em massa de negros como resultado.

“Além dos riscos de que as informações alimentadas nessas plataformas não sejam precisas e o próprio sistema falhe, há um problema que antecede as implicações tecnológicas, que é o racismo”, disse Rodrigues.

“Sabemos que o sistema penal no Brasil é seletivo, então podemos concluir que [use of surveillance with facial recognition] trata-se de aumentar os riscos e danos a essa população”, acrescentou Rodrigues, referindo-se à alta representatividade de negros nas prisões brasileiras, que representam mais de 67% da população carcerária, segundo dados de 2022 do Fórum Brasileiro de Segurança. .

Um estudo realizado pelo Centro de Estudos de Segurança Pública e Cidadania (CESeC), que monitora o impacto do uso do reconhecimento facial pela polícia em nível nacional, revelou que mais de 90% das pessoas presas por decisões baseadas no reconhecimento facial no Brasil são negros. No estado do Rio de Janeiro, o percentual de prisões injustas baseadas em reconhecimento fotográfico e envolvendo negros chegou a 81% em 2021, segundo dados da Defensoria Pública do Rio de Janeiro.

Outro problema diz respeito à falta de abertura em relação ao projeto. Uma das organizações por trás da campanha nacional “Remove my face from your goal” e outras iniciativas que pedem a proibição do reconhecimento facial, o CESeC e outras organizações sem fins lucrativos estão envolvidas em uma série de ações legais contra governos que optam por implementar a tecnologia . para segurança urbana e outros fins.

No ano passado, a Prefeitura de São Paulo realizou, na última quinzena de agosto, uma consulta pública virtual, convidando especialistas a contribuir com suas opiniões, com um único dia reservado para que as pessoas respondessem suas dúvidas.

“A participação foi limitada e as sugestões feitas foram amplamente ignoradas”, disse Celina Bottino, diretora de projetos do Instituto de Tecnologia e Sociedade do Rio de Janeiro.

Em resposta à resistência do público, o edital Smart Sampa foi atualizado com um estudo sobre o impacto da tecnologia, que reconheceu deficiências como alta probabilidade de viés nos recursos de reconhecimento facial, bem como o risco de uso não autorizado e exposição de dados pessoais , bem como a probabilidade de violações de privacidade.

Para lidar com esses riscos, o relatório observou que a plataforma consideraria apenas detecções com paridade de 90% e todos os alertas emitidos seriam examinados por equipe treinada para mitigar injustiças, bem como um sistema avançado de controle de acesso e proteção de dados.

solicitar suspensão

A Defensoria Pública de São Paulo iniciou em maio uma ação civil pública, juntamente com o Laboratório de Políticas Públicas e Internet (LAPIN) e a Uneafro Brasil, com o apoio da Rede Liberdade, rede de profissionais do direito que trabalha com organizações de direitos humanos. O processo em andamento pede a suspensão do projeto e a suspensão do uso de sistemas de reconhecimento facial para segurança urbana.

“O reconhecimento facial é uma tecnologia complexa com aspectos ainda não totalmente mapeados, o que o torna incompatível com um processo licitatório, pois [this format] não permite a necessária transparência e participação. Isso acarreta uma série de riscos aos direitos fundamentais de populações vulneráveis, como negros e transgêneros, assim como crianças”, afirmaram as organizações em comunicado.

A ação civil também argumenta que o estudo de impacto carece de opiniões e estudos detalhados sobre os potenciais malefícios da tecnologia, bem como formas de contornar os riscos: “A Câmara Municipal apenas apresenta aspectos pontuais sobre os impactos do programa Sampa Inteligente, que raramente eles foram discutidos com a sociedade civil e outras instituições”, afirma a defensora pública Surrailly Youssef.

Mesmo que o prestador já tenha sido escolhido, o serviço pode ser suspenso a qualquer momento se houver violação de direitos ou princípios da administração pública, diz a defensora pública Cecília Nascimento Ferreira.

“A medida judicial, no entanto, buscou evitar o gasto de recursos públicos com tecnologia imprudente contratada com modalidade inadequada dada a complexidade do serviço”, acrescenta.

O governo de São Paulo não respondeu aos pedidos de entrevista da Al Jazeera.

Em outras partes das Américas, a Argentina, vizinha do Brasil, declarou ilegal o uso do reconhecimento facial em sua capital, Buenos Aires, no ano passado. Nos EUA, vários estados revisaram sua posição para proibir o reconhecimento facial para dar suporte aos serviços públicos, embora a tecnologia permaneça amplamente não regulamentada. Por outro lado, a adoção da tecnologia tem avançado em países ao redor do mundo, como China e Índia, embora não sem críticas.

“Fatores que incluem transparência e responsabilidade na aplicação dessas novas tecnologias parecem ter sido esquecidos pelos tomadores de decisão em todo o mundo”, diz Pablo Nunes, cientista político e coordenador do CESeC. “Mesmo em um cenário sem banimento, espero que tenhamos salvaguardas e regulamentações mínimas para o uso do reconhecimento facial no Brasil.”