Robert Dillon, um pescador comercial de caranguejos de 52 anos de Fort Myers, foi preso depois que o FACES — um sistema de reconhecimento facial operado pela Delegacia do Xerife do Condado de Pinellas, na Flórida — comparou o rosto dele com a foto de um homem exibida na tela de um computador e capturada com um celular. O sistema retornou uma "correspondência de 93 por cento nas características faciais", de acordo com anotações da investigação policial. As pontuações que ele emite representam o quanto duas imagens se assemelham para o algoritmo, e não a probabilidade de mostrarem a mesma pessoa.
O FACES armazena dezenas de milhões de fotos de fichários criminais e carteiras de habilitação da Flórida, sendo um dos bancos de dados de reconhecimento facial policial mais antigos dos Estados Unidos.
A União Americana pelas Liberdades Civis (ACLU), autora da ação, afirma que Dillon foi preso em casa, na frente da esposa, mantido durante a noite em uma cela fria e transportado em uma van sem janelas e sem iluminação. Ele precisou dar o título de propriedade de seu caminhão como garantia para pagar a fiança. A prisão ocorreu no auge da temporada de caranguejo-pedra, fazendo com que ele atrasasse o aluguel e quase perdesse a casa. Sua foto de fichário permaneceu online por quase um ano, sendo removida do site do condado somente após a intervenção de um repórter de televisão.
Estranhos abordam Dillon em público para perguntar sobre o caso, segundo a queixa, e ele não se sente mais à vontade para conversar com crianças.
O incidente aconteceu pouco antes da meia-noite de 2 de novembro de 2023, em um McDonald's em Jacksonville Beach, onde um homem supostamente se aproximou de uma menina com menos de 12 anos e pediu repetidamente que ela saísse com ele. Ela recusou. Quando ele tentou se aproximar pela segunda vez, a menina chamou pela mãe. O homem fugiu antes da chegada da polícia.
A queixa apresenta diversos fatos que apontavam para outro rumo e nunca chegaram ao juiz que assinou o mandado de prisão. Uma gerente do McDonald's disse aos investigadores que o suspeito era um "cliente habitual" que ela já tinha visto no local diversas vezes. De acordo com a ação, Dillon jamais havia visitado Jacksonville Beach, morando a centenas de quilômetros de distância.
Um policial de Jacksonville Beach designado para o caso enviou um boletim de tentativa de identificação às agências vizinhas ainda naquele mês de novembro, usando fotos de celular capturadas das imagens de vigilância do McDonald's. Um sargento da Delegacia do Xerife de Jacksonville (JSO) inseriu as imagens no FACES e devolveu a "correspondência de 93 por cento" com o nome de Dillon. O policial investigador solicitou, então, uma busca nos leitores de placas para dois veículos registrados em nome de Dillon, abrangendo os dias em torno do incidente. Nenhum dos dois foi localizado em lugar algum do condado, segundo a queixa, que afirma que os resultados foram omitidos do pedido de mandado.
Seis meses se passaram sem novas diligências, afirma a ação. Em julho de 2024, o policial apresentou o pedido de mandado. Um juiz o assinou, e Dillon foi preso no mês seguinte. Ele contratou um advogado criminalista e, em outubro, declarou-se inocente. O Gabinete do Promotor de Justiça desistiu de todas as acusações poucas semanas depois. Mesmo assim, o policial investigador foi promovido ao final do ano.
"Jamais vou superar o quanto fiquei aterrorizado e preocupado, imaginando se algum dia voltaria para casa com minha esposa e filha", diz Dillon em comunicado divulgado por seus advogados. "Mais de um ano depois, ainda estou colhendo os cacos da minha vida, tudo porque a polícia confiou nessa tecnologia perigosa em vez de fazer seu trabalho e investigar de verdade."
O processo cita o policial investigador e o sargento da JSO individualmente, e também processa a Cidade de Jacksonville Beach, o Xerife de Jacksonville e o Xerife do Condado de Pinellas em suas capacidades oficiais. A ação pede indenizações compensatórias e punitivas e solicita que a Justiça determine que as três agências reformulem suas políticas de reconhecimento facial.
"Em razão do litígio em andamento, não podemos comentar mais sobre o incidente", afirmou à WIRED um porta-voz da Delegacia do Xerife de Jacksonville em comunicado. A Delegacia do Xerife do Condado de Pinellas não respondeu de imediato ao pedido de comentário.
O xerife de Jacksonville, T.K. Waters, afirmou à emissora local Action News Jax, após o arquivamento do caso, que um acerto isolado de reconhecimento facial não constituiria causa provável em sua delegacia: "Se você viesse até mim com um acerto de reconhecimento facial e essa fosse sua causa provável, eu provavelmente te expulsaria do meu escritório", declarou.
O FACES é operado pela Delegacia do Xerife do Condado de Pinellas desde 2001, o que o torna um dos sistemas de reconhecimento facial policial mais antigos do país. Em seu auge, em 2021, suas dezenas de milhões de fotos de fichários e carteiras de habilitação da Flórida eram acessíveis a mais de 260 agências — incluindo o FBI (Polícia Federal dos EUA) e o ICE (Serviço de Imigração e Alfândega dos EUA). Para utilizar o sistema, os investigadores enviam a imagem de um suspeito, o sistema a compara com a galeria e devolve uma lista ordenada de possíveis correspondências.
O sistema funcionou por muito tempo com pouca fiscalização. Um estudo de 2016 do Centro de Privacidade e Tecnologia da Faculdade de Direito de Georgetown revelou que a Delegacia do Xerife do Condado de Pinellas não realizava auditorias sobre como o banco de dados era consultado e não exigia suspeita razoável para realizar uma busca. Questionado se o escritório auditava as consultas para detectar uso indevido, o xerife Bob Gualtieri respondeu: "Não, nem tanto". Agências da Flórida também usaram o FACES para escanear manifestantes pacíficos, conforme reportagens do Sun Sentinel e do Pulitzer Center.
A ACLU afirma que o caso de Dillon é um de pelo menos 15 prisões injustas conhecidas nos Estados Unidos atribuídas à tecnologia de reconhecimento facial. No início deste ano, a mesma Delegacia do Xerife de Jacksonville prendeu indevidamente um homem da Carolina do Norte em uma investigação de roubo de veículo. Segundo a Action News Jax, ele passou quase três meses preso depois que uma correspondência de 85 por cento levou à sua prisão. Quando as acusações foram retiradas, ele havia perdido a casa, o emprego e a guarda dos dois filhos.
"Ninguém deveria perder a liberdade ou ter medo de sair de casa porque um algoritmo errou", afirma Nate Wessler, diretor-adjunto do Projeto de Liberdade de Expressão, Privacidade e Tecnologia da ACLU, que pediu que as delegacias da Flórida fizessem reparações e adotassem salvaguardas para evitar novas prisões injustas.
"As polícias de todo o país estão avisadas", acrescenta Wessler. "A tecnologia de reconhecimento facial não confiável está prejudicando pessoas, e continuaremos lutando para responsabilizá-las por esses abusos."
