Polícia de Detroit: sistema de reconhecimento facial da cidade erra em 96% dos casos


Durante uma reunião pública nesta segunda-feira o chefe de polícia de Detroit, James Craig, admitiu que a tecnologia de reconhecimento facial usada pela polícia da cidade, desenvolvida por uma empresa chamada DataWorks Plus, "quase nunca" traz uma correspondência exata com a imagem de um suspeito, e "quase sempre" identifica incorretamente as pessoas.

"Se usássemos apenas o software para identificar suspeitos, não resolveríamos o caso em 95 a 97% das vezes", disse Craig. "Isso se confiássemos apenas no software, o que é contra nossa política atual. Se usássemos apenas a tecnologia, sozinha, para identificar alguém, eu diria que em 96% dos casos a identificação seria incorreta". O índice é pior se comparado ao da polícia de Londres, onde o software erra em 81% dos casos.

O uso da tecnologia de reconhecimento facial pela polícia de Detroit veio à tona após o caso de Robert Julian-Borchak Williams, um homem que foi preso após ser erroneamente "reconhecido" pelo software, ganhar notoriedade graças a um artigo no The New York Times. Ao interrogar Williams, os policiais rapidamente perceberam que ele não se parecia em nada com o suspeito fotografado no local do crime.

Como resultado da imprecisão, cidadãos que não tem nada a ver com o incidente são questionados e investigados pela polícia. Em Detroit, isso acontece quase que exclusivamente com a população negra.

Segundo relatórios da própria polícia, até a última segunda-feira (22), a tecnologia foi usada 70 vezes, e em 68 delas, a foto inserida no sistema foi de um negro. Em dois outros casos a etnia não foi identificada. Em 31 dos 70 casos, as fotos foram retiradas de redes sociais, e em 18 dos 70 casos, elas vieram de câmeras de segurança.

Reprodução

Sistemas de reconhecimento facial estão sendo amplamente usados por forças de segurança em todo o mundo. Foto: Reuters

Várias cidades nos EUA estão banindo o uso de software de reconhecimento facial pela polícia. Em 2019, Detroit decidiu regular, em vez de impedir, o uso da tecnologia. A polícia local foi proibida de "vigiar o público por qualquer câmera ou dispositivo de vídeo", além de não poder usar a tecnologia em vídeos ao vivo ou gravados. Seu uso é restrito, mas não proibido, em protestos, e apenas como parte de uma investigação criminal em andamento.

Todd Pastorini, gerente geral da DataWorks Plus, disse à Motherboard que sua empresa não mantém estatísticas sobre a precisão de seu software quando usado no "mundo real", e que não fornece instruções específicas sobre seu uso para os departamentos de polícia.

O executivo afirma que a tecnologia está sendo demonizada pela mídia, e compara seu uso ao de uma pá: "você pode usá-la para tirar terra do chão" ou "uma arma", diz ele. Segundo Pastorini, o problema é a qualidade das imagens usadas como ponto de partida para buscas no sistema.

O executivo compara seu software a um sistema automático de identificação de impressões digitais, que retorna dezenas ou centenas de possíveis correspondências. "Ele não traz apenas um candidato", disse ele, "traz centenas. O peso de cada probabilidade é calculado como em um sistema de impressões digitais, de acordo com as imagens de partida e o que está no banco de dados".

O Capitão Ariq Tosqui, da Polícia de Detroit, diz que gostaria de continuar a usar reconhecimento facial, pois a tecnologia pode auxiliar os investigadores, mesmo que não levem suspeitos à prisão. Mas admite que, nas 185 vezes em que ela foi usada nos últimos anos, "na maioria dos casos os detetives relataram que o software não foi útil".



from Olhar Digital :: Segurança https://ift.tt/2ZjF4sx

Comments

Post a Comment

Popular posts from this blog

AR18-312A: JexBoss – JBoss Verify and EXploitation Tool

Image
Original release date: November 08, 2018 Summary JBoss Verify and EXploitation tool (JexBoss) is an open-source tool used by cybersecurity hunt teams (sometimes referred to as “red teams”) and auditors to conduct authorized security assessments. Threat actors use this tool maliciously to test and exploit vulnerabilities in JBoss Application Server (JBoss AS)—now WildFly—and a variety of Java applications and platforms. JexBoss automates all the phases of a cyberattack, making it a powerful and easy-to-use weapon in a threat actor’s cyber arsenal. This report provides a detailed analysis of JexBoss’ functionality, along with detection, response, prevention, and mitigation recommendations. Description JexBoss JexBoss is a tool used to test and exploit vulnerabilities in Java applications and platforms, including the JBoss AS/WildFly web server framework. JexBoss is written in the Python programming language using standard Python libraries. JexBoss is run from the command-line inter...
Keep reading

SB18-141: Vulnerability Summary for the Week of May 14, 2018

Original release date: May 21, 2018 The US-CERT Cyber Security Bulletin provides a summary of new vulnerabilities that have been recorded by the National Institute of Standards and Technology (NIST) National Vulnerability Database (NVD) in the past week. The NVD is sponsored by the Department of Homeland Security (DHS) National Cybersecurity and Communications Integration Center (NCCIC) / United States Computer Emergency Readiness Team (US-CERT). For modified or updated entries, please visit the NVD , which contains historical vulnerability information. The vulnerabilities are based on the CVE vulnerability naming standard and are organized according to severity, determined by the Common Vulnerability Scoring System (CVSS) standard. The division of high, medium, and low severities correspond to the following scores: High - Vulnerabilities will be labeled High severity if they have a CVSS base score of 7.0 - 10.0 Medium - Vulnerabilities will be labeled Medium severity ...
Keep reading

SB18-029: Vulnerability Summary for the Week of January 22, 2018

Original release date: January 29, 2018 The US-CERT Cyber Security Bulletin provides a summary of new vulnerabilities that have been recorded by the National Institute of Standards and Technology (NIST) National Vulnerability Database (NVD) in the past week. The NVD is sponsored by the Department of Homeland Security (DHS) National Cybersecurity and Communications Integration Center (NCCIC) / United States Computer Emergency Readiness Team (US-CERT). For modified or updated entries, please visit the NVD , which contains historical vulnerability information. The vulnerabilities are based on the CVE vulnerability naming standard and are organized according to severity, determined by the Common Vulnerability Scoring System (CVSS) standard. The division of high, medium, and low severities correspond to the following scores: High - Vulnerabilities will be labeled High severity if they have a CVSS base score of 7.0 - 10.0 Medium - Vulnerabilities will be labeled Medium sever...
Keep reading

Learn Python Programming – 7 Courses Video Training Bundle

Image
It's no secret that learning how to code is one of the most important things you can do when it comes to the beginning or furthering practically any career in programming and technology. The only problem a beginner often faces is that there are seemingly countless programming languages to choose from, which makes it exceedingly difficult for aspiring or even seasoned programmers to know which from The Hacker News http://bit.ly/2Ug9eJ8
Keep reading

SB18-043: Vulnerability Summary for the Week of February 5, 2018

Original release date: February 12, 2018 The US-CERT Cyber Security Bulletin provides a summary of new vulnerabilities that have been recorded by the National Institute of Standards and Technology (NIST) National Vulnerability Database (NVD) in the past week. The NVD is sponsored by the Department of Homeland Security (DHS) National Cybersecurity and Communications Integration Center (NCCIC) / United States Computer Emergency Readiness Team (US-CERT). For modified or updated entries, please visit the NVD , which contains historical vulnerability information. The vulnerabilities are based on the CVE vulnerability naming standard and are organized according to severity, determined by the Common Vulnerability Scoring System (CVSS) standard. The division of high, medium, and low severities correspond to the following scores: High - Vulnerabilities will be labeled High severity if they have a CVSS base score of 7.0 - 10.0 Medium - Vulnerabilities will be labeled Medium seve...
Keep reading

SB18-057: Vulnerability Summary for the Week of February 19, 2018

Original release date: February 26, 2018 The US-CERT Cyber Security Bulletin provides a summary of new vulnerabilities that have been recorded by the National Institute of Standards and Technology (NIST) National Vulnerability Database (NVD) in the past week. The NVD is sponsored by the Department of Homeland Security (DHS) National Cybersecurity and Communications Integration Center (NCCIC) / United States Computer Emergency Readiness Team (US-CERT). For modified or updated entries, please visit the NVD , which contains historical vulnerability information. The vulnerabilities are based on the CVE vulnerability naming standard and are organized according to severity, determined by the Common Vulnerability Scoring System (CVSS) standard. The division of high, medium, and low severities correspond to the following scores: High - Vulnerabilities will be labeled High severity if they have a CVSS base score of 7.0 - 10.0 Medium - Vulnerabilities will be labeled Medium seve...
Keep reading

SB18-008: Vulnerability Summary for the Week of January 1, 2018

Original release date: January 08, 2018 The US-CERT Cyber Security Bulletin provides a summary of new vulnerabilities that have been recorded by the National Institute of Standards and Technology (NIST) National Vulnerability Database (NVD) in the past week. The NVD is sponsored by the Department of Homeland Security (DHS) National Cybersecurity and Communications Integration Center (NCCIC) / United States Computer Emergency Readiness Team (US-CERT). For modified or updated entries, please visit the NVD , which contains historical vulnerability information. The vulnerabilities are based on the CVE vulnerability naming standard and are organized according to severity, determined by the Common Vulnerability Scoring System (CVSS) standard. The division of high, medium, and low severities correspond to the following scores: High - Vulnerabilities will be labeled High severity if they have a CVSS base score of 7.0 - 10.0 Medium - Vulnerabilities will be labeled Medium sever...
Keep reading

Vulnerability Summary for the Week of March 2, 2020

Original release date: March 9, 2020 The CISA Weekly Vulnerability Summary Bulletin is created using information from the NIST NVD . In some cases, the vulnerabilities in the Bulletin may not yet have assigned CVSS scores. Please visit NVD for updated vulnerability entries, which include CVSS scores once they are available.   High Vulnerabilities Primary Vendor -- Product Description Published CVSS Score Source & Patch Info apple -- multiple_products   A denial of service issue was addressed with improved input validation. 2020-02-28 7.8 CVE-2019-8741 MISC MISC MISC MISC MISC MISC MISC centreon -- centreon   An issue was discovered in Centreon before 2.8.30, 18.10.8, 19.04.5, and 19.10.2. SQL Injection exists via the include/monitoring/status/Hosts/xml/hostXML.php instance parameter. 2020-03-05 7.5 CVE-2019-17647 CONFIRM CONFIRM CONFIRM MISC CONFIRM CONFIRM centreon -- centreon   Centreon 19.10 allows remote authen...
Keep reading

LibSSH Flaw Allows Hackers to Take Over Servers Without Password

Image
A four-year-old severe vulnerability has been discovered in the Secure Shell (SSH) implementation library known as Libssh that could allow anyone to completely bypass authentication and gain unfettered administrative control over a vulnerable server without requiring a password. The security vulnerability, tracked as CVE-2018-10933, is an authentication-bypass issue that was introduced in from The Hacker News https://ift.tt/2NJHOaM
Keep reading

STJ se restabelece após ransomware, mas PF investiga cópia de dados

Image
Os estragos causados pelo ataque com ransomware ao Superior Tribunal de Justiça (STJ) ainda não são totalmente conhecidos. A Polícia Federal assumiu a investigação do caso, não só para compreender a extensão dos danos, como para averiguar o acesso aos arquivos, que pode incluir até mesmo uma cópia indevida dos dados.Segundo comunicado do STJ, aos poucos os sistemas começam a ser retomados após o ataque. A retomada começou na terça-feira (10), com a retomada de algumas das funcionalidades mais acessadas do portal. As centrais telefônicas voltaram a operar parcialmente na quarta-feira (11) e em sua totalidade na quinta (12). Agora, o Tribunal também informa que a restauração dos sistemas de informática já está praticamente finalizada.O STJ diz que há ainda dois pontos a serem resolvidos. Um deles é o Sistema Integração, que deve ser restabelecido durante o fim de semana. Além disso, até segunda-feira (16), a Secretaria de Tecnologia da Informação e Comunicação deve finalizar a disponibi...
Keep reading