fbpx

O sistema de reconhecimento facial da Amazon comete erros. Veja quais

Redação DuMoney 9 de agosto de 2018 atualizado às 16:44

Após teste, sistema de reconhecimento facial confunde políticos com criminosos. Incidência de equívocos é maior ao analisar rostos de pessoas negras ou hispânicas

rosto de uma pessoa sendo ''scaneado''

Sistema cometeu muitos erros om parlamentares negros ou hispânicos / Schutterstock

 

Vista como solução para muitos processos, a tecnologia também pode se tornar um problema. Foi o que aconteceu na última semana de julho, quando a União Americana das Liberdades Civis, ACLU, testou a tecnologia Rekognition, da Amazon, que é capaz de reconhecer o rosto das pessoas. E o resultado não foi bom. Na verdade, preocupante.

O sistema, que pode ser utilizado em softwares de várias empresas, serve para, entre outros usos, reconhecer o rosto de pessoas. Mas, no teste da ACLU feito com políticos americanos, 28 deputados foram identificados como criminosos fichados.

O sistema errou — e feio. E errou, numa proporção excessivamente maior, com parlamentares negros ou hispânicos. Após o teste,  dois deputados do Partido Republicano afirmaram que vão enviar uma carta a Jeff Bezos, presidente da Amazon, com um pedido de conversa. O medo é de que, aplicado no mundo real como está, o software possa cometer injustiças.

LEIA MAIS: Design de serviço: isso pode aumentar os lucros do seu negócio

O QUE A ACLU DIZ

Uma vez que o software de identificação facial repete os preconceitos raciais dos desenvolvedores que criam a ferramenta, é possível que, aplicados em casos reais, o programa torne um indivíduo inocente em criminoso. Segundo dados do teste, 39% das pessoas negras foram consideradas criminosas, sendo que a taxa de erro entre brancos foi de apenas 5%.

O advogado de tecnologia da ACLU, Jacob Snow, argumentou que a ferramenta da Amazon tem erros graves. Segundo ele, os testes mostraram que até mesmo condições adversas de iluminação, ângulo e idade do usuário quando a foto foi tirada podem influenciar no resultado.

O QUE A AMAZON DIZ

Em resposta ao teste, um porta-voz da Amazon afirmou que a tecnologia tem sido usada para muitos propósitos úteis. Segundo ele, o sistema foi implantado em diversos locais para a prevenção do tráfico de seres humanos, inibindo a exploração infantil e reunindo crianças desaparecidas com suas famílias, além de aumentar a segurança de lojas, impedindo o roubo de produtos.

A empresa ainda afirmou que, em casos policiais, é sempre recomendado que seja feita uma análise humana para que qualquer medida injusta não seja tomada pelas autoridades.

COMO FUNCIONA A TECNOLOGIA DE RECONHECIMENTO FACIAL

De acordo com a empresa, o sistema de reconhecimento facial pode ser usado para diversos fins. Desde um departamento policial à um supermercado. Segundo o site oficial da empresa, o Amazon Rekognition capta imagens em vídeo, fotos e consegue identificar objetos, pessoas, texto, cenas e atividades, bem como detectar qualquer conteúdo inadequado.

Além disso, segundo a Amazon, o sistema oferece análise e reconhecimento facial altamente preciso para suas imagens e vídeos. Você pode detectar, por exemplo, um fugitivo da justiça, analisar e comparar rostos com o objetivo de verificação de usuários e até fazer estimativas de público.

Em Inovação

Recomendadas para você