Em uma carta direcionada a congressistas nos Estados Unidos, a IBM anunciou esta semana que está abandonando o desenvolvimento e o fornecimento de tecnologia de reconhecimento facial e de softwares de análise de rostos, além de encerrar todas as pesquisas e desenvolvimentos nesse setor.

A companhia alegou que não concorda com alguns dos usos atuais desses recursos, inclusive o emprego por forças policiais durante protestos. Na nota, a IBM aponta que práticas como “vigilância em massa, criação de perfil racial, violações de liberdades e direitos humanos básicos, ou qualquer outro propósito que não seja consistente com nossos valores e os Princípios de Confiança e Transparência”. A IBM ressalta que clientes com serviços ainda em andamento receberão suporte normalmente.

“Nós acreditamos que agora é a hora de começar um diálogo nacional sobre se e como tecnologias de reconhecimento facial devem ser empregadas por agências de aplicação da lei”, diz a carta. A empresa ainda se coloca a disposição para ajudar na “busca por justiça e igualdade racial, focando inicialmente em três áreas políticas: reforma da polícia, uso responsável da tecnologia e maiores oportunidades educacionais e de habilidades”.

Ética em debate

A IBM já discute há algum tempo as questões éticas de utilização de um sistema artificial de identificação de pessoas, mas a decisão sai em meio a manifestações ao longo dos Estados Unidos pelo assassinato de George Floyd por um policial durante uma abordagem.

Estudos feitos em anos anteriores indicavam que algoritmos treinados com bancos de imagens e ordens humanas tornam-se enviesados e nada neutros com o tempo, o que pode levar a “falsos positivos” e incriminação de pessoas sem qualquer evidência.

Outras empresas têm refletido a respeito do tema para evitar o uso indiscriminado dessa tecnologia, como a Microsoft, Google e Amazon.