Amazon trabalha em legislação para reconhecimento facial

Resumo:

• O Rekognition, sistema de reconhecimento facial da Amazon, vem gerando reações controversas de diversas entidades e empresas;
• A nova tecnologia abriu precedentes para abuso de poder e discriminação racial;
• Legisladores da Amazon estão trabalhando na regulamentação do serviço.

A Amazon quer solidificar o uso da sua tecnologia de reconhecimento facial, batizada de Rekognition. A empresa pretende criar sua própria regulamentação, em uma tentativa de convencer legisladores federais a adotá-la. O esboço das leis mostra como a tecnologia é importante para a divisão de serviços online da Amazon (AWS ou, em inglês, Amazon’s Web Services), que vende o software do Rekognition. A expectativa para o mercado global de programas de reconhecimento facial para o ano de 2022 passa dos US$ 8 bilhões.

LEIA MAIS: Grupo de privacidade diz que gigantes da tecnologia não cumprem promessas sobre anúncios políticos

Mas estaria a Amazon colocando o lucro à frente da privacidade, arriscando a prática da discriminação e potenciais abusos raciais?

O que você precisa saber

No começo do ano, a Amazon melhorou a qualidade da inteligência artificial por trás do Rekognition. De acordo com o site de notícias “Culture Banx”, a empresa se juntou ao Instituto Nacional de Padrões Tecnológicos norte-americano (National Institute of Standards and Technology, em inglês) para criar testes padronizados para medir a precisão do serviço. Essa foi uma adição às boas práticas publicadas pela companhia e a esperança era de que fossem seguidas pelos legisladores. A AWS foi responsável por 13% da receita da companhia no segundo trimestre e 52% dos US$ 3,1 bilhões em receita operacional. Isso mostra porque a Amazon investe tanto na forma como a tecnologia será regulamentada: ela afeta os negócios.

“Nosso time de políticas públicas está trabalhando na regulamentação do reconhecimento facial”, disse Jeff Bezos, CEO da gigante de tecnologia, em um evento anual em Seattle realizado na semana passada. Ele também comentou sobre os usos positivos e negativos da tecnologia. “Existe, ao mesmo tempo, um potencial abuso, por isso a regulamentação é necessária. É um exemplo clássico de tecnologia que tem dois lados.”

Erros de identificação

A ACLU – American Civil Liberties Union (União Norte-Americana de Liberdades Civis, em português) chamou a atenção de empresas como a Amazon, que têm ferramentas similares de reconhecimento facial, classificando-as como uma ameaça às liberdades civis. O Rekognition identificou erroneamente 28 membros do Congresso norte-americano como pessoas que já haviam sido presas, o que aumentou a preocupação com discriminação racial e potencial abuso da lei. As correspondências erradas envolviam cidadãos negros.

Pesquisas mostram que sistemas comerciais de inteligência artificial tendem a errar mais na identificação de mulheres e pessoas negras. Alguns deles só erraram no reconhecimento de homens de pele clara em 0,8% dos casos, mas cometeram enganos em 34,7% das mulheres de pele escura. Erros como esses levam a sérios problemas entre as minorias e imigrantes.

Até a experiente IBM errou na identificação de gênero em 7% das mulheres de pele clara, 12% dos homens de pele escura e 35% das mulheres de pele escura.

Dentro da lei

Outras grandes empresas de tecnologia também estão preocupadas com a falta de regulamentação. A Microsoft tem pedido a governos do mundo todo que regulamentem a tecnologia de reconhecimento facial. Elas querem se certificar de que a ferramenta, que tem um índice de erros mais alto para afro-americanos, não invada a privacidade de ninguém e nem se torne uma nova forma de discriminação.

No ano passado, o presidente da Microsoft, Brad Smith, escreveu no site da empresa sobre a importância de evitar que o reconhecimento facial sirva de base para atitudes de discriminação. Ele ressaltou, ainda, que aqueles que usam a tecnologia devem saber que “não estão isentos da responsabilidade de seguir leis que proíbam esse tipo de discriminação contra consumidores ou grupos de consumidores”.

Cidades na Califórnia, incluindo São Francisco e Oakland, além de Somerville, em Massachusetts, baniram o uso do reconhecimento facial pelas agências do governo, incluindo a polícia. Afinal, já que o reconhecimento facial é uma realidade na indústria da identificação e pode ser usado em tempo real, o banco de dados precisa ser muito maior.