Microsoft quer evitar abuso de IA de reconhecimento facial

(Bloomberg) -- A Microsoft planeja implementar princípios éticos elaborados pela própria empresa para sua tecnologia de reconhecimento facial até o fim de março e ao mesmo tempo está instando os governos a avançarem com uma regulação correspondente nesse campo.

A empresa pediu, em dezembro, uma nova legislação de controle de softwares que usam inteligência artificial para reconhecimento de rostos, defendendo a revisão e a supervisão humana da tecnologia em alguns casos críticos, como forma de reduzir os riscos de resultados tendenciosos e intromissões na privacidade e nas liberdades democráticas.

"Precisamos liderar pelo exemplo e estamos trabalhando para fazer isso", disse Brad Smith, presidente e diretor jurídico da Microsoft, em entrevista, acrescentando que algumas empresas estão implantando princípios semelhantes.

Smith disse que a empresa pretende "operacionalizar" seus princípios até o fim de março, o que envolve a elaboração de políticas, a construção de sistemas de governança e ferramentas de engenharia e testes para garantir que tudo esteja de acordo com os objetivos da empresa. Isso envolve também a definição de controles para as equipes globais de vendas e consultoria da empresa para evitar a venda da tecnologia nos casos em que houver risco de ela ser usada para um propósito indesejado.

O uso de softwares de reconhecimento facial pela Justiça, por órgãos de segurança em fronteiras, por militares e por outros órgãos governamentais gerou preocupações a respeito dos riscos de preconceito e vigilância em massa. Pesquisas mostraram que alguns dos produtos mais populares cometem erros e têm desempenho pior com pessoas de pele mais escura. A Microsoft, a Amazon e o Google, da Alphabet, enfrentaram protestos de funcionários e grupos de defesa por causa da ideia de vender software de IA a agências de governo ou à polícia.

"Isso certamente restringiria certos cenários ou usos", disse Smith a respeito dos princípios, acrescentando que a Microsoft não necessariamente rejeitaria oferecer a tecnologia a governos. A empresa só quer impedir que as autoridades usem a tecnologia para vigilância contínua de um indivíduo específico sem as necessárias salvaguardas, disse.

A empresa recusou contratos por esse motivo, disse. Um deles foi um caso que, segundo Smith, teria representado uma vigilância pública em uma capital nacional "em um país no qual não tínhamos certeza de que os direitos humanos seriam protegidos". Outra foi a implantação por parte de uma agência de segurança dos EUA que "achamos que criaria um risco indevido de discriminação".

Indagado se a Microsoft descartaria trabalhar com as autoridades chinesas, especialmente à luz das novas regras para julgar os cidadãos com base no comportamento social deles, Smith disse que "isso definitivamente levantaria questões importantes na China". Ele disse que, de qualquer forma, aparentemente Pequim está mais interessada em adquirir tecnologia de reconhecimento facial de empresas locais, não de americanas.

Apesar de estar avançando com as regras autoimpostas, a empresa afirmou que é necessário haver uma regulação que abranja todo o setor.

"Nunca se quer criar um mercado que obrigue as empresas a escolher entre ter sucesso e ser responsável e, a menos que tenhamos um marco regulatório, existe o risco de isso acontecer", disse Smith.