Este artigo é o acompanhamento de tipos. Seis meses atrás, publicamos notícias de que a Microsoft estava trabalhando para consertar um software de reconhecimento facial considerado racialmente preconceituoso. Agora, a própria empresa exige que o reconhecimento facial seja regulamentado para evitar preconceitos. Então, foi pego com software preconceituoso, e agora eles querem que toda a indústria seja regulamentada para evitar que qualquer outra pessoa obtenha software preconceituoso.
Links Rápidos
O problema inicial
Como mencionamos em junho, a UI API baseada no Azure da Microsoft foi criticada em um artigo de pesquisa. O programa teve dificuldade em identificar pessoas de cor escura ou que eram mulheres. A taxa de erro era de 20.8%, mas com “rostos masculinos mais claros”, a taxa de erro era de zero por cento.
A razão por trás dessa diferença de reconhecimento é que a IA precisa ser programada por pessoas. Os resultados serão tão bons quanto as pessoas que fizeram a programação. Os programadores da Microsoft não usaram pessoas suficientes com tons de pele mais escuros ou mulheres o suficiente.
A Microsoft trabalhou para corrigir isso diversificando seus dados de treinamento e começou a testar seus sistemas internamente antes de publicá-los. Eles foram capazes de reduzir a taxa de erro para pessoas de pele escura em até vinte vezes e a taxa de erro para mulheres em nove vezes.
Pague pela legislação
Seis meses depois eu perguntei A Microsoft está pedindo aos governos que aprovem uma legislação exigindo que a tecnologia de reconhecimento facial seja testada De forma independente, para garantir que seja preciso, para evitar preconceitos e para proteger os direitos dos usuários.
"O gênio do reconhecimento de rosto, por assim dizer, acabou de sair da garrafa", disse Brad Smith, consultor sênior da Microsoft, em um blog.
“A menos que ajamos, corremos o risco de acordar daqui a cinco anos e descobrir que os serviços de reconhecimento facial proliferaram de formas que agravam os problemas sociais. Nesse momento, esses desafios serão muito mais difíceis.
A empresa exige que os resultados do reconhecimento facial sejam revisados por pessoas, em vez de deixar o trabalho para os computadores.
“Isso inclui lugares onde as decisões podem levar a riscos de danos físicos ou emocionais ao consumidor, onde pode haver implicações para os direitos humanos ou direitos fundamentais, onde a liberdade pessoal ou a privacidade pessoal do consumidor podem ser violadas”.
Além disso, Smith sugeriu que aqueles que usam reconhecimento facial precisam "reconhecer que não estão isentos de sua obrigação de cumprir as leis que proíbem a discriminação contra consumidores individuais ou grupos de consumidores".
Ele também queria ter certeza de que o uso do reconhecimento facial pelo governo não equivalia às liberdades democráticas e aos direitos humanos das pessoas.
“Precisamos garantir que 2024 não se pareça com a página de um romance de 1984”, concluiu.
Além disso
A Microsoft está certa, é claro. É interessante que seis meses atrás eles não reconheceram a necessidade de ter cuidado para que seu software não fizesse distinção, e agora eles não apenas percebem isso, mas também querem ter certeza de que ninguém mais cometerá os mesmos erros. Eles fizeram.
Independentemente de seu status anterior, a Microsoft está certa em exigir legislação e exame minucioso das opções de reconhecimento facial? Deixe-nos saber sua opinião sobre o pedido da Microsoft na seção de comentários abaixo.
