Na última terça-feira a Microsoft revelou que a sua API (Application Program Interface - Programa de Aplicação Facial) pode agora identificar homens e mulheres de cores escuras com melhor eficácia do que a tecnologia anterior; a nova tecnologia, em comparação com a usada anteriormente, reduz erros de reconhecimento entre homens e mulheres em 20 vezes, e em 9 vezes só para mulheres.
O foco da Microsoft é melhorar o resultado para todos os tons de cor de pele.
A maior taxa de erros em mulheres de pele escura acentua um desafio: de que a tecnologia de reconhecimento facial só é boa o suficiente quando treinada com uma quantidade determinada de dados, se a tecnologia de reconhecimento facial é para ser boa em todos os aspectos, ela deve ser treinada com toda a diversidade de pessoas, o conjunto de dados deve representar uma diversidade muito maior de cor de pele e também estilo de cabelo, brincos, jóias etc.
Um pesquisador sênior envolvido no esforço se concentra no viés da formação de dados, que podem resultar em sistemas preconceituosos, como a “sub-representação de mulheres de pele mais escura, que pode levar a sistemas de inteligência artificial a taxas de erro inaceitáveis nas tarefas de classificação de gênero”.