Google desenvolve método mais inclusivo para evitar preconceitos nos produtos

A holding da Google, Alphabet Inc, anunciou à Reuters que está a conduzir uma investigação para desenvolver uma escala alternativa ao método padrão utilizado para classificar tons de pele. Em causa está a escala Fitzpatrick Skin Type (FST), desenvolvida em 1975 pelo Dr. Thomas Fitzpatrick, dermatologista da Universidade de Harvard. Quase 50 anos depois, fruto da mudança dos tempos e da crescente tomada de consciência em relação a questões raciais, um conjunto de investigadores de tecnologia e de dermatologistas chegaram à conclusão de que a FST é inadequada e não só cria tendências irrealistas nos produtos como não permite avaliar se são ou não tendenciosos e potencialmente racistas. No entanto, a escala é ainda hoje um standard utlizado em vários consultórios e organizações. Em particular num contexto de cuidados médicos, o uso de uma escala desatualizada e sem representação pode ser altamente prejudicial nos tratamentos.

A escala FST é constituída por seis tons de pele, classificados através de numeração romana, que associam certas características físicas à reação das pessoas depois de algum tempo ao sol, a nível de bronzeamento e queimadura solar. Inicialmente, Fitzpatrick pretendia personalizar o tratamento de psoríase com radiação ultravioleta e agrupava apenas as pessoas com pele branca. Só uma década depois, foi adicionado o tom castanho e negro à escala, mas sem variedade de tons. 

Nos vários contextos, os investigadores e críticos têm reforçado que a FST não é inclusiva e ignora a diversidade entre as pessoas de cor, incluindo apenas quatro categorias para pela branca e apenas uma para pele negra e outra para castanha. Atualmente, as grandes tecnológicas utilizam a medida FST para categorizar as pessoas e medir se produtos como os sensores de frequência cardíaca do smartwatch ou sistemas de reconhecimento facial têm um bom desempenho. Por essa razão, já foi sugerido por representantes do Departamento de Segurança Interna dos EUA findar o uso da FST nos sistemas de reconhecimento facial.

Em declarações à Reuters, a Google afirma que tem procurado, de forma silenciosa, medidas melhores e alternativas para substituir a FST. “Estamos a trabalhar numa alternativa, mais inclusiva, medidas que podem ser uteis no desenvolvimento dos nossos produtos, e vamos colaborar com peritos em ciência e medicina, assim como grupos de comunidades de cor”, afirmou a Alphabet, sem dar mais detalhes acerca da decisão. 

O grupo Microsoft, a Apple Inc e a Garmin tomam também por referência o FST quando trabalham com sensores de tons, no plano da saúde. A Microsoft reconheceu as imperfeiçoes da escala FST, já a Apple disse que testava os produtos em pessoas de variados tons de pele, utilizando vários tipos de escalas e nem sempre a FST. A Garmim assegura que devido ao elevado volume de testes que conduzem, as leituras são fiáveis. 

Claro que a questão faz parte de um problema maior relacionado com o racismo e a diversidade na indústria tecnológica nos EUA. Ao contrário de outros setores, no mercado de IT a força de trabalho é maioritariamente branca. À medida que surgem novos produtos e serviços, frequentemente potenciados por Inteligência Artificial, e se estendem para áreas mais sensíveis como saúde e a autoridade policial, é importante garantir que a tecnologia serve todos os seres humanos, independentemente da idade, cor ou género. 

Sem representatividade, com escalas reduzidas de tons de pele, os produtos podem ser defeituosos. Já há produtos que oferecem paletes de cor mais ricas do que o FST, como é o caso da Crayola que lançou lápis de cor de 24 tons de pele diferentes. Victor Casale, fundador da empresa de maquilhagem Mob Beauty, ajudou a Crayola no desenvolvimento dos lápis, disse que desenvolveu 40 tons diferentes de bases, cada uma diferente da outra em cerca de 3%, o suficiente para ser distinguida por humanos. A importância da “precisão das cores no mundo da eletrónica sugere que os padrões da tecnologia deveriam ter cerca de 12 a 18 tons de pele”, considera Casale, e conclui que “não pode haver apenas seis”.