Ecossistemas mais inclusivos e justos: Relatório apresenta recomendações para igualdade de género e diversidade na IA

A Mila e a CEIMIA, players mundiais dedicados ao desenvolvimento responsável da inteligência artificial (IA), divulgaram recentemente o relatório “Towards Substantive Equality in AI: Transformative AI Policy for Gender Equality and Diversity”, com o objetivo de capacitar os estados e restantes interessados a criarem ecossistemas de inteligência artificial inclusivos, equitativos e justos, impulsionando, em simultâneo, o desenvolvimento económico e social.

A iniciativa do grupo de trabalho de IA Responsável do Global Partnership on AI (GPAI) teve por base uma abordagem baseada em direitos humanos para a IA, com a consulta de mais de 200 participantes, de mais de 50 países e diversas perspetivas, que ofereceram os seus insights e recomendações sobre como melhorar a igualdade de género e a diversidade na inteligência artificial.

Se por um lado ao rápido avanço da IA está a transformar os setores e a impulsionar o crescimento económico, por outro, corre o risco de enfatizar as possíveis desigualdades existentes, ampliando desta forma preconceitos sociais, discriminação e estereótipos, sobretudo em mulheres e grupos marginalizados.

De acordo com o relatório, a ausência de diversidade nos ecossistemas de IA pode excluir igualmente perspetivas como oportunidades de emprego e alocação inadequada de recursos a indivíduos com deficiência, por exemplo.

Paola Ricaurte Quijiano, professora do Tecnológico de Monterrey, professora associada do Berkman Klein Center for Internet & Society da Universidade de Harvard e co-coordenadora do relatório, sublinha a importância do documento agora lançado, uma vez que as recomendações apresentadas “abordam causas fundamentais de desigualdade para alcançar a igualdade substantiva na IA. Alcançar isto por meio de mudanças transformadoras no desenvolvimento e nas políticas de IA irá contribuir para avançar em termos de direitos humanos”. A docente reforça que é necessário “criar uma estrutura regulatória robusta para evitar danos e garantir um desenvolvimento benéfico de sistemas e processos de IA para todos”.

Entre as principais recomendações estão o incentivo ao design e a inovação democrática, o aumento da participação significativa ao nível da governança da IA, a garantia de transparência e responsabilidade na prevenção de danos e a garantia do acesso efetivo à justiça.

Entre várias recomendações, o relatório menciona, por exemplo, a necessidade de direcionar o financiamento para iniciativas alinhadas com os princípios de design de tecnologia inclusiva, promovendo aplicações, práticas e processos equitativos e justos em ecossistemas de IA. 

As recomendações incluem ainda o desenvolvimento de estratégias para permitir que os setores público e privado realizem avaliações de impacto antes de implementarem os sistemas de IA. 

“As estruturas regulatórias robustas são urgentemente necessárias para prevenir danos e trabalhar em direção à verdadeira igualdade e diversidade nos ecossistemas de IA que, em última análise, afetam a vida humana”, alertou também Benjamin Prud'homme, vice-presidente de Política, Segurança e Assuntos Globais da Mila e co-coordenador do relatório. Benjamim defende que é possível, através de políticas inclusivas de IA, “melhorar a qualidade, usabilidade e eficácia dos sistemas de IA, contribuindo para um futuro mais equitativo, sustentável e próspero para todos”.

Outras recomendações incluem garantir a transparência algorítmica, para permitir que as pessoas afetadas por um sistema de IA contestem seu resultado com base em informações claras e compreensíveis.

Para complementar este relatório, a CEIMIA e Mila publicaram também um Guia de Políticas para ajudar os formuladores de políticas a implementarem as recomendações e a construírem ecossistemas de IA mais inclusivos e etapas acionáveis para facilitar essa transição.