IBM lança serviço que deteta comportamentos tendenciosos da inteligência artificial

A IBM está a lançar novas ferramentas de transparência na utilização da Inteligência Artificial (IA). Trata-se de um serviço de software que explica, passo a passo, como a IA chegou a uma determinada decisão – à medida que elas vão sendo tomadas –, detetando de forma automática indícios de distorção ou parcialidade e capturando resultados potencialmente incorretos e injustos enquanto ocorrem.

Além disso, o software também recomenda automaticamente que dados devem ser adicionados ao modelo para ajudar a atenuar qualquer tendência detetada. 

O novo serviço está disponível na IBM Cloud e permite que as empresas consigam gerir vários sistemas de inteligência artificial e de diferentes fornecedores do setor. Por base estão modelos construídos a partir de uma ampla variedade de frameworks de machine learning e sistemas de IA, como o IBM Watson, o Tensorflow, o SparkML, AWS SageMaker e AzureML. As empresas podem utilizar estes novos controlos em grande parte dos ambientes de IA mais usados pelas empresas e disponíveis hoje no mercado, de acordo com a IBM. 

As explicações são fornecidas de forma simplificada, dando indicação sobre que fatores influenciaram a decisão numa determinada direção face a outra, a confiança na recomendação e ainda os fatores que permitem sustentar esse estado de confiança. Além disso, os registos sobre a exatidão, o desempenho e a equidade do sistema de IA pode ser rastreados e recuperados para questões relacionadas com a melhoria do serviço de atendimento ao cliente ou com a regulação ou conformidade, como é o caso do RGPD. 

Todas estas capacidades estão disponíveis através de dashboards, oferecendo aos utilizadores uma capacidade incomparável de entender, explicar e gerir decisões baseadas em IA e reduzir a dependência de skills específicas em IA. 

As empresas vão poder também contar com o apoio da IBM Services de modo a aproveitar o novo serviço.

Além disso, a IBM Research disponibilizará na comunidade open source um conjunto de ferramentas de deteção e mitigação de questões de parcialidade em IA, fornecendo soluções e formação como incentivo à colaboração global para alcançar novos avanços nesta temática. 

Estes desenvolvimentos surgem na sequência de um novo estudo do Institute for Business Value da IBM, que revela que, enquanto 82% das empresas estão a considerar adotar soluções de IA, 60% ainda temem questões relacionadas com termos de responsabilidade e 63% referem não possuir internamente os recursos com as competências certas para gerir com confiança esta tecnologia.