Construir uma cultura de confiança no novo mundo da inteligência artificial

A corrida para desenvolver software para aplicações de IA B2B é competitiva e intensa. As equipas de desenvolvimento movimentam-se em grandes passos no sentido de forçar o progresso e posicionar a IA, mais do que em qualquer momento do passado recente. No entanto, uma grande preocupação permanece – “confiança”. Confiar na inteligência artificial é um ato de confiança no sistema. 

Quando a IA se posiciona realizando ações ou fazendo recomendações, que foram previamente decididas por pessoas, significa deixar completamente de lado um processo no qual muitos estão envolvidos ativamente. 

Um exemplo fácil: confiar num sistema para "saber" quando encomendar automaticamente, quando antes o utilizador geria o processo como parte de uma atividade prática diária. 

Como podemos convencer as pessoas a confiar na IA quando não há visibilidade de como as suas decisões foram tomadas? Ouvimos nas nossas conversas diárias e nos meios de comunicação "Eu não confio nele" ou "Eles não são de fiar", sendo isso falar de pessoas. Comentários como esses dominam a nossa cultura hoje. 

Existe o risco de que a IA se torne mais uma barreira para o entendimento, levando a uma confiança ainda menor. 

Construir confiança na IA 

Onde é que esta situação deixará o comprador de software B2B com tecnologias AI? Os algoritmos podem ser confiáveis? O resultado é viável? Serão até os departamentos de TI, que avaliam essas ferramentas, confiáveis? 

Aqui estão três componentes para os compradores de AI considerarem ao avaliar as credenciais de um fornecedor: 

• A organização evoluiu analiticamente? Os alicerces do big data, da ciência e da análise estão firmemente estabelecidos? 
• A tecnologia sob avaliação pode levar a organização onde ela precisa de estar? Terá esta um sentido mais amplo, no contexto dos ecossistemas do mercado da organização? 
• Estarão as habilidades cognitivas e a capacidade de raciocínio crítico disponíveis para gerir as perceções do utilizador e avaliar adequadamente o resultado? 

Na gestão diária da IA, será menos sobre o algoritmo. O que importa no final é o resultado. Ao trabalhar com equipas de gestão com visão de futuro, equipas internas claramente envolvidas e uma ciência sólida de dados fundacional e gestão analítica, os compradores de IA devem avaliar a tecnologia com base na sua eficácia em levá-los onde precisam de estar. 

Cultura e tecnologia 

Na Infor, os nossos clientes geralmente perguntam-nos sobre confiança. Levamos a questão muito a sério e desenvolvemos um grupo único - o Data Science Labs, localizado ao lado do campus do MIT em Cambridge, Massachusetts - para trazer big data, analítica e ciência para todos os nossos softwares. 

Além disso, a nossa equipa de Hook & Loop Digital dedica-se a otimizar a transformação digital. Estes dois grupos trabalham em conjunto com os clientes para entender a melhor forma de entregar os resultados que procuram. 

Um aspeto importante da construção da confiança na IA é torná-la responsive e transparente para as pessoas que interagem com esses sistemas. Portanto, procuramos ambiciosamente acrescentar membros da equipa com habilidades nas ciências cognitivas - como a antropologia - para nos ajudar a entender perceções e aprimorar técnicas para criar confiança no resultado. 

O pensamento crítico - a capacidade de questionar suposições ou ver um quadro mais completo - é igualmente fundamental para o desenvolvimento de uma relação de confiança. 

Esses investimentos refletem a nossa crença de que entender e analisar a relação entre cultura e tecnologia apoiará a construção de uma relação de confiança entre comprador e fornecedor, dentro das organizações e dentro dos mercados. Este será o caminho a seguir.

Este conteúdo foi co-produzido pela MediaNext para a Infor.