Governança de IA vai crescer junto das organizações

A pressão regulamentar e as exigências de conformidade estão a impulsionar o mercado de governança de Inteligência Artificial (IA), à medida que os governos de todo o mundo implementam regulamentos mais rigorosos relacionados com a IA, indica a MarketsandMarkets.

A Lei da IA da União Europeia submeteu avaliações de risco e auditorias de conformidade aos sistemas de IA, especialmente em setores de alto risco como a saúde e as finanças, aumentando assim a procura do quadro de governação. As organizações também correm o risco de enfrentar danos de reputação associados a resultados de IA preconceituosos ou prejudiciais.

Um exemplo notável é a controvérsia causada pelos modelos OpenAI GPT, que sinalizaram desinformação e preocupações tendenciosas com os dados, fazendo com que as empresas adotassem barreiras de proteção robustas de IA. Na mesma nota, a descontinuação da sua ferramenta tendenciosa de recrutamento de IA pela Amazon demonstra os riscos financeiros e de reputação da IA não governada.

Outra razão importante para a expansão do mercado é o aumento da adoção de IA em setores altamente regulamentados, especialmente BFSI e saúde. As indústrias que operam nestes setores estão sob imensa pressão regulamentar para cumprirem regulamentações dinâmicas, levando a uma maior afinidade com as ferramentas de governação da IA.

Com uma taxa de crescimento anual composta esperada de 45,3% até 2029, a MarketsandMarkets nota que o mercado de governança de IA está avaliado em 890,6 milhões de dólares em 2024, esperando atingir os 5,7 mil milhões de dólares em 2029.

As ferramentas de governança de dados estão preparadas para responder pela maior quota de mercado no mercado de governança de IA, uma vez que ajudam uma organização a rastrear a qualidade, a origem e o preconceito dos dados nos dados de formação de desenvolvimento de IA.