Organizações devem priorizar cibersegurança para aproveitar potencial da IA generativa

Com a explosão da adoção da inteligência artificial generativa, os Chief Infomation Security Officer (CISO) podem ser a chave para ajudar a potenciar a inteligência artificial sem descurar as questões de cibersegurança, revela o Fórum Económico Mundial.

Ainda que sejam aliciantes, os sistemas de IA generativa já desenvolvidos podem funcionar como uma porta aberta para agentes maliciosos que aproveitam para roubar os dados das empresas que já tenham integrado esta tecnologia.

As organizações necessitam, assim, de estar preparadas para responder a possíveis riscos.

Governance da IA generativa

Algumas organizações estão já preparadas com equipas multidisciplinares de forma a lidar com a IA generativa. Estes comités ou grupos de trabalho promovem a colaboração entre vários departamentos, e assumem responsabilidade em várias vertentes, nomeadamente:

Governance da IA generativa: Inclui a formulação de novas políticas e a definição de princípios fundamentais de IA responsável. Implica ainda a criação de um quadro sólido de gestão de riscos e de avaliações e controlos sobres os riscos associados;

Educação: Implica a gestão de campanhas internas de consciencialização sobre a IA e um desenho de comunicações sobre o uso de ferramentas generativas de IA;

Alocação de recursos para projetos: Fazer um levantamento das necessidades de pessoal para novos projetos;

Alinhamento: Garantir que as equipas e grupos estão informados sobre os novos princípios aplicados.

Neste caso, o CISO deve assumir uma posição junto destas equipas de forma a contribuir para o debate e para a elaboração dos princípios que irão reger esta nova tecnologia.

As organizações devem implementar a tecnologia nas suas próprias operações com base nas lições aprendidas por quem fez uma primeira abordagem à IA generativa.

A importância da formação e da sensibilização

Se, por um lado, a restrição do acesso à tecnologia de IA generativa ou a imposição de políticas rigorosas são aspetos a evitar, as organizações devem trabalhar na construção de uma boa estrutura de governance que acompanhe a evolução.

As iniciativas de consciencialização são fundamentais para educar os funcionários e transmitir uma melhor mensagem sobre as preocupações com questões de privacidade e vulnerabilidades de segurança dos sistemas de IA. As organizações podem capacitar os seus funcionários para tomarem decisões informadas na implementação destas tecnologias.

Os esforços de consciencialização dos colaboradores das organizações devem estar intimamente ligados à monitorização contínua do uso de ferramentas de IA generativa, mas as orientações sobre as obrigações associadas ao uso de ferramentas de IA generativa devem estar igualmente acessíveis ao público.

No entanto, os programas de formação devem ser adaptados a diferentes públicos-alvo de forma a satisfazer as mais diversas necessidades.

Gestão de riscos

A democratização da inteligência artificial trouxe novos desafios às organizações. A adoção generalizada da IA generativa levantou questões, levando a que as empresas necessitem de expandir e simplificar rapidamente temas de governance e de gestão de riscos. De que forma? Através de uma estrutura de risco e controlo que esteja alinhada com os use cases específicos. As organizações devem preocupar-se igualmente com a tolerância ao risco e tomar decisões bem informadas.

Neste ponto, o CISO oferece uma perspetiva importante no que diz respeito à gestão de risco de IA generativa. De acordo com o Fórum Económico Mundial, e uma vez que os riscos dos sistemas de IA generativa transcendem para várias áreas, é essencial adotar uma perspetiva interdisciplinar na hora de abordar estes riscos.

CISO assumem papel central

Os CISOS encontram na IA generativa uma oportunidade para se tornarem facilitadores de negócios nas suas organizações, uma vez que têm ao seu alcance a oportunidade de articular os riscos e desafios e definir os indicadores-chave de desempenho que servirão de alavanca às soluções direcionadas à IA generativa.

O CISO deve não só tentar equilibrar as vantagens da IA generativa para a organização e clientes, mas também garantir a proteção dos sistemas com a chegada e implementação desta nova tecnologia.

As suas responsabilidades podem ainda passar por compreender desde logo os objetivos de negócio da organização de forma a antecipar riscos; criar estruturas de governance para uso e privacidade de dados; colaborar com as equipas de gestão de produtos, risco e departamento jurídico de forma a garantir que a IA generativa é segura para os negócios; participar ativamente na conceção e monitorização de iniciativas de IA; educar a comunidade da organização para o uso seguro de sistemas de IA; e identificar e adotar oportunidades apresentadas por sistemas de IA generativa para a área de cibersegurança.