Relatório destaca crescimento da IA generativa em cibersegurança

A Microsoft atualizou o “Cyber Signals”, a sexta edição do seu relatório de cibersegurança, onde faz uma análise à ascensão da utilização da Inteligência Artificial (IA) generativa para fins maliciosos e como está a utilizar esta mesma ferramenta para melhorar as suas medidas de segurança e a desbloquear novas formas de proteção contra as ciberameaças.

Todos os dias, a Microsoft realiza mais de 2,5 mil milhões deteções em cloud e orientadas para a IA, por forma a proteger os seus clientes. Durante este processo, a tecnológica concluiu que as ferramentas tradicionais de proteção já não acompanham o ritmo das ameaças colocadas pelos cibercriminosos. Apesar do potencial para capacitar as organizações para derrotar os ciberataques e impulsionar a inovação e a eficiência na deteção de ameaças – na procura e na resposta a incidentes – os adversários podem utilizar a IA como parte dos seus exploits.

Em colaboração com a OpenAI, a Microsoft revelou que detetou e interrompeu tentativas de adversários russos, norte-coreanos, iranianos e chineses que tentavam utilizar grandes modelos de linguagem (LLM), como o ChatGPT, para informar, melhorar e aperfeiçoar os seus ciberataques. Como o Forest Blizzard, um agente altamente eficaz dos serviços secretos militares russos ligado ao Estado-Maior General das Forças Armadas da Rússia ou GRU Unidade 26165, Emerald Sleet, um ator de ameaças norte-coreano que se fez passar por instituições académicas e ONGs para levar as vítimas a comentar políticas externas relacionadas com a Coreia do Norte, Crimson Sandstorm, um ator de ameaças iraniano com possível ligação ao Corpo dos Guardas da Revolução Islâmica, Charcoal Typhoon, um ator de ameaças ligado à China que monitoriza indivíduos em todo o mundo que se opõem às políticas chinesas, até ao Salmon Typhoon, outro grupo apoiado pela China que tem estado a avaliar a eficácia da utilização de LLM para obter informações sobre temas potencialmente sensíveis, indivíduos de alto cargo, geopolítica regional, influência dos EUA e assuntos internos.

Além de expor estes movimentos iniciais utilizados pelos atores de ameaças em torno da IA, este relatório destaca como a Microsoft está a bloquear a sua atividade para proteger as plataformas de IA e os utilizadores. Desde a deteção de ameaças com IA para monitorizar alterações na forma como os recursos ou o tráfego na rede são utilizados, à análise comportamental para detetar comportamentos anómalos, aos modelos de machine learning (ML) para detetar inícios de sessão de risco e malware e modelos Zero Trust em que cada pedido de acesso tem de ser totalmente autenticado, autorizado e encriptado, até à verificação do dispositivo antes deste se poder ligar a uma rede empresarial.

Esta adoção da IA nas práticas de cibersegurança traz efetivamente benefícios tangíveis. Um estudo recente do Microsoft Copilot Security mostrou um aumento da velocidade (26%) e precisão (44%) dos analistas de segurança, independentemente do seu nível de especialização, em tarefas comuns como a identificação de scripts utilizados por atacantes, a criação de relatórios de incidentes e a identificação de passos de correção adequados. Sendo que 90% afirma que quer utilizar o Copilot na próxima vez que tiver de fazer a mesma tarefa.

Com a consolidação da IA, é necessário reconhecer esta natureza dupla da tecnologia: traz novas capacidades, bem como novos riscos. Para dar resposta a estes riscos, a Microsoft recomenda à utilização de políticas de acesso condicional para reforçar a postura de segurança, formar os colaboradores sobre táticas de engenharia social – e-mails de phishing, vishing e smishing – e a garantir que os dados permanecem privados e controlados end to end. Adicionalmente, sugere, ainda, a tirar partido de ferramentas de segurança de IA generativa, como o Microsoft Copilot for Security, e adotar a autenticação multifator para todos os utilizadores, especialmente para funções de administrador, uma vez que reduz o risco de aquisição de contas em mais de 99%.