O Futuro da Cibersegurança na Era da IA Generativa

O Futuro da Cibersegurança na Era da IA Generativa: Perspetivas e Projeções de uma investigação recente do ESG

- Os profissionais de segurança expressam um otimismo cauteloso quanto ao potencial da IA generativa para reforçar as defesas de cibersegurança, reconhecendo a sua capacidade para melhorar a eficiência operacional e a resposta a ameaças.

- As organizações estão a desenvolver proativamente estruturas de governação para a IA generativa, reconhecendo a importância de estabelecer políticas robustas e mecanismos de aplicação para mitigar os riscos associados.

- Prevê-se que a IA generativa se torne um fator-chave nas decisões de compra de cibersegurança até ao final de 2024, prevendo-se que as suas aplicações sejam omnipresentes nas operações de segurança, enfatizando a mudança para soluções de cibersegurança mais integradas na IA.

Segundo a Check Point Software Technologies Ltd. (NASDAQ: CHKP), fornecedor líder de plataformas de segurança cibernética baseadas em IA e fornecidas na cloud, à medida que o panorama digital evolui, o mesmo acontece com o domínio da cibersegurança, que está agora à beira de uma era transformadora impulsionada pela IA generativa. A recente pesquisa realizada pelo ESG revela insights e estatísticas convincentes que destacam o papel crítico da IA generativa na formação do futuro da segurança cibernética. Para recolher dados para este relatório, o Enterprise Strategy Group da TechTarget realizou uma pesquisa online abrangente com profissionais de TI e segurança cibernética de organizações do setor público e privado na América do Norte entre 6 de novembro de 2023 e 21 de novembro de 2023. Para se qualificar para esta pesquisa, os entrevistados foram obrigados a envolverem-se com o suporte e a segurança, bem como com o uso de tecnologias de IA generativas.

Os principais objetivos desta investigação foram:

· Identificar a utilização atual e os planos para a IA generativa.

· Estabelecer o modo como a IA generativa influencia o equilíbrio de poder entre os ciber-adversários e os ciber-defensores.

· Determinar como as organizações estão a abordar a governação, as políticas e a aplicação de políticas de IA generativa.

· Monitorizar a forma como as organizações aplicarão a IA generativa para casos de utilização de cibersegurança.

Eis uma análise dos resultados:

A IA generativa já está presente e será omnipresente até ao final de 2024

92% dos inquiridos concordam que o machine learning melhorou a eficácia e a eficiência das tecnologias de cibersegurança.

- O Paradoxo da Adoção: embora 87% dos profissionais de segurança reconheçam o potencial da IA generativa para melhorar as defesas de cibersegurança, há um sentimento palpável de cautela. Isso decorre do entendimento de que as mesmas tecnologias também podem ser aproveitadas pelos adversários para orquestrar ataques cibernéticos mais sofisticados.

- Gestão estratégica e desenvolvimento de políticas: um número impressionante de 75% das organizações não se limita a observar passivamente, mas está a desenvolver ativamente políticas de governação para a utilização de IA generativa na cibersegurança. Esta abordagem proativa indica uma mudança significativa no sentido de incorporar a IA no tecido da cibersegurança, garantindo que a sua implementação é eficaz e responsável.

- Investimento e impacto: A pesquisa prevê uma tendência fundamental: até o final de 2024, a IA generativa influenciará as decisões de compra de segurança cibernética para mais de 60% das organizações. Esta estatística é um testemunho da crescente confiança nas capacidades da IA para revolucionar as operações de segurança, desde a deteção de ameaças até à resposta a incidentes.

- Eficiência operacional e resposta a ameaças: Uma das estatísticas de destaque da pesquisa é que 80% das equipas de segurança inquiridas preveem que a IA generativa melhore significativamente a eficiência operacional. Além disso, 65% esperam que melhore os seus tempos de resposta a ameaças, sublinhando o potencial da tecnologia não só para aumentar, mas também para acelerar ativamente os fluxos de trabalho de segurança.

- Desafios e preocupações: apesar do otimismo, a investigação também esclarece as preocupações prevalecentes. Cerca de 70% dos inquiridos salientaram o desafio de integrar a IA generativa nas infraestruturas de segurança existentes, enquanto 60% apontaram os riscos associados a potenciais preconceitos e considerações éticas.

A balança de poder da GenAI inclina-se para uma vantagem cibernética adversária

É claro que os ciberadversários também têm acesso a aplicações GenAI abertas e dispõem das capacidades técnicas para desenvolver os seus próprios LLM. O WormGPT e o FraudGPT são os primeiros exemplos de LLMs concebidos para serem utilizados por cibercriminosos e hackers. Os ciber-adversários utilizarão e beneficiarão dos LLM? Mais de três quartos dos inquiridos (76%) não só acreditam que sim, como também consideram que os ciberadversários obterão a maior vantagem (em relação aos ciberdefensores) com a inovação da IA generativa. De forma alarmante, a maioria dos profissionais de segurança acredita que os ciberadversários já estão a utilizar a GenAI e que os adversários obtêm sempre uma vantagem com as novas tecnologias. Os inquiridos também acreditam que a GenAI pode levar a um aumento do volume de ameaças, uma vez que facilita o desenvolvimento de ataques mais sofisticados por ciberadversários não qualificados. Os profissionais de segurança e de TI também estão preocupados com as falsificações profundas e os ataques automatizados.

Conclusão: Navegar na nova fronteira

A investigação do ESG ilumina o horizonte complexo, mas promissor, da IA generativa na cibersegurança. Apresenta uma narrativa de otimismo cauteloso, em que o potencial de inovação é equilibrado com uma consciência profunda dos desafios futuros. À medida que as organizações navegam nesta nova fronteira, os insights deste estudo servem como um farol, orientando o desenvolvimento de estratégias que não são apenas tecnologicamente avançadas, mas também eticamente fundamentadas e estrategicamente sólidas.