Inteligência Artificial, a nova estrela da dark web

O serviço Digital Footprint Intelligence da Kaspersky encontrou cerca de 3000 publicações na dark web sobre a utilização do ChatGPT e de outros modelos de inteligência artificial para atividades ilegais. Os atacantes estão a explorar esquemas que vão desde a criação de alternativas nefastas ao chatbot até ao jailbreak da versão original do ChatGPT, e muito mais. As contas ChatGPT roubadas e os serviços que oferecem a sua criação automatizada em massa também estão a inundar os canais da dark web, atingindo mais de 3000 mensagens.

Em 2023, o serviço Digital Footprint Intelligence da Kaspersky descobriu cerca de 3000 mensagens na dark web, na qual referiam a utilização do ChatGPT com propósitos ilegais ou ferramentas que dependem da tecnologia de Inteligência Artificial. Embora este fenómeno tenha atingido o seu pico em março, as discussões persistem.

A dinâmica da discussão na dark web sobre a utilização do ChatGPT ou de outras ferramentas de IA. Fonte: Digital Footrpint Intelligence da Kaspersky

“Os cibercriminosos estão a explorar ativamente vários esquemas para implementar o ChatGPT e a IA nas suas atividades maliciosas. Os tópicos incluem frequentemente o desenvolvimento de malware e outros tipos de utilização ilícita de modelos de linguagem, como o processamento de dados roubados, a análise de ficheiros de dispositivos infetados, entre outros. A popularidade das ferramentas de IA levou à integração de respostas automatizadas do ChatGPT ou de ferramentas equivalentes em fóruns de cibercriminosos”, conta Alisa Kulishenko, especialista em pegada digital da Kaspersky.

Além disso, segundo a mesma especialista, “os cibercriminosos tendem a partilhar jailbreaks (violações) através de vários canais da dark web e a conceber formas de explorar ferramentas legítimas, com base em modelos, para fins maliciosos”.

Para além do chatbot e da inteligência artificial mencionados, está a ser dada uma atenção considerável a projetos como o XXXGPT, o FraudGPT, entre outros. Estes modelos de linguagem são comercializados na dark web como alternativas ao ChatGPT, ostentando funcionalidades adicionais e a ausência de limitações originais.

Contas roubadas do ChatGPT estão à venda

Uma outra ameaça para os utilizadores e as empresas é o mercado de contas para a versão paga do ChatGPT. Em 2023, foram identificadas mais 3000 mensagens (para além das anteriormente mencionadas) que anunciavam a venda de contas ChatGPT na dark web e nos canais sombra do Telegram. Estas mensagens distribuem contas roubadas e promovem serviços de registo automático que criam contas em massa a pedido. Nomeadamente, alguns posts foram publicados repetidamente em vários canais da dark web.

A dinâmica das publicações na dark web que oferecem contas ChatGPT roubadas ou serviços de registo automático. Fonte: Digital Footrpint Intelligence da Kaspersky

Embora as ferramentas de IA em si não sejam inerentemente perigosas, os cibercriminosos estão a tentar encontrar formas eficientes de utilizar modelos de linguagem, alimentando assim uma tendência para reduzir a barreira de entrada no cibercrime e, em alguns casos, aumentar potencialmente o número de ciberataques. No entanto, na opinião de Alisa Kulishenko, “é pouco provável que a IA generativa e os chatbots revolucionem o panorama dos ataques - pelo menos em 2024”.

Na opinião da mesma especialista, “a natureza automatizada dos ciberataques significa frequentemente defesas automatizadas. No entanto, manter-se informado sobre as atividades dos atacantes é crucial para estar à frente dos adversários em termos de cibersegurança empresarial”.

Uma investigação detalhada sobre esta matéria pode ser consultada no website oficial do serviço Digital Footprint Intelligence da Kaspersky. Para evitar ameaças relacionadas com as atividades cibercriminosas na darkweb, recomendamos a implementação das seguintes medidas de segurança:

• Utilize o Digital Footprint Intelligence da Kaspersky para ajudar os analistas de segurança a explorar a visão de um adversário sobre os recursos da sua empresa, descobrindo antecipadamente as potenciais vertentes de ataque. Isto também aumenta a sensibilização para as ameaças existentes, de modo a ajustar as suas defesas em conformidade ou a tomar medidas de combate e eliminação atempadamente.
• Escolha uma solução de segurança endpoint como a Endpoint Security for Business da Kaspersky – deteta ameaças com base no comportamento e controlo de anomalias para uma proteção eficaz.
• Opte por serviços dedicados que ajudam a combater ataques de grande visibilidade. O Managed Detection and Response da Kaspersky é um serviço que ajuda a identificar e impedir fraudes nas suas fases iniciais, antes de os cibercriminosos atingirem os seus objetivos. Se se deparar com um ciberincidente, o serviço Incident Response ajudá-lo-á a responder e a minimizar as consequências, protegendo a infraestrutura de possíveis ataques semelhantes no futuro.