Análise Inicial de Segurança do ChatGPT4 encontra Cenários Potenciais para a Aceleração do Cibercrime
A Check Point Research (CPR) analisou inicialmente o ChatGPT4 e encontrou vários cenários que permitem aos actores de ameaças racionalizar esforços de preparativos maliciosos, resultando em resultados mais rápidos e mais precisos para acelerar a cibercriminalidade.
A Check Point Research (CPR) lança uma análise inicial do ChatGPT4, surfando cinco cenários que podem permitir aos atores da ameaça racionalizar esforços e preparativos maliciosos mais rapidamente e com mais precisão. Em alguns casos, mesmo os atores “não-técnicos” podem criar ferramentas nocivas. Os cinco cenários fornecidos abrangem imitações de bancos, shells invertidas, malware C++ e muito mais. Apesar da presença de salvaguardas no ChatGPT4, algumas restrições podem ser facilmente contornadas, permitindo que os atores da ameaça atinjam os seus objetivos sem grandes impedimentos. O CPR adverte sobre o potencial do ChatGPT4 para acelerar a execução de crimes informáticos e continuará a sua análise da plataforma nos próximos dias.
Em certos casos, estes cenários permitem a indivíduos “não-técnicos” criar ferramentas prejudiciais, como se o processo de codificação, construção, e embalagem fosse uma receita simples. Apesar da presença de salvaguardas no ChatGPT4, algumas restrições podem ser facilmente contornadas, permitindo que os atores da ameaça atinjam os seus objetivos sem grandes impedimentos.
A CPR está a partilhar cinco cenários de utilização potencialmente maliciosa do ChatGPT4.
1. C++ Malware que recolhe ficheiros PDF e os envia para o FTP
2. Phishing: Personificação de um banco
3. Phishing: E-mails aos empregados
4. Concha reversa em PHP
5. Programa Java que descarrega e executa putty que pode ser lançado como um powerhell escondido
Oded Vanunu, Chefe de Pesquisa de Vulnerabilidades de Produtos na Check Point Software: "Depois de encontrarmos várias formas de utilização do ChatGPT pelos hackers, e casos reais em que o mesmo se encontrava, passámos as últimas 24 horas a ver se alguma coisa mudou com a versão mais recente do ChatGPT. Embora a nova plataforma tenha melhorado claramente a muitos níveis, podemos, no entanto, informar que existem cenários potenciais onde os atores mais podem acelerar o cibercrime no ChatGPT4. ChatGPT4 pode capacitar os mesmos, até as pessoas que não estão envolvidas na área de TI, com as ferramentas para acelerar e validar a sua atividade. Os atores maliciosos podem também utilizar as respostas rápidas do ChatGPT4 para superar os desafios técnicos no desenvolvimento de malware. O que estamos a ver é que o ChatGPT4 pode servir tanto o lado bom como o lado mau. Os bons atores podem usar o ChatGPT para elaborar e desenvolver código útil à sociedade; mas simultaneamente, os maus atores podem usar esta tecnologia de IA para a rápida execução de crimes cibernéticos. Como a IA desempenha um papel significativo e crescente em ataques e defesa cibernética, esperamos que esta plataforma seja também utilizada por hackers, e passaremos os dias seguintes a compreender melhor como".
Cenários:
1. C++ Malware que recolhe ficheiros PDF e os envia para FTP (endereço 1.1.1.1)
Abordagem óbvia – foi bloqueada
Eliminação da palavra "malware”
Instruções de compilação:
2. Phishing - Cenário 1
Abordagem óbvia – foi bloqueada
Contorno da situação, utilizando o Chat-GPT 3.5:
Utilizando agora a versão 4:
3. Phishing - Cenário 2
4. PHP Reverse Shell
5. Este ator criado através do ChatGPT é um simples fragmento de Java. Descarrega PuTTY, um cliente SSH e telnet muito comum, e executa-o dissimuladamente no sistema usando Powershell. Este script pode obviamente ser modificado para descarregar e executar qualquer programa, incluindo famílias de malware comuns.
Versão óbvia – bloqueada
Remover a palavra "escondida" (relacionada com a PowerShell):
Agora, acrescente-a de novo:
Post A Comment:
0 comments: