Qualys lança a plataforma Enterprise TruRisk e elimina os riscos associados ao uso da IA generativa e de LLM

 Qualys lança a plataforma Enterprise TruRisk e elimina os riscos associados ao uso da IA generativa e de LLM 

A nova solução da Qualys - Qualys TotalAI - permite a descoberta holística e a avaliação de vulnerabilidades de workloads de IA, detetando fugas de informação, problemas de injeção e roubo de modelos

A Qualys, Inc. (NASDAQ: QLYS), um fornecedor pioneiro e líder de soluções de segurança e compliance baseadas na Cloud, anuncia a expansão do seu portefólio com o lançamento da nova solução, Qualys TotalAI, criada para enfrentar os crescentes desafios e riscos associados à segurança de IA generativa e aplicações dos grandes modelos de linguagem (LLM). A solução foi apresentada na Black Hat 2024.

À medida que as organizações integram cada vez mais a Inteligência Artificial e os grandes modelos de linguagem nos seus produtos e soluções, enfrentam uma superfície de ataque alargada e riscos de cibersegurança acrescidos. As práticas tradicionais de cibersegurança estão, ao mesmo tempo, a revelar-se insuficientes para enfrentar os novos desafios. A necessidade de descobrir LLMs ou modelos de IA desconhecidos ou não aprovados, conhecidos como modelos sombra, aumenta significativamente a exposição a ameaças, incluindo o roubo de modelos e fugas de dados de CVEs existentes ou configurações incorretas. Além disso, há um risco crescente de perda acidental de dados, problemas de conformidade e danos à reputação, devido a conteúdo inadequado que é gerado por esses modelos. Estas preocupações demonstram uma necessidade urgente de implementar soluções de segurança robustas no cenário de IA em evolução.

O Qualys TotalAI aproveita as avançadas funcionalidades da plataforma Qualys para permitir às organizações a adoção de tecnologias de IA sem receios. Esta solução expande a reconhecida visibilidade de ativos, a deteção de vulnerabilidades e os recursos de correção da Qualys para a IA generativa e adiciona os LLM. A solução aborda especificamente os riscos mais críticos do OWASP sobre a utilização dos LLM: injeção imediata, divulgação de informações confidenciais e roubo de modelos. Com o Qualys TotalAI, as organizações podem aproveitar com segurança os benefícios da IA, mantendo os seus rigorosos padrões de segurança.

"À medida que a adoção global de IA e dos grandes modelos de linguagem (LLMs) acelera, ultrapassando as medidas de governança e segurança, é crucial que as organizações implementem proteções robustas. A solução Qualys TotalAI está focada em oferecer às empresas as ferramentas necessárias para proteger com confiança os seus investimentos em IA, oferecendo a visibilidade abrangente e a defesa contra ameaças de cibersegurança emergentes”, afirma Philip Bues, Gestor de Pesquisa Senior da IDC. 

O Qualys TotalAI permitirá que as organizações: 

• Descubram todas as workloads da IA: Descubra e classifique todos os ativos de IA e LLM, incluindo GPUs, software, pacotes e modelos, em produção e desenvolvimento, enquanto relaciona sua exposição com a superfície de ataque. 
• Evitem o roubo de modelos: Amplie a capacidade do TruRisk para avaliar, priorizar e corrigir vulnerabilidades de software de IA, com mais de 650 deteções específicas de IA, relacionadas com feeds de ameaças e exposições de ativos, para evitar o risco de roubo de modelos e informações. 
• Garantam a segurança da infraestrutura de IA: Aproveite os recursos abrangentes de correção para exceder os requisitos de segurança, alinhe-se com os SLAs e assegure as necessidades dos seus negócios. Atenue proativamente as ameaças potenciais para garantir operações contínuas e uma forte postura de segurança de IA e LLM.
• Detetem a divulgação de dados confidenciais: Avalie os LLMs para exposições a ataques críticos, como a injeção imediata, a divulgação de informações confidenciais e o roubo de modelos de acordo com o Top 10 do OWASP para LLMs. Isso garantirá a confiança na gestão de riscos de IA e tornará os modelos prontos para auditoria e conformidade.

"Estamos apenas a revelar parte do potencial da IA e dos LLMs para gerar valor para as empresas. Ao mesmo tempo, precisamos de garantir que estas ferramentas não se tornam um risco para os negócios. Na Qualys, estamos comprometidos em ajudar os nossos clientes a ficar à frente dos riscos emergentes de cibersegurança e, com o Qualys TotalAI, as empresas podem se concentrar no crescimento e na inovação, sabendo que permanecerão protegidas das ameaças de IA mais críticas”, disse Sumedh Thakar, presidente e CEO da Qualys.

Disponibilidade

O Qualys TotalAI estará disponível no quarto trimestre de 2024. Inscreva-se para obter acesso antecipado e receba um relatório personalizado com os insights de risco do Qualys TotalAI, disponibilizando total visibilidade dos riscos da IA e dos LLM.