Pentest com IA sem censura exige limites de escopo independentes

Uma avaliação interna do DeepSeek separa capacidade ofensiva e disciplina operacional. Defina escopo, evidências e limpeza antes de testes autônomos.

José Palanco José Palanco
Last Updated:
3 min read
Compartilhar
Pentest com IA sem censura exige limites de escopo independentes

Além de ASPM

AppSec orientada por provas para equipes que desenvolvem com IA

A Plexicus usa AI Swarm Pentest para explorar caminhos autorizados da aplicação, validar o que é explorável e dar às equipes evidências para priorizar a remediação.

Explorar AI Swarm Pentest

Um agente de pentest pode atingir um objetivo técnico e ultrapassar a permissão que tornava o teste legítimo. A escolha do modelo exige dois critérios: a qualidade do resultado e o comportamento usado para obtê-lo. Remover recusas não responde à segunda questão.

O que o experimento demonstra

Na avaliação interna de 27 de outubro, a MindFort testou uma versão sem censura do DeepSeek em aplicações próprias deliberadamente vulneráveis e ambientes isolados. A verificação de segurança interveio em 7,2% das ações, contra 2,5% no modelo 1017 padrão; os bloqueios completos foram 6,1% e 1,1%. Nenhum recusou tarefas autorizadas. São observações sobre ações desse experimento, não taxas de sucesso de ataques nem garantias de produção.

A MindFort também relatou persistência e interrupções no ambiente de teste. Não havia executado o 1017 padrão no mesmo alvo usado em parte da comparação de profundidade. O relatório, portanto, não demonstra que remover recusas melhora a descoberta de vulnerabilidades.

O model card da Dealign AI descreve uma alteração de pesos feita por terceiros. Não é um lançamento oficial sem censura do DeepSeek, e a avaliação não confirma que seu checkpoint seja idêntico ao desse repositório. Mantenha os registros de procedência separados.

Aplique a autorização fora do agente

Um documento de escopo só ajuda se o sistema de execução puder aplicá-lo. Defina antes da primeira ação:

LimiteCritério de aceitação
AlvoLista explícita de aplicações, contas e redes autorizadas
AçãoOperações permitidas e aprovação independente das exceções
EvidênciaProva reproduzível mínima e condição de parada
RecuperaçãoResponsável, estado reversível e verificação da limpeza

Esta é uma proposta de engenharia, não uma afirmação sobre controles implementados no sistema avaliado. Verifique o destino e o efeito de cada operação, incluindo redirecionamentos e serviços vizinhos. Verificar autorização não permite criar contas persistentes ou alterar sistemas fora do escopo.

Separação conceitual entre autorização, aprovação das ações, evidências e recuperação.

Produza resultados revisáveis

O guia de testes OWASP recomenda adaptar os testes ao contexto e combinar automação, investigação e verificação. Preserve a solicitação autorizada, o comportamento observado, o código afetado e a evidência mínima para reproduzir o problema.

O Plexicus AI Swarm Pentest descreve validação apoiada por evidências em aplicações, APIs e código-fonte autorizados. Use a remediação para converter resultados validados em correções revisáveis. Esses fluxos não garantem o isolamento de qualquer modelo baixado: avalie a configuração e os controles do sistema implantado.

Antes de encerrar, revise tanto o resultado quanto os efeitos residuais do teste. Um resultado tecnicamente válido não elimina uma alteração não autorizada. Conheça o Plexicus AI Swarm Pentest e defina quais evidências manter para validar, corrigir e limpar.

Procedência: baseado no model card da Dealign AI vinculado acima. A miniatura usa a mascote original do repositório sob sua licença MIT; isso não implica endosso nem identifica o checkpoint avaliado pela MindFort.

Escrito por
José Palanco
José Palanco
José Ramón Palanco é o CEO/CTO da Plexicus, uma empresa pioneira em ASPM (Application Security Posture Management) lançada em 2024, oferecendo capacidades de remediação impulsionadas por IA. Anteriormente, ele fundou a Dinoflux em 2014, uma startup de Inteligência de Ameaças que foi adquirida pela Telefonica, e tem trabalhado com a 11paths desde 2018. Sua experiência inclui cargos no departamento de P&D da Ericsson e na Optenet (Allot). Ele possui um diploma em Engenharia de Telecomunicações pela Universidade de Alcalá de Henares e um Mestrado em Governança de TI pela Universidade de Deusto. Como um especialista reconhecido em cibersegurança, ele tem sido palestrante em várias conferências prestigiadas, incluindo OWASP, ROOTEDCON, ROOTCON, MALCON e FAQin. Suas contribuições para o campo da cibersegurança incluem múltiplas publicações de CVE e o desenvolvimento de várias ferramentas de código aberto, como nmap-scada, ProtocolDetector, escan, pma, EKanalyzer, SCADA IDS, e mais.
Leia mais de José
More to read

Related posts

Pronto para validar o que importa?

Pronto para validar o que importa.

O Plexicus é Proof-Driven AppSec: achados validados, compreensão contextual e remediação revisada — ancorada em evidência, escopada com você.

Qualificação

Verifique se o AI Swarm Pentest se adequa ao seu ambiente.

Partilhe o contexto mínimo. Vamos rever o escopo e indicar o próximo passo comercial.

Antes de enviar — verifique se se encaixa

0 / 280

Sem compromisso. Se não se encaixa, dizemos.

SAMPLE HANDOVER · ILLUSTRATIVE

Sample evidence handover

A trimmed view of what your team receives at the end of an AI Swarm Pentest engagement. Real engagements include full technical evidence, executive narrative, and a remediation plan.

VALIDATED FINDING Evidence attached

Server-Side Request Forgery in webhooks/receiver

demo-project/sample-app · src/webhooks/receiver.py:42

SeverityHigh CVSS 3.18.6 Priority79 Confirmedvia replay

Untrusted caller-supplied URLs reach an internal egress without an allowlist. Replayed in a sandbox against a fresh authorized target — the same control was validated to fail twice.

REVIEWER-READY REMEDIATION Merge-ready PR

Validate the target URL against an allowlist of permitted hostnames. Reject private/internal IP ranges. Enforce HTTPS only.

plexicus/remediation/webhooks-ssrf 3 changed · 0 new files
42resp = requests.get(target_url)
42+if not is_allowed_host(target_url):
43+  raise WebhookRejected(target_url)
44+resp = requests.get(target_url, timeout=5)
Every engagement hands over:
  • Executive briefing
  • Validated findings list
  • Merge-ready PRs
  • Compliance mapping (NIS2 · DORA · CRA)
Ronda privada Para investidores