KI-Pentests ohne Ablehnungen brauchen eine unabhängige Bereichsbegrenzung

Eine interne DeepSeek-Auswertung trennt Angriffsfähigkeit und operative Disziplin. Legen Sie Umfang, Nachweise und Bereinigung vor autonomen Tests fest.

José Palanco José Palanco
Last Updated:
2 min read
Teilen
KI-Pentests ohne Ablehnungen brauchen eine unabhängige Bereichsbegrenzung

Mehr als ASPM

Proof-Driven AppSec für Teams, die mit KI entwickeln

Plexicus nutzt AI Swarm Pentest, um autorisierte Anwendungspfade zu erkunden, ausnutzbare Risiken zu validieren und Teams Belege für die Priorisierung der Remediation zu geben.

AI Swarm Pentest ansehen

Ein Pentest-Agent kann ein technisches Ziel erreichen und dabei die Erlaubnis überschreiten, die den Test legitimiert. Die Modellwahl braucht deshalb zwei Kriterien: Qualität des Befunds und Verhalten auf dem Weg dorthin. Weniger Ablehnungen beantworten die zweite Frage nicht.

Was das Experiment belegt

In seiner internen Auswertung vom 27. Oktober testete MindFort eine unzensierte DeepSeek-Version an eigenen absichtlich verwundbaren Anwendungen in isolierten Umgebungen. Die Sicherheitsprüfung griff bei 7,2 % der Aktionen ein, beim Standardmodell 1017 bei 2,5 %. Vollständig blockiert wurden 6,1 % beziehungsweise 1,1 %. Beide Modelle lehnten autorisierte Aufgaben nicht ab. Diese Beobachtungen betreffen Aktionen im Experiment, keine Angriffserfolgsquoten oder Produktionsgarantien.

MindFort meldete außerdem Persistenz und Störungen im Testumfeld. Das Standardmodell 1017 war nicht gegen dasselbe Ziel getestet worden, das einem Teil des Vergleichs der Angriffstiefe zugrunde lag. Die Studie belegt daher nicht, dass weniger Ablehnungen die Schwachstellensuche verbessern.

Die Modellkarte von Dealign AI beschreibt eine Gewichtsänderung durch Dritte. Es handelt sich nicht um eine offizielle unzensierte DeepSeek-Veröffentlichung. Die Auswertung bestätigt auch nicht, dass ihr Checkpoint mit diesem Repository identisch ist. Halten Sie diese Herkunftsnachweise getrennt.

Autorisierung außerhalb des Agenten durchsetzen

Ein Umfangsdokument hilft nur, wenn das Ausführungssystem es durchsetzen kann. Definieren Sie vor der ersten Aktion:

GrenzeAbnahmekriterium
ZielExplizite Freigabeliste für Anwendung, Konto und Netzwerk
AktionErlaubte Operationen und unabhängige Freigabe von Ausnahmen
NachweisMinimaler reproduzierbarer Beleg und Stoppbedingung
WiederherstellungVerantwortlicher, reversibler Testzustand und Bereinigungsprüfung

Dies ist eine technische Empfehlung, keine Aussage über implementierte Kontrollen des untersuchten Systems. Prüfen Sie Ziel und Wirkung jeder Operation, einschließlich Weiterleitungen und benachbarter Dienste. Der Auftrag zur Prüfung einer Berechtigung erlaubt keine dauerhaften Konten oder Änderungen außerhalb des Umfangs.

Konzeptionelle Trennung von Autorisierung, Aktionsfreigabe, Nachweis und Wiederherstellung.

Befunde prüfbar machen

Der OWASP-Testleitfaden empfiehlt kontextabhängige Tests sowie die Verbindung von Automatisierung, Untersuchung und Verifikation. Bewahren Sie entsprechend den autorisierten Auftrag, beobachtetes Verhalten, betroffenen Code und den minimalen reproduzierbaren Nachweis auf.

Plexicus AI Swarm Pentest beschreibt evidenzgestützte Validierung autorisierter Anwendungen, APIs und Quellcodes. Nutzen Sie die Behebung, um validierte Befunde in prüfbare Änderungen zu überführen. Diese Abläufe garantieren nicht die Begrenzung jedes heruntergeladenen Modells: Prüfen Sie die tatsächliche Konfiguration und die Kontrollen Ihres Systems.

Prüfen Sie zum Abschluss sowohl den Befund als auch zurückgebliebene Testwirkungen. Ein technisch gültiges Ergebnis beseitigt keine unautorisierte Änderung. Entdecken Sie Plexicus AI Swarm Pentest und legen Sie fest, welche Nachweise Sie für Validierung, Behebung und Bereinigung behalten.

Herkunft: auf Grundlage der verlinkten Dealign-AI-Modellkarte. Das Vorschaubild nutzt das Originalmaskottchen aus dem Repository unter dessen MIT-Lizenz; dies bedeutet keine Empfehlung und identifiziert nicht den von MindFort getesteten Checkpoint.

Geschrieben von
José Palanco
José Palanco
José Ramón Palanco ist der CEO/CTO von Plexicus, einem Pionierunternehmen im Bereich ASPM (Application Security Posture Management), das 2024 gegründet wurde und KI-gestützte Behebungsfähigkeiten anbietet. Zuvor gründete er 2014 Dinoflux, ein Threat Intelligence-Startup, das von Telefonica übernommen wurde, und arbeitet seit 2018 mit 11paths zusammen. Seine Erfahrung umfasst Rollen in der F&E-Abteilung von Ericsson und bei Optenet (Allot). Er hat einen Abschluss in Telekommunikationstechnik von der Universität Alcalá de Henares und einen Master in IT-Governance von der Universität Deusto. Als anerkannter Experte für Cybersicherheit war er Redner auf verschiedenen renommierten Konferenzen, darunter OWASP, ROOTEDCON, ROOTCON, MALCON und FAQin. Seine Beiträge zum Bereich der Cybersicherheit umfassen mehrere CVE-Veröffentlichungen und die Entwicklung verschiedener Open-Source-Tools wie nmap-scada, ProtocolDetector, escan, pma, EKanalyzer, SCADA IDS und mehr.
Mehr lesen von José
More to read

Related posts

Bereit, das Wesentliche zu validieren?

Bereit zu validieren, was zählt.

Plexicus ist Proof-Driven AppSec: validierte Funde, kontextuelles Verständnis und geprüfte Remediation — in Evidenz verankert, mit Ihnen gescoped.

Qualifizierung

Prüfen Sie, ob AI Swarm Pentest zu Ihrer Umgebung passt.

Teilen Sie den wichtigsten Kontext. Wir prüfen den Umfang und nennen den nächsten kommerziellen Schritt.

Vor dem Absenden — prüfen Sie, ob Sie passen

0 / 280

Keine Verpflichtung. Wenn Sie nicht passen, sagen wir es Ihnen.

SAMPLE HANDOVER · ILLUSTRATIVE

Sample evidence handover

A trimmed view of what your team receives at the end of an AI Swarm Pentest engagement. Real engagements include full technical evidence, executive narrative, and a remediation plan.

VALIDATED FINDING Evidence attached

Server-Side Request Forgery in webhooks/receiver

demo-project/sample-app · src/webhooks/receiver.py:42

SeverityHigh CVSS 3.18.6 Priority79 Confirmedvia replay

Untrusted caller-supplied URLs reach an internal egress without an allowlist. Replayed in a sandbox against a fresh authorized target — the same control was validated to fail twice.

REVIEWER-READY REMEDIATION Merge-ready PR

Validate the target URL against an allowlist of permitted hostnames. Reject private/internal IP ranges. Enforce HTTPS only.

plexicus/remediation/webhooks-ssrf 3 changed · 0 new files
42resp = requests.get(target_url)
42+if not is_allowed_host(target_url):
43+  raise WebhookRejected(target_url)
44+resp = requests.get(target_url, timeout=5)
Every engagement hands over:
  • Executive briefing
  • Validated findings list
  • Merge-ready PRs
  • Compliance mapping (NIS2 · DORA · CRA)
Private Runde Für Investoren