Claude Mythos

Mit „Claude Mythos“ hat das KI-Unternehmen „Anthropic“ ein KI-Modell vorgestellt, das speziell aufgrund seiner außergewöhnlichen Fähigkeiten im Bereich Softwareanalyse und Cybersicherheit Aufmerksamkeit erregt hat.

Anders als klassische Sprachmodelle wurde Mythos bislang nur ausgewählten Organisationen im Rahmen des Programms „Project Glasswing“ zugänglich gemacht. Der Grund: Die Fähigkeiten des Systems werden von Anthropic selbst als potenziell sicherheitskritisch eingestuft.

Mythos ist in der Lage große Codebasen zu analysieren, komplexe Zusammenhänge zwischen Softwarekomponenten zu verstehen und bislang unbekannte Schwachstellen (Zero-Days) aufzuspüren. Nach Angaben von Anthropic wurden während interner Tests tausende Sicherheitslücken identifiziert. Darunter kritische Schwachstellen in Betriebssystemen, Browsern und Open-Source-Komponenten.

Damit markiert Mythos möglicherweise einen Wendepunkt in der Cybersicherheit: Erstmals steht ein KI-System zur Verfügung, dessen Fähigkeiten sich teilweise mit denen hochqualifizierter Sicherheitsforscher messen können.

Die eine Seite: Ein mächtiges Werkzeug für Verteidiger

Aus Sicht eines Security-Verantwortlichen eröffnet Mythos enorme Chancen und kann Unterstützung bei einer Vielzahl von Security Disziplinen leisten.

Automatisierte Schwachstellenanalyse

Die Suche nach Schwachstellen gehört zu den aufwendigsten Tätigkeiten im Security-Umfeld. Ein Modell wie Mythos kann Millionen Codezeilen in kurzer Zeit analysieren und Auffälligkeiten identifizieren, für die menschliche Experten Wochen oder Monate benötigen würden.

Schutz kritischer Infrastrukturen

Besonders Betreiber kritischer Infrastrukturen können von solchen Modellen profitieren. Die Fähigkeit, Schwachstellen frühzeitig zu erkennen, reduziert potenzielle Angriffsflächen und verkürzt die Zeit zwischen Entdeckung und Behebung von Sicherheitslücken.

Unterstützung von Secure Development

Unternehmen kämpfen seit Jahren mit dem Fachkräftemangel im Bereich Application Security. KI-Systeme könnten hier als digitale Assistenz fungieren und bei der Analyse neuer Softwarestände, Erkennung unsicherer Programmiermuster unterstützen und somit Vorschläge für sichere Implementierungen und darüber hinaus Unterstützung bei Penetrationstests bieten.

Dennoch bleibt die Expertise menschlicher Analysten unverzichtbar: Sie übernehmen die finale Bewertung, ordnen Ergebnisse im Kontext ein und treffen sicherheitskritische Entscheidungen.

Unterstützung bei Penetrationstests

Eine KI wie Mythos könnte Sicherheitsteams dabei unterstützen, Penetrationstests deutlich effizienter durchzuführen. Dabei geht es nicht darum, menschliche Pentester zu ersetzen, sondern ihre Fähigkeiten zu erweitern. So könnte Mythos beispielsweise:

• potenzielle Angriffspfade innerhalb komplexer IT-Landschaften identifizieren,
• Quellcode und Konfigurationen auf sicherheitsrelevante Schwächen analysieren,
• Schwachstellen priorisieren und deren Ausnutzbarkeit bewerten,
• Zusammenhänge zwischen mehreren Einzelbefunden erkennen,
• bei der Erstellung von Proof-of-Concepts für gefundene Schwachstellen unterstützen.

Besonders in großen Unternehmensumgebungen mit tausenden Systemen kann eine solche KI helfen, den Fokus auf die tatsächlich kritischen Risiken zu lenken. Sicherheitsteams erhalten dadurch schneller verwertbare Erkenntnisse und können ihre Ressourcen gezielter einsetzen.

Die andere Seite: Wenn dieselbe KI in falsche Hände gerät

Jede Technologie, die Verteidigern hilft, kann auch von Angreifern genutzt werden. Genau hierin liegt das eigentliche Risiko von Mythos.

Automatisierte Schwachstellensuche im großen Maßstab

Während heute viele Angreifer auf öffentlich bekannte Schwachstellen setzen, könnte eine KI wie Mythos unbekannte Schwachstellen selbstständig identifizieren. Das verändert die Spielregeln deutlich. Statt einzelne Ziele manuell zu untersuchen, könnten Angreifer

• komplette Unternehmensnetzwerke analysieren,
• öffentlich erreichbare Systeme automatisiert untersuchen,
• Softwareprodukte nach neuen Zero-Day-Lücken durchsuchen,
• Exploit-Ketten entwickeln.

Die Geschwindigkeit solcher Prozesse würde die klassische Verteidigung erheblich unter Druck setzen.

Professionalisierung von Cyberkriminalität

Bislang benötigen anspruchsvolle Angriffe hochqualifizierte Spezialisten. Mit leistungsfähigen KI-Systemen sinkt diese Eintrittshürde. Ein weniger erfahrener Angreifer könnte sich von einer KI unterstützen lassen bei:

• Reverse Engineering
• Entwicklung von Malware
• Schwachstellenanalyse
• Privilege Escalation
• Umgehung von Sicherheitsmechanismen

Die Folge wäre eine deutliche Zunahme technisch anspruchsvoller Angriffe.

Schnellere Entwicklung von Malware

Moderne Malware besteht häufig aus zahlreichen Komponenten und wird kontinuierlich weiterentwickelt. Eine KI mit tiefem Verständnis für Programmcode könnte:

• Schadcode optimieren,
• Erkennungsmechanismen analysieren,
• Varianten erzeugen,
• Fehler in Malware beseitigen,
• Angriffe an Zielumgebungen anpassen.

Dies würde den Innovationszyklus von Angreifern erheblich beschleunigen.

KI-gestützte Aufklärung

Vor einem Angriff sammeln Angreifer Informationen über ihre Ziele. Ein Modell wie Mythos könnte dabei helfen öffentlich zugängliche Informationen auszuwerten, Netzwerkstrukturen zu modellieren, Softwarelandschaften zu identifizieren und potenzielle Angriffspfade vorzuschlagen.

Die eigentliche Gefahr liegt nicht in einer einzelnen Fähigkeit, sondern in der Kombination vieler Fähigkeiten innerhalb eines Systems.

Das strategische Risiko für Unternehmen

Viele Diskussionen fokussieren sich auf die Frage, ob Kriminelle Zugang zu Mythos erhalten. Aus Sicht der Unternehmenssicherheit ist die wichtigere Frage:

Wie verändert sich die Bedrohungslage, wenn vergleichbare Modelle allgemein verfügbar werden?

Die Entwicklung leistungsfähiger Cybersecurity-KIs wird nicht bei Anthropic enden. Mehrere große KI-Anbieter investieren bereits massiv in autonome Sicherheitsforschung. Es ist daher wahrscheinlich, dass ähnliche Fähigkeiten mittelfristig breiter verfügbar werden. Unternehmen sollten deshalb nicht auf ein bestimmtes Modell reagieren, sondern auf die neue Angreifergeneration insgesamt.

Wie Unternehmen sich schützen können

Die gute Nachricht: Die meisten Schutzmaßnahmen sind bereits bekannt. Sie müssen lediglich konsequenter umgesetzt werden.

1. Angriffsfläche reduzieren

Je größer die Angriffsfläche eines Unternehmens ist, desto mehr Ansatzpunkte bieten sich für automatisierte Herangehensweisen durch KI-Systeme.

Die Reduzierung dieser Angriffsfläche gehört zu den wirksamsten Maßnahmen gegen derartige Bedrohungen.

Wichtige Maßnahmen:

• Abschaltung nicht benötigter Dienste
• Systemhärtung
• Netzwerksegmentierung
• Reduzierung privilegierter Konten
• Regelmäßige Asset-Inventarisierung

[*] Patch-Management beschleunigen

Wenn KI-Systeme Schwachstellen schneller finden können, müssen Unternehmen diese auch schneller schließen.

Empfehlenswert sind:

• automatisierte Schwachstellenscans
• risikobasierte Priorisierung
• kurze Patch-Zyklen
• kontinuierliches Monitoring

[*] Zero-Trust-Architekturen etablieren

Die Annahme, dass interne Netzwerke grundsätzlich vertrauenswürdig sind, wird zunehmend gefährlich.

Zero Trust reduziert die Auswirkungen erfolgreicher Angriffe durch:

• starke Authentifizierung
• Mikrosegmentierung
• Least-Privilege-Prinzip
• kontinuierliche Verifikation

[*] Detektion statt reiner Prävention

Es wird imer schwieriger, jeden Angriff zu verhindern. Deshalb gewinnen Erkennung und Reaktion an Bedeutung:

• EDR/XDR-Systeme
• SIEM-Lösungen
• Verhaltensanalysen
• Threat Hunting
• Incident Response Teams

[*] Eigene KI defensiv einsetzen

Unternehmen sollten KI nicht nur als Bedrohung betrachten, sondern selbst Vorteile daraus ziehen.

KI kann unterstützen bei:

• Log-Analyse
• Threat Hunting
• Schwachstellenmanagement
• Incident Response
• Security Operations
• Offensive Security

Die Zukunft wird wahrscheinlich von einem Wettlauf zwischen angreifender und verteidigender KI geprägt sein.

Fazit

Anthropic Mythos zeigt eindrucksvoll, wohin sich die Cybersicherheit entwickelt. Die Fähigkeit einer KI, eigenständig komplexe Software zu analysieren und Schwachstellen aufzuspüren, bietet enormes Potenzial für die Verteidigung digitaler Systeme. Gleichzeitig entstehen neue Risiken. Dieselben Fähigkeiten können zur Entwicklung von Exploits, zur Automatisierung von Angriffen und zur Skalierung cyberkrimineller Aktivitäten genutzt werden.

Die entscheidende Erkenntnis für Unternehmen lautet daher nicht, ob Mythos selbst zur Gefahr wird. Die eigentliche Herausforderung besteht darin, sich auf eine Zukunft vorzubereiten, in der hochleistungsfähige Cybersecurity-KIs zum Standardwerkzeug sowohl von Verteidigern als auch von Angreifern gehören.

Wer heute seine Sicherheitsarchitektur modernisiert, Angriffsflächen reduziert, Zero Trust etabliert und KI aktiv zur Verteidigung nutzt, wird auch in dieser neuen Bedrohungslandschaft bestehen können.

Autor: Christoph Kronabel