Vorbereitung auf Mythos: Praktische Ratschläge für Engineering-Teams

März und April waren bereits schwere Monate für die Sicherheit, in denen zahlreiche prominente Zwischenfälle die Anfälligkeit von Software-Lieferketten demonstrierten. Hinzu kamen dann noch die Nachrichten über Anthropics neues Modell „Mythos“, bei dem sich herausstellte, dass es bei Computersicherheitsaufgaben erstaunlich fähig ist. Anthropic war so besorgt, dass sie das Modell zurückhielten und Project Glasswing ins Leben riefen, um „Organisationen, die kritische Softwareinfrastrukturen entwickeln oder warten“, einen Vorsprung beim Finden und Patchen von Schwachstellen zu verschaffen, bevor fortgeschrittene Modelle allgemein verfügbar werden. Erwarten Sie infolge dieser Arbeit eine Fülle von Updates und Patches in den kommenden Wochen und Monaten. Dieser Beitrag bewertet die Schwere der Bedrohung und die Schritte, die Sie jetzt unternehmen sollten.

Wie schlimm ist es also?

Es gab einige starke, sogar apokalyptische Reaktionen auf diese Nachricht, darunter diesen Artikel von cfr.org, der Mythos als „Wendepunkt“ bezeichnete und warnte: „Die globalen Tribute von Panem für KI-Sicherheit haben begonnen“ sowie die New York Times, die von weitreichenden geopolitischen Implikationen sprach.

Meine eigene Einschätzung ist, dass uns in den nächsten Monaten (oder sogar Jahren) eine holprige Fahrt bevorsteht, aber ich gehöre nicht zum Team Apokalypse. Ich argumentiere, dass die Verteidiger dieselben Modelle wie die Angreifer verwenden werden, um Schwachstellen zu finden und auszunutzen, und sie daher zuerst finden und beheben werden. Es ist kein Wettrüsten ohne absehbares Ende, da es in einer bestimmten Codebasis keinen endlosen Vorrat an kritischen Sicherheitslücken gibt. Wir werden einen Punkt erreichen, an dem Modelle in gut gewarteten, geprüften Codebasen keine signifikanten neuen Schwachstellen mehr finden können. Dies wird durch die Ergebnisse der Ausführung von Mythos auf curl gestützt, die nur eine neue (unkritische) Schwachstelle zutage förderte.

Freilich liegt der genaue Bereich, in dem Mythos anderen Modellen offenbar überlegen ist, nicht in der Entdeckung von Schwachstellen, sondern in deren effektiver Ausnutzung (einschließlich Exploit-Chaining). Positiv ist, dass dies bedeutet, dass wir bestehende Modelle nutzen können, um Schwachstellen zu identifizieren und zu beheben. Negativ ist, dass Angreifer kritische Schwachstellen noch schneller als zuvor ausnutzen werden. Wie gesagt, es wird eine holprige Fahrt, aber Organisationen und Projekte, die am Ball bleiben, werden auf der anderen Seite deutlich sicherer hervorgehen.

Wie man Mythos überlebt

Das Erste, was man erkennen muss, ist, dass Sie die Modelle selbst nutzen sollten. Unabhängig davon, ob Agenten Ihren Code schreiben oder nicht, sollten Sie Agenten haben, die Pull-Requests aus Sicherheitssicht überprüfen, und Modelle, die auf Ihrer Legacy-Codebasis laufen, um nach Schwachstellen zu suchen. Es gibt ein Beispiel in diesem Vortrag für einen einfachen Prompt, den Sie verwenden können (beachten Sie den „Hinweis“, um das Modell auf einen bestimmten Bereich zu fokussieren).

Denken Sie als Nächstes daran, dass sich die grundlegenden Sicherheitsempfehlungen nicht geändert haben. Praktizieren Sie Tiefenverteidigung (Defense in Depth) und das Prinzip der geringsten Privilegien. Verfügen Sie über mehrere Sicherheitsebenen und nutzen Sie Isolationstechniken. Legeb Sie langlebige Zugriffs-Tokens ab, wo immer dies möglich ist (die teilweise sowohl für die Trivy- als auch für die Axios-Angriffe verantwortlich waren).

Schließlich stellt Mythos eine besondere Bedrohung für Open-Source-Software dar – der Code ist öffentlich zugänglich, sodass es einfach ist, ein Modell darauf anzusetzen –, und Open-Source-Software bildet das Fundament jeder Software-Lieferkette. Sie müssen sicherstellen, dass Sie die neuesten Sicherheits-Patches (und erwarten Sie eine Lawine davon in den kommenden Wochen und Monaten) für alle Abhängigkeiten in Ihrem System erhalten und dass diese aus einer vertrauenswürdigen Quelle stammen. Gleichzeitig müssen Sie sicherstellen, dass Sie kein bösartiges Update von der neuesten Shai-Hulud- oder ähnlichen Attacke einziehen, was zu einer unruhigen Spannung führen könnte. Chainguard kann helfen, diese Spannung zu lösen. Wir bieten Open Source, das kontinuierlich aktualisiert, aus verifizierten Quellen gebaut und vor der Auslieferung gehärtet wird. Das bedeutet, dass Sie die neuesten Patches sicher verwenden können, ohne sich über bösartige Updates sorgen zu müssen. Um es genau zu sagen:

• Wir bieten eine sichere Container-Image-Bibliothek, die ständig aktualisiert und aus den neuesten Quellen mit nahezu null CVEs erstellt wird. Unsere Images sind von unnötigen Paketen befreit, wodurch die Angriffsfläche weiter verringert wird.

• Unser Libraries-Produkt schützt effektiv vor Shai-Hulud-Angriffen, indem es nur Pakete veröffentlicht, die aus öffentlich zugänglichen, verifizierbaren Quellen gebaut werden können – wenn die Quelle nicht verfügbar ist, veröffentlichen wir sie nicht. Wir enthalten keine Installationsskripte und schalten damit einen weiteren großen Vektor für Angriffe aus.

• GitHub Actions sind von entscheidender Bedeutung für eine sichere Lieferkette. Wir bieten eine Bibliothek häufig verwendeter Actions, die sicherheitstechnisch gehärtet wurden, einschließlich des Pinning auf unveränderliche SHA-Commits – was Tag-Manipulationen wie die gegen Trivy verhindert – und der Absicherung gegen gängige Fehlkonfigurationen wie Skriptinjektion.

• Unsere Agent-Skills-Bibliothek bietet einen Katalog von Fähigkeiten, die überprüft und gehärtet wurden, was das Vertrauen gibt, dass ihre Verwendung nicht zu Credential Harvesting oder anderem bösartigen Verhalten führt.

Werden Sie heute aktiv

Die Bedrohung durch Modelle wie Mythos ist real. In den kommenden Monaten wird es viele wirkungsvolle Schwachstellen geben. Es ist jedoch weder der Beginn der Apokalypse noch ein Zeichen künstlicher allgemeiner Intelligenz. Befolgen Sie eine gute Sicherheitshygiene, wenden Sie Ihre Patches an, und Sie werden auf der anderen Seite sicherer herauskommen, als Sie hineingegangen sind. Sprechen Sie mit Chainguard, um dies im einfachen Modus zu tun.