Se préparer à Mythos : conseils pratiques pour les équipes d’ingénierie

Mars et avril ont déjà été des mois difficiles pour la sécurité, avec de multiples incidents très médiatisés incidents démontrant la fragilité des chaînes d’approvisionnement logicielles. Puis, comme si cela ne suffisait pas, est arrivée l’annonce du nouveau modèle "Mythos" d’Anthropic, qu’ils ont jugé "particulièrement performant pour les tâches de sécurité informatique". Anthropic était suffisamment préoccupée pour ne pas rendre le modèle accessible au grand public et lancer Project Glasswing afin de donner aux "organisations qui développent ou maintiennent des infrastructures logicielles critiques" une longueur d’avance pour détecter et corriger les vulnérabilités avant que les modèles avancés ne soient plus largement disponibles. Attendez-vous à une multitude de mises à jour et de correctifs au cours des prochaines semaines et des prochains mois à la suite de ce travail. Cet article évalue la gravité de la menace et les mesures que vous devriez prendre dès maintenant.

Alors, à quel point est-ce grave ?

Cette nouvelle a suscité des réactions fortes, voire apocalyptiques, notamment dans cet article de cfr.org, qui décrit Mythos comme un "point d’inflexion" et avertit : "Les Hunger Games mondiaux de la sécurité de l’IA ont commencé", ainsi que dans le New York Times, qui évoque de "profondes implications géopolitiques."

Pour ma part, je pense que les prochains mois (voire les prochaines années) seront mouvementés, mais je ne suis pas dans le camp de l’apocalypse. Mon raisonnement est que les défenseurs utiliseront les mêmes modèles que les attaquants pour trouver et exploiter les vulnérabilités, et qu’ils les trouveront donc et les corrigeront en premier. Ce n’est pas une course aux armements sans fin en vue, car il n’existe pas une réserve inépuisable de vulnérabilités de sécurité critiques dans une base de code donnée. Nous atteindrons un stade où les modèles ne pourront plus trouver de nouvelles vulnérabilités significatives dans des bases de code bien entretenues et auditées. Cela est confirmé par les résultats de l’exécution de Mythos sur curl, qui n’a révélé qu’une seule nouvelle vulnérabilité (non critique).

Cela dit, le domaine précis dans lequel Mythos semble exceller par rapport aux autres modèles n’est pas la découverte de vulnérabilités, mais leur exploitation efficace (y compris l’enchaînement d’exploits). Du côté positif, cela implique que nous pouvons utiliser les modèles existants pour identifier et corriger les vulnérabilités. Du côté négatif, cela signifie que les attaquants exploiteront les vulnérabilités critiques encore plus rapidement qu’auparavant. Comme je l’ai dit, le parcours sera mouvementé, mais les organisations et les projets qui persévéreront en sortiront nettement plus sécurisés.

Comment survivre à Mythos

La première chose à comprendre est que vous devriez utiliser vous-même les modèles. Que des agents écrivent ou non votre code, vous devriez demander à des agents d’examiner les pull requests sous l’angle de la sécurité, et exécuter des modèles sur votre base de code historique afin de détecter les vulnérabilités. Cette présentation contient un exemple d’un prompt simple que vous pouvez utiliser (notez le conseil concernant l’"indice" pour orienter le modèle vers une zone particulière).

Ensuite, n’oubliez pas que les conseils de sécurité fondamentaux n’ont pas changé. Appliquez la défense en profondeur et le principe du moindre privilège. Mettez en place plusieurs couches de sécurité et utilisez des techniques d’isolation. Supprimez les jetons d’accès à longue durée de vie partout où cela est possible (ils étaient en partie responsables des attaques contre Trivy et Axios).

Enfin, Mythos représente une menace particulière pour les logiciels open source — le code étant publiquement disponible, il est facile de le soumettre à un modèle — et les logiciels open source sous-tendent chaque chaîne d’approvisionnement logicielle. Vous devez vous assurer d’obtenir les derniers correctifs de sécurité (et attendez-vous à une avalanche de correctifs dans les semaines et mois à venir) pour toutes les dépendances de votre système, et qu’ils proviennent d’une source fiable. Parallèlement, vous devez vous assurer de ne pas intégrer une mise à jour malveillante issue de la dernière attaque Shai Hulud ou d’une attaque similaire, ce qui peut créer une tension préoccupante. Chainguard peut vous aider à résoudre cette tension. Nous fournissons des logiciels open source continuellement mis à jour, construits à partir de sources vérifiées et renforcés avant de vous parvenir. Cela signifie que vous pouvez utiliser les derniers correctifs en toute sécurité sans vous préoccuper des mises à jour malveillantes. Plus précisément :

• Nous proposons une bibliothèque sécurisée d’images de conteneurs constamment mise à jour et construite à partir des sources les plus récentes, avec un nombre de CVE proche de zéro. Nos images sont débarrassées des paquets inutiles, ce qui réduit davantage la surface d’attaque.

• Notre produit Libraries protège efficacement contre les attaques Shai Hulud en publiant uniquement des paquets pouvant être construits à partir de sources publiques et vérifiables — si la source n’est pas disponible, nous ne le publions pas. Nous n’incluons aucun script exécuté lors de l’installation, éliminant ainsi un autre vecteur d’attaque majeur.

• Les GitHub Actions revêtent une importance critique pour une chaîne d’approvisionnement sécurisée. Nous fournissons une bibliothèque d’actions courantes renforcées sur le plan de la sécurité, notamment par l’épinglage à des commits SHA immuables — ce qui empêche les attaques de falsification de tags comme celle utilisée contre Trivy — ainsi que par une protection contre les mauvaises configurations courantes telles que l’injection de scripts.

• Notre bibliothèque de compétences d’agents fournit un catalogue de compétences examinées et renforcées, garantissant que leur utilisation n’entraînera pas le vol d’identifiants ni d’autres comportements malveillants.

Agissez dès aujourd’hui

La menace posée par des modèles tels que Mythos est réelle. Les prochains mois verront apparaître de nombreuses vulnérabilités à fort impact. Il ne s’agit toutefois pas du début de l’apocalypse ni d’un signe d’intelligence artificielle générale. Adoptez de bonnes pratiques de sécurité, appliquez vos correctifs, et vous en sortirez plus sécurisé que vous ne l’étiez au départ. Contactez Chainguard pour le faire en toute simplicité.