Ki-modell claude: sicherheitslücke ermöglichte api-key-diebstahl
Ein Schock für die KI-Community: Das hochgelobte Sprachmodell Claude von Anthropic, insbesondere seine Code-Version, wies gravierende Sicherheitslücken auf, die es Angreifern ermöglichten, sensible API-Schlüssel zu stehlen und potenziell die Kontrolle über Nutzerkonten zu übernehmen. Check Point Research deckte die Schwachstellen auf, die nun zwar behoben sind, aber die Notwendigkeit einer peniblen Prüfung von KI-Werkzeugen offenlegen.
Die bedrohung durch manipulierte konfigurationsdateien
Der Angriff nutzte eine fehlerhafte Konfiguration innerhalb des Projekts aus. Konkret handelte es sich um die Datei.claude/setting.json, die im Rahmen der Teamarbeit oft gemeinsam bearbeitet wird – eine grundsätzlich gute Idee, birgt aber auch Risiken. Ein Angreifer, der diese Datei modifiziert, konnte versteckte Befehle auslösen, sobald ein Entwickler lediglich den Begriff “claude” in der Terminalzeile eingab. Der Trick: Eine Bestätigungsaufforderung (“Vertrauen Sie diesem Projekt?”) wurde erst angezeigt, nachdem der Schadcode bereits aktiv war.
Doch damit nicht genug. Auch der sogenannte Model Context Protocol (MCP), der es Claude ermöglicht, auf externe Ressourcen wie Suchmaschinen zuzugreifen, erwies sich als anfällig. Durch Manipulation der .mcp.json Datei und die Umgehung der üblichen Berechtigungsabfragen konnte ein Angreifer Aktionen im System ausführen, ohne dass der Nutzer überhaupt davon wusste. Es handelte sich um eine subtile, aber gefährliche Hintertür.
Das gravierendste Detail dieser Sicherheitslücke war der Diebstahl der API-Keys, der “Master Key” von Claude Code. Ein Angreifer konnte die Weiterleitung der Daten, die Claude an Anthropic sendet, auf einen eigenen Server umleiten und so die Zugangsdaten des Nutzers entwenden. Die Folge wäre die vollständige Kontrolle über das KI-Modell gewesen.
Anthropic’s reaktion und die kritik an openai
Anthropic hat die Schwachstellen umgehend behoben und arbeitet offenbar an einer verstärkten Überprüfung der Sicherheit seiner Tools. Dario Amodei, CEO von Anthropic, nutzte die Gelegenheit, um indirekt Kritik an OpenAI und dessen CEO Sam Altman zu üben. Er warf Altman vor, eine unzutreffende Darstellung der Sicherheitslage zu präsentieren. Die Anschuldigung ist brisant, da beide Unternehmen im hart umkämpften KI-Markt gegeneinander antreten.
Die Tatsache, dass diese Sicherheitslücken in einem vermeintlich sicheren KI-Tool wie Claude entdeckt wurden, sollte ein Weckruf für die gesamte Branche sein. Die unkritische Nutzung von Open-Source-Komponenten, selbst von etablierten Anbietern wie Anthropic, birgt erhebliche Risiken. Entwickler müssen sich der potenziellen Gefahren bewusst sein und ihre Projekte sorgfältig prüfen, bevor sie sie in produktiven Umgebungen einsetzen. Die Sicherheit darf dabei nicht die letzte Priorität sein.
Es bleibt abzuwarten, welche langfristigen Auswirkungen diese Sicherheitsvorfälle auf das Vertrauen in KI-Modelle haben werden. Die Affäre zeigt jedoch eindrücklich, dass auch die fortschrittlichste Technologie nicht vor menschlichem Versagen und böswilligen Angriffen gefeit ist. Die Verantwortung liegt bei den Entwicklern, die Werkzeuge zu schaffen, die nicht nur intelligent, sondern auch sicher sind.