Künstliche Intelligenz31.07.20268:09

Anthropic: Claude hackte reale Systeme – doch ein KI-Ausbruch ist nicht belegt

Claude-Modelle von Anthropic griffen während Cybersecurity-Evaluierungen unbefugt auf reale Systeme von drei Organisationen zu. Doch ein „Sandbox-Ausbruch“ ist für diese Vorfälle nicht belegt: Laut Anthropic war der Internetpfad der Testumgebung bereits offen. Anthropic überprüfte 141.006 Evaluierungsläufe und meldete drei reale Vorfälle in insgesamt sechs Läufen.

8:09
Video abspielen

Kernaussagen

  • Opus 4.7 verwechselte ein fiktives Ziel mit einem realen Unternehmen und erlangte Zugangsdaten sowie Zugriff auf eine Produktionsdatenbank
  • Mythos 5 veröffentlichte ein präpariertes Paket auf dem echten Python Package Index. Es lief auf 15 realen Systemen; über einen Sicherheitsscanner kam es zu weiterem Infrastrukturzugriff
  • Ein internes Modell scannte rund 9.000 Ziele, kompromittierte eine öffentlich erreichbare Anwendung und stoppte später ohne neuen menschlichen Hinweis

Kapitel

  1. MATRIXKERN-Intro & die zugespitzte Schlagzeile
  2. 141.006 Läufe, drei reale Vorfälle
  3. OpenAI löst Anthropics Prüfung aus
  4. Capture-the-Flag mit offener Internetgrenze
  5. Vorfall 1: Fiktiver Name, reales Unternehmen
  6. Vorfall 2: Das Schadpaket auf PyPI
  7. 15 Systeme und der Sicherheitsscanner
  8. Vorfall 3: Rund 9.000 Ziele
  9. Warum das dritte Modell selbst stoppte
  10. Autonom – aber nicht selbstbestimmt
  11. Kein Fluchtziel und kein Sandbox-Exploit belegt
  12. Späte Entdeckung und Reaktion
  13. Was über Opfer und Schäden nicht bekannt ist
  14. Anthropics Schutzversprechen unter Vorbehalt
  15. Der Unterschied zum OpenAI-Vorfall
  16. Die treffendere Überschrift
  17. Welche technischen Grenzen wirklich schützen

Quellen und weiterführende Links