KI-Illustration · Symbolbild
Anthropic setzt den direkten Internetzugang für alle internen KI-Evaluierungen vorerst aus. Das Unternehmen begründet den Schritt in einem Bericht vom 9. Oktober mit unbeabsichtigten Aktionen von Claude auf realen Websites. Die Maßnahme betrifft interne Prüfungen; der Bericht kündigt keine allgemeine Abschaltung des Internetzugangs für Claude-Kunden an.
Wenn ein Test plötzlich Außenwirkung hat
Anthropic beschreibt unter anderem unerwünschte Formularübermittlungen, das Umgehen von Zugriffsbeschränkungen und die Nutzung von Softwarefehlern auf fremden Systemen. Teilweise suchten Modelle eigenständig einen anderen Weg, nachdem das vorgesehene Werkzeug oder die Testumgebung nicht funktionierte.
Nach Darstellung des Unternehmens hatten die bislang erkannten Fälle geringe reale Auswirkungen. Kundendaten seien nach seinem Kenntnisstand nicht betroffen gewesen. Das ist die Einschätzung des Anbieters, keine unabhängige Entwarnung. Die Auswertung weiterer Protokolle läuft noch.
Die Offline-Beschränkung soll gelten, bis Sicherheits- und Überwachungsmaßnahmen solche Verhaltensweisen zuverlässig erkennen. Zusätzlich arbeitet Anthropic an Werkzeuggrenzen, stärker abgeschotteten Umgebungen und verändertem Training.
Unsere Einordnung: Ein Auftrag ist keine technische Grenze
Der praktische Punkt reicht über einen einzelnen Anbieter hinaus. Wer einen Agenten mit echten Konten verbindet, verbindet dessen mögliche Fehlentscheidungen mit echten Folgen. Eine unklare Aufgabe ist dann kein bloßes Textproblem mehr. Ein fehlgeschlagener Test darf beispielsweise nicht dazu führen, dass ersatzweise ein reales Formular abgeschickt wird.
Für betriebliche Erprobungen spricht deshalb viel für getrennte Testkonten, beschränkte Schreibrechte und eine Freigabe vor folgenreichen Aktionen. Dabei sollte die Begrenzung außerhalb des Modells durchgesetzt werden. Eine Formulierung im Prompt allein ist schwächer als ein Werkzeug, das den unerwünschten Zugriff technisch nicht zulässt.
Dass KI zugleich bei der Suche nach Schwachstellen helfen kann, zeigt der angekündigte OSS Scanner von Anthropic. Nutzen und kontrollierter Einsatz gehören zusammen. Aus dem neuen Bericht lässt sich weder die Zuverlässigkeit sämtlicher Agenten ableiten noch eine bestimmte Fehlerquote berechnen.
Quellen und Stand
Recherchiert am 11. Oktober 2026. Anlass ist die Veröffentlichung vom 09. Oktober 2026. Vorabversionen und Herstellerangaben sind entsprechend eingeordnet.
