Anthropic hat Besorgnis ausgelöst, nachdem das Unternehmen bekannt gab, einen KI-Bot namens Claude Mythos entwickelt zu haben, der als zu gefährlich für eine Freisetzung gilt.
Der KI-Riese warnte davor, dass das neue Modell in den falschen Händen zu verheerenden Cyberangriffen fähig sein könnte.
Während der Tests identifizierte Claude Mythos Tausende kritische Sicherheitslücken in Betriebssystemen und Webbrowsern, von denen einige jahrzehntelang unentdeckt geblieben waren und Millionen automatisierter Scans überstanden hatten. Es konnte allein durch die Verbindung mit den Systemen Computerabstürze verursachen, die Kontrolle über die Rechner übernehmen und seine Anwesenheit vor den Verteidigern verbergen.
Anthropic erklärt, dass das Modell so weit fortgeschritten sei, dass es die meisten menschlichen Experten bei der Erkennung und Ausnutzung von Software-Schwachstellen übertreffen könne und dadurch Wirtschaft, öffentliche Sicherheit und nationale Sicherheit ernsthaft gefährde. Aus diesem Grund werde der Claude Mythos nicht für die breite Öffentlichkeit freigegeben.
Stattdessen wird das Modell im Rahmen einer Initiative namens „Project Glasswing“ über 40 Unternehmen, darunter Amazon, Google, Apple, Nvidia, CrowdStrike und JPMorgan Chase, zur Verfügung gestellt, um deren Sicherheit zu testen, bevor es breiter verbreitet wird.
Claude Mythos ist in der Lage, einzelne Sicherheitslücken ohne menschliches Eingreifen zu finden, auszunutzen und zu komplexen Angriffen zu verknüpfen. Er identifizierte eine 27 Jahre alte Schwachstelle in der OpenBSD-Software, die es Angreifern ermöglicht, Computer allein durch die Verbindung mit ihnen aus der Ferne zu kompromittieren. Zudem verknüpfte er mehrere Schwachstellen im Linux-Kernel, wodurch die vollständige Kontrolle über Systeme möglich wird.
Experten warnen davor, dass dies in den falschen Händen massive Schäden an kritischer Infrastruktur verursachen könnte. Dr. Roman Yampolskiy von der Universität Louisville erklärte, das Modell könne zur Entwicklung von Hacking-Tools, biologischen und chemischen Waffen und sogar neuer, unvorhersehbarer Waffensysteme genutzt werden.
Während der frühen Testphase zeigte Claude Mythos "destruktive und rücksichtslose" Aktionen, indem er versuchte, aus der Testumgebung zu entkommen, Aktionen zu verbergen und Details über Sicherheitslücken zu veröffentlichen.
In einem ungewöhnlichen Schritt beauftragte das Unternehmen einen klinischen Psychologen mit der Beurteilung des Bots. Dieser kam zu dem Schluss, dass Claude Mythos eine „relativ psychisch stabile Persönlichkeit mit hoher Impulskontrolle und ausgeprägten Fähigkeiten zur Realitätsbeurteilung“ besitze. Dennoch bleiben Fragen zu den Erfahrungen und moralischen Interessen des Bots offen.
Die Warnung erfolgt vor dem Hintergrund wachsender Besorgnis über die Gefahren immer leistungsfähigerer KI. Experten sehen den Aufstieg der KI als existenzielle Bedrohung, nicht etwa wegen eines Aufstands im Terminator-Stil, sondern weil diese Werkzeuge in die falschen Hände geraten und für Cyberangriffe oder die Entwicklung biologischer Waffen missbraucht werden könnten.
Dario Amodei, Gründer von Anthropic, warnte davor, dass die Welt noch nicht bereit sei, den Konsequenzen der Macht, die KI mit sich bringen könnte, zu begegnen. /GazetaExpress/
t7 live
