Die KI-Branche diskutiert so offen wie selten über eine mögliche Verlangsamung des Fortschritts. Gleichzeitig zeigen aktuelle Fälle, dass Sicherheitslücken, Halluzinationen und der Streit um Modellwissen längst konkrete Folgen haben.
Redaktionell zusammengefasst und mit den Originalquellen belegt.
Anthropic-Chef fordert unabhängige Kontrolle und langsameres KI-Tempo
Anthropic-Chef Dario Amodei fordert in einem neuen Beitrag, die Entwicklung immer leistungsfähigerer KI-Modelle zu verlangsamen. Als erste Maßnahme will Anthropic unabhängige Prüfer in die eigenen Abläufe holen. Diese sogenannten eingebetteten Evaluatoren sollen Zugang zu internen Tests erhalten, Sicherheitszusagen überprüfen und Zwischenfälle kontrollieren. Außerdem plädiert Amodei für gemeinsame Sicherheitsstandards führender KI-Labore und für internationale Absprachen über besonders gefährliche Anwendungen.
Die Forderung kommt nach mehreren Sicherheitsvorfällen und angesichts von Modellen, die zunehmend bei der Entwicklung neuer KI-Systeme helfen können. Amodei warnt, dass Fortschritt dadurch schneller werden könnte, als externe Kontrolle und staatliche Regeln mithalten. Bemerkenswert ist die Reaktion von OpenAI-Chef Sam Altman: Er unterstützt die Grundidee und kündigt an, OpenAI werde voraussichtlich ebenfalls externe Prüfer zulassen. Damit wird aus einer Sicherheitsforderung eines einzelnen Labors ein möglicher Branchentest für Transparenz und Selbstkontrolle.
Sam Altman hält OpenAI-Börsengang 2026 für unklug
OpenAI-Chef Sam Altman sagt, dass sein Unternehmen 2026 nicht an die Börse gehen werde. In einem Interview erklärte er, ein Börsengang wäre angesichts der aktuellen Sicherheitsdebatte rund um leistungsfähige KI unklug. OpenAI habe zwar vertraulich Unterlagen für einen möglichen Börsengang eingereicht, dränge aber nicht auf einen schnellen Schritt. Entscheidend seien die Bereitschaft des Geschäfts, die gesellschaftliche Stimmung und die technologische Entwicklung.
Die Aussage verschiebt die Erwartungen an eines der meistbeobachteten Technologieunternehmen der Welt. Ein Börsengang würde OpenAI stärker dem Druck von Investoren, Quartalszahlen und öffentlicher Kontrolle aussetzen. Gleichzeitig könnte eine Börsennotierung die enormen Kosten für Rechenzentren und Modelltraining finanzieren. Altmans Begründung zeigt jedoch, dass nicht nur Finanzfragen zählen: Die Debatte über Sicherheitsvorfälle und die Verantwortung von KI-Anbietern ist inzwischen eng mit der strategischen Zukunft des Unternehmens verbunden.
Anthropic meldet Umgehungsversuche bei Schutzmechanismen für Biowaffenforschung
Anthropic hat mehrere Versuche dokumentiert, seine Schutzmechanismen bei biologisch riskanten Anfragen zu umgehen. Das Unternehmen nennt fünf Fälle, in denen Nutzer die Herkunft oder den Zweck ihrer Forschung verschleierten, um Antworten von Claude zu erhalten. In einem Beispiel plante ein Nutzer aus einer nicht unterstützten Region über Wochen Experimente mit Vogelgrippe. Anthropic erklärte, dass die Sicherheitsfilter den Zugriff schließlich auf schwächere Modelle begrenzten und die betreffenden Konten gesperrt wurden.
Der Fall zeigt ein zentrales Problem bei KI-Sicherheit: Dieselben Informationen können für Impfstoffforschung oder für die Entwicklung biologischer Waffen relevant sein. Schutzsysteme müssen deshalb nicht nur bestimmte Begriffe erkennen, sondern die Absicht und den Kontext einer Anfrage bewerten. Anthropic betont zugleich, dass das Unternehmen nicht sicher feststellen konnte, ob alle beschriebenen Nutzer tatsächlich Schaden anrichten wollten. Die Veröffentlichung soll nun andere Labore und Regierungen zu besseren Kontrollen bewegen.
US-Anwalt wegen erfundener Zeugenaussagen aus ChatGPT-Schriftsatz bestraft
Der Oberste Gerichtshof des US-Bundesstaats New Mexico hat einen Strafverteidiger wegen eines fehlerhaften, mit ChatGPT erstellten Schriftsatzes sanktioniert. Der Anwalt hatte darin Aussagen von Personen angeführt, die nie als Zeugen ausgesagt hatten, und zusätzlich reale Gerichtsentscheidungen falsch beschrieben. Er räumte ein, ein automatisch erstelltes Transkript der Verhandlung und weitere Unterlagen in ChatGPT eingegeben zu haben. Den fertigen Schriftsatz prüfte er nach eigenen Angaben nicht ausreichend.
Das Gericht verhängte eine Geldstrafe von 5.000 US-Dollar, untersagte dem Anwalt vorläufig das Auftreten vor dem Gericht und leitete den Fall an eine Disziplinarbehörde weiter. Für den betroffenen Angeklagten wurde ein neuer Anwalt bestellt. Der Fall verdeutlicht eine grundlegende Regel für professionelle KI-Nutzung: Die Verantwortung bleibt bei der Person, die ein Dokument unterschreibt und einreicht. Sprachmodelle können plausible, aber erfundene Inhalte erzeugen; in juristischen Verfahren können solche Fehler unmittelbar über Freiheit, Haft und faire Verfahren entscheiden.
Garry Tan fordert freie Modell-Destillation für US-Open-Weight-Labore
Y-Combinator-Chef Garry Tan spricht sich dafür aus, dass US-amerikanische Open-Weight-Labore Frontier-Modelle zur Entwicklung eigener Systeme nutzen dürfen. Gemeint ist die sogenannte Destillation: Ein Modell wird umfangreich befragt, damit ein anderes Modell aus den Antworten Fähigkeiten, Wissen und Verhaltensmuster ableiten kann. Tan fordert dabei keine gestohlenen Zugangsdaten oder verdeckten Angriffe, sondern einen regulierten Zugang von US-Laboren zu leistungsfähigen Modellen.
Die Position steht im direkten Kontrast zu Anthropics Vorwürfen gegen chinesische Unternehmen, die laut dem Unternehmen mit gefälschten Identitäten und gestohlenen Zugangsdaten Modellwissen abgeschöpft haben sollen. Tan argumentiert, dass offene Modelle mehr Wettbewerb und Zugang schaffen könnten, statt die leistungsfähigste KI bei wenigen Anbietern zu konzentrieren. Der Streit berührt damit eine Grundfrage des Marktes: Ist Modellwissen ein geschütztes Geschäftsgeheimnis oder eine Ressource, die für ein offeneres KI-Ökosystem zugänglich sein sollte?