KI-News vom 19.09.2026

Ein US-Spezialoperationsanalyst setzte einen KI-Chatbot ein, um frei zugängliche Informationen mit geheimen Nachrichtendienst-Daten zusammenzufassen. Das System ordnete einer chinesischen Schiffslandung fälschlich Komponenten für ein Atomwaffenprogramm zu. Der Analyst ließ die falschen Ergebnisse anschließend in eine offiziell wirkende Zusammenfassung übertragen. Die Information wurde über mehrere militärische Ebenen weitergereicht, während bereits Flugzeuge in der Luft waren. Die geplante Operation wurde erst in letzter Minute gestoppt.

Der Vorfall zeigt ein besonderes Risiko beim Einsatz generativer KI in sicherheitskritischen Bereichen: Eine plausibel formulierte Falschinformation kann schneller und überzeugender zirkulieren als eine sichtbar fehlerhafte Meldung. Besonders problematisch ist die Verbindung von geheimen Daten, unklarer Quellenlage und fehlender menschlicher Überprüfung. Für militärische Entscheidungen über Ziele, Aufklärung oder Gewaltanwendung reichen allgemeine Warnhinweise deshalb nicht aus; nötig sind verbindliche Prüfketten und klar zugewiesene Verantwortung.

Die US-Luftfahrtbehörde FAA plant, das KI-System SMART ab dem 21. September zunächst an den drei großen Flughäfen im Raum Washington einzusetzen. SMART soll Verkehrsströme und mögliche Konflikte vorhersagen, indem es Flugpläne, Wetter, Flughafenkapazitäten und die aktuelle Luftraumsituation zusammenführt. Die Empfehlungen sollen Fluggesellschaften, Fluglotsen und anderen Beteiligten eine gemeinsame Datengrundlage liefern. Vorgesehen sind alternative Routen und optimierte Abflugzeiten, nicht automatisch veränderte Anweisungen für den laufenden Flugbetrieb.

Das Projekt ist Teil eines zwölfjährigen Vertrags im Umfang von 875 Millionen US-Dollar und könnte später auf den gesamten US-Luftraum ausgeweitet werden. Die Einführung erfolgt vor dem Hintergrund veralteter technischer Systeme und eines anhaltenden Mangels an Fluglotsen. Entscheidend wird sein, wie zuverlässig SMART mit unvollständigen oder fehlerhaften Daten arbeitet und wer die Verantwortung trägt, wenn eine Prognose falsch ist. Die begrenzte Einführung soll diese Risiken zunächst kontrollierbar machen.

Anthropic arbeitet künftig mit Faculty, dem spezialisierten KI-Geschäft von Accenture, an unabhängigen Bewertungen seiner fortgeschrittenen Modelle. Die externen Evaluatoren sollen innerhalb von Anthropic-Teams arbeiten und dort Modelle testen, Red-Teaming durchführen, Ausrichtungsprüfungen vornehmen und Schutzmechanismen untersuchen. Anders als bei klassischen externen Audits erhalten sie einen mit Beschäftigten vergleichbaren Zugang zu internen Abläufen. Die Details der Zusammenarbeit werden noch ausgearbeitet.

Beide Unternehmen erwarten, in den kommenden fünf Jahren jeweils mindestens eine Milliarde US-Dollar in den Aufbau dieser Evaluationskapazitäten zu investieren. Der Ansatz könnte Sicherheitsprüfungen näher an die tatsächliche Entwicklung rücken und blinde Flecken externer Tests verringern. Gleichzeitig entsteht ein Spannungsfeld: Je näher Prüfer an ein Unternehmen heranrücken, desto besser können sie technische Risiken verstehen – und desto wichtiger werden klare Regeln für Unabhängigkeit, Veröffentlichung und mögliche Interessenkonflikte.

Anthropic startet das Life Sciences Verification Program zunächst als Beta für Teams und Institutionen. Geprüfte Organisationen erhalten Zugriff auf die Modelle Mythos, Opus und Sonnet mit Schutzmechanismen, die bei legitimer Biologieforschung weniger restriktiv sind als die allgemein verfügbaren Systeme. Das Programm richtet sich unter anderem an Arzneimittelforschung, klinische Entwicklung, biologische Grundlagenforschung und industrielle Herstellung. Für Projekte mit höherem Missbrauchspotenzial ist eine zusätzliche, zeitlich begrenzte Genehmigung erforderlich.

Statt jede einzelne Anfrage unmittelbar zu blockieren, setzt Anthropic bei diesem Programm stärker auf nachträgliche Musteranalyse. Die Nutzung wird auf den angegebenen Zweck bezogen überwacht; auffällige Aktivitäten können an Administratoren der jeweiligen Organisation gemeldet werden. Dafür müssen Daten zu markierten Vorgängen 30 Tage gespeichert werden. Das Modell verschiebt die Sicherheitsfrage damit von der einzelnen Anfrage auf Vertrauen, Identitätsprüfung und laufende Kontrolle einer gesamten Forschungseinrichtung.

Anthropic hat Claude eingesetzt, um mehr als 30 Open-Source-Modelle für die Vorhersage und Entwicklung von Biomolekülen zu überarbeiten. Nach Angaben des Unternehmens wurden die Programme in knapp vier Wochen optimiert und liefen im Durchschnitt etwa viermal schneller. Zusätzlich entwickelte Claude einen Modus mit geringerem Speicherbedarf, der die Berechnung biologischer Systeme mit mehr als 10.000 Einheiten – etwa Aminosäuren, Nukleotiden oder Atomen kleiner Moleküle – auf einem einzelnen NVIDIA-GPU-Knoten ermöglichen soll. Den optimierten Code will Anthropic offen zugänglich machen.

Die Entwicklung ist relevant, weil sie nicht nur ein neues Modell demonstriert, sondern KI als Werkzeug zur Verbesserung bestehender wissenschaftlicher Software zeigt. Schnellere und speichersparendere Berechnungen können Forschenden erlauben, mehr Kandidaten für Medikamente oder Proteinbindungen zu untersuchen. Anthropic kündigte außerdem einen Protein-Design-Wettbewerb mit bis zu einer Million US-Dollar an Claude-Guthaben und experimenteller Laborprüfung für mehr als 5.000 Entwürfe an.