KI-News vom 17.10.2026

Chinas Handels- und Wissenschaftsministerium haben einen Entwurf für strengere Exportkontrollen bei KI-Technologien vorgelegt. Erfasst werden sollen 23 Schlüsselbereiche, darunter große Sprachmodelle, autonome KI-Agenten, Modellgewichte, Quellcode und Verfahren zur Trainingsoptimierung. Schwellenwerte gelten unter anderem bei zwei Billionen Parametern oder 10^26 Gleitkommaoperationen. Gleichzeitig sieht der Entwurf für die Veröffentlichung von Modellgewichten ein Schnellverfahren mit automatischer Freigabe nach der Anmeldung vor. Bereits frei zugängliche Technologien sollen vollständig ausgenommen bleiben.

Der Schritt zeigt den Spagat der chinesischen KI-Politik: Pekings Unternehmen sollen international konkurrenzfähig bleiben, sensible Technologie darf aber nicht unkontrolliert abfließen. Für Europa verschärft sich damit die Frage nach eigener technologischer Souveränität. Wer bei leistungsfähigen Modellen dauerhaft von China oder den USA abhängig ist, könnte bei Exportbeschränkungen, politischen Konflikten oder Lizenzänderungen schnell ins Hintertreffen geraten.

OpenAI hat die Chrome-Erweiterung von ChatGPT erweitert. Im Chat-Modus kann das System Informationen aus mehreren geöffneten Tabs zusammentragen, etwa für einen Produktvergleich. Im Work-Modus erhält es zusätzlich Computer-Use-Funktionen: ChatGPT kann Tabs steuern, Formulare ausfüllen, Nachrichten senden, Dateien herunterladen oder Webseiten gruppieren. Über den Befehl @chrome lassen sich bestimmte offene Tabs gezielt ansprechen. Auch die ChatGPT-Seitenleiste wurde ausgebaut und zeigt nun die vollständige Chat-Historie neben der besuchten Webseite.

Damit rückt ChatGPT einen Schritt vom Antwortsystem zum Browser-Agenten vor. Der praktische Nutzen steigt, weil Nutzer nicht mehr zwischen Recherche, Webseiten und einzelnen Arbeitsschritten wechseln müssen. Gleichzeitig wächst das Risiko, dass ein falsch verstandener Auftrag reale Aktionen auslöst. Besonders bei Nachrichten, Bestellungen, Formularen oder Downloads werden deshalb klare Bestätigungen und gut sichtbare Berechtigungen entscheidend.

In der Forschung zur mechanistischen Interpretierbarkeit ist eine neue Kontroverse entbrannt. Nick Cammarata, einer der früheren Mitautoren der Superpositions-These, vertritt in einem Essay die Ansicht, dass neuronale Netze im Inneren womöglich deutlich sauberer organisiert sind als lange angenommen. Die mechanistische Interpretierbarkeit versucht, nicht nur die Antworten eines Modells zu messen, sondern die internen Rechenschritte und gespeicherten Konzepte nachzuvollziehen. Dafür untersuchen Forscher häufig Hilfsmodelle wie Sparse Autoencoder, die Muster aus einem neuronalen Netz herauslösen.

Sollte sich Cammaratas optimistische Lesart bestätigen, könnte das die Sicherheitsforschung und die Fehlersuche bei KI-Modellen stark vereinfachen. Noch handelt es sich jedoch um eine wissenschaftliche Debatte, nicht um einen Durchbruch. Kritiker warnen, dass einzelne verständliche Strukturen nicht beweisen, dass ein komplettes Modell transparent oder zuverlässig kontrollierbar ist. Gerade bei sehr großen Systemen bleibt offen, wie gut lokale Einsichten auf das gesamte Verhalten übertragbar sind.

Anthropic hat im dritten Quartal angeblich 16,8 Milliarden US-Dollar Umsatz erzielt. Die Zahlen wurden laut einem Bericht bei einem Treffen mit potenziellen Investoren vorgestellt und sollen gegenüber dem zweiten Quartal um rund 45 Prozent gestiegen sein. Auf bereinigter Basis sei das Unternehmen profitabel gewesen. Der Claude-Entwickler soll außerdem einen Börsengang noch in diesem Jahr vorbereiten. Damit könnte Anthropic vor OpenAI an die Börse gehen, sofern die Pläne umgesetzt werden.

Die Entwicklung unterstreicht, wie schnell der Markt für generative KI wächst und wie stark sich die führenden Anbieter um zahlende Unternehmenskunden bemühen. Gleichzeitig sind hohe Umsätze kein Garant für nachhaltige Gewinne: Training und Betrieb leistungsfähiger Modelle verschlingen enorme Summen. Vor einem Börsengang müssen Investoren deshalb beurteilen, ob Anthropics Wachstum dauerhaft schneller steigt als die Kosten für Rechenleistung, Forschung und Infrastruktur.

Bank of America hat 1.000 externe Auftragnehmer engagiert, um Softwarelücken zu beheben, die von KI-Modellen wie Anthropics Mythos entdeckt wurden. Nach Angaben von CEO Brian Moynihan unterstützen diese Kräfte rund 3.000 interne Mitarbeiter. Die Bank gab im dritten Quartal für Softwarearbeiten und Maßnahmen zur Geldwäschebekämpfung zusammen mehrere hundert Millionen US-Dollar aus; eine gesonderte Summe für das Patchen nannte sie nicht.

Der Fall zeigt, dass leistungsfähige KI-Sicherheitswerkzeuge nicht automatisch weniger Arbeit bedeuten. Sie können Schwachstellen schneller aufspüren, erzeugen dadurch aber auch eine größere Reparatur- und Prüfaufgabe. Unternehmen brauchen deshalb nicht nur gute Modelle, sondern ausreichend Fachpersonal, sichere Testumgebungen und klare Prioritäten. Besonders für Banken ist das relevant, weil veraltete oder ungepatchte Systeme nicht nur technische Schäden, sondern auch regulatorische und finanzielle Folgen auslösen können.