Die KI-Branche steht unter wachsendem Druck: Politiker fordern Sicherheitspläne, während neue Fälle zeigen, wie Modelle für militärische Zwecke missbraucht werden können. Zugleich fließen Milliarden in Robotikdaten und chinesische Open-Weight-Modelle.
Redaktionell zusammengefasst und mit den Originalquellen belegt.
Obama fordert von US-Demokraten einen klaren Plan für KI-Schutz
Barack Obama hat die US-Demokraten aufgefordert, Künstliche Intelligenz zu einem ihrer zentralen politischen Themen zu machen. Bei einer Spendenveranstaltung sagte der frühere US-Präsident, die Partei brauche einen klaren Plan für die wirtschaftlichen Folgen und die Sicherheit der Technologie. Obama sprach sich zugleich gegen eine reine Verbotsdebatte aus: KI könne etwa die Entwicklung neuer Medikamente beschleunigen, müsse aber politisch eingehegt werden.
Die Äußerungen zeigen, dass KI-Sicherheit zunehmend aus den Laboren in den klassischen Parteienwettbewerb rückt. In den USA wird damit nicht nur über Datenschutz oder Arbeitsplätze diskutiert, sondern über die Frage, wie eine Technologie reguliert werden soll, die sich in privaten Unternehmen sehr schnell weiterentwickelt. Für die Branche erhöht das den Druck, konkrete Sicherheitsstandards und nachvollziehbare Kontrollmechanismen vorzulegen.
Anthropic dokumentiert Claude-Missbrauch für autonome russische Drohnenschwärme
Anthropic hat einen Fall offengelegt, in dem eine russische Gruppe Claude Code für die Entwicklung eines autonomen Drohnenschwarms eingesetzt haben soll. Die Software koordinierte FPV-Angriffsdrohnen, unterstützte die Endanflugsteuerung und sollte feindliche Drohnenpiloten orten. Besonders brisant ist, dass das geplante Bordmodell Ziele selbst auswählen und Detonationsbefehle auslösen sollte. Nach Angaben des Unternehmens wurde das System zwar auf echter Hardware getestet, befand sich aber noch in einer frühen Phase.
Der Fall macht sichtbar, wie generative KI von der Softwarehilfe zum Bestandteil militärischer Systeme werden kann. Anthropic beschreibt außerdem weitere Operationen in Russland, China und dem Jemen, darunter Spionage und Raketenentwicklung. Für Anbieter bedeutet das, dass Schutzmechanismen nicht nur klassische Cyberangriffe, sondern auch die schrittweise Entwicklung physischer Waffensysteme erkennen müssen.
Mecka AI nähert sich mit Robotikdaten einer Bewertung von 500 Millionen Dollar
Mecka AI steht laut TechCrunch kurz vor einer neuen Finanzierungsrunde mit einer Bewertung von ungefähr 500 Millionen US-Dollar. Das Start-up sammelt menschliche Bewegungsdaten, indem Menschen alltägliche Tätigkeiten mit Körpersensoren und Smartphones aufzeichnen. Diese Daten sollen Robotermodellen helfen, Handlungen in der physischen Welt besser zu verstehen und auszuführen. Erst drei Monate zuvor hatte Mecka eine Finanzierung über 60 Millionen Dollar bekanntgegeben.
Der Deal zeigt, dass sich der Wettbewerb bei künstlicher Intelligenz auf die Robotik ausweitet. Während Sprachmodelle mit riesigen Textmengen trainiert werden, fehlt Robotern vor allem hochwertiges Material aus der realen Welt. Genau diese Lücke wollen Unternehmen wie Mecka schließen. Die hohe Bewertung signalisiert, dass Investoren Bewegungsdaten als strategische Ressource für humanoide Roboter und allgemeinere physische KI betrachten.
OpenAI gerät wegen KI-generierter Mathematikbeweise mit Forschern aneinander
Ein offener Brief von 25 Fields-Medaillen-Trägern kritisiert, dass KI-Labore mathematische Durchbrüche möglichst schnell veröffentlichen und dabei wissenschaftliche Anerkennung gefährden. Im Mittelpunkt steht unter anderem der Vorwurf des NYU-Mathematikers Tristan Buckmaster, OpenAI habe ihn unter Druck gesetzt, einen mit Anthropic verbundenen Mitarbeiter nicht angemessen zu würdigen. OpenAI zog zudem seine Unterstützung für eine Mathematikveranstaltung am Caltech zurück, nachdem Forschende Kritik geäußert hatten.
Der Konflikt berührt eine Grundfrage wissenschaftlicher KI-Nutzung: Reicht es, wenn ein Modell einen Beweis erzeugt, oder müssen Herkunft, Mitarbeit und Prüfung genauso transparent sein wie bei menschlicher Forschung? Viele Mathematiker befürchten, dass der Wettbewerb um spektakuläre Ergebnisse die bisher offene Forschungskultur beschädigt. Ohne nachvollziehbare Beweise und klare Regeln für Urheberschaft könnten KI-Erfolge schwer in das wissenschaftliche Wissen eingeordnet werden.
Moonshot AI peilt zwei Milliarden Dollar Jahresumsatz an
Moonshot AI, das Unternehmen hinter dem chinesischen Modell Kimi, strebt laut TechCrunch bis zum Jahresende einen annualisierten Umsatz von zwei Milliarden US-Dollar an. Das wäre doppelt so viel wie der für August berichtete Umsatzlauf. Der Plan wird mit dem Erfolg des K3-Modells begründet, dessen Modelle laut verfügbaren Nutzungsdaten täglich mehrere hundert Milliarden Token erzeugen. Die Gewichte des Modells sind frei verfügbar, was Moonshot im Vergleich zu geschlossenen Anbietern geringere Margen beschert.
Das Umsatzziel ist deshalb bemerkenswert, weil es dem verbreiteten Geschäftsmodell der großen westlichen KI-Labore widerspricht. Moonshot versucht, ein offenes Modell wirtschaftlich zu skalieren, obwohl Nutzer es selbst betreiben und verändern können. Zugleich steht das Unternehmen wegen Vorwürfen einer groß angelegten Distillation-Kampagne unter Druck. Die Entwicklung zeigt, wie eng Modellstrategie, Kostenstruktur und geopolitischer Wettbewerb inzwischen zusammenhängen.