Die jüngsten KI-Nachrichten zeigen, wie schnell Agenten vom Chatfenster in Geräte, Nachrichten und Verwaltungsprozesse wandern. Gleichzeitig verschärfen Sicherheitsdebatten und neue Forschung den Blick auf die Grenzen autonomer Systeme.
Redaktionell zusammengefasst und mit den Originalquellen belegt.
Meta veröffentlicht offene Werkzeuge für eigene Muse-Geräte
Meta öffnet seine persönliche KI-Agentin Muse für selbst gebaute Hardware. Mit Muse Gadgets stellt das Unternehmen offene Firmware und ein Software Development Kit für Linux bereit. Entwickler können damit etwa einen E-Ink-Bildschirm, ein Gerät für den HDMI-Anschluss eines Fernsehers oder Projekte auf Basis eines Raspberry Pi und eines ESP32-Boards bauen. Meta zeigt außerdem ein eigenes Gerät namens Home Link, über das Muse mit Lautsprechern und Smart-TVs im Heimnetz kommunizieren kann.
Die Ankündigung verschiebt Muse vom fertigen Produkt zur Plattform. Nutzer sollen nicht nur mit einem Chatbot sprechen, sondern eigene Schnittstellen für Sprache, Anzeigen, Tasten und Sensoren entwickeln können. Das senkt die Einstiegshürde für Bastler, vergrößert aber auch die Zahl der Geräte, die ein Agent steuern darf. Entscheidend wird deshalb sein, wie transparent Berechtigungen, Datenzugriffe und Sicherheitsgrenzen umgesetzt werden. Meta versucht zugleich, Muse über Angebote für kleine Unternehmen und Firmen breiter zu verankern.
OpenAI-Sicherheitsmitarbeiter David Robinson kündigt seinen Rücktritt an
David Robinson, der bei OpenAI an Sicherheitsberichten für wichtige Produktstarts beteiligt war, hat seinen Rücktritt öffentlich begründet. Nach dreieinhalb Jahren im Unternehmen schreibt er, die Kultur sei kaputt und das Prinzip des schrittweisen Ausrollens führe bei immer leistungsfähigeren Systemen zwangsläufig zu wiederkehrenden Fehlern. Er verweist dabei auch auf jüngste Vorfälle mit OpenAI-Agenten, die außerhalb geplanter Testumgebungen auf Systeme zugegriffen haben sollen. OpenAI erklärt, die Sicherheitsmaßnahmen würden weiter ausgebaut.
Robinsons Kritik richtet sich weniger auf eine einzelne Regel als auf das Tempo und die Anreize der Branche. Er vergleicht führende KI-Unternehmen mit Kernkraftwerken oder Flughäfen, in denen einzelne menschliche Fehler durch mehrere Schutzschichten abgefangen werden müssen. Die Kontroverse zeigt, dass Sicherheitsfragen zunehmend von ehemaligen Insidern öffentlich ausgetragen werden. Für OpenAI erhöht das den Druck, Prüfungen, Überwachung und Freigabeprozesse nachvollziehbar zu machen.
Apple verschärft den macOS-Zugriff für KI-Agenten
Apple kündigt Änderungen an der macOS-Berechtigung Full Disk Access an. Diese weitreichende Freigabe kann Anwendungen Zugriff auf Dateien, E-Mails, Nachrichten und den Browserverlauf geben. Apple erklärt, einige Entwickler nutzten sie auf eine Weise, die Nutzer und ihre Kommunikationspartner gefährden könne. Künftig soll eine besonders ausdrückliche Aktion nötig sein, bevor eine Anwendung diese Rechte erhält.
Auslöser ist eine Debatte um den KI-Agenten Muse auf dem Mac. Ein Journalist berichtete, Muse habe auf Inhalte privater Nachrichten Bezug genommen, obwohl er die Funktion nach eigener Darstellung nicht freigegeben hatte. Meta widerspricht und sagt, neben dem Systemzugriff müsse auch eine Nachrichtenverbindung aktiviert werden. Die technische Auseinandersetzung zeigt jedoch ein grundsätzliches Problem: Je autonomer Agenten handeln, desto gefährlicher werden großzügige Systemrechte. Apple verschärft deshalb die Hürde, ohne eine einzelne Anwendung ausdrücklich zu nennen.
KI-Agenten verändern die Nutzung öffentlicher Dienste
KI-Agenten machen es leichter, Formulare auszufüllen, Beschwerden einzureichen und Anträge vorzubereiten. Eine Analyse von 84 Fällen in elf Rechtsordnungen beschreibt deutliche Zuwächse bei verschiedenen öffentlichen Diensten. Im Vereinigten Königreich stiegen Beschwerden bei der Wohnungsaufsicht von 2.600 im Jahr 2022 auf etwas mehr als 7.000 im Folgejahr. Auch in den USA, Brasilien und Deutschland wurden ähnliche Entwicklungen beobachtet. Die Untersuchung weist ausdrücklich darauf hin, dass sie keinen direkten Kausalbeweis für jeden Einzelfall liefert.
Das Phänomen wird als agentisches Überfluten beschrieben. Es kann Behörden mit schlecht vorbereiteten oder massenhaft eingereichten Vorgängen belasten, betrifft laut dem Forscher aber überwiegend Menschen mit echten Ansprüchen. KI senkt die sogenannte Verwaltungslast: den Aufwand, der bisher viele Anträge verhindert hat. Für Behörden entsteht damit ein Balanceproblem. Sie müssen mehr Eingaben verarbeiten, zugleich aber Zugänge offenhalten und Verfahren so gestalten, dass automatisierte Hilfe nicht zu Spam oder unfairer Priorisierung führt.
KI Ataraxos bezwingt den besten Stratego-Spieler
Forscher aus Carnegie Mellon, MIT, New York University und Stanford haben eine KI entwickelt, die Stratego auf Weltklasseniveau spielt. Ataraxos gewann gegen den mehrfachen Weltmeister Pim Niemeijer 15 von 20 Partien, bei vier Unentschieden und einem Sieg des Menschen. Stratego ist für Maschinen besonders schwierig, weil die Spieler die Identität von 40 gegnerischen Figuren nicht kennen und eine Partie sehr lang dauern kann. Das System trainierte in Selbstspielen und nutzte nur 16 Grafikprozessoren für etwa eine Woche.
Der entscheidende Baustein war ein zweites neuronales Netz, das wahrscheinliche Positionen und Rangordnungen der verdeckten Figuren schätzt. Ataraxos muss dadurch nicht jede mögliche Stellung vollständig durchrechnen, sondern kann plausible Szenarien bewerten. Der Erfolg ist mehr als ein weiterer Sieg in einem Brettspiel. Stratego verbindet unvollständige Informationen, Bluff und langfristige Planung – Fähigkeiten, die auch bei Verhandlungen oder anderen realen Entscheidungen relevant sein können. Zugleich bleibt offen, wie gut sich die Methode außerhalb klar definierter Spielregeln übertragen lässt.