Die jüngsten KI-Nachrichten drehen sich um den Einsatz leistungsfähiger Modelle in sicherheitskritischen Bereichen: bei der Abwehr von Cyberangriffen, in der Wissenschaft und bei politischen Einflussoperationen. Gleichzeitig erweitert OpenAI ChatGPT um Angebote für Jugendliche und College-Bewerbungen.
Redaktionell zusammengefasst und mit den Originalquellen belegt.
Anthropic startet Cyber Mission für kritische Infrastruktur und Open Source
Anthropic startet eine langfristige Cyber Mission zur Unterstützung von Verteidigern. Im Mittelpunkt stehen zunächst zwei Bereiche: kritische Infrastruktur und Open-Source-Software. Für Stromnetze, Wasserversorgung, Verkehrssysteme und staatliche IT soll das Critical Infrastructure Defense Program moderne KI-Modelle, technische Fachleute vor Ort und Informationen über aktuelle Bedrohungen bereitstellen. Gleichzeitig bietet der neue OSS Scanner Open-Source-Projekten regelmäßige Sicherheitsprüfungen durch leistungsfähige Modelle kostenlos an.
Die Ankündigung zeigt, dass Anthropic KI nicht nur als Werkzeug für Angreifer, sondern zunehmend als defensive Infrastruktur positionieren will. Gerade frei verfügbare Software bildet die Grundlage unzähliger digitaler Dienste, wird aber häufig von kleinen Teams gepflegt. Automatisierte Prüfungen könnten dort bislang unentdeckte Schwachstellen schneller sichtbar machen. Entscheidend bleibt, ob die Vorschläge zuverlässig sind und verantwortungsvoll geprüft werden, bevor sie in produktive Systeme gelangen.
OpenAI legt russische und iranische KI-gestützte Einflussoperationen offen
OpenAI berichtet über zwei verdeckte Einflussoperationen, die ChatGPT mit klassischen Methoden der politischen Manipulation kombinierten. Eine russische Kampagne baute in Lateinamerika offenbar eine als Forschungszentrum getarnte Organisation auf, nutzte gefälschte Personen und verbreitete manipulierte Dokumente, Audios und Nachrichten. Eine iranische Operation arbeitete mit sieben erfundenen Journalistenprofilen, brachte laut OpenAI fast 100 Artikel oder Varianten davon in ungefähr ein Dutzend Medienangebote und ließ zusätzlich große Mengen an Kommentaren erzeugen.
Die Fälle zeigen, dass generative KI nicht zwingend vollständig autonome Propaganda produzieren muss, um politische Risiken zu erhöhen. Schon das Übersetzen, Überarbeiten und Anpassen von Texten an regionale Sprachstile kann verdeckte Kampagnen schneller und glaubwürdiger machen. Für Redaktionen, Plattformen und Behörden wird dadurch wichtiger, Absender, Finanzierung und Entstehungsgeschichte von Inhalten unabhängig zu prüfen.
Anthropic investiert 150 Millionen Dollar in die US-amerikanische Genesis Mission
Anthropic kündigt eine Investition von 150 Millionen Dollar über drei Jahre in die Genesis Mission der US-Regierung an. Die Initiative soll künstliche Intelligenz für wissenschaftliche und technologische Entdeckungen einsetzen. Nach Angaben des Unternehmens wird Claude für mehr als 15 beteiligte Behörden zugänglich, darunter NASA, National Institutes of Health und National Science Foundation. Mehrere hundert Forschungsprojekte sollen außerdem Claude Code und Guthaben für die Programmierschnittstelle erhalten. Geplant sind zusätzlich Schulungen, technische Unterstützung und Kooperationen mit nationalen Laboren.
Die Meldung verdeutlicht, wie stark KI-Anbieter inzwischen direkt in staatliche Forschungsstrukturen eingebunden werden. Besonders relevant ist der Fokus auf Bereiche wie Fusionsenergie und Quanteninformatik, in denen komplexe Simulationen, Literaturauswertung und Programmierung viel Zeit benötigen. Gleichzeitig steigen die Anforderungen an Nachvollziehbarkeit und wissenschaftliche Kontrolle: KI kann Hypothesen schneller erzeugen, ersetzt aber weder Experimente noch die fachliche Prüfung durch Forschende.
Anthropic aktualisiert seine Nutzungsregeln für Claude
Anthropic hat eine neue Fassung seiner Nutzungsregeln veröffentlicht, die am 12. November in Kraft treten soll. Das Unternehmen fasst Verbote für verdeckte Kampagnen und künstliche Aktivität künftig in einem eigenen Abschnitt zusammen. Gemeint sind unter anderem der Aufbau gefälschter Konten, das Verschleiern von Auftraggebern und das künstliche Verstärken von Beiträgen. Außerdem präzisiert Anthropic die Anforderungen für Hochrisikobereiche wie Gesundheit und Finanzen sowie für Systeme, die über Claude eigenständig physische Aktionen auslösen können.
Die Aktualisierung ist ein Zeichen dafür, dass sich Sicherheitsregeln zunehmend an konkreten Einsatzmustern orientieren. Modelle werden nicht mehr nur zum Schreiben und Zusammenfassen verwendet, sondern können mit Software, Geräten und realen Abläufen verbunden sein. Anthropic verlangt deshalb unter anderem menschliche Beobachtung und eine sichere Reaktion, falls die Verbindung zum Modell abbricht. Offen bleibt, wie einheitlich solche Regeln branchenweit durchgesetzt und kontrolliert werden.
OpenAI erweitert ChatGPT für Jugendliche um College Planner und Lernwerkzeuge
OpenAI erweitert ChatGPT für Jugendliche um College Planner, Lernkarten und interaktive Quizze. College Planner soll zunächst US-Schülerinnen und -Schüler der Klassenstufen 10 bis 12 bei Bewerbungen an vierjährigen Hochschulen unterstützen. Das Werkzeug bündelt Anforderungen, Fristen, Aufgaben und Schritte zur Studienfinanzierung in einem persönlichen Plan. Zusätzlich kündigt OpenAI einen Jugendbeirat mit rund 22 Schülerinnen und Schülern sowie neue Möglichkeiten an, Notizen in Lernmaterialien umzuwandeln.
Damit rückt ChatGPT stärker in einen Bereich vor, in dem junge Menschen Entscheidungen mit langfristigen Folgen treffen. Ein digitaler Assistent kann Fristen und komplizierte Formulare übersichtlicher machen und Unterstützung unabhängiger vom Einkommen der Familie anbieten. Gleichzeitig müssen Jugendliche erkennen können, welche Informationen verlässlich sind und wo menschliche Beratung nötig bleibt. OpenAI plant die Erweiterung zunächst für die USA und will später weitere Länder, Hochschultypen und Bildungswege abdecken.