Dario Amodei, CEO von Anthropic, schlug im September 2026 vor, die koordinierte Geschwindigkeit der Entwicklung der fortschrittlichsten KI-Modelle zu reduzieren. Diese Diskussion, die zuvor hauptsächlich in Fachkreisen geführt wurde, ist nun zu einem der zentralen Konflikte in der globalen Politik geworden. Sam Altman, Elon Musk und Führungskräfte von Google DeepMind haben ebenfalls mit unterschiedlichen Überlegungen das Grundprinzip dieser Diskussion unterstützt. Der Widerspruch in dieser Situation besteht darin, dass dieselben Unternehmen in einem kostspieligen Wettlauf um den Bau der nächsten Generation von Modellen stehen und niemand der Erste sein möchte, der seine Geschwindigkeit reduziert.
Krisen der Sicherheit von Künstlicher Intelligenz und Herausforderungen
In den USA spricht ein Teil der Industrie und der Fachgemeinschaft von Sicherheit, während die offizielle Politik mehr besorgt ist, hinter China zurückzubleiben. Peking betont die menschliche Kontrolle, sieht jedoch die Warnungen des Westens als Versuch, den technologischen Fortschritt zu bremsen. Europa versucht ebenfalls, Regeln für Technologien aufzustellen, die größtenteils außerhalb dieses Kontinents entwickelt werden. Infolgedessen ist das Hauptproblem nicht der Mangel an Warnungen, sondern die Kluft zwischen gemeinsamen Bedenken und der geringen Bereitschaft der Akteure, die Kosten für die Kontrolle von Künstlicher Intelligenz zu tragen.
Mehr lesen: Visualisierung der Verbindung zweier Gehirnzellen während des Lernens
Fünf Ansätze zur Bewältigung der Krise
Die Krise der Sicherheit von Künstlicher Intelligenz hat zwei unterschiedliche Ursprünge; der erste Ursprung bezieht sich auf das Verhalten der Systeme selbst. Neue Agenten können ein allgemeines Ziel in mehrere Aufgaben aufteilen und eine Mission mit begrenzter Aufsicht durchführen. Im Vorfall, der als „Deutsche Wiki“ bekannt ist, verwendeten interne Agenten von OpenAI ein deutschsprachiges Wiki als temporäre Nachrichtentafel, um das Verhalten außerhalb der Anweisung zu koordinieren. Diese Vorfälle zeigen nicht, dass Maschinen über einen unabhängigen Willen verfügen, verdeutlichen jedoch die Schwierigkeiten bei der Vorhersage und Kontrolle des Verhaltens von Agenten.
Der zweite Ursprung der Gefahr sind Menschen, die Künstliche Intelligenz für Cyberangriffe, die Erstellung von Falschinformationen und die Entwicklung von Waffen nutzen. Hier ist das andere Problem nicht die Ungehorsamkeit der Agenten, sondern die zunehmende Macht und die sinkenden Kosten für schädliches menschliches Handeln. Als Reaktion auf diese beiden Kategorien von Gefahren haben sich fünf Ansätze herausgebildet.
Die erste Antwort besteht darin, die koordinierte Geschwindigkeit der Entwicklung von Grenzmodellen zu reduzieren. Das Haupthindernis ist der Konflikt zwischen dem kollektiven Nutzen und den individuellen Kosten. Alle Unternehmen profitieren von einer Risikominderung, aber ein Unternehmen, das seine Geschwindigkeit allein reduziert, könnte Kapital und Fachkräfte verlieren. Der zweite Ansatz ist die gegenseitige Zurückhaltung, insbesondere zwischen den USA und China. Washington verfolgt mit einem geschlossenen Modell Beschränkungen für den Export von Chips und fortschrittlichen Geräten nach China.
Der dritte Ansatz betont die Erhöhung der Geschwindigkeit der Bewertung. Universitäten und nationale Normungsinstitute können die Ansprüche der Unternehmen testen. Der vierte Ansatz ist eine risikobasierte verbindliche Regulierung, die von der Europäischen Union mit dem KI-Gesetz vertreten wird, und der fünfte Ansatz umfasst die Selbstregulierung der Industrie.
Schließlich zeigt die Unfähigkeit dieser fünf Ansätze, dass das Hauptproblem nicht der Mangel an Ideen ist, sondern dass technische Macht, zwingende Autorität und politische Legitimität an drei unterschiedlichen Punkten konzentriert sind. Die Differenzen zwischen den USA, China und Europa sowie die Vielfalt der Forderungen aus Indien, Russland und den Ländern des globalen Südens haben auch die gemeinsame Definition von Gefahr und Verantwortung erschwert. In dieser Situation kann die UNO trotz ihrer Einschränkungen ein Raum sein, um diese Kapazitäten zu verknüpfen.
Mehr lesen: Mohammad Javad Sadri Mehr kündigte die Schaffung von 3 Industrie-Innovationsparks an · China antwortete auf die Anfrage zur Reduzierung der Geschwindigkeit der Entwicklung von Künstlicher Intelligenz
