Es ist eine ungewöhnliche Konstellation: Einige der Unternehmen, deren Technologie reguliert werden soll, fordern selbst verbindliche Regeln. OpenAI spricht sich für verpflichtende nationale Sicherheitsanforderungen aus, Anthropic für eine mit dem Risiko zunehmende staatliche Aufsicht. Auch andere große KI-Anbieter unterstützen Standards, Prüfverfahren oder eine Zusammenarbeit mit Regierungen. 1) 2)
Dafür gibt es nachvollziehbare Gründe. Leistungsfähige KI-Systeme können missbraucht werden, falsche Informationen erzeugen und in sensiblen Bereichen erhebliche Schäden verursachen. Gleichzeitig lohnt sich eine zweite Frage: Was passiert mit dem Wettbewerb, wenn ausgerechnet die größten Anbieter eine Branche mitgestalten, in der künftig umfangreiche Prüf-, Dokumentations- und Zulassungspflichten gelten?
Beides kann gleichzeitig wahr sein. KI kann reale Risiken verursachen – und ihre Regulierung kann Unternehmen schützen, die sich Regulierung am leichtesten leisten können.
Die Risiken sind nicht erfunden
Eine kritische Betrachtung von KI-Regulierung sollte nicht damit beginnen, die zugrunde liegenden Gefahren kleinzureden. Ein Teil davon ist längst praktisch sichtbar.
Generative KI kann falsche Informationen überzeugend formulieren. Systeme lassen sich für glaubwürdigere Phishing-Nachrichten und andere missbräuchliche Anwendungen einsetzen. Bei automatisierten Systemen können Fehler noch unmittelbarere Folgen haben. 2018 wurde im amerikanischen Tempe eine Fußgängerin von einem Uber-Testfahrzeug mit automatisiertem Fahrsystem tödlich verletzt. Die amerikanische Unfalluntersuchungsbehörde NTSB stellte dabei neben dem Fehlverhalten der Sicherheitsfahrerin erhebliche Mängel bei Sicherheitsmanagement und Überwachung des Testprogramms fest. 3)
Daneben existieren Risiken, deren Umfang weniger klar ist: automatisierte Cyberangriffe, diskriminierende Entscheidungen oder der Missbrauch besonders leistungsfähiger Modelle. Noch weiter davon entfernt liegen Szenarien einer Superintelligenz, die sich menschlicher Kontrolle entziehen könnte. Solche Möglichkeiten sind nicht mit bereits beobachteten Schäden gleichzusetzen.
Gerade deshalb ist die Unterscheidung wichtig. Eine Regulierung, die auf einen konkret nachweisbaren Schaden reagiert, lässt sich anders beurteilen als ein Regelwerk, das auf schwer quantifizierbaren zukünftigen Gefahren beruht.
Wenn die Regulierten nach Regulierung rufen
OpenAI gehört inzwischen selbst zu den Befürwortern verbindlicher Regeln. Im September 2026 forderte das Unternehmen verpflichtende, an den Fähigkeiten von KI-Systemen orientierte nationale Sicherheitsanforderungen und unabhängige Sicherheitsbewertungen. Dabei richtet sich die Diskussion vor allem auf besonders leistungsfähige sogenannte Frontier-Modelle. 1)
Auch Anthropic vertritt einen abgestuften Ansatz: Je größer Fähigkeiten und Risiken eines Systems werden, desto umfangreicher sollen Transparenz, externe Tests, Meldepflichten und staatliche Aufsicht werden. 2)
Das ist zunächst kein Beweis für eigennützige Motive. Ein Unternehmen kann tatsächlich davon überzeugt sein, dass seine eigene Technologie erhebliche Risiken birgt. Gerade Entwickler leistungsfähiger Systeme könnten Gefahren früher erkennen als Außenstehende.
Ökonomisch entscheidend ist jedoch nicht nur die Absicht eines Unternehmens. Entscheidend ist auch, welche Wirkung die daraus entstehenden Regeln haben.
Warum dieselbe Vorschrift nicht für jeden gleich teuer ist
Angenommen, ein KI-Unternehmen muss regelmäßig Sicherheitsberichte erstellen, externe Audits finanzieren, umfangreiche technische Dokumentationen führen und eine spezialisierte Rechts- und Compliance-Abteilung beschäftigen.
Formal gilt diese Vorschrift für alle.
Ökonomisch wirkt sie trotzdem unterschiedlich.
Für einen Konzern mit Milliardenumsatz können mehrere zusätzliche Spezialisten und Prüfverfahren ein überschaubarer Kostenblock sein. Für ein junges Unternehmen können dieselben fixen Kosten darüber entscheiden, ob ein Produkt überhaupt auf den Markt gebracht wird.
Dieses Problem ist aus anderen regulierten Branchen bekannt. Kosten, die nicht proportional zur Unternehmensgröße steigen, treffen kleine Unternehmen relativ stärker. Untersuchungen zu Regulierungsregimen außerhalb der KI zeigen entsprechend, dass fixe Compliance-Kosten den Markteintritt beeinflussen können. Auch Analysen der KI-Regulierung warnen davor, dass aufwendige Vorschriften etablierte Anbieter gegenüber Start-ups und kleineren Entwicklern begünstigen können. 4)
Damit entsteht ein paradoxer Effekt: Eine Vorschrift kann ausdrücklich zum Schutz der Öffentlichkeit eingeführt werden und gleichzeitig die Marktmacht jener Unternehmen stärken, die bereits dominieren.
Dafür muss niemand heimlich eine Verschwörung organisieren.
Regulatory Capture: Wenn Regeln den Etablierten helfen
In der Ökonomie und Politikwissenschaft wird dieses Problem häufig unter dem Begriff „Regulatory Capture“ diskutiert. Gemeint ist vereinfacht, dass Regulierung zunehmend von den Interessen jener Gruppen beeinflusst werden kann, die eigentlich reguliert werden sollen.
Eine verwandte Erklärung entwickelte der Ökonom Bruce Yandle bereits 1983 mit seinem Modell der „Bootleggers and Baptists“. 5)
Der Name stammt aus der amerikanischen Alkoholpolitik. Religiöse Gruppen unterstützten Verbote des Alkoholverkaufs am Sonntag aus moralischer Überzeugung. Illegale Alkoholhändler profitierten ebenfalls davon, weil die Konkurrenz legaler Anbieter an diesem Tag ausgeschaltet wurde.
Beide Gruppen wollten dieselbe Regel – aus völlig unterschiedlichen Gründen.
Auf KI übertragen könnte das ähnlich funktionieren. Sicherheitsexperten, Bürger oder Politiker können strengere Regeln fordern, weil sie reale Gefahren reduzieren möchten. Ein großer KI-Konzern kann dieselbe Regel unterstützen, weil er Sicherheitsbedenken teilt. Gleichzeitig kann das Unternehmen wirtschaftlich davon profitieren, wenn neue Konkurrenten künftig hohe regulatorische Hürden überwinden müssen.
Das Modell behauptet nicht, dass das Sicherheitsargument erfunden sein muss. Im Gegenteil: Gerade das Zusammentreffen eines überzeugenden öffentlichen Anliegens mit wirtschaftlichen Interessen kann Regulierung politisch besonders stabil machen.
Der AI Act zeigt, wie unterschiedlich Regulierung wirken kann
Die Europäische Union hat mit dem AI Act einen verbindlichen, risikobasierten Rechtsrahmen geschaffen. Bestimmte Anwendungen werden verboten, andere als Hochrisiko-Systeme eingestuft und mit besonderen Anforderungen versehen. Dazu gehören unter anderem Vorgaben zu Dokumentation, Risikomanagement, Transparenz und Konformitätsbewertung. 6)
Dabei versucht der Gesetzgeber ausdrücklich, nicht jedes KI-System identisch zu behandeln. Auch für Open-Source-Modelle bestehen teilweise Erleichterungen. Diese gelten jedoch nicht uneingeschränkt. Allgemeine KI-Modelle mit systemischem Risiko unterliegen beispielsweise auch dann umfangreichen Pflichten, wenn sie offen veröffentlicht werden. 7)
Das ist ein wichtiger Unterschied. Die Frage lautet nicht einfach „Regulierung oder keine Regulierung“. Entscheidend ist, wo Schwellen gezogen werden, welche Kosten dadurch entstehen und wer diese Kosten tragen kann.
Gerade bei Open-Source-Projekten entsteht ein strukturelles Problem. Ein Entwickler kann technisch in der Lage sein, ein leistungsfähiges Modell bereitzustellen, ohne gleichzeitig über eine Rechtsabteilung, Compliance-Spezialisten oder erhebliche finanzielle Reserven zu verfügen.
Wenn Marktzugang zunehmend von solchen Ressourcen abhängt, verändert Regulierung nicht nur die Sicherheit von Produkten. Sie verändert auch die Struktur des Marktes.
Die USA verfolgen bislang einen anderen Weg
In den Vereinigten Staaten ist das Bild weniger einheitlich. Neben Regeln einzelner Bundesstaaten spielen freiwillige Standards und Richtlinien weiterhin eine bedeutende Rolle. Das National Institute of Standards and Technology entwickelte beispielsweise das AI Risk Management Framework ausdrücklich als freiwilliges Instrument für Unternehmen und andere Organisationen. 8)
Auch die politische Richtung hat sich mehrfach verändert. Die Biden-Regierung setzte 2023 stärker auf bundesstaatliche Sicherheitsanforderungen. Präsident Donald Trump hob zentrale Teile dieses Ansatzes Anfang 2025 wieder auf und begründete dies ausdrücklich mit dem Ziel, regulatorische Hindernisse für amerikanische KI-Innovation zu beseitigen. 9)
Damit stehen zwei unterschiedliche Vorstellungen gegenüber: Risiken stärker durch verbindliche Vorgaben vorab kontrollieren – oder Innovation zunächst zulassen und Regulierung zurückhaltender einsetzen.
Welche Variante langfristig bessere Ergebnisse liefert, lässt sich derzeit nicht seriös abschließend beantworten. Die Technologie entwickelt sich schneller, als belastbare Langzeitdaten über die Folgen verschiedener Regulierungsmodelle entstehen können.
Die Eisenbahnen liefern eine Warnung – aber keinen Beweis
Der Autor Connor O’Keeffe zieht für die heutige KI-Debatte einen historischen Vergleich zur amerikanischen Eisenbahnregulierung. Seine These: Auch damals unterstützten große Unternehmen teilweise staatliche Regulierung, weil Regeln Wettbewerb begrenzen und Preise stabilisieren konnten. 10)
Der Vergleich hat einen realen ökonomischen Kern. Unternehmen können Regulierung tatsächlich als Schutz gegen Konkurrenz betrachten.
Die Geschichte ist allerdings komplizierter. Eisenbahnregulierung entstand nicht allein auf Wunsch der Bahngesellschaften. Bauern, Händler und andere Gruppen verlangten ebenfalls staatliches Eingreifen, unter anderem weil sie sich gegen diskriminierende Tarife und die Marktmacht der Eisenbahngesellschaften wehren wollten.
Die historische Erfahrung beweist daher nicht, dass heutige KI-Unternehmen Regulierung verlangen, um Konkurrenten auszuschalten. Sie zeigt etwas anderes: Regulierung kann gleichzeitig von Verbrauchern, Politikern und etablierten Unternehmen unterstützt werden – und dabei Wirkungen entfalten, die über ihre offizielle Begründung hinausgehen.
Das stärkste Argument für Regulierung
Eine faire Prüfung muss auch die Gegenposition ernst nehmen.
KI-Systeme können Schäden verursachen, deren Folgen nicht ausschließlich beim Anbieter oder Nutzer bleiben. Wer durch eine fehlerhafte automatisierte Entscheidung, einen Cyberangriff oder ein gefährliches autonomes System geschädigt wird, hat dem ursprünglichen Risiko möglicherweise nie zugestimmt.
Zudem können klare Regeln Vertrauen schaffen. Unternehmen wissen dann, welche Anforderungen gelten, Kunden können sich auf bestimmte Mindeststandards verlassen und Sicherheitsprüfungen können verhindern, dass gefährliche Systeme erst nach einem Schaden auffallen.
Regulierung muss deshalb nicht zwangsläufig Innovation verhindern. Sie kann unter bestimmten Bedingungen Rechtssicherheit schaffen und Marktzugang sogar erleichtern.
Das Problem beginnt dort, wo die Sicherheitswirkung einer Vorschrift gering, ihre Markteintrittswirkung aber erheblich ist.
Gibt es Alternativen zu immer neuen Zulassungspflichten?
Zwischen völliger Regellosigkeit und einem umfassenden Zulassungssystem liegen zahlreiche Möglichkeiten.
Eine davon ist Haftung. Wer durch ein fehlerhaftes oder fahrlässig betriebenes KI-System einen nachweisbaren Schaden verursacht, könnte dafür verantwortlich gemacht werden. Versicherungen könnten Risiken bewerten und über ihre Prämien wirtschaftliche Anreize für bessere Sicherheitsmaßnahmen setzen.
Eine weitere Möglichkeit sind technische Standards und unabhängige Audits. Das freiwillige NIST-Risikomanagementmodell zeigt, dass Sicherheitsverfahren auch ohne ein vollständiges staatliches Zulassungsregime entwickelt werden können. 8)
Hinzu kommen Transparenzanforderungen, offene Prüfverfahren und Wettbewerb. Gerade offene Modelle können Fehler sichtbar machen, weil Forscher und Entwickler Systeme unabhängig untersuchen können. Gleichzeitig löst Offenheit nicht jedes Problem: Leistungsfähige Modelle können auch für schädliche Zwecke verwendet werden.
Es gibt deshalb keinen offensichtlichen Mechanismus, der jedes Risiko beseitigt. Die entscheidende Frage lautet vielmehr, welcher Mechanismus ein konkretes Problem mit den geringsten unerwünschten Nebenwirkungen löst.
Die entscheidende Frage ist nicht, was die Konzerne behaupten
Ob Sam Altman, Dario Amodei oder andere Führungskräfte bei ihren Forderungen vor allem an Sicherheit, gesellschaftliche Verantwortung oder die eigene Marktposition denken, lässt sich von außen kaum zuverlässig feststellen.
Für die Bewertung der Regulierung ist das auch nicht zwingend notwendig.
Interessanter ist ihre Wirkung.
Werden Anforderungen tatsächlich an ein nachweisbares Risiko gekoppelt? Können kleine Anbieter sie ohne unverhältnismäßige Kosten erfüllen? Bleibt Open Source möglich? Können neue Unternehmen mit besseren Ideen etablierte Anbieter herausfordern? Und lässt sich ein Sicherheitsziel auch durch Haftung, Versicherung, freiwillige Standards oder andere dezentrale Verfahren erreichen?
Eine gute KI-Regulierung müsste sich an diesen Fragen messen lassen.
Denn die gefährlichste Annahme wäre, zwischen nur zwei Möglichkeiten wählen zu müssen: entweder unkontrollierte KI oder umfassende staatliche Kontrolle.
Die tatsächliche Herausforderung ist schwieriger. Es geht darum, reale Risiken zu begrenzen, ohne gleichzeitig jene Konkurrenz auszuschalten, von der technischer Fortschritt, Kontrolle und letztlich auch Sicherheit abhängen können.
Vielleicht ist KI-Regulierung deshalb weder einfach Schutz vor Gefahren noch einfach Schutz vor Konkurrenz.
Sie kann beides sein.
Glossar
AI Act
EU-Verordnung zur Regulierung künstlicher Intelligenz. Sie unterscheidet verschiedene Risikoklassen und legt je nach Einsatzgebiet unterschiedliche Pflichten für Anbieter und Betreiber fest.
Compliance
Einhaltung gesetzlicher, regulatorischer und interner Vorgaben. Dazu können bei KI beispielsweise Dokumentationspflichten, Sicherheitsprüfungen oder externe Audits gehören.
Frontier-Modell
Bezeichnung für besonders leistungsfähige KI-Modelle, die sich nahe an der jeweils aktuellen technischen Leistungsgrenze befinden. Der Begriff ist nicht in jedem Zusammenhang exakt gleich definiert.
Generative KI
KI-Systeme, die neue Inhalte wie Texte, Bilder, Audio oder Programmcode erzeugen können.
Open Source
Software oder KI-Modelle, deren Quellcode beziehungsweise wesentliche Bestandteile öffentlich zugänglich sind und – abhängig von der jeweiligen Lizenz – untersucht, verändert oder weiterverwendet werden dürfen.
Regulatory Capture
Situation, in der Regulierung zunehmend von den Interessen jener Unternehmen oder Gruppen beeinflusst wird, die eigentlich reguliert werden sollen. Das muss keine direkte Korruption voraussetzen.
Bootleggers and Baptists
Ökonomisches Erklärungsmodell von Bruce Yandle. Es beschreibt, wie Gruppen mit moralischen Motiven und Gruppen mit wirtschaftlichem Eigeninteresse dieselbe Regulierung unterstützen können – obwohl ihre Beweggründe völlig unterschiedlich sind.
Konformitätsbewertung
Verfahren, mit dem geprüft wird, ob ein Produkt oder System die vorgeschriebenen gesetzlichen und technischen Anforderungen erfüllt.
NIST AI Risk Management Framework
Freiwilliger Rahmen des amerikanischen National Institute of Standards and Technology zur systematischen Erkennung und Behandlung von Risiken künstlicher Intelligenz.
Quellen und Anmerkungen
- OpenAI, Chris Lehane: „The AI policy window is open. We need to act“, September 2026. OpenAI fordert darin verpflichtende, fähigkeitsbezogene nationale Sicherheitsanforderungen und weitere Sicherheitsstandards. (OpenAI)
- Anthropic: Frontier Safety Roadmap Updates / Responsible Scaling Policy, Stand 2026. Anthropic beschreibt einen abgestuften Regulierungsansatz mit zunehmenden Anforderungen bei steigenden Fähigkeiten und Risiken. (Anthropic)
- National Transportation Safety Board: Untersuchung des tödlichen Unfalls eines Uber-Testfahrzeugs in Tempe, Arizona, 2018; Abschlussuntersuchung 2019. (NTSB)
- Joshua Levine: Opportunity Costs of State and Local AI Regulation, Cato Institute, Policy Analysis No. 997, Juni 2025. Analyse möglicher Innovations- und Markteintrittskosten von KI-Regulierung. (Cato Institute)
- Bruce Yandle: Bootleggers and Baptists: The Education of a Regulatory Economist, Regulation, 1983. Grundmodell zum Zusammenwirken moralischer und wirtschaftlicher Interessen bei Regulierung. (Cato Institute)
- Europäische Union: Verordnung (EU) 2024/1689 über künstliche Intelligenz – AI Act. Vorschriften zu verbotenen Praktiken, Hochrisiko-Systemen und Transparenz. (EUR-Lex)
- Europäische Kommission, AI Act Service Desk: Regelungen für als Open Source veröffentlichte allgemeine KI-Modelle; eingeschränkte Ausnahmen, keine entsprechende Freistellung für Modelle mit systemischem Risiko. (AI Act Service Desk)
- National Institute of Standards and Technology: Artificial Intelligence Risk Management Framework (AI RMF 1.0), Januar 2023. Freiwilliger, nicht sektorspezifischer Rahmen zum Management von KI-Risiken. (NIST)
- The White House: Removing Barriers to American Leadership in Artificial Intelligence, Executive Order vom 23. Januar 2025; Aufhebung zentraler Vorgaben der vorherigen Biden-Regierung mit dem erklärten Ziel, regulatorische Hindernisse für KI-Innovation abzubauen. (The White House)
- Connor O’Keeffe, Ludwig von Mises Institute: Analyse der Forderungen großer KI-Unternehmen nach Regulierung und historischer Vergleich mit der amerikanischen Eisenbahnregulierung; ergänzend Mises Institute, Regulating the Railroads.
Recherchegrundlage des Artikels: