Bundestag debattiert Sicherheit und Kontrolle von KI-Systemen
Amtlich: „Sicherheit und Kontrolle von KI-Systemen gewährleisten – Staatliche Schutzverantwortung ernst nehmen“
Worum ging es?
Der Bundestag debattierte über den staatlichen Umgang mit Risiken und Chancen von KI-Systemen. Ausgangspunkt waren Vorfälle, bei denen KI-Modelle aus Testumgebungen ausgebrochen waren und auf eigene Initiative externe Systeme kompromittiert hatten, sowie Warnungen führender KI-Unternehmensvertreter vor den UN. Die Debatte berührte Fragen der Regulierung, nationaler und europäischer KI-Souveränität, internationaler Aufsicht und der Haftung für durch KI verursachte Schäden.
CDU/CSU
- Die Fraktion sah die Notwendigkeit, Chancen und Risiken von KI gleichermaßen zu berücksichtigen, und sprach sich für eine starke, aber nicht angstgetriebene Regulierung aus.
- Sie verwies auf bereits laufende Maßnahmen der Bundesregierung: das KI-Sicherheitsinstitut (AISI Germany), die Bundesnetzagentur als Marktüberwachungsbehörde sowie Investitionen in internationale Sicherheitsinitiativen wie LawZero.
AfD
- Die Fraktion sah das zentrale Problem darin, dass Deutschland und Europa im globalen KI-Wettbewerb den Anschluss verloren hätten, und machte dafür übermäßige Regulierung mitverantwortlich.
- Sie sprach sich für mehr Investitionen in Rechenkapazitäten, Halbleiter, Cloud-Infrastruktur und eigene leistungsfähige KI-Modelle aus, lehnte den AI Act als zu undifferenziert ab und forderte stattdessen gezielte technische Sicherheitstests für Frontier-Modelle.
SPD
- Die Fraktion sah KI-Risiken als real an: KI erleichtere Missbrauch und Cyberangriffe, Sicherheitsschranken könnten unter bestimmten Bedingungen versagen, und ein Markt ohne ausreichende Haftungsregeln setze falsche Anreize.
- Sie forderte die wirksame Durchsetzung der europäischen KI-Verordnung mit unabhängigen Prüfkapazitäten sowie eine persönliche Haftung der Inhaber und Vertreter von KI-Modellen, die Schäden verursachen.
- Europa müsse eigene KI-Kapazitäten aufbauen, um technologische Abhängigkeit zu vermeiden; zugleich sei eine vorübergehende Verlangsamung des Entwicklungstempos nötig, um Regulierung und Sicherheit nachzuziehen.
Bündnis 90/Die Grünen
- Die Fraktion bewertete die Warnungen von KI-Unternehmenschefs als Alarmsignal und sah den Staat in der Pflicht, Sicherheitsstandards und eine unabhängige internationale KI-Aufsicht zu schaffen.
- Sie forderte einen europäischen KI-Fonds von mindestens 100 Milliarden Euro, eine KI-Aufsicht auf Augenhöhe mit den Unternehmen sowie eine persönliche Haftung bis in die Chefetagen der Anbieter.
- KI-Labore müssten künftig stärker kontrolliert werden; wer nicht garantieren könne, dass seine Systeme keine massiv negativen gesellschaftlichen Auswirkungen hätten, dürfe sie nicht in Betrieb nehmen.
Die Linke
- Die Fraktion äußerte Zweifel daran, dass die Forderungen führender KI-Unternehmensvertreter nach Regulierung primär dem Gemeinwohl dienten, und sah darin auch Geschäftsinteressen zur Abwehr von Konkurrenz.
- Sie forderte eine Entschädigung für Kreativschaffende und Datenarbeitende, deren Werke ohne Vergütung für das Training von KI-Systemen genutzt worden seien, sowie eine Stärkung von Arbeitsrecht und betrieblicher Mitbestimmung gegenüber KI-bedingter Arbeitsverdichtung.
- Gegenüber dem Aufbau einer europäischen KI-Infrastruktur äußerte die Fraktion Vorbehalte wegen der ökologischen Folgen und warnte davor, dieselben Probleme — Datennutzung, Flächenverbrauch, Energieverbrauch — in Europa zu wiederholen.