Der Gouverneur von Kalifornien, Gavin Newsom, legte heute sein Veto gegen den Safe and Secure Innovation for Frontier Artificial Intelligence Models Act (SB 1047) ein. In seiner Vetobotschaft führte Gouverneur Newsom mehrere Faktoren für seine Entscheidung an, darunter die Belastung, die der Gesetzentwurf den KI-Unternehmen auferlegt hätte, Kaliforniens Vorsprung in diesem Bereich und die Kritik, dass der Gesetzentwurf möglicherweise zu weit gefasst sei.
„Obwohl SB 1047 gut gemeint ist, berücksichtigt es nicht, ob ein KI-System in Umgebungen mit hohem Risiko eingesetzt wird, kritische Entscheidungen erfordert oder sensible Daten verwendet. Stattdessen legt der Gesetzentwurf selbst für die grundlegendsten Funktionen strenge Standards fest – sofern diese von einem großen System bereitgestellt werden. Ich glaube nicht, dass dies der beste Ansatz ist, um die Öffentlichkeit vor echten Bedrohungen durch die Technologie zu schützen.“
Newsom schreibt, dass der Gesetzentwurf „der Öffentlichkeit ein falsches Sicherheitsgefühl hinsichtlich der Kontrolle dieser sich schnell entwickelnden Technologie vermitteln könnte“.
„Kleinere, spezialisierte Modelle könnten sich als ebenso gefährlich oder sogar gefährlicher erweisen als die Modelle, auf die SB 1047 abzielt – möglicherweise auf Kosten der Einschränkung genau der Innovation, die den Fortschritt zugunsten des Gemeinwohls vorantreibt.“
Der Gouverneur sagt, er stimme zu, dass es Sicherheitsprotokolle und Leitplanken sowie „klare und durchsetzbare“ Konsequenzen für schlechte Akteure geben sollte. Er gibt jedoch an, dass er nicht glaubt, dass sich der Staat „mit einer Lösung zufrieden geben sollte, die nicht auf einer empirischen Verlaufsanalyse von KI-Systemen und -Fähigkeiten basiert“.
Hier ist die vollständige Veto-Nachricht:
In einem Beitrag auf
„Dieses Veto lässt uns mit der beunruhigenden Realität konfrontiert werden, dass Unternehmen, die eine äußerst leistungsstarke Technologie entwickeln wollen, keinen verbindlichen Beschränkungen seitens der US-Politik unterliegen, insbesondere angesichts der anhaltenden Lähmung des Kongresses hinsichtlich der Regulierung der Technologiebranche in irgendeiner sinnvollen Weise.“
Ende August traf SB 1047 auf dem Schreibtisch von Gouverneur Newsom ein und ist bereit, der strengste Rechtsrahmen für KI in den USA zu werden, mit einer Frist für die Unterzeichnung oder das Veto bis zum 30. September.
Es hätte für abgedeckte KI-Unternehmen gegolten, die in Kalifornien Geschäfte machen, mit einem Modell, dessen Schulung über 100 Millionen US-Dollar oder die Feinabstimmung über 10 Millionen US-Dollar gekostet hätte, und hätte Anforderungen hinzugefügt, dass Entwickler Schutzmaßnahmen wie einen „Kill-Switch“ implementieren und Protokolle zum Testen festlegen Reduzieren Sie das Risiko katastrophaler Ereignisse wie eines Cyberangriffs oder einer Pandemie. Der Text sieht außerdem Schutzmaßnahmen für Whistleblower bei der Meldung von Verstößen vor und ermöglicht es der AG, durch Sicherheitsvorfälle verursachte Schäden einzuklagen.
Zu den Änderungen seit seiner Einführung gehörte die Streichung von Vorschlägen für eine neue Regulierungsbehörde und die Erteilung der Befugnis an den Generalstaatsanwalt, Entwickler wegen möglicher Vorfälle zu verklagen, bevor sie auftreten. Die meisten unter das Gesetz fallenden Unternehmen wehrten sich gegen das Gesetz, obwohl einige ihre Kritik nach diesen Änderungen gedämpft hatten.
In einem Brief an den Verfasser des Gesetzentwurfs, Senator Wiener, sagte Jason Kwon, Chief Strategy Officer von OpenAI, dass SB 1047 den Fortschritt verlangsamen würde und dass sich stattdessen die Bundesregierung um die KI-Regulierung kümmern sollte. Unterdessen schrieb Dario Amodei, CEO von Anthropic, nach der Änderung des Gesetzentwurfs an den Gouverneur, listete seine wahrgenommenen Vor- und Nachteile auf und sagte: „… der neue SB 1047 ist erheblich verbessert, und zwar so weit, dass wir glauben, dass seine Vorteile wahrscheinlich seine Kosten überwiegen.“ ”
Die Chamber of Progress, eine Koalition, die Amazon, Meta und Google vertritt, warnte ebenfalls, dass das Gesetz „Innovation behindern“ würde.
Meta-Public-Affairs-Manager Jamie Radice schickte Metas Erklärung zum Veto per E-Mail an The Verge:
„Wir freuen uns, dass Gouverneur Newsom sein Veto gegen SB1047 eingelegt hat. Dieser Gesetzentwurf hätte die KI-Innovation erstickt, das Unternehmenswachstum und die Schaffung von Arbeitsplätzen beeinträchtigt und die lange Tradition des Staates, die Open-Source-Entwicklung zu fördern, gebrochen. Wir unterstützen verantwortungsvolle KI-Vorschriften und sind weiterhin bestrebt, mit Gesetzgebern zusammenzuarbeiten, um bessere Ansätze zu fördern.“
Zu den Gegnern des Gesetzentwurfs gehörten die ehemalige Sprecherin des Repräsentantenhauses, Nancy Pelosi, der Bürgermeister von San Francisco, London Breed, und acht Demokraten im Kongress aus Kalifornien. Auf der anderen Seite gehörten zu den lautstarken Unterstützern Elon Musk, prominente Hollywood-Namen wie Mark Hamill, Alyssa Milano, Shonda Rhimes und JJ Abrams sowie Gewerkschaften wie SAG-AFTRA und SEIU.
Auch die Bundesregierung prüft, wie sie KI regulieren könnte. Im Mai schlug der Senat einen 32-Milliarden-Dollar-Fahrplan vor, der mehrere Bereiche abdeckt, mit denen sich der Gesetzgeber befassen sollte, darunter die Auswirkungen von KI auf Wahlen, nationale Sicherheit, urheberrechtlich geschützte Inhalte und mehr.
