Mit dem „Safe and Secure Innovation for Frontier Artificial Intelligence Models Act“ hat Kalifornien eines der ersten Gesetze in den USA zur Regulierung von KI-Training verabschiedet. Dieses Gesetz, bekannt als SB 1047, zielt darauf ab, potenzielle Gefahren durch künstliche Intelligenz zu minimieren, indem man Unternehmen verpflichtet, umfangreiche Sicherheitsmaßnahmen zu implementieren, bevor sie komplexe KI-Modelle entwickeln oder trainieren. Das Gesetz schreibt vor, dass Firmen, die in Kalifornien AI-Lösungen entwickeln, sicherstellen müssen, dass sich ihre Systeme bei Bedarf schnell und vollständig abschalten lassen, falls sie als unsicher eingestuft werden. Ein weiterer Schwerpunkt des Gesetzes liegt auf dem Schutz vor gefährlichen Modifikationen nach dem Training der Modelle. Diese Maßnahmen sollen verhindern, dass KI-Systeme durch unvorhergesehene Änderungen Schaden anrichten.


Kritik und Lob
Der bekannte KI-Forscher Professor Geoffrey Hinton, ehemals bei Google tätig, begrüßte das Gesetz und betonte, dass die Risiken leistungsstarker KI-Systeme „sehr real“ seien und ernst genommen werden müssten. Während man das Gesetz als Schutzmaßnahme für die Gesellschaft begrüßt, äußerten Sprecher einiger Unternehmen, darunter OpenAI, große Bedenken. Sie befürchten, dass die strengen Auflagen und die Androhung von Strafen insbesondere kleinere Unternehmen übermäßig belasten könnten. Die zusätzlichen Kosten für Rechtsberatung und die Einhaltung der Vorschriften könnten die Innovationskraft hemmen und Start-ups in ihrer Entwicklung behindern.

Einfluss auf die gesamte Tech-Branche
Das neue Gesetz könnte weitreichende Folgen für die Tech-Branche haben, insbesondere da Kalifornien als Technologie-Hotspot eine Vorreiterrolle in den USA einnimmt. Sollten andere Bundesstaaten oder gar Länder ähnliche Maßnahmen ergreifen, könnte dies den Umgang mit KI auf globaler Ebene verändern. Bereits Anfang des Jahres hatten Apple und andere Tech-Giganten wie Google, Amazon und Meta freiwillige Sicherheitsrichtlinien zur KI-Nutzung im Rahmen einer Initiative der Biden-Administration übernommen. Diese Maßnahmen beinhalten unter anderem Tests zur Sicherstellung, dass KI-Systeme keine diskriminierenden Verhaltensweisen bieten und sicherheitstechnisch unbedenklich sind. Im Gegensatz zum kalifornischen Gesetz sind diese Richtlinien jedoch nicht rechtlich bindend.

Ausblick und Entscheidung des Gouverneurs
Der kalifornische Gouverneur Gavin Newsom hat nun bis Ende September Zeit, das Gesetz entweder zu unterzeichnen oder sein Veto einzulegen. Sollte es in Kraft treten, könnte es die Art und Weise, wie KI in den USA entwickelt und eingesetzt wird, grundlegend verändern und einen Präzedenzfall für künftige Regelungen schaffen. Darüber hinaus bleibt abzuwarten, wie die Entscheidung in anderen Ländern bewertet wird und ob sie ggf. dem Beispiel Kaliforniens folgen werden.