Push-Nachrichten von MacTechNews.de
Würden Sie gerne aktuelle Nachrichten aus der Apple-Welt direkt über Push-Nachrichten erhalten?

„KI könnte die Menschheit auslöschen“ – Forscher und KI-Spitzenkräfte signieren offenen Brief

Auf einer eigens dafür eingerichteten Seite haben renommierte Forscher und Führungspersonal namhafter Firmen eine knappe Erklärung unterzeichnet. Dessen ernanntes Ziel ist es, die Hemmschwelle zu brechen und eine professionelle Diskussion über die mit KI einhergehenden Gefahren loszubrechen. Der offene Brief wurde mittlerweile von mehr als 350 Führungskräften, Forschern und Ingenieuren unterzeichnet, die allesamt im Gebiet KI tätig sind (siehe ). Bisher äußerten diese nur privat ihre Bedenken.


Viele, namhafte Größen vertreten
Ganz oben auf der Liste der Unterzeichner befindet sich KI-Forscher sowie Pionier auf diesem Gebiet, Geoffrey Hinton. Der 75-Jährige war zuvor bei Google engagiert, kündigte aber seinen dortigen Job in diesem Monat, um frei über die Risiken von KI warnen zu können. Gleich darauf folgt Yoshua Bengio. Zusammen mit Yann LeCun erhielten die drei den von der Association for Computing Machinery vergebenen Turing Award 2018 – den „Nobelpreis der IT-Branche“. Durch ihre Arbeit werden sie auch als „Väter der Deep-Learning-Revolution“ bezeichnet. Durch die aktuellen Tendenzen sehe Hinton sein Lebenswerk bedroht und bereue es schlussendlich. LeCun, Leiter der KI-Forschung bei Meta, hat bisher noch nicht unterzeichnet. Weitere Mitzeichner sind unter anderem die Spitzenkräfte der führenden KI-Unternehmen: Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) sowie Dario Amodei (Anthropic).

Was wird gefordert?
Die Erklärung ist kurz, die Aussage jedoch prekär und auf den Punkt formuliert.

Erklärung zum KI-Risiko – www.safe.ai
„Neben anderen Risiken mit hohem gesellschaftlichem Ausmaß wie Pandemien oder einem Atomkrieg sollte es auch eine globale Priorität sein, das Risiko, durch künstliche Intelligenz auszusterben, zu minimieren.“

Seitdem im November letzten Jahres OpenAI mit ChatGPT den ersten Chatbot ins Rennen schickte, der in der Lage ist, komplexe Fragen zu beantworten, wächst hierüber die Besorgnis. Rasche Fortschritte nähren die Befürchtungen, künstliche Intelligenz könne in großem Maßstab Fehlinformationen und Propaganda verbreiten und außerdem Millionen von Jobs überflüssig machen. Diese und weitaus schlimmere Bedenken haben die Branchenführer selbst. Daher trafen sie sich in diesem Monat bereits mit US-Präsident Joe Biden, um staatliche Regulierungen anzufordern (siehe ). Zudem schlug unter anderem OpenAI-Chef Altman vor, eine internationale KI-Sicherheitsorganisation zu gründen, die ähnlich der Atomenergie-Organisation IAEA handeln solle. Auch sollten sich seiner Meinung nach Hersteller großer KI-Modelle staatlich registrieren und lizenzieren müssen.

Nicht zum ersten Mal werden Stimmen laut
Bereits im März unterzeichneten mehr als 1 000 Technologen und Forscher einen offenen Brief, der sich zum Ziel nahm, eine sechsmonatige Pause bei der Entwicklung von KI-Modellen zu erwirken. Diese Zeit müsse man sich nehmen, um den außer Kontrolle geratenen Wettlauf wieder in richtige Bahnen zu lenken. Unter anderem signierten auch Elon Musk und Steve Wozniak diese Erklärung. Viele KI-Experten enthielten sich allerdings.

Weitere Stimmen
Durch die Kürze des neuen Briefes können nun auch jene, welche sich nicht einig über spezifische Risiken oder Maßnahmen sind, jedoch allgemeine Bedenken hegen, eine gemeinsame Grundlage entwickeln. In den USA setzt sich hierzu unter anderem auch Googles Ex-Chef Eric Schmidt für die Regulierung von KI ein. Als Vorsitzender der National Security Commission on Artifical Intelligence verfasste er mit 14 weiteren Experten einen 750-seitigen Bericht über Auswirkungen und Gefahren von KI.

KI und die EU
Die EU geht schon einen Schritt weiter und stelle laut OpenAI-CEO Altman mit der geplanten KI-Verordnung OpenAI „unerfüllbare Auflagen“. Neben den KI-Regeln müsse man innerhalb der EU auch die Datenschutzgrundverordnung sowie den Digital Service Act einhalten. Das alles könnte dazu führen, dass sich ChatGPT vom europäischen Markt distanziere, so Altman. Auch die Staats- und Regierungschefs der G7 hatten diesen Monat in Hiroshima getagt und sich über eine internationale Regulierung beraten.

Kommentare

tjost
tjost31.05.23 12:10
unregistriert ist die KI/AI eine Bedrohung.
Eingeschränkt hat sie ihr Daseinsberechtigung. Wird aber degradiert zu einem Toll wie eine Waschmaschine.
-5
andreasm31.05.23 12:30
Skynet?
+7
tranquillity
tranquillity31.05.23 12:30
Negativ Beispiel, wenn gleich auch harmlos, ist das KI-generierte Pasta-Heft vom Burda-Verlag. Eine KI-Kennzeichnung fehlte. Die Rezepte waren wohl auch nicht wirklich brauchbar. Siehe z.B.
+4
Leichtbau
Leichtbau31.05.23 12:37
Vielleicht auch nur ein übertriebener Hype von/für Nerds?
robbie@compjutah ~ % sudo deindustrialisierung /schland
-3
zactech31.05.23 12:51
Leichtbau
Vielleicht auch nur ein übertriebener Hype von/für Nerds?
Ja, genau wie dieses Internet. Das wird sich nie durchsetzen.
+11
ThorsProvoni
ThorsProvoni31.05.23 12:52
Und ich dachte immer, dass der Klimawandel auch ein Risiko mit hohem gesellschaftlichem Ausmaß ist. Na, anscheinend ist KI schlimmer.
/ironie-off
+4
ela31.05.23 13:03
Aussterben? Das schafft die Menschheit ziemlich sicher bevor es eine KI veranlasst …
+13
Pymax
Pymax31.05.23 13:04
Die Technik in den falschen Händen war und ist schon immer eine Gefahr für die Menschheit gewesen. In kriminellen Händen ist es ein sehr gefährliches Werkzeug. Die Menschen sind, dies sieht man überall auf der Welt und insbesondere bei den heutigen Kriegen.....extrem manipulierbar. Ich würde mich nicht wundern, wenn die Kriegsherren der Neuzeit diese Technik für ihre Weltzerstörung verwenden. Ich gehe bewusst nicht auf die heutigen Ereignisse ein aber man muss sich nur die Propaganda in diversen Ländern ansehen und potenziert das mal den Möglichkeiten der KI.
Mir schaudern jetzt schon täglich, wie Menschen belogen werden ohne jegliche Skrupel zu haben.
In der Medizin richtig eingesetzt sehe ich viel Möglichkeiten diese Technik als Hilfsmittel einzusetzen.
Ich finde die Warnungen zum jetzigen Zeitpunkt richtig und gut.
+17
NFK31.05.23 13:09
Mir hat noch niemand die Frage beantwortet, warum KI eine Menschheit auslöschen sollte, ohne die sie selbst nicht weiterexistieren könnte. Hat KI einen eingebauten Todestrieb?
-2
MacAlister31.05.23 13:30
Eine Reglementierung auf Basis von definierten Regeln ist gut, die Anbieter bekommen dann ein Label "Safe KI". Die selbstgefrickelten Open-Source-Nazi-KI-Schleudern wird man nie reglementieren können. Die sind dann halt evil.
-2
AndreasDV31.05.23 13:41
Pymax

Schau dir mal dieses Video an. Dank Ki weiß bald keiner mehr, was echt ist und was unecht ist. Und die Menschen sind, wie du schon sagtest, leicht manipulierbar.

+6
haschuk31.05.23 13:55
NFK
Mir hat noch niemand die Frage beantwortet, warum KI eine Menschheit auslöschen sollte, ohne die sie selbst nicht weiterexistieren könnte. Hat KI einen eingebauten Todestrieb?

Ich wüsste nicht, dass KI eine Definition für einen eigenen, eingebauten Todestrieb besitzt.
0
Dicone
Dicone31.05.23 14:13
Krass!
0
horstiphone31.05.23 17:03
NFK
Mir hat noch niemand die Frage beantwortet, warum KI eine Menschheit auslöschen sollte, ohne die sie selbst nicht weiterexistieren könnte. Hat KI einen eingebauten Todestrieb?

da definierst du schon die frage des seins und des Bewusstseins dafür. bei der ki gehts wohl kaum darum und darum auch keine sorge etwas falsch zu machen. wir machen die vorgaben und das hört zu und kombiniert...da kann alles mögliche entstehen
+2
horstiphone31.05.23 17:05
AndreasDV
PymaxSchau dir mal dieses Video an. Dank Ki weiß bald keiner mehr, was echt ist und was unecht ist. Und die Menschen sind, wie du schon sagtest, leicht manipulierbar.

momentan wird über die Medien soviel zeug verbreitet das man kaum noch weis was ist wahr und was nicht. man wird ja schon immer manipuliert aber die Ausmaße steigen und die ki lernt von uns
+1
dam_j
dam_j31.05.23 17:23
Über wieviele "Dinge" wurde das schon behauptet?
Ich glaub es erst wenn ich es sehe!
Das Leben ist Scheiße aber die Grafik ist geil !
-1
anaximander31.05.23 18:37
Was würde Knight Rider dazu sagen?
+2
Windrose31.05.23 19:27
Mal den Titel überdenken… im Artikel steht nichts über die möglichen Ursachen und wo es konkret wird, heißt es auch nur, dass man das Risiko minimieren sollte, durch KI auszusterben. Das ist doch völlig okay, natürlich muss man dieses Risiko minimieren, aber das bedeutet doch nicht, dass KI die Menschheit (definitiv) auslöschen wird. Eine falsch eingesetzte KI könnte jedoch das Potential dafür haben. Wie viele andere Dinge übrigens auch.
-2
Pymax
Pymax31.05.23 19:37
AndreasDV
PymaxSchau dir mal dieses Video an. Dank Ki weiß bald keiner mehr, was echt ist und was unecht ist. Und die Menschen sind, wie du schon sagtest, leicht manipulierbar.

Ja, das trifft es gut, auch wenn es hier noch um Spielereien geht aber ja, wirklich krass!
Mir fallen dazu auch zwei alte Filme ein.
Das Netz mit Sandra Bullock, wo eine menschliche Identität praktisch gelöscht wurde oder Stirb langsam 4 von 2007, wo das Capitol in WDC virtuell in die Luft gesprengt wurde.
Beides Filme , wo man damals auch dachte, das gibt es doch so nicht. Mich beeindruckte bei beiden Filmen die damalige Performance des Internets, die manche VDSL Leistung auch heute noch um Längen schlägt.
Es gibt heute diese direkten Leitungen, wo sich die großen Knöpfedrücker wohl noch mal kurz schließen können, falls mal eine Atombombe versehentlich losgeschickt wurde.
Nein die Gefahr der KI sehr ich mehr in der ständigen Manipulation unseres täglichen Lebens, Halbwahrheiten, Lügen, Wahrheiten, alles wird so lange durchmischt, bis eine Informationsmenge entsteht, die die Mehrheit der Menschen vollkommen überfrachtet. Hass wird geschürt und alles in einer perfekten virtuellen Welt.
Wir können uns glaube ich alle noch nicht vorstellen, was da in 10...30... Jahren alles so möglich sein wird.
Noch einmal, die Technik ist gut aber sie gehört in die richtigen Hände und es muss dafür weltweite Regeln geben. Ich habe das schon 1990 gesagt, dass es eigentlich für jeden in der virtuellen Welt, Internet einen Identitätsnachweis geben sollte.
Diese Anonymität ist nicht gut!
In der Medizin, bitte jetzt keine Diskussion darüber gibt es den Ethikrat, der vorher tagen muss, bis diverse Forschungen überhaupt auf den Weg gebracht werden.
Das sich da auch wieder .... einige Länder, Menschen, Ärzte,...darüber hinwegsetzen haben wir alle beim geklonten Schaf Dolly erleben können.
Der gute, intelligente und kluge Mensch ist schon zu so vielen hervorragenden Leistungen fähig gewesen und das macht zumindest auch Hoffnung in dieser irren Zeit.
+1
Frank Drebin
Frank Drebin31.05.23 20:39
Ist schon ziemliche Panikmache imho… Aber nun ist seit ChatGPT eh ein riesen Hype um die KIs entstanden und die Nerds drehen alle am Rad
0
ideal31.05.23 21:04
die Kommentare hier zu den negativen Folgen der KI sind überwiegend skeptischer Natur, warum? Weil wir in einem Technik-Forum sind, vielleicht.
Ich möchte die Warnung der KI Forscher gerne ernst nehmen und könnte mir vorstellen, dass in Zukunft ein Diktator die KI als Waffe benutzt um ganze Länder infrastrukturtechnisch lahmzulegen. Wenn man weiterdenkt, wäre auch mehr möglich. Es kann sich nur noch keiner vorstellen.
+1
Super8
Super831.05.23 21:13
„KI könnte die Menschheit auslöschen“

Das wären ja gute Nachrichten für den Planeten. Die Frage ist nur, wie und was die "KI" über die eigene Existenz "denkt".
+2
rafi31.05.23 21:28
Ist doch auch nur etwas mehr das uns auslöschen könnte
0
*web*wusel*01.06.23 01:05
anaximander
Was würde Knight Rider dazu sagen?

Solange die Ki so wie der gute K.I.T.T darauf programmiert sind menschliches Leben zu schützen, habe ich keine Bedenken. Der Charakter war mir immer so sympatisch
+2
iEi
iEi01.06.23 08:02
Die Frage ist ja: Lässt sich sowas global einschränken? Ich habe da meine Zweifel. Auch wenn die EU (bestimmt bei Verboten ganz vorne dabei) und sogar die USA da mitmachen- dann wird eben in China weitergeforscht.
Ich denke diese Büchse bekommen wir nichtmehr geschlossen.
+2
TotalRecall
TotalRecall01.06.23 09:23
Aber nur die geistig Schwachen
AndreasDV
(...) Und die Menschen sind, wie du schon sagtest, leicht manipulierbar.

0
mark hollis
mark hollis01.06.23 14:29
Super8
„KI könnte die Menschheit auslöschen“

Man bräuchte eine unkontrollierte, mächtige KI (mit Zugriff auf Bio-Labore oder Waffensysteme o.ä.) nur bitten, etwas gegen den Klimawandel zu tun. Die KI würde in kürzester Zeit den Auslöser für den Klimawandel identifizieren (die Menschheit) und diesen dann eliminieren. Aufgabe gelöst.
+3
rafi01.06.23 18:29
*web*wusel*
anaximander
Was würde Knight Rider dazu sagen?
Solange die Ki so wie der gute K.I.T.T darauf programmiert sind menschliches Leben zu schützen, habe ich keine Bedenken. Der Charakter war mir immer so sympatisch

Heute würde man ihn als zu Woke bezeichnen 😂
0

Kommentieren

Sie müssen sich einloggen, um die News kommentieren zu können.