MENSCH UND KI – AUF DEM WEG ZUR SYMBIOSE?
Künstliche Intelligenz (KI) hat sich rasend schnell von
einer Domäne der Wissenschaft und Science-Fiction
zur alltäglichen Realität entwickelt. Die neue
Technologie verspricht großen gesellschaftlichen Nutzen,
sie birgt aber auch Risiken – vor allem, wenn es um mögliche
Auswirkunen von Systemen geht, die intelligenter
sind als wir Menschen. So haben führende Fachleute
aus der Wissenschaft und Technologieexperten vor einigen
Monaten einen Brief veröffentlicht, in dem eine Pause
gefordert wird bei Experimenten mit KI-Systemen, die über
die Leistung von GPT-4 hinausgehen.
von Paul Rainey
Unter den Gründen für eine Pause sind mögliche Risiken bei der Entwicklung
von KI, die Modelle nutzt, um bestimmte Ziele zu verfolgen. Dies
würde zu KI mit strategischem Bewusstsein führen. Wird ein Algorithmus
etwa mit dem Ziel programmiert, seine Effizienz, Produktivität oder die
Nutzung von Ressourcen zu maximieren, könnte er versuchen, mehr Macht
oder Kontrolle über seine Umgebung zu erlangen, um diese Aufgaben
zu erfüllen. Darüber hinaus wird lernfähige und sich selbst optimierende KI
ihre Ziele wahrscheinlich besser erreichen und mehr Vertrauen in ihre
eigenen Fähigkeiten gewinnen. Dies könnte dazu führen, dass KI selbstbewusster
und aktiv nach Wegen sucht, ihre Macht und ihren Einfluss in
der Welt zu vergrößern.
KI-Forschende stehen also vor dem Dilemma, dass sie einerseits KI entwickeln
wollen, die dem Wohl der Menschheit dient, dass damit andererseits
die Wahrscheinlichkeit wächst, dass die Algorithmen Ziele verfolgen,
die nicht mit denen von uns Menschen übereinstimmen. Darüber hinaus
könnte KI bewusst mit Zielen konstruiert werden, die denen der Menschheit
zuwiderlaufen. Diese Bedenken sind besonders akut im Zusammenhang
mit der Entwicklung selbstreplizierender KI. Solche Systeme würden
dank ihrer Fähigkeit, sich zu vermehren und durch einen eingebauten
Mutationsprozess zu variieren, eine Evolution auf Basis von Selektion
durchlaufen. Als vermehrungsfähige Algorithmen oder Roboter könnten
sie sich mit möglicherweise katastrophalen Folgen ausbreiten, denn die
Selektion ist extrem gut darin, Lebewesen an ihre Umwelt anzupassen.
Der Mensch zum Beispiel ist ein Ergebnis dieses Prozesses. Wenn wir die
Selektion so steuern könnten, dass sie KI fördert, die den Interessen von
uns Menschen dient, wären meine Bedenken geringer. Die Evolutionsbiologie
lehrt uns jedoch, dass fortpflanzungsfähige Systeme sich in kaum
vorhersagbarer Weise entwickeln können.
weiterlesen (MAX PLANCK Forschung, Ausgabe 03 | 2023)
Wie gefährlich ist ChatGPT?
Ein Film aus der ARTE-Reihe "Aktuelles und Gesellschaft - Perspektivwechsel"
Wie Künstliche Intelligenz uns alle täuschen kann. Reihe: "ZAPP - KI und Medien"
Ein Film über die Entwicklung der "Künstlichen Intelligenz" in der Sendung "NANO-Spezial"
bei dem Sender 3sat.
Es folgt der Link zur Website der 3sat-Mediathek mit weiteren Informationen.
Rolf
Mediathek / Livestream