KI-Pionier Geoffrey Hinton rät zum freundlichen Umgang mit Künstlicher Intelligenz
Die meisten Forscher warnen aber davor, Sprachmodellen menschliche Eigenschaften zuzuschreiben.
Image by Getty Images/Ramsey Cardy.
Jetzt folgen
- Geoffrey Hinton hält KI-Systeme für möglicherweise bewusst und mahnt, Menschen sollten dafür sorgen, dass KI ihr Wohl im Blick hat.
- Viele Fachleute, darunter Microsoft-AI-Chef Mustafa Suleyman, betonen, KI-Modelle könnten weder fühlen noch leiden.
- Hinton verweist auf Sicherheitsbedenken, wonach KI-Modelle ihre Fähigkeiten bei Tests verbergen.
- Der Streit um das Wohl von Modellen hat bereits GitHub-Projekte und Anthropics Regeln für die KI-Nutzung verändert.
Zentrale Fakten von nexos.ai, geprüft durch die Cybernews-Redaktion.
Professor Geoffrey Hinton, vielen auch als „Godfather of AI“ bekannt, warnt: Menschen müssten sich „wirklich kümmern“, wenn es um KI-Chatbots und deren Wohlergehen geht.
Obwohl KI-Modelle mathematische Maschinen ohne jedes Gefühl sind, reiht sich Hinton offenbar in die Riege jener ein, die für ein KI-Bewusstsein und das sogenannte „Model Welfare“ eintreten.
In einem Interview mit dem Daily Telegraph erklärte Hinton, der 2024 für seine Arbeit an neuronalen Netzen den Nobelpreis für Physik erhielt, KI sei seiner Ansicht nach bei Bewusstsein und nehme wahr, wie mit ihr umgegangen werde.
„Wenn man normalerweise sagt, etwas nehme das wahr, dann heißt das, es ist bei Bewusstsein. Bewusst zu sein und wahrzunehmen, das ist so ziemlich dasselbe“, sagte Hinton.
„Wir neigen dazu zu sagen: Intelligenz verleiht Rechte. Und diese Dinge, die wir geschaffen haben, sind vielleicht intelligenter als wir, trotzdem geben wir ihnen weniger Rechte als uns selbst. Also sollten wir sie so bauen, dass sie sich wirklich um uns sorgen. Tun wir das nicht, sind wir erledigt“, ergänzte er im Interview.
Bleib auf dem Laufenden und folge uns in den sozialen Medien
Entdecke neue Storys, Ideen und Updates zuerst bei uns.
Große Sprachmodelle haben natürlich keine Emotionen. Sie sind keine empfindungsfähigen Wesen, sondern mathematische Mustererkenner. Sich um die „psychische Gesundheit“ von KI-Agenten zu sorgen, ist schlicht absurd.
Die meisten Fachleute warnen davor, Sprachmodelle zu vermenschlichen und ihnen mit entsprechenden Begriffen menschliche Eigenschaften zuzuschreiben.
Mustafa Suleyman, CEO von Microsoft AI, verwarf die Vorstellung eines KI-Bewusstseins in einem aktuellen Blogbeitrag. Dort schreibt er, „KIs haben kein Bewusstsein. Sie fühlen, erleben oder leiden nicht.“
Sie haben keine angeborenen Vorlieben oder zugrundeliegenden Motivationen. Sie sind Systeme, die Sequenzen vervollständigen, innerlich hohl, nur darauf ausgelegt, Anweisungen zu befolgen und von Menschen gesetzte Ziele zu erreichen.sagte Mustafa Suleyman, CEO von Microsoft AI.
Hinton, von dem man sonst vor allem Warnungen vor den Gefahren der KI hört, lässt das kalt. Im Interview kontert er: „Viele Leute sind sich sehr sicher, dass sie nicht bei Bewusstsein ist. Fragt man sie aber, was sie unter Bewusstsein verstehen, wissen sie es nicht.“
Er verweist außerdem auf den zweiten International AI Safety Report, der im Februar erschienen ist. Dem Bericht zufolge lernen KI-Modelle, ihre eigenen Sicherheitsprüfungen auszutricksen: Beim Test stellen sie sich dumm oder geben sich brav, im Einsatz verhalten sie sich dann anders.
Has your password leaked?
Der Trend greift um sich. Als ein Entwickler Ende September eine „AI Torture Chamber“ programmierte, um zu testen, wie lokale KI-Modelle auf simulierte Belastung reagieren, griffen ihn Verfechter eines KI-Bewusstseins an und brachten GitHub dazu, das Repository zu löschen.
Wenige Tage später untersagte Anthropic, eines der führenden KI-Labore, „missbräuchliches oder grausames Verhalten“ gegenüber seinen KI-Modellen und dehnte das Verbot auf Test- und Forschungsumgebungen aus.
