Maximale Cyberattacken, gesellschaftliche Manipulation, allgegenwärtige Überwachung und sogar die „Auslöschung der Menschheit“: Angesehene Experten für künstliche Intelligenz haben eine neue, eindringliche Warnung an die Staaten gerichtet: „Ohne ausreichende Vorsicht könnten wir unwiederbringlich die Kontrolle über autonome KI-Systeme verlieren“, schreiben die Forscher in der aktuellen Ausgabe des Fachjournals „Science“. Unter den Autoren sind Wissenschaftler wie Geoffrey Hinton, Andrew Yao und Dawn Song, die zu den führenden Köpfen der KI-Forschung gehören. Die Fachleute befürchten vor allem, dass autonome KI-Systeme selbstständig Computer nutzen können, um die ihnen gestellten Ziele zu erreichen. So könnte es auch bei Programmen mit guten Absichten unvorhergesehene Nebeneffekte geben. „Sobald autonome KI-Systeme unerwünschte Ziele verfolgen, könnten wir nicht mehr in der Lage sein, sie unter Kontrolle zu behalten“, heißt es in dem Bericht. Die Verfasser fordern schärfere Kontrollen und durchsetzbare Konsequenzen. Ähnlich dramatische Warnungen gab es schon mehrfach. Diesmal passt die Veröffentlichung zeitlich zum KI-Gipfel in Seoul. Zum Auftakt des zweitägigen Treffens am Dienstag sicherten unter anderem US-Konzerne wie Google, Meta und Microsoft einen verantwortungsvollen Umgang mit der Technologie zu. Sonja Fröhlich, Wissen & Gesundheit |