{"id":2556736,"date":"2024-10-23T18:21:39","date_gmt":"2024-10-23T17:21:39","guid":{"rendered":"https:\/\/www.pressenza.com\/?p=2556736"},"modified":"2024-10-23T18:21:39","modified_gmt":"2024-10-23T17:21:39","slug":"nobelpreis-komitee-scheint-uns-vor-superintelligenz-zu-warnen","status":"publish","type":"post","link":"https:\/\/www.pressenza.com\/de\/2024\/10\/nobelpreis-komitee-scheint-uns-vor-superintelligenz-zu-warnen\/","title":{"rendered":"Nobelpreis-Komitee scheint uns vor Superintelligenz zu warnen"},"content":{"rendered":"
\n

Ausgerechnet ein Physiker, der die Risiken von K\u00fcnstlicher Intelligenz am deutlichsten benennt, erh\u00e4lt den Nobelpreis.<\/strong><\/p>\n

\n

Leo Keller f\u00fcr die Online-Zeitung INFOsperber<\/a><\/em><\/p>\n<\/div>\n<\/div>\n

\n

Red. Dies ist ein Gastbeitrag. Leo Keller ist seit 2000 als Internet-Start-Up-Gr\u00fcnder beruflich im Feld der Semantic Intelligence t\u00e4tig (Sprach-KI).<\/em><\/p>\n

Zwei Nobelpreise, jener f\u00fcr Physik und jener f\u00fcr Chemie, gehen im Kern an die gleiche bahnbrechende Technologie: die K\u00fcnstliche Intelligenz, die auf neuronalen Netzen und selbstlernenden Systemen basiert. Und sie gehen an drei der f\u00fcnf hervorragenden Forscher, die bei Google zusammengearbeitet haben. Fast scheint es, die Schwedische Akademie wollte uns damit etwas sagen.<\/p>\n

Denn es f\u00e4llt auf: Wohl noch nie wurde mit der Vergabe eines Nobelpreises so intensiv auch \u00fcber die Gefahren, die von der ausgezeichneten Forschung ausgehen k\u00f6nnen, berichtet und diskutiert.<\/p>\n

Bereits die Akademie benennt die Risiken der KI f\u00fcr die Gesellschaft bei ihrer Ank\u00fcndigung als zweiten wichtigen Grund f\u00fcr die Wahl von Geoffrey Hinton (neben John Hopfield). Und dass Hinton sehr deutlich auf die Gefahren, die von der K\u00fcnstlichen Intelligenz ausgehen k\u00f6nnen, hinweise, begr\u00fcsst sie explizit: \u00abund das ist sehr gut so\u00bb<\/a> (ab Minute 26:00).<\/p>\n

Hinton war \u00abflabbergasted\u00bb<\/strong><\/p>\n

Manche Fachkommentatoren wundern sich schon<\/a>, dass der Nobelpreis f\u00fcr Physik f\u00fcr die bahnbrechenden Grundlagenarbeiten der allgemeinen k\u00fcnstlichen Intelligenz vergeben wird, denn das sei eigentlich keine Physikforschung. Auch Geoffrey Hinton war sehr \u00abverbl\u00fcfft\u00bb \u2013 flabbergasted wie er sagte \u2013, als er am Morgen um 1 Uhr in einem billigen Hotel in Westkalifornien mit schlechtem Internet einen Anruf aus Schweden entgegennahm. Erst war er unsicher, ob er ihn annehmen solle. Er vermutete einen \u00abSpam-Call\u00bb.<\/p>\n

Das Komitee umgeht diese \u00abVerwunderung\u00bb recht geschickt, indem es begr\u00fcndet: \u00abSie [die Preistr\u00e4ger] nutzen Methoden und Instrumente der Physik\u00bb und \u00abdie Forschungsergebnisse erlauben der Physik neue wichtige Erkenntnisse\u00bb. Kritische Wellen schl\u00e4gt diese Vergabe in dieser Hinsicht allerdings nicht, denn die bahnbrechenden Leistungen sind weitherum unbestritten.<\/p>\n

Das zeigt auch die Vergabe des Chemie-Nobelpreises an David Baker, Demis Hassabi und John Jumper. Denn Hassabi und Jumper nutzen f\u00fcr ihre Arbeiten genau diese Grundlagentechnologie f\u00fcr ihr Computersystem Alphafold2, das ihnen erlaubt, sehr schnell und pr\u00e4zise die r\u00e4umliche Struktur von komplexen Proteinen vorherzusagen. Dies f\u00fchrt in der Pr\u00e4vention und Therapie von Krankheiten wie Alzheimer und Rinderwahnsinn zu schnellen und grossen Fortschritten.<\/p>\n

Die Vermutung liegt nahe, dass dem Nobelpreis-Komitee klar war, dass eine Auszeichnung dieser KI-basierten medizinischen Forschung nicht m\u00f6glich ist, wenn man nicht wenigstens gleichzeitig auch jene bahnbrechende Grundlagenforschung auszeichnet, die diese Ergebnisse erst m\u00f6glich gemacht hat. Und dass Geoffrey Hinton, Demis Hassabi und John Jumper bei Google\/DeepMind zehn Jahre lang zusammengearbeitet hatten, weiss die Fachwelt.<\/p>\n

Bravour\u00f6ser Balanceakt<\/strong><\/p>\n

Mit der Vergabe der beiden Preise an die gleiche Technologie hat das Nobelpreis-Komitee einen bravour\u00f6sen Balanceakt geschafft. Denn Alfred Nobel stipulierte in seiner Gr\u00fcndungsurkunde, dass jene Arbeiten ausgezeichnet werden sollen, die den gr\u00f6sstm\u00f6glichen Nutzen f\u00fcr die Menschheit erbringen k\u00f6nnen. Der Nobelpreis f\u00fcr Chemie illustriert den Nutzen f\u00fcr die Menschheit sehr gut.<\/p>\n

Dass die darunterliegende Technologie aber auch ein sehr grosses Risiko-Potential in sich tr\u00e4gt, hat niemand deutlicher und glaubw\u00fcrdiger in die Welt hinausgetragen als Geoffrey Hinton. Er hatte im M\u00e4rz 2023 Google verlassen, um unabh\u00e4ngig vor den m\u00f6glicherweise existentiellen Risiken warnen zu k\u00f6nnen, die bald von den KI-Systemen ausgehen werden, die auf maschinellem Lernen mit k\u00fcnstlichen neuronalen Netzen basieren. Hinton sch\u00e4tzt, dass die AGI (K\u00fcnstliche allgemeine Intelligenz) in 5 bis 20 Jahren deutlich intelligenter sein wird als wir Menschen. Andere erwarten das bereits in ein bis zwei Jahren. Ray Kurzweil prognostiziert sie f\u00fcr 2029.<\/p>\n

Hinton und der Grossteil seiner Fachkollegen warnen zwar seit dem 24. M\u00e4rz 2023 \u2013 damals forderten sie ein Moratorium \u2013 eindringlich, aber praktisch folgenlos. Geoffrey Hinton vergleicht diese KI direkt mit der industriellen Revolution: Damals wurden die Maschinen viel st\u00e4rker als der Mensch, nun werden sie viel intelligenter als der Mensch. Und das wird sicher zu grossen Problemen f\u00fchren, meinen Hinton und viele andere.<\/p>\n

Als \u00abAI-Doomer\u00bb verspottet<\/strong><\/p>\n

Sie erhalten aber in der Politik und vor allem in den Mainstream Medien kaum Resonanz und Beachtung, sie werden zum Teil sogar als AI-Doomer verspottet. So sagte zum Beispiel die deutsche Kommunikationswissenschaftlerin Miriam Meckel sinngem\u00e4ss, Superintelligenz werde es nicht geben. Wenn doch, dann sei es auch nicht schade um die Menschheit.<\/p>\n

Mit der Verleihung des Physik-Nobelpreises an Geoffrey Hinton wird die existentielle Risiko-Debatte vielleicht durch die Schwedische Akademie neu lanciert. Vor \u00fcber einem Jahr bezeichnete Hinton in einem Interview mit der BBC die neuen KI-Chatbots wie GPT4 als \u00abziemlich gef\u00e4hrlich\u00bb und sagte w\u00f6rtlich: \u00abIm Moment sind sie noch nicht intelligenter als wir, soweit ich das beurteilen kann. Aber ich denke, sie k\u00f6nnten es bald sein\u00bb. Damals gab es wenig positives Echo.<\/p>\n

Vielleicht wird es jetzt anders sein, wenn die gleichen Botschaften vom Nobelpreis-Komitee nochmals aufgenommen und als \u00absehr gut\u00bb bewertet werden. Das Medienecho auf die Preisverleihung jedenfalls stimmt optimistisch. Die H\u00e4lfte der Fragen an Geoffrey Hinton gingen direkt auf das Thema der existentiellen Bedrohung ein.<\/p>\n

\n

Weiterf\u00fchrende Informationen<\/h3>\n