Berlin. Der kanadische Informatiker ist für seine Forschung zu Künstlicher Intelligenz ausgezeichnet worden. Doch genau die macht ihm Angst.
Geoffrey Hinton dürfte am Dienstag Stolz verspürt haben. Schließlich wird nur wenigen Menschen die Ehre zuteil, einen Nobelpreis empfangen zu dürfen. Und der kanadisch-britische Informatiker hat es geschafft: Die Königlich-Schwedische Akademie der Wissenschaften in Stockholm gab bekannt, dass er und der US-Amerikaner John Hopfield den Preis für Physik bekommen.
KI-Pioniere John Hopfield und Geoffrey Hinton bekommen Physik-Nobelpreis
Beide machten grundlegende Entdeckungen und Erfindungendie maschinelles Lernen mit künstlichen neuronalen Netzen ermöglichen – so die Begründung. Dabei scheint Hinton an etwas zu forschen, was ihm selbst große Sorgen bereitet.
Physik-Nobelpreisträger: „Wir sollten sehr ängstlich sein“
„Wir sollten sehr ängstlich sein“, warnte der Informatiker erst kürzlich im „Spiegel“ vor Künstlicher Intelligenz. Etwa für Google arbeitete Hinton zeit seines Lebens Silicon Valley, also dem Ort, an dem sich Amerika Tech-Elite tummelt. Doch nahezu plötzlich schmiss er hin: „Ich hatte eine Erleuchtung“, sagte er letzten Monat dem Magazin.
Auch interessant
So bereite ihm etwa die Geschwindigkeit der Entwicklung Sorgen: Bevor der Chatten-Roboter ChatGPT auf den Markt gekommen sei, habe er gedacht, eine solche Technologie brauche noch 50 Jahre, bis sie entwickelt ist.
„Als diese Chatbots aufkamen, wurde ich der unmittelbaren Bedrohung für die Menschheit gewahr“, so der Informatiker. Er begründet diese Warnung nicht nur mit dem möglichen Wegfall von Arbeitsplätzen. „Durch diese Art von KI wird es möglich, viel bessere Cyberangriffe zu führen und hocheffiziente, fiese Viren zur biologischen Kriegsführung zu entwickeln“, sagte er dem „Spiegel“.
Wenn sich die KI selbst programmiert, erleben wir die „Auslöschung der Menschheit.“
Doch dabei sollte es Hinton nicht belassen: „Es gibt viele Gründe für die Annahme, dass KI außer Kontrolle geraten könnte“, warnte der Informatiker davor, dass am Ende nicht mehr die Menschen die Kontrolle über Leben und Tod hätten. Er begründet diese These mit der Annahme, dass eine „Superintelligenz“ von sich aus mehr Kontrolle erlangen muss, um menschliche Ansprüche zu erfüllen. „Und mehr Kontrolle bekommt sie am besten, indem sie die Menschen aus dem Spiel lässt.“
Wenn es die Menschheit der KI darüber hinaus erlauben würde, sich selbst zu programmieren, prognostiziert der Nobelpreisträger die „Auslöschung der Menschheit.“ Einer der Gründe, warum der Forscher gegenüber dem „Spiegel“ drastische Maßnahmen fordert. Geht es nach Hintonsollte Forschung zu „Superintelligenz“ verboten werden.
