In englischsprachigen Medien wird er als „Godfather“ der KI bezeichnet, fast ein halbes Jahrhundert arbeitete Hinton an neuronalen Netzwerken, dem Grundgerüst hinter ChatGPT, dem Bildgenerator Midjourney und vielen anderen. Rund zehn Jahre war er als Experte auf dem Gebiet bei Google tätig, ehe er am Montag seinen Rückzug bekanntgab. Er wolle jetzt „über die Gefahren von KI reden“, schrieb er auf Twitter.
In der „New York Times“ („NYT“) sah er vor allem die missbräuchliche Verwendung von KI als unaufhaltbares Problem: „Es ist schwer vorstellbar, wie man verhindern kann, dass böse Akteure es für böse Dinge nutzen“, sagte Hinton dem Blatt. Er befürchtet eine Flut an Desinformation: Bilder, Videos und Texte, die die Durchschnittsperson „nicht mehr von der Wahrheit“ unterscheiden könne.
Kritik an Wettstreit Google – Microsoft
Hinton kritisierte auch den Wettlauf der IT-Riesen. Microsoft investierte ja Milliardenbeiträge in den ChatGPT-Entwickler OpenAI und baute die Technologie in die Suchmaschine Bing ein. Sein bisheriger Arbeitgeber Google legte zuletzt nach und will mit der KI Bard dagegenhalten. Die Konzerne seien in einem Wettlauf, der möglicherweise nicht mehr aufzuhalten sei, so Hinton in der „NYT“.
Hinton vermutet, dass der Wettlauf zwischen Google, Microsoft und anderen zu einem globalen Wettlauf eskalieren wird. Wie viele seiner Kolleginnen und Kollegen sieht er weltweite Regulierung als Antwort darauf, auch wenn das schwierig sei: Man wisse nicht, ob Unternehmen oder Staaten im Geheimen an der Technologie arbeiten. „Ich glaube nicht, dass diese Technologie weiter ausgebaut werden sollte, solange man nicht verstanden hat, ob man sie kontrollieren kann“, so der Experte weiter.
Umbruch auf Arbeitsmarkt befürchtet
Auch den Arbeitsmarkt sieht Hinton in Gefahr oder zumindest im Umbau. Chatbots wie ChatGPT würden momentan menschliche Arbeit ergänzen, doch längerfristig könnten derartige Werkzeuge Arbeitskräfte ersetzen, egal ob es um Übersetzung oder Anwaltshelfer gehe. „Sie nehmen uns die lästige Arbeit ab“, sagte er. „Sie könnten mehr als das wegnehmen“, so Hinton weiter.
„Die Vorstellung, dass dieses Zeug tatsächlich schlauer werden könnte als der Mensch – daran haben nur ein paar Leute geglaubt“, sagte er der „NYT“. „Doch die meisten Leute hielten das für völlig abwegig. Und auch ich dachte, es sei völlig abwegig. Ich dachte, das wäre noch 30 bis 50 Jahre oder noch weiter entfernt. Jetzt denke ich das offensichtlich nicht mehr.“
Warnung vor selbstständigen „Unterzielen“
Gegenüber der BBC skizzierte er auch apokalyptische Szenarien, verwies gleichzeitig aber darauf, dass es sich um „Worst-Case-Szenarien“ handle. So warnte er etwa davor, Robotern die Möglichkeit zu geben, ihre eigenen „Unterziele zu setzen“. Der Wissenschaftler sagte, dass das schließlich zu „Unterzielen wie ‚Ich muss mehr Macht bekommen‘“ führen könnte.
KI-Pionier warnt eindringlich vor Gefahr
Geoffrey Hinton ist ein Vorreiter auf dem Gebiet der neuronalen Netze. In Interviews warnte Hinton vor dem riskanten Wettbewerb unter den IT-Giganten und insbesondere vor der Gefahr von Desinformation.
Und er verwies auf wesentliche Unterschiede zu menschlicher Intelligenz. „Wir sind biologische Systeme, und das sind digitale Systeme. Der große Unterschied besteht darin, dass es bei digitalen Systemen viele Kopien derselben Gewichtungen, desselben Modells der Welt gibt.“ All diese Kopien könnten getrennt voneinander lernen, „aber ihr Wissen sofort weitergeben. Das ist so, als hätte man 10.000 Leute, und immer wenn eine Person etwas gelernt hat, wissen es automatisch alle. Und so können diese Chatbots viel mehr wissen als ein einzelner Mensch.“
Nächste Warnung vor KI
Hinton ist damit ein weiterer prominenter Vertreter aus der Branche, der vor den Gefahren von KI warnt. In offenen Briefen haben führende Wissenschaftlerinnen und Wissenschaftler vor ähnlichen Szenarien gewarnt – Hinton schloss sich damals der Kritik nicht an. Er wollte während seines Arbeitsverhältnisses mit Google nicht öffentlich das eigene und andere Unternehmen kritisieren.
Auf Twitter stellte er aber klar, dass sich seine Kritik ohnehin nicht auf seinen ehemaligen Arbeitgeber beziehe: „Eigentlich habe ich gekündigt, damit ich über die Gefahren der KI sprechen kann, ohne zu bedenken, wie sich das auf Google auswirkt. Google hat sehr verantwortungsvoll gehandelt.“
Im Gespräch mit der „NYT“ sagte er, ein Teil von ihm würde die Arbeit, die er über Jahrzehnte hinweg geleistet habe, nun bereuen. „Wenn ich es nicht getan hätte, hätte es jemand anderer getan“, so Hinton. Gerne soll er den „Vater der Atombombe“, Robert Oppenheimer, paraphrasiert haben: „Wenn man etwas sieht, das technisch gut ist, dann macht man es.“ Das „sagt er heute nicht mehr“, schreibt die US-Tageszeitung nun über den Forscher.