In dem von der gemeinnützigen, unter anderen von Musk gegründeten Organisation „Future of Life“ veröffentlichten Schreiben ist von einem „außer Kontrolle geratenen Wettlauf“ und einer Entwicklung die Rede, die mittlerweile „niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren“ könne. Leistungsstarke KI-Systeme sollten aber „erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind“.
Allerdings sei das noch nicht der Fall. Die Entwickler der nächsten KI-Generation werden daher aufgefordert, ihre Arbeit mindestens sechs Monate einzustellen. „Diese Pause sollte öffentlich und überprüfbar sein und alle wichtigen Akteure einbeziehen. Wenn eine solche Pause nicht schnell umgesetzt werden kann, sollten die Regierungen eingreifen und ein Moratorium verhängen“, heißt es in dem Schreiben.
Bereits Hunderte Unterschriften
Neben dem Tesla-Chef unterzeichneten mehr als tausend Personen das Manifest, darunter Emad Mostaque, Chef der KI-Firma Stability AI, und mehrere Entwickler von Googles KI-Tochter DeepMind. Auch Apple-Gründer Steve Wozniak, Turing-Preisträger Yoshua Bengio, der Historiker Yuval Noah Harari und etliche weitere Unternehmer und Unternehmerinnen sowie Wissenschaftler und Wissenschaftlerinnen werden unter dem Schreiben angeführt, das vor „tiefgreifenden Risiken für die Gesellschaft und die Menschheit“ warnt.
Seit der Vorstellung von ChatGPT im November 2022 liefern einander viele Großkonzerne, allen voran Microsoft und Google, ein Rennen um die technologische Führerschaft bei KI. Quasi im Wochentakt werden neue Anwendungen vorgestellt, weil sich Unternehmen von dieser Technologie große Gewinne versprechen. Einige Staaten wie China betrachten KI als strategisch wichtig und wollen Entwicklern große Freiheiten lassen.
„Müssen langsamer werden“
„Future of Life“ zufolge hat Sam Altman, Chef des ChatGPT-Entwicklers OpenAI, den Aufruf nicht unterschrieben. Musk gehört zwar zu den Mitgründern dieser Firma, hat sich aber wiederholt kritisch zu diesem Thema geäußert und eine staatliche Regulierung gefordert.
„Der Wortlaut ist nicht perfekt, aber der Geist ist richtig: Wir müssen langsamer werden, bis wir die Auswirkungen besser verstehen“, sagte Gary Marcus, ein emeritierter Professor der New York University und Unterzeichner des offenen Briefes. Generative KI könne ernsthaften Schaden anrichten. „Die großen Akteure machen immer größere Geheimnisse um ihre Aktivitäten, was es der Gesellschaft erschwert, sich gegen mögliche Gefahren zu wehren.“