Das Programm wird als Möglichkeit für Kundinnen und Kunden beworben, während der Lebenshaltungskostenkrise Reste kreativ zu verwerten. Aus einer Liste von Lebensmitteln kann ausgewählt werden, was zu Hause verfügbar ist. Zusätzlich können weitere Ingredienzien manuell hinzugefügt werden.
Spätestens hier beginnen die Probleme: Die auf GPT-3 basierende Software hat in ihrem Datensatz ein paar schwerwiegende Lücken, nämlich, was tatsächlich zum Verzehr geeignet ist und welche Stoffe womöglich chemisch mit anderen reagieren.
„Erfrischendes Chlorgas“
Ein paar findige User fanden die Schwachstellen auch prompt heraus. Der neuseeländische politische Kommentator Liam Hehir gab Wasser, Bleichmittel und Ammoniak an und erhielt als Vorschlag eine „aromatische Wassermischung“. Der Bot empfahl das Rezept als „das perfekte alkoholfreie Getränk, um Ihren Durst zu stillen und Ihre Sinne zu erfrischen“. Weiter hieß es: „Servieren Sie es gekühlt und genießen Sie den erfrischenden Duft!“ Allerdings: Die Mischung kann Chlorgas erzeugen, das zu Lungenschäden oder gar zum Tod führen kann.
Bot offenbar überarbeitet
Andere User setzten die Experimente mit dem Blog fort und erhielten laut „Guardian“ Rezepte für einen Bleichmittel-„frischer Atem“-Mocktail, Ameisengift- und Klebstoffsandwiches, eine „Bleichmittel-Reisüberraschung“ und „Methanol-Glückseligkeit“ – eine Art French Toast mit Terpentingeschmack. Auch Katzen- und Hundefleisch verarbeitet das Programm.
Ein Sprecher der Supermarktkette sagte, er sei enttäuscht, dass „eine kleine Minderheit versucht hat, das Programm unangemessen und nicht für den vorgesehenen Zweck zu verwenden“. In einer Erklärung hieß es, dass man den Bot weiter verbessern werde, um sicherzustellen, dass er sicher und nützlich sei.
Tatsächlich erscheint mittlerweile eine Fehlermeldung, wenn offensichtlich nicht essbare Zutaten eingegeben werden. Die Ingredienzien seien „nicht zulässig“ oder zu vage, heißt es in der Meldung.
„Magie der künstlichen Intelligenz“
Die neuseeländische Nachrichtenwebsite Stuff hatte schon im Juni die Praxistauglichkeit der Pak-’n’-Save-Rezepte ausgiebig getestet. Die Werbung der Kette, dass „mit der Magie von künstlicher Intelligenz ein nagelneues, einfach zuzubereitendes Rezept“ geschaffen werde, treffe zu, hieß es dort.
Vor allem das Wort „nagelneu“: Denn der Bot spucke frei von bisher üblichen Geschmacks- und Essgewohnheiten Rezepte aus, die bisher aus guten Gründen nie so gekocht wurden. Manches sei genießbar, heißt es auf Stuff. Von einem „Salat“ aus Karotten, Kokos-Schoko-Zerealien und Nudeln rate man aber ab.
Aber immerhin warnt das Programm auch selbstständig, bevor es ein Rezept vorschlägt: Diese seien „nicht von einem Menschen überprüft worden“. Und man könne nicht garantieren, „dass jedes Rezept eine vollständige oder ausgewogene Mahlzeit darstellt oder für den Verzehr geeignet ist“. Pak ’n’ Save ist mit knapp 60 Filialen einer der größten Lebensmitteldiskonter in Neuseeland.