"Chat GPT" wird derzeit noch mit Wissensinhalten trainiert, die es erwirbt, wenn es sich selbsttätig durchs Internet wühlt. Dabei sind Sprachberrschung und Kreativität schon sehr weit fortgeschritten, bei konkreten Informationen hapert es aber noch gewaltig, weil das Programm noch nicht in ausreichendem Maße gelernt hat Quellen zu priorisieren.

Die Maschine verarbeitet Foreninhalte, Lügengeschichten und Social Media Gossip genauso "unvoreingenommen" wie seriöse Internetseiten und wissenschaftlich gesicherte Fakten. Bei vielen Themenbereichen wurde noch nicht genügend Material gesichtet, um Aussagen zu gewichten und wahre Behauptungen nach dem Wahrscheinlichkeitsprinzip herauszufiltern.

Die Betreiber des Chatbots wollen bewusst nicht redigierend in die Wissensaufnahme des Systems eingreifen sondern die Maschine im selbstständigen Lernprozess sich selbst überlassen. Während des "Deep Learning" genannten Vorgangs wird erworbenes Wissen immer wieder auf Richtigkeit überprüft, in dem ein im Programmcode integrierter "Betrüger" von einem Gegenspieler bzw. "Detektiv" auf Grundlage des bereits vorhandenen Wissenstocks überführt und damit die Verlässlichkeit der neu gewonnenen Daten in zunehmendem Maße gesichert wird.

Aber das braucht Zeit, schließlich läuft das System vollautomatisch. Es ist ja als Forschungsprojekt angelegt, das sich dem maschinellen Lernen widmet und durch menschliche Interventionen und Korrekturen beeinträchtigt und verfälscht würde.