Um die im Internet enthaltenen Webseiten und Inhalte verarbeiten zu können, müssen die gecrawlten Seiten ebenfalls in das KI-Modell eingespeist werden. Da sich das Internet, die dort verfügbaren Seiten und deren Inhalte ständig verändern, muss eine KI-basierte Suchmaschine jedoch in regelmäßigen Abständen diese Änderungen berücksichtigen. Neue Seiten und Inhalte können veröffentlicht werden, während andere geändert oder gelöscht werden.
Das stellt beim Betreiben einer KI-basierten Suchmaschine ein Problem dar: Wenn die Webinhalte im Grundtraining eingespeist werden, müsste das KI-Modell nach einer gewissen Zeit komplett neu trainiert werden. Zur Lösung dieses Problems gibt es mehrere Ansätze mit unterschiedlichen Vor- und Nachteilen. Die beiden untersuchen KI-basierten Suchmaschinen nutzen unterschiedliche Ansätze.
Bing Chat stellt nach der Nutzereingabe eine Suchanfrage an die Index-basierte Suchmaschine Bing. Dies erklärt die deutlich längere Antwortzeit, bei der Bing Chat durchschnittlich ca. 11,75 Sekunden benötigt. Wie dieser Prozess des Einbezugs der Webinhalte funktionieren, wird im Folgenden untersucht.
Bing Chat nutzt eine besondere Methode, um aktuelle Inhalte in seinen Antworten einbeziehen zu können. Dafür analysiert Bing Chat die Frage des Nutzers und formuliert diese in eine Suchanfrage um, um sie an die Index-basierte Suchmaschine Bing zu senden. Welche Suchanfrage aus der Benutzereingabe formuliert wurde, wird, wie die Abbildung zeigt, von Bing Chat vor dem Generieren der Antwort angezeigt. Mithilfe dieser Suche erhält Bing Chat aktuelle, zur Fragestellung passende Seiten. Anschließend werden die Inhalte der ersten Treffer analysiert und für die Antwort des KI-Modells als Parameter genutzt.
Somit wird für jede Anfrage, die an Bing Chat gestellt wird, eine separate Suchanfrage an Bing gerichtet. Das bedeutet, dass ein Training der Webinhalte und die stetige Aktualisierung des KI-Modells überflüssig sind. Dies hat jedoch zur Folge, dass für den Betrieb zusätzlich eine vollständige Index-basierte Suchmaschine benötigt wird.
Die Formulierung und Durchführung einer Suchanfrage führen zu einer deutlich längeren Antwortzeit als bei einem vollständig trainierten KI-Modell. Die Dauer und Verzögerungen der zusätzlichen Prozesse führt zu einer erhöhten Antwortzeit der Suchmaschine. Wie im Experiment untersucht, benötigt Bing Chat durchschnittlich 14,6 Sekunden für eine Antwort mit Suchanfrage, also deutlich länger als die durchschnittliche Antwortzeit von 5,6s Sekunden von Google Bard.