作者：京東科技 賈玉龍

1 背景

1.1 現(xiàn)狀

AIGC系統(tǒng)中多個模型的切換調(diào)用通常指的是在同一個AIGC系統(tǒng)或應(yīng)用中，可以根據(jù)不同的輸入條件或任務(wù)需求，動態(tài)地選擇并調(diào)用不同的機器學習模型進行處理。是一個AIGC系統(tǒng)能力不可或缺的環(huán)節(jié)。

目前現(xiàn)行方案中，一般直接請求不同的會話聊天對應(yīng)不同的鏈接地址，又對應(yīng)不同的算法模型。

1.2 現(xiàn)有技術(shù)及缺點

1、需要建立多個不同類型的AIGC聊天窗口，對應(yīng)不同的鏈接，以對應(yīng)不同的模型；

2、無法直接動態(tài)切換模型，交互流程復(fù)雜；

3、由于異步問題，聊天窗中需要的初始化數(shù)據(jù)不能及時傳入。

2 方案目的

本問通過統(tǒng)一AIGC聊天窗中不同的卡片模型傳值，來動態(tài)切換不同聊天內(nèi)容對應(yīng)的模型；在用戶側(cè)交互上可以不用新建聊天窗口。

3 完整技術(shù)方案

3.1 方案原理

如下圖所示，聊天欄目“智能實驗室”是外框DOM，紅色部分為子聊天窗體，子窗體中1、2、3等為三種聊天source類型的卡片，需要對應(yīng)算法的3種模型，每個模型的對話可以直接點擊切換，并且需要外框DOM傳入相應(yīng)的初始化數(shù)據(jù)。

3.2 詳細描述

如下圖所示：

當用戶想使用對應(yīng)聊天功能進行AIGC內(nèi)容生成時，可選擇聊天窗對應(yīng)按鈕，聊天窗將對應(yīng)按鈕的source類型傳給外框DOM，外框DOM根據(jù)業(yè)務(wù)場景把對應(yīng)的初始化數(shù)據(jù)準備好，一起再發(fā)給子聊天窗，然后把數(shù)據(jù)傳給算法模型引擎，算法模型引擎根據(jù)source及參數(shù)類型，切換對應(yīng)的模型來進行內(nèi)容處理，然后返回生產(chǎn)的內(nèi)容給子聊天窗，子聊天窗再渲染展示給用戶。

4 總結(jié)

本方案里在AIGC的消息傳遞中，不直接發(fā)送不同初始化或不同相應(yīng)消息給大模型進行識別，而是讓外框DOM做模型主調(diào)度和消息總控調(diào)度，以方便及時調(diào)用和傳入?yún)?shù)。

審核編輯 黃宇