大模型與小模型結合的意圖辨識方案有哪些優勢

大模型與小模型結合的意圖辨識方案有哪些優勢

結合使用大模型和小模型的優點：
1.精準性： 小模型適合處理高頻固定指令，大模型處理複雜開放性問題。
2.彈性： 大小模型的互補性提升瞭解使用者意圖的全面性。
3.成本最佳化： 透過小模型分擔部分工作，降低大模型的呼叫頻次和成本。
但要注意需要ISV搭建助理上線前進行模型訓練，會有2~3工作量