本院研發「值機應答助理Copilot」，以GenAI技術全程輔助文字客服值機員高效應答客戶問題，成果上線於中華電信客服，累積超過100位值機員使用，其中超過50%回答無需人工輸入，98%的值機員認為有助於提升交談速度，成為客服領域頗受歡迎的輔助工具。

文字客服值機員通常需要同時一對多名客戶應答，頻繁的人工搜索及輸入文字回覆，增加人力負擔與用戶等待時間。此外，值機員間存在個別的回覆習慣，導致客戶感受不一致的客服體驗，對企業與用戶均不利。為解決這些問題，「值機應答助理」可依據值機員與客戶前後文對話，即時生成回覆語推薦，供值機員快速點選發送，有效減輕工作負擔並改善用戶體驗。值機應答助理具有以下技術特色：

一、 可商用、低成本、全地端方案：值機對話包含許多用戶隱私資料，無法採用公雲方案，本研發基於開源小參數量生成式LLM，提供可商用、低運算規格需求、全地端模型訓練與推論方案，降低隱私暴露疑慮。

二、 前後文理解與生成：採用LLM技術可閱讀與客戶前後文對話紀錄，正確理解當前客戶問題，生成更合適的回覆語，提高推薦正確率。此外，研發團隊突破LLM字元長度限制，能生成較長的常用片語，提升可用性。

三、 免標註模型訓練：當推薦正確時，值機員可快速點選送出；若推薦不正確時，值機員可人工輸入正確回覆語句，過往應答對話紀錄將作為標註語料進行模型持續訓練，毋須AI訓練師投入標註，降低企業導入負擔。

四、 快速回覆生成：為滿足快速交談需求，本技術研發了多項LLM加速機制，例如平行化生成、採用高效自注意力kernel等，平均延遲僅0.5秒。

研發團隊將持續深化並擴展值機員的輔助管道與方案完整性，由文字擴展到語音值機管道，團隊將導入企業資料問答系統，奠基於企業自有資料，使值機員得以自然語言提問並快速取得問題答案及引用來源，提升客服效率和服務質量。