經歷了巨頭級公司全力加碼、明星創(chuàng)業(yè)者云集的“百模大戰(zhàn)”尖峰時刻，大模型對于很多人來說不再是一個陌生詞匯。

喧囂伴隨著認知門檻的降低，逐漸叩開市場的大門，而喧囂背后，大模型行業(yè)已達成共識——必須聚焦于“場景”和實際應用，只有使用量拉起來了，才有機會磨出真正有價值的好模型。也難怪就連Open AI的創(chuàng)始人Altman都已著手創(chuàng)辦新公司Thrive AI Health，聚焦到健康慢病管理場景了。

在拉通大模型的應用方向，我們關注到智能客服這一特定領域。“大模型的應用對于智能客服行業(yè)的商業(yè)模式、組織結構、業(yè)務效率效果、商業(yè)價值等方面都產生了深刻的影響。”曉多科技CTO向海告訴「深響」。

曉多科技是以智能對話為核心的認知智能 SaaS 產品和行業(yè)數智化解決方案服務商，其智能客服廣泛應用于電商、電信、政務、教育等多領域，覆蓋全國50多城，服務了包括美的、海信、極米、方太、芝華士等零售類品牌，在今年5月成為了抖音電商客服服務商。作為專注智能客服十余年的關鍵企業(yè)，曉多科技從認知到實踐，讓我們看到大模型落地特定行業(yè)的探索過程——大模型究竟如何在智能客服具體場景中發(fā)揮作用？給客服行業(yè)帶來了哪些層面的改變？我們如何去理解這些變化以及借力這些變化？

“客服”雖然并不“高大上”，但他們卻是品牌商家直面用戶的窗口。根據《2023年中國智能客服市場報告》，中國智能客服市場規(guī)模已達66.8億元，預計到2027年，市場規(guī)模有望增長至181.3億元。而大模型技術的應用，一方面解決著過去客服交互、客服培訓等具體環(huán)節(jié)的痛點，另一方面也為智能客服行業(yè)延展出更多的業(yè)務空間，讓智能客服不止于“客服”，更是深入到營銷、交易、履約等各個生意關鍵環(huán)節(jié)，實現更大的價值。

01、先用再說

曉多科技能夠在今天迅速拿起大模型的利器其實有一定的歷史淵源。

十年前，CEO江嶺察覺到客服行業(yè)痛點問題，就針對電商客服場景設計了人工智能輔助工具，其核心產品“智能客服機器人”已為多個電商平臺的多品類企業(yè)提供著高準確率、高覆蓋率的個性化服務。江嶺是自然語言處理和機器學習專家，曉多科技的大部分研發(fā)人員則來自百度、騰訊、華為、科大訊飛等知名企業(yè)。

這樣的技術積累和敏感度，讓曉多科技在2020年就將大模型納入了重點關注范圍。2022年，ChatGPT在全球范圍引發(fā)熱議，江嶺沒有猶豫，立即發(fā)起了“全員AI”的工作要求，讓各個業(yè)務模塊嘗試用GPT提效并加速認知上的迭代。

2022年12月，曉多科技的大模型團隊正式組建，覆蓋工程、算法、數據、產品等角色，并在單獨的空間中“閉關”，圍繞自己的業(yè)務場景去測，跑通微調模型。當時的曉多科技明確了一個很重要的方向判斷：大模型的魔法不會憑空出現，必須圍繞自身的業(yè)務場景去探索。

但曉多科技的業(yè)務模塊并不簡單，“一豎一橫”的布局嚴密地構建出其在智能客服領域的專業(yè)度和護城河：

一豎是曉多科技最為核心的“前臺業(yè)務”，直面消費者，包括接待消費者、回答消費者、導購消費者等等；

一橫則是圍繞客服管理和能力提升的“后臺業(yè)務”，包括客服招聘、崗前培訓、上崗考核、崗后團隊管理等等。

這么多的場景，怎么選擇？怎么切入？曉多的答案是先測試最核心的應答環(huán)節(jié)，這是智能客服最重要的能力。

2023年3月，曉多科技與國家超級計算成都中心達成合作，解決算力資源問題，把基礎模型微調訓練全部跑通。5月發(fā)布了基于生成式預訓練Transformer的深度學習模型“XPT曉模型”。“XPT曉模型”與ChatGPT的核心技術架構相同，但不同的是，曉模型接受了大量的電商行業(yè)的領域知識訓練，積累了電商行業(yè)關于商品、行業(yè)上下游、行業(yè)政策以及產品使用場景相關的數億Token的領域知識，可以更好地為顧客提供智能化和個性化的服務。

XPT曉模型

“XPT曉模型”是曉多科技“一豎”業(yè)務的進階。但考慮到人力和資源的效率問題，對于“一橫”業(yè)務對應的諸多場景，曉多科技選擇“放手”，以采購其他人的API為主了。

CTO向海向「深響」坦言：“一開始都自己做，但什么都全做的思路其實不符合曉多對于大模型ALL in One的理解。”

彼時向海注意到火山引擎在大模型上的投入很大，而且產品的成熟度和迭代速度有目共睹。曉多科技自己開發(fā)Agent產品時也受到了字節(jié)扣子（coze.cn）的一些產品思路啟發(fā)。于是曉多科技開始和火山引擎團隊接觸并初步合作。

火山引擎團隊“先做事”的風格讓向海印象深刻。“讓我們先用了再說、先敞開測、先把場景擺出來，”向海說：“用下來之后確實很多場景都匹配，可用性超過80%，穩(wěn)定性也好。新業(yè)務測下來10次能對9.9、9.5次，符合我們的預期。”

另外，曉多科技的業(yè)務場景很多都在電商上，618、雙11這樣的大促節(jié)點帶來的高并發(fā)問題不容忽視，火山引擎對于高并發(fā)的保障能力也是曉多科技認可的關鍵：“1000條并發(fā)過來，就能在幾分鐘、十幾分鐘形成一個模型的迭代，這個速度非常誘人。”

今年五月，字節(jié)跳動豆包大模型在火山引擎原動力大會上正式發(fā)布，據火山引擎總裁譚待介紹，經過一年時間的迭代和市場驗證，豆包大模型正成為國內使用量最大、應用場景最豐富的大模型之一，日均處理1200億Tokens文本，生成3000萬張圖片。而豆包主力模型在企業(yè)市場的定價只有0.0008元/千Tokens，這種讓大模型以分計價到以厘計價的轉折顯然會刺激更多企業(yè)把大模型“先用起來”。

向海告訴「深響」，目前曉多科技與豆包大模型在“橫”“豎”兩向的諸多業(yè)務場景上都有緊密合作。

在“一橫”的場景中，豆包是曉多科技的“伙伴”。比如通過調用豆包的API，用豆包模擬消費者進線，來訓練客服應對各種問題。就像今年618前夕，曉多科技的一個客戶招聘了三四百個客服，通過豆包的合作，在2-3天內完成了這批客服的訓練和考試，大大節(jié)省了管理、考核、培訓的時間精力和成本。

在“一豎”的核心場景中，豆包則扮演著“導師”的角色，生成大量訓練數據，幫助曉多訓練中小模型，幫曉多糾正優(yōu)化小模型，讓曉多能在響應時間有要求、準確率有要求、不接受幻覺的的場景上可以跑得更快。

向海為我們舉了一個有趣的例子：人工客服在回答消費者問題時其實會逐漸積累負面情緒，當負面情緒不可避免地爆發(fā)時，智能系統(tǒng)就會做出攔截。這本來是智能客服的優(yōu)勢，但由于語言的藝術“博大精深”，有時就會錯誤地理解詞語的含義而做出錯誤的響應動作。羅技有一款鼠標GPW，被消費者們昵稱為“狗屁王”，當客服向消費者提到這塊產品時，就不應該被攔截。但有時這種細分場景的小模型識別不出來，我們就需要“豆包”作為“導師”來糾偏，讓我們的局部小模型自驅完成迭代，變得更好。

而字節(jié)跳動的抖音電商、抖音生活服務、巨量引擎等業(yè)務跟消費零售關系非常緊密，這也是其大模型的天然優(yōu)勢——在足夠多的場景中進行深度的浸泡，理解毛細化的需求，為更多消費場景的企業(yè)提供全局視角才能看到的啟發(fā)。

02、具體場景，具體解決

明確了曉多科技應用大模型的“頂層設計”，我們不妨再進一步，具體來看兩個用大模型提效的實際業(yè)務場景——全渠道商品知識庫和訓練場。

全渠道商品知識庫是客服系統(tǒng)非常重要的一個組成部分，從產品規(guī)格、使用說明、常見問答到退貨政策、配送信息、故障排除步驟等等，好的知識庫可以有效地管理和應用商品知識，提升服務體驗。

但在實際的客服工作中，好的知識庫實在太難得了。我們發(fā)現，大部分商家的知識庫仍然是文檔、Excel形式，知識庫更新不及時、內容不全面、結構混亂、不易搜索、知識庫系統(tǒng)與客服系統(tǒng)集成度太低、人工依賴度高等等問題層出不窮。比如客服在回答消費者問題時往往需要在多個平臺和文檔之間來回切換“找答案”，耗時且低效，更別說及時進行商品對比和商品推薦以及跨平臺的知識分享了。

對此，曉多采取了通過后臺管理界面“一鍵同步”功能，實現與電商平臺的無縫對接，一鍵操作，便可輕松同步商品信息，這就解決了知識庫內容及時和全面的問題。而借助曉多的智能學習引擎，這些信息被高效轉化為可直接利用的豐富商品知識庫，讓商品管理變得便捷高效。商品知識庫搭建完成后，即可一鍵啟動，實現即時的智能應答和輔助，還可以一套知識庫，在多渠道靈活分享使用。

這背后既有曉多科技對于智能客服各個環(huán)節(jié)細致入微的理解，也有大模型技術深入實際應用層面的積極進展?；鹕揭嫘袠I(yè)團隊與曉多科技合作采用標簽化替代自然語言、設定結構化輸出模板、創(chuàng)新實踐示例、任務定制最優(yōu)參數等策略，深度優(yōu)化提示詞，顯著提升大模型輸出的質量和穩(wěn)定性。特別是在豆包通用模型 Doubao-pro-32k 版本中，針對超 5k 字的文本場景，有效解決了應答延遲問題。

具體而言，在客服轉述用戶的提問后，豆包大模型就通過分析和精準理解，將問題轉化為知識庫查詢可用的關鍵字，以便能快速檢索到相關內容。而基于對用戶需求的理解，豆包大模型可在眾多內容中將用戶最為關心的部分以高亮顯示，進行重點呈現，并支持多個不同產品之間的對比。通過兩次“轉譯”讓用戶以口語化的自然語言提出需求，既收獲對核心需求的精準回復，節(jié)約對話時間的同時，還提高了用戶的滿意度和下單率。

同樣能帶來超預期提效的還有“訓練場”。

客服培訓其實一直是整個行業(yè)的痛點，培訓時間長、效果差、培訓內容和實際情況脫節(jié)等問題直接影響著工作效率。針對這些問題，曉多訓練場就通過調用大模型模擬用戶進線，用實操練兵替代“只看”資料、考試、帶教的新人培訓方式。

曉多科技一開始使用的是傳統(tǒng)的工程方法，容易顯得不自然和機械化，用了豆包大模型后，對話更加擬人化，更符合實際情況，提高了消費者問題模擬的準確度，同時能與訓練中的客服有效互動，提出的問題衍生不重復。這對于客服訓練來說至關重要，消費者可不會按照“流程手冊”來提問，現實中的場景一定是帶有個性化需求、帶有情緒的，如果訓練時沒有貼合實際，真到了工作中，客服恐怕就會手足無措。

據了解，在豆包大模型幫助下，曉多科技的“AI 訓練場”場景獲得了更高的并發(fā)保障，同時成本也優(yōu)化了50倍以上，實現了效率成本雙提升。目前曉多訓練場可以將客服培訓周期從原來的3-4個月縮短到8周左右，而AI訓練的客服對比常規(guī)培訓的客服，銷售轉化率提升了3%-5%。

訓練場中還有“原版回復”功能

讓新客服可以模仿再練習

03、感知變化，用才知道

更加值得探討的是，大模型技術對業(yè)務層面的提效還會進一步影響到行業(yè)的商業(yè)模式和發(fā)展方向。

以智能客服這樣的to B生意來說，過去的邏輯是，大家要盡量SaaS標準化，提高邊際效益，從而帶來更多利潤空間。但實情是客戶的生意五花八門，也經常提出定制的個性化需求，以至于不少人都質疑SaaS模式在中國的可行性。

而現在，大模型技術的改變?yōu)槲覀儙砹巳碌囊暯?，它讓個性化服務變得既可行又經濟。

“個性的東西才是企業(yè)基業(yè)長青的秘訣。”向海告訴「深響」：“大模型讓我們可以重新回歸到個性化的服務上，對行業(yè)進行建模，對流程進行建模，把基座做好，支持我們在上面?zhèn)€性化。而更多長尾需求得到解決，個性化響應能力不斷增強，也相當于讓我們有了更廣闊的發(fā)展空間。”

而在未來，智能客服行業(yè)將不僅僅是單純的“客服”概念，它正逐步從成本中心轉變?yōu)閮r值中心，成為企業(yè)直面消費者的第一現場。大模型技術的到來恰逢其時，它順應了客服行業(yè)正在經歷的深刻變革——客服的角色不再局限于傳統(tǒng)的服務范疇，而是擴展到了咨詢、銷售導購等多個層面。服務場景日益豐富的客觀趨勢下，智能客服成為連接企業(yè)與消費者的紐帶，也有了不止于“客服”的、更立體的價值。

當然，大模型技術對于智能客服行業(yè)已經產生了一些很直觀的影響，比如工作流程、組織結構、關鍵崗位的變化等等。繁瑣、重復性的腦力工作得到緩解，客服們可以承擔起更多情感價值的傳遞。

整體看下來不難發(fā)現，“大模型”雖然是前沿科技，但在上述案例中并非以“高高在上”的姿態(tài)存在，而是深入到了業(yè)務的“細枝末節(jié)”，與人平視，追求效率務實。

曉多科技認為智能客服進化與人類形成的關系進階路徑是：“助理”（Copilot），“教練”（Coach），“同事”（Coworker）。在訓練場的例子中，智能客服是Coach；在多策，智能客服是Coworker……這其實也與豆包大模型的理念不謀而合——字節(jié)跳動產品與戰(zhàn)略副總裁朱駿曾透露其團隊給豆包的三個產品設計原則，擬人化、離用戶近、個性化。

豆包大模型其實包括了豆包通用模型pro、豆包通用模型lite、豆包·角色扮演模型、豆包·語音合成模型、豆包·聲音復刻模型、豆包·語音識別模型、豆包·文生圖模型、豆包·Function Call模型、豆包·向量化模型等9款大模型。企業(yè)可以根據自身業(yè)務場景需求，靈活選擇并快速落地。而目前，豆包大模型已在金融、汽車、智能終端、電商零售、教育科研等多個行業(yè)落地。其背后的火山引擎則以一站式大模型服務平臺火山方舟，讓模型即服務，幫助企業(yè)在高效、安全的環(huán)境里應用各類模型。

放眼整個科技行業(yè)，我們總是試圖總結一些評價大模型水平的衡量標準，比如泛化能力、精度和穩(wěn)定性、訓練數據量、工具鏈完備性、可解釋性和魯棒性等等。但誰用誰知道，拋開專業(yè)術語和科技感，解決真問題、技術真落地才是這輪大模型技術進步的中心奧義。

“并發(fā)足、穩(wěn)定夠、幻覺少、價格好。”向海如是說。