1月5日，這個(gè)神秘的X項(xiàng)目對(duì)外公布，京東成為央視2022年春晚獨(dú)家互動(dòng)合作伙伴，保留項(xiàng)目“給全國人民發(fā)紅包”由京東承包了。

沒人會(huì)低估春晚的力量。即使是多次經(jīng)歷京東618、京東11.11等高并發(fā)數(shù)億級(jí)流量洪峰的團(tuán)隊(duì)，在全國十幾億觀眾面前仍然保持著緊張、謹(jǐn)慎、兢業(yè)。

“當(dāng)時(shí)面臨很多未知，唯一確定的是，系統(tǒng)的穩(wěn)定性和并發(fā)量要做到極致?！本〇|智能客服言犀團(tuán)隊(duì)的軟件開發(fā)工程師彭定邦告訴「深響」，團(tuán)隊(duì)里許多成員跟他有著相似的第一反應(yīng)， “有點(diǎn)懵，又很緊張，也蠻興奮”。

春節(jié)前的京東內(nèi)部

團(tuán)隊(duì)最初的“懵”來自于這個(gè)任務(wù)的絕對(duì)難度。春晚有近13億的觀眾規(guī)模，脈沖式的流量高峰使其成為互聯(lián)網(wǎng)大廠技術(shù)能力的試煉場。紅包互動(dòng)的峰值達(dá)到數(shù)億級(jí)別，加上愈加復(fù)雜的交互場景以及需要保障全國人民使用體驗(yàn)的責(zé)任，都讓團(tuán)隊(duì)壓力重重。

京東云自主研發(fā)的京東智能客服言犀（下稱言犀）在這場“戰(zhàn)役”中的重要性不言而喻——

言犀是京東結(jié)合語音語義、知識(shí)獲取與推理、情感智能、人機(jī)對(duì)話與交互、多模態(tài)內(nèi)容智能、決策智能等AI技術(shù)和與全鏈條客戶服務(wù)場景深度融合打造的系列智能服務(wù)產(chǎn)品，已經(jīng)在成熟支持電商等京東集團(tuán)內(nèi)部業(yè)務(wù)，能力也開始輸出給外部的合作伙伴。

作為與用戶直接聯(lián)絡(luò)接觸的端口，言犀是超大規(guī)模流量的“接待員”，除了應(yīng)對(duì)常規(guī)客服問詢，在春節(jié)春晚的特殊背景下，言犀還需要做得更多：回答用戶“春晚活動(dòng)規(guī)則”、“如何查看春晚獎(jiǎng)勵(lì)”、“如何使用春晚紅包”。又因?yàn)槭窍M(fèi)紅包，言犀要為紅包使用的售后、物流環(huán)節(jié)提供服務(wù)，還要針對(duì)春節(jié)這個(gè)對(duì)所有華人來說特殊的時(shí)間節(jié)點(diǎn)做節(jié)日氛圍渲染。

這場春晚注定是京東智能交互服務(wù)的“成人禮”，年貨節(jié)啟動(dòng)至春晚結(jié)束，言犀共計(jì)服務(wù)5.5億次，為16.5萬商家提供1億次服務(wù)，物流大件外呼累計(jì)290萬通，將能力最大化展現(xiàn)給了全國人民。

言犀團(tuán)隊(duì)如何在短時(shí)間內(nèi)完成任務(wù)抗住考驗(yàn)？此次項(xiàng)目背后有怎樣積年累月技術(shù)和產(chǎn)品服務(wù)經(jīng)驗(yàn)沉淀？在AI商業(yè)化進(jìn)入快車道，帶來更多想象力的當(dāng)下，京東智能客服的能力如何外延拓展？

燈火通明的京東園區(qū)

春晚倒計(jì)時(shí)

嘀嗒，嘀嗒，嘀嗒，春晚倒計(jì)時(shí)開始。 留給團(tuán)隊(duì)的時(shí)間不到一個(gè)月。

時(shí)間緊張，激動(dòng)的情緒必須平復(fù)下來，各項(xiàng)部署和拉齊開始爭分奪秒地進(jìn)行，言犀團(tuán)隊(duì)內(nèi)部成立“SWAT快速反應(yīng)部隊(duì)”備戰(zhàn)。這是一個(gè)由內(nèi)部經(jīng)驗(yàn)豐富的核心業(yè)務(wù)骨干組成的小組，包括算法、產(chǎn)品、工程以及測試整個(gè)條線的工作人員。

其中有經(jīng)歷過20次備戰(zhàn)的京東老員工，也有年輕的新鮮血液：負(fù)責(zé)系統(tǒng)研發(fā)的梁仕強(qiáng)、馬浩，架構(gòu)師彭定邦，負(fù)責(zé)應(yīng)答機(jī)器人算法的俞曉光，負(fù)責(zé)春晚策略設(shè)計(jì)、優(yōu)化的產(chǎn)品經(jīng)理李楊晶、關(guān)力，負(fù)責(zé)質(zhì)量保障和性能壓測的張大建......這個(gè)名單很長。

京東集團(tuán)副總裁何曉冬對(duì)項(xiàng)目進(jìn)行前期部署

得益于數(shù)次京東618、京東11.11等大促的經(jīng)驗(yàn)，言犀團(tuán)隊(duì)節(jié)奏穩(wěn)健，周六啟動(dòng)、周日盤點(diǎn)、周一就拉齊團(tuán)隊(duì)進(jìn)行了計(jì)劃制定。但是相比往年的大促，春晚還是有其特殊性，難點(diǎn)拆解下來主要有三點(diǎn)：

首先是對(duì)流量動(dòng)態(tài)和峰值的預(yù)測。

經(jīng)過與業(yè)務(wù)方以及有過春晚紅包項(xiàng)目經(jīng)驗(yàn)的團(tuán)隊(duì)的交流，考慮到春晚流量峰值巨大，且相較大促累計(jì)持續(xù)時(shí)間更長，當(dāng)晚包含7輪互動(dòng)活動(dòng)。為了保險(xiǎn)起見，團(tuán)隊(duì)需完成的目標(biāo)是達(dá)到可以一秒內(nèi)同時(shí)承接上萬人的咨詢。

用何曉冬的話說，“這次春晚項(xiàng)目應(yīng)該屬于人機(jī)對(duì)話與交互應(yīng)用的珠穆朗瑪峰了”。

作為業(yè)內(nèi)頂級(jí)的AI科學(xué)家，何曉冬見證了深度學(xué)習(xí)及人工智能技術(shù)迎來新一輪爆發(fā)，也經(jīng)歷了數(shù)個(gè)618、11.11，但春晚卻是第一次。

其次，在智能客服自主應(yīng)答的完成度上，面向全國人民的春晚項(xiàng)目需要更高。

雖然言犀已經(jīng)在服務(wù)京東超5億的消費(fèi)者以及商家，平日里，可以承擔(dān)起六七成的咨詢量，做到獨(dú)立接待。但是春晚的峰值讓大規(guī)模人員調(diào)度成為不可能的事，因此，95%的咨詢量都將由機(jī)器人來支撐，而且要做到“接的起、答得上、答得好”。這無疑是對(duì)言犀整套系統(tǒng)性能、架構(gòu)的挑戰(zhàn)。

第三，在體驗(yàn)和功能上，雖然言犀已經(jīng)可以支撐內(nèi)部業(yè)務(wù)需求。但是春晚是個(gè)之前從未做過的場景，對(duì)模型的通用性和遷移性而言是考驗(yàn)。

而且，言犀在春晚不僅僅是個(gè)App客服的角色，還要修煉新技能跟用戶互動(dòng)營造節(jié)日氛圍，比如對(duì)對(duì)聯(lián)、猜燈謎等，讓科技的呈現(xiàn)更有年味兒。

科技與年味兒

雖說任務(wù)艱巨，但是士氣高漲，畢竟春晚項(xiàng)目對(duì)于每個(gè)技術(shù)人來說也是不可多得的一次鍛煉機(jī)會(huì)。辦公室里掛起了數(shù)條紅底橫幅，“一起干件大事，不負(fù)每份熱愛”，“智能客服就看言犀，對(duì)話服務(wù)永不宕機(jī)”......

這個(gè)除夕夜，很多京東人早早就做好了留守公司保障春晚項(xiàng)目的準(zhǔn)備。親人在家看春晚，自己在“守護(hù)”他們的紅包，也是一種團(tuán)圓。

值班員工給父母拜年

“從容”才是關(guān)鍵詞

春晚紅包從來不缺戲劇性的故事，歷屆春晚互動(dòng)合作伙伴除了獲得充足的流量，同時(shí)也會(huì)帶來不小的技術(shù)壓力。

反觀京東的部署，其關(guān)鍵詞或許是“從容”。

多年以來，京東內(nèi)部要求大促備戰(zhàn)常態(tài)化，面對(duì)京東618、京東11.11，甚至春晚，團(tuán)隊(duì)并不會(huì)有超常規(guī)的動(dòng)作。常態(tài)化方案的應(yīng)對(duì)，200%重視的心態(tài)?！拔覀兊南到y(tǒng)隨時(shí)可以上大戰(zhàn)場，來之即戰(zhàn)，戰(zhàn)之必勝，這是現(xiàn)在這個(gè)團(tuán)隊(duì)所具備的能力?！本〇|智能客服前臺(tái)產(chǎn)品與運(yùn)營部總經(jīng)理劉丹在與「深響」的對(duì)話中表示。

言犀團(tuán)隊(duì)在工作中

從容不迫的態(tài)度背后是技術(shù)和經(jīng)驗(yàn)沉淀帶來的底氣。哪有什么天賦異稟，不過是百煉成鋼。

面對(duì)春晚的流量洪峰，以及春晚活動(dòng)疊加日常網(wǎng)購業(yè)務(wù)的復(fù)雜場景，京東做到了“開源節(jié)流”，通過云原生技術(shù)，實(shí)現(xiàn)快速彈性的資源配備，全過程沒有增加一臺(tái)服務(wù)器。

資源有效利用對(duì)各個(gè)環(huán)節(jié)的運(yùn)行而言是最底層的保障，讓齒輪真正轉(zhuǎn)動(dòng)了起來，在應(yīng)用、體驗(yàn)上游刃有余地去做研發(fā)。

接到任務(wù)之后，擺在言犀團(tuán)隊(duì)眼前的問題就是如何拆解本次任務(wù)？

言犀的算法工程師俞曉光詳細(xì)解釋了背后的秘密：

第一，言犀長期積累的數(shù)據(jù)強(qiáng)化技術(shù)就發(fā)揮了作用，通過深度生成模型，結(jié)合大模型預(yù)訓(xùn)練、意圖一致性約束、多任務(wù)學(xué)習(xí)、受限解碼等技術(shù)，能夠無中生有地產(chǎn)出海量語料，大大提升了模型的覆蓋度和識(shí)別意圖的精準(zhǔn)度。

第二，模型本身有泛化、遷移能力，意思是說，可以從其他領(lǐng)域積累的知識(shí)點(diǎn)基礎(chǔ)上進(jìn)行調(diào)整。這跟人的學(xué)習(xí)過程可以類比，從小學(xué)到大學(xué)，每一步并非完全從零開始，而是在之前的知識(shí)和思考模式基礎(chǔ)上進(jìn)階。

言犀通過模型蒸餾、模型量化、優(yōu)化線上實(shí)時(shí)推理引擎等方式，將大規(guī)模預(yù)訓(xùn)練語言模型蒸餾為輕量級(jí)預(yù)訓(xùn)練模型，從而在保證效果不出現(xiàn)顯著損失的前提下，模型的推理速度和并發(fā)性能得到10倍左右的提升，最終在資源、性能、效果三者取得一個(gè)比較好的平衡點(diǎn)。

在春晚之前的一次對(duì)話中，當(dāng)被問到對(duì)于這次項(xiàng)目的準(zhǔn)備能打幾分時(shí)，俞曉光自信地說“當(dāng)然是100分”。

作為在智能客服團(tuán)隊(duì)8年的元老，他一路看著言犀從“小孩”到“成人”的進(jìn)化，從摸索著做簡單的文本一問一答，到產(chǎn)生有上下文能力的真正對(duì)話，到能力繼續(xù)外延，可以做到識(shí)別意圖，主動(dòng)服務(wù)。言犀變得越來越流暢，越來越“聰明”。而春晚這個(gè)特殊的項(xiàng)目，就是言犀的一次“成人禮”。

技術(shù)團(tuán)隊(duì)的備戰(zhàn)

AI的情感智能也是這次近幾年言犀發(fā)力的重點(diǎn)目標(biāo)之一。智能客服這類服務(wù)被用戶詬病的無非就是兩點(diǎn)，一是不夠準(zhǔn)確，二是太機(jī)械化。隨著言犀的IQ在提升，EQ也在進(jìn)步。

“京東的情感智能，是在解決問題的能力之上提供溫暖?！毖韵漠a(chǎn)品經(jīng)理李楊晶說。

舉個(gè)簡單的例子，這種帶有人情味的服務(wù)體現(xiàn)在，當(dāng)用戶催促快遞時(shí)，客服不僅僅會(huì)說“請(qǐng)不要著急，我正在幫您催”，也會(huì)主動(dòng)在某個(gè)時(shí)間點(diǎn)接觸用戶，告訴他物流的進(jìn)展或是送上代金券作為補(bǔ)償。在這次春晚紅包項(xiàng)目中，言犀也有識(shí)別情緒的能力，像人一樣去安撫、開玩笑，但都建立在能解決問題的基礎(chǔ)之上。

按著制定好節(jié)奏走，從容，但不松懈。打磨持續(xù)進(jìn)行中，團(tuán)隊(duì)通過一輪輪壓測發(fā)現(xiàn)問題，優(yōu)化系統(tǒng)瓶頸，也為春晚設(shè)計(jì)了多個(gè)應(yīng)急預(yù)案。在正式上線前，團(tuán)隊(duì)進(jìn)行了不止7次壓測。

春晚尚未來到的時(shí)候，讓子彈再飛一會(huì)兒。

春晚不是起點(diǎn)，也不是終點(diǎn)

《難忘今宵》熟悉的旋律響起，晚會(huì)圓滿結(jié)束，近2000名在公司度過除夕夜的京東工程師們懸著的心也隨之放下。

春晚4個(gè)多小時(shí)，京東APP紅包累計(jì)互動(dòng)量達(dá)691億次，順利通過這次最強(qiáng)考驗(yàn)。不少網(wǎng)友馬上在社交媒體上曬出自己搶到的紅包和使用訂單，分享“薅”到了羊毛的開心。把紅包和優(yōu)惠順暢地給到全國人民，不就是這半個(gè)多月以來這群京東人備戰(zhàn)的目標(biāo)嗎？

但對(duì)于言犀來說，這既不是起點(diǎn)，也不是終點(diǎn)。

著眼整個(gè)智能客服行業(yè)，因其成本低、可24小時(shí)在線、服務(wù)標(biāo)準(zhǔn)化等天然優(yōu)勢(shì)，普及范圍逐年擴(kuò)大，應(yīng)用場景多元，行業(yè)規(guī)模不斷擴(kuò)大。據(jù)艾媒咨詢數(shù)據(jù)顯示，2020年中國人工智能核心產(chǎn)業(yè)規(guī)模達(dá)到1500億元，預(yù)計(jì)2030年將達(dá)到1萬億元，隨之，2021年中國智能客服行業(yè)整體市場規(guī)模預(yù)計(jì)超過了400億元。智能客服作為企業(yè)AI應(yīng)用的重要分支，保守估計(jì)占比20%。

許多正處于數(shù)字化浪潮中行業(yè)也將智能客服作為降本增效的手段之一。政務(wù)、金融、零售等等行業(yè)的客戶希望看到應(yīng)答能力更強(qiáng)、解決問題效率更高的智能客服，并與原有的數(shù)字化系統(tǒng)形成耦合。

隨著行業(yè)的發(fā)展，智能客戶服務(wù)還不止于傳統(tǒng)客服。

它可以滿足服務(wù)、營銷、運(yùn)營一體化需求，并且能夠貫穿服務(wù)客戶的全生命周期。隨著AI技術(shù)的成熟，客戶服務(wù)從一個(gè)傳統(tǒng)上的成本項(xiàng)走向利潤的創(chuàng)造，可以與營銷、獲客相結(jié)合，提升用戶粘性。還可以通過人機(jī)協(xié)作，提供最好的客戶體驗(yàn)。

要滿足這樣的需求，技術(shù)、行業(yè)認(rèn)知、服務(wù)，都是必要條件。

近年來，京東科技智能客戶服務(wù)產(chǎn)品部從微軟、蘋果等科技巨頭吸收人才，在各大國際級(jí)學(xué)術(shù)會(huì)議發(fā)表論文220余篇，創(chuàng)造了260余項(xiàng)技術(shù)突破和創(chuàng)新，獲得國內(nèi)外權(quán)威科技獎(jiǎng)項(xiàng)60余個(gè)，多次獲得人工智能領(lǐng)域國際大賽冠軍，團(tuán)隊(duì)也在實(shí)戰(zhàn)中歷練，不斷優(yōu)化算法和模型。

經(jīng)過多年沉淀，言犀這套智能對(duì)話與交互系統(tǒng)，已經(jīng)涵蓋了“在線咨詢機(jī)器人”、“語音外呼”、“語音導(dǎo)航”、“語音應(yīng)答”、“數(shù)字人”以及面向商家的“京小智”服銷一體化智能SaaS產(chǎn)品。  

行業(yè)認(rèn)知層面，言犀首先經(jīng)過京東內(nèi)部業(yè)務(wù)的驗(yàn)證，在零售場景具有極強(qiáng)的優(yōu)勢(shì)。而且在2019年開啟商業(yè)化后， 通過一個(gè)又一個(gè)實(shí)際案例，在政務(wù)、金融、零售、泛互等各個(gè)行業(yè)積累、完善有強(qiáng)復(fù)用性的場景經(jīng)驗(yàn)。

言犀為京東首個(gè)智能數(shù)字人客服芊言

提供了智能多模態(tài)交互技術(shù)

為滿足客戶快速部署的需求，言犀系統(tǒng)高度模塊化，能與原業(yè)務(wù)系統(tǒng)兼容，從而能高效交付。隨著商業(yè)化步伐的加快，邊際成本遞減效益越來越明顯，更低的部署成本讓言犀的大規(guī)模商用成為可能。例如針對(duì)春晚活動(dòng)的知識(shí)庫配置，提供了一套全自動(dòng)分析的流程，完善了線上識(shí)別、實(shí)時(shí)數(shù)據(jù)挖掘、新語料的解決方案，3分鐘即可快速上線，保障了活動(dòng)期間識(shí)別和應(yīng)答無空白區(qū)域。

春晚項(xiàng)目是最新的實(shí)證。成功抗住春晚這個(gè)史上最高的智能人機(jī)對(duì)話與交互的SaaS流量洪峰是京東AI技術(shù)產(chǎn)品化發(fā)展路上的一個(gè)里程碑。總結(jié)京東的這場備戰(zhàn)，堅(jiān)實(shí)的底層技術(shù)支持、先進(jìn)的算法模型、運(yùn)營和產(chǎn)品體驗(yàn)的精細(xì)化、團(tuán)隊(duì)的備戰(zhàn)經(jīng)驗(yàn)和精神， 缺一不可。

一次春晚，也讓更多人了解到了智能客服產(chǎn)品現(xiàn)在的水平和能力，“他們”早就不是人們印象中的那個(gè)“聽不懂話的客服了”。

隨著AI不斷深入和落地，像京東這樣有業(yè)務(wù)、有場景的公司正在展示出更大的智能未來前景。一方面是對(duì)前沿技術(shù)的迅速應(yīng)用，另一方面則是在落地應(yīng)用和數(shù)據(jù)迭代中，創(chuàng)造出更強(qiáng)的模型和研究成果。

言犀將如何進(jìn)化？技術(shù)人的攻堅(jiān)和場景需求正在不斷碰撞出新的火花。