加速落地 京東云大模型已支持?jǐn)?shù)百個場景

6月6日，京東云城市大會在成都順利舉行，大會全面展示了京東場景大模型應(yīng)用效果、言犀大模型技術(shù)能力升級，支持大模型的新一代數(shù)字基礎(chǔ)設(shè)施，持續(xù)加速產(chǎn)業(yè)智能化變革。大模型落地應(yīng)用的關(guān)鍵是在資源、性能、效果三者之間取得平衡。為了實現(xiàn)這一目標(biāo)，京東云自研了推理引擎，通過利用推測解碼，用小模型輔助大模型進(jìn)行推理，從而加速大模型的推理速度并降低成本。在大模型應(yīng)用開發(fā)方面，京東云自研了大模型產(chǎn)品，以支持更高效的研發(fā)運維。其中，自研的輔助編碼助手 JoyCoder 幫助研發(fā)人員更高效地編寫、閱讀和優(yōu)化代碼，目前京東上萬名研發(fā)人員在使用 JoyCoder，生成代碼采納率超過30%，助力開發(fā)周期縮短20%。在運維服務(wù)上，京東云自研了混合多云智能運維平臺，提供指標(biāo)異常檢測、日志分析、故障定位等功能，在 QPS 達(dá)千萬級流量時，可用率仍達(dá)到99.9%，大幅提升了運維效率。

基于京東云的自研技術(shù)，大模型已經(jīng)在京東的數(shù)百個應(yīng)用場景中得到了應(yīng)用，包括直播帶貨、店鋪運營、廣告投放等領(lǐng)域。例如，在內(nèi)容生產(chǎn)方面，超過9萬商家借助大模型零成本制作店鋪營銷物料，AIGC 生成內(nèi)容采納率超50%，實現(xiàn)了大幅度的降本提效。在數(shù)字人直播方面，大模型加持的京東云言犀數(shù)字人已在超過5000間品牌直播間開播，帶貨 GMV 總量近百億。

為了進(jìn)一步推動大模型的應(yīng)用，京東云還推出了一套支持大模型的完整工具，包括言犀 AI 開發(fā)計算平臺、向量數(shù)據(jù)庫、混合多云操作系統(tǒng)云艦、高性能存儲平臺云海、軟硬一體虛擬化引擎京剛等核心產(chǎn)品。其中，言犀 AI 開發(fā)計算平臺可以提供從基礎(chǔ)資源、模型服務(wù)到智能體構(gòu)建的一站式大模型服務(wù)，支持 GPU 資源的統(tǒng)一管理，兼容國內(nèi)外主流 AI 芯片，實現(xiàn)集群算力資源的充分利用。

未來，京東云將繼續(xù)與合作伙伴一道，以更豐富的應(yīng)用場景和領(lǐng)先的技術(shù)能力，助推大模型抵達(dá)產(chǎn)業(yè)智能。