【#區(qū)塊鏈# #大模型應(yīng)用落地：興奮，問(wèn)題和最終解#】

原文來(lái)源：極客公園

作者 | 宛辰

編輯?| 鄭玄

圖片來(lái)源：由無(wú)界 AI生成

就在一年前的 11 月 30 日，ChatGPT 發(fā)布的夜里，一位軟件創(chuàng)業(yè)者不禁感慨：「過(guò)去 20 年白干了，我感覺(jué)全部都可以丟掉?！?/p>

但技術(shù)的變化從來(lái)?yè)醪蛔∮腥隧槃?shì)而為地向前走。一年之后，已經(jīng)有嘗到大模型「甜頭」的軟件開(kāi)發(fā)者「凡爾賽」起來(lái)：「做好了產(chǎn)品，客戶不知道從哪就突然冒出來(lái)?！?/p>

上半年所有人的注意力都在關(guān)注大模型本身，下半年開(kāi)始，第一批試水大模型應(yīng)用的創(chuàng)業(yè)者，已經(jīng)在各自的場(chǎng)景中迭代出了一些有效的路徑。

從「不做大模型，我們是不是就被淘汰了」的 FOMO 情緒，到今天更多創(chuàng)業(yè)者轉(zhuǎn)向更加縱深的行業(yè) knowhow，大模型落實(shí)到應(yīng)用已經(jīng)開(kāi)始越來(lái)越具體地呈現(xiàn)出一些方法，也呈現(xiàn)出一些清晰的問(wèn)題。

最近，百度智能云聯(lián)合極客公園 Founder Park 社區(qū)，集結(jié)了十?dāng)?shù)位在工具層、應(yīng)用層進(jìn)行了大模型應(yīng)用落地的創(chuàng)業(yè)者，聚焦「AI 應(yīng)用」進(jìn)行了 5 個(gè)小時(shí)的深入交流。

與參會(huì)者合影

這可能是國(guó)內(nèi)產(chǎn)業(yè)里第一次高度聚焦在大模型應(yīng)用落地的產(chǎn)業(yè)聚會(huì)。可以明確的感受到，如果上半年大家的關(guān)注點(diǎn)在探討下一個(gè) 10 年時(shí)代變革，那么現(xiàn)在已經(jīng)開(kāi)始聚焦到未來(lái) 18 個(gè)月的產(chǎn)業(yè)變化，甚至是未來(lái) 6 個(gè)月的產(chǎn)品和商業(yè)計(jì)劃了。

面向未來(lái)的思考開(kāi)始從遠(yuǎn)景拉起近景，這是國(guó)內(nèi)大模型領(lǐng)域創(chuàng)新者們一個(gè)明顯的變化。它體現(xiàn)了大模型技術(shù)的率先實(shí)踐者們，從在岸上暢想或焦慮，已經(jīng)下水「摸到了石頭」，真正開(kāi)始「過(guò)河」了。

01 「有點(diǎn)意思」的進(jìn)展

就像 ChatGPT 問(wèn)世時(shí)，所有人詫異的反應(yīng)，創(chuàng)業(yè)者到感受的沖擊更甚。Cocos 引擎聯(lián)合創(chuàng)始人&CEO 林順袒露，「最初探索下來(lái)，有些擔(dān)心『AGI 技術(shù)』可能會(huì)完全替代傳統(tǒng)的游戲開(kāi)發(fā)方式」。游戲開(kāi)發(fā)，正是 Cocos 產(chǎn)品——游戲引擎聚焦的核心場(chǎng)景?！附衲?3 月份，工程師已經(jīng)可以直接用 ChatGPT，花 5、6 個(gè)小時(shí)寫(xiě)出一個(gè) 3D 版本貪吃蛇的游戲，不需要寫(xiě)任何一行代碼?！?/p>

這樣的場(chǎng)景看上去，「軟件吞噬世界」正在讓位于「AI 吞噬軟件」。無(wú)論是 SaaS 廠商，還是 AI 廠商，都感受到了巨大的沖擊。

但當(dāng)創(chuàng)業(yè)者把大模型放在各自的產(chǎn)品里實(shí)踐后，也達(dá)成了令人興奮的共識(shí)：今天的大模型技術(shù)，遠(yuǎn)非面向所有人直接可用的程度，AGI 技術(shù)通向最終的應(yīng)用場(chǎng)景，需要他們這樣一群「支線物流」來(lái)把大模型技術(shù)帶到千行百業(yè)、千家萬(wàn)戶。

以 Cocos 所在的游戲開(kāi)發(fā)行業(yè)來(lái)說(shuō)，林順發(fā)現(xiàn)，大模型讓做出一個(gè)東西變得很簡(jiǎn)單，但游戲是工業(yè)和藝術(shù)結(jié)合的產(chǎn)品，只是做出來(lái)遠(yuǎn)遠(yuǎn)不夠，更需要精細(xì)化，當(dāng)前的大模型僅僅只可用作半自動(dòng)化來(lái)輔助游戲開(kāi)發(fā)。但用好這半自動(dòng)化，做好大模型技術(shù)的工具鏈來(lái)服務(wù)客戶做游戲開(kāi)發(fā)，市場(chǎng)卻有強(qiáng)烈的需求。在一些客戶公司，他甚至聽(tīng)到：「如果不愿意用 Copilot 來(lái)編寫(xiě)代碼，那么明天可以不用來(lái)上班了」。

門(mén)檻低了，客群也就廣了

林順表示，游戲領(lǐng)域用 AI 算法來(lái)做像自動(dòng)關(guān)卡、自動(dòng)內(nèi)容、情感分析等功能，這些都不是新故事，但因?yàn)榇竽Ｐ偷募尤耄屵@些功能門(mén)檻降低了，更多人可以以更簡(jiǎn)單地方式參與進(jìn)來(lái)。

無(wú)獨(dú)有偶，在數(shù)據(jù)分析領(lǐng)域的 Kyligence，也經(jīng)歷了類(lèi)似的過(guò)程。Kyligence 聯(lián)合創(chuàng)始人&CEO 韓卿稱(chēng)，「原先 Kyligence 產(chǎn)品主要專(zhuān)注在金融等領(lǐng)域的大客戶，但把 AI 產(chǎn)品化后，現(xiàn)在能夠接觸到一些中小型客戶，『意外地』拓展了客戶群」。

過(guò)去，像數(shù)據(jù)倉(cāng)庫(kù)這樣的底層產(chǎn)品，即便做得再好，也會(huì)有客戶抱怨不好用，因?yàn)閿?shù)據(jù)倉(cāng)庫(kù)離「業(yè)務(wù)」太遠(yuǎn)了，中間隔了 IT 團(tuán)隊(duì)。即便有了數(shù)據(jù)倉(cāng)庫(kù)，客戶仍需要組建技術(shù)團(tuán)隊(duì)和數(shù)據(jù)團(tuán)隊(duì)把它往上做，變成一個(gè)平臺(tái)、應(yīng)用，業(yè)務(wù)人員才可以真正使用數(shù)據(jù)倉(cāng)庫(kù)?，F(xiàn)在，依托自然語(yǔ)言理解的大模型技術(shù)讓更多業(yè)務(wù)人員可以使用數(shù)據(jù)倉(cāng)庫(kù)的能力，尤其當(dāng)把外掛知識(shí)庫(kù)也放進(jìn)去。

大模型讓軟件廠商拓寬客群、面向更廣泛的群體。百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖打比方稱(chēng)，大模型相比之前的 AI 技術(shù)，使得應(yīng)用的底座更厚，假如過(guò)去技術(shù)到應(yīng)用有 1 萬(wàn)米的距離，原來(lái)的 AI 技術(shù)可以助推到 1000 米，剩下的 9000 米靠定制化來(lái)完成?，F(xiàn)在，足夠通用的大模型直接助推到 7000 米的高度，剩下 3000 米靠行業(yè)力量。

也就是說(shuō)，大模型讓 AI 能力從 1000 米泛化到了 7000 米的高度，技術(shù)到應(yīng)用的門(mén)檻大幅降低，這意味著不懂 AI 的各行各業(yè)的行業(yè)專(zhuān)家都能用這項(xiàng)技術(shù)解決問(wèn)題，AI 應(yīng)用未來(lái)極有可能變得更分散而不是更集中。

過(guò)去大半年，竹間智能幫不少客戶落地大模型應(yīng)用，其創(chuàng)始人&CEO 簡(jiǎn)仁賢在實(shí)踐中獲得了相通的思考。在他看來(lái)，模型微調(diào)是相對(duì)確定的市場(chǎng)需求，但難點(diǎn)在于：「技術(shù)人員要對(duì)客戶業(yè)務(wù)的理解得很深刻，未來(lái)，商業(yè)分析師和數(shù)據(jù)分析師的人力需求將會(huì)增加，而不僅僅是編程或算法工程師?！?/p>

并且，簡(jiǎn)仁賢認(rèn)為先落地大模型的玩家可能不是大客戶，而是可以直接應(yīng)用、使用的中小客戶。大客戶可能需要先搞清楚大模型技術(shù)、做私有化部署、開(kāi)放源碼等再落業(yè)務(wù)，而更輕巧靈活的中小客戶，正在利用對(duì)業(yè)務(wù)理解的深度，率先轉(zhuǎn)身。

不是沒(méi)得做了，而是能做更多

也有人擔(dān)心，從通用技術(shù)到最終目標(biāo)距離的縮短，會(huì)壓縮中間?SaaS?廠商的生存空間。即上游的平臺(tái)跳過(guò) SaaS 直接賦能最終客戶，或者客戶跳過(guò) SaaS 自己開(kāi)發(fā)大模型應(yīng)用。

但經(jīng)過(guò)半年的摸索，這種擔(dān)憂逐漸減弱。對(duì)行業(yè)和場(chǎng)景的深刻理解，成為 SaaS 廠商在大模型時(shí)代的優(yōu)勢(shì)。今天落地大模型并不是只剩最后一公里的距離，而在倒數(shù)十公里，甚至更遠(yuǎn)的地方，SaaS 廠商很可能是基礎(chǔ)大模型的「API 高鐵」周邊，重要的「AI 支線物流」體系，嵌入大模型的 SaaS 廠商不僅能幫助客戶在過(guò)去數(shù)字化路線上降本增效，還延展了邊界，向客戶交付智能化價(jià)值。

一個(gè)很有意思的小場(chǎng)景是幫助客戶選擇合適的模型。今天市面上的大模型榜單，其實(shí)對(duì)幫助客戶選擇模型沒(méi)什么意義，落到具體場(chǎng)景里評(píng)測(cè)才有意義。韓卿表示，Kyligence 的 AI 產(chǎn)品，不僅可以支持不同的大模型，還要會(huì)給模型做評(píng)測(cè)，從而能給出客戶建議，在當(dāng)前特定的客戶場(chǎng)景下，客戶用哪個(gè)大模型最合適。這核心體現(xiàn) Kyligence 對(duì)其所在的數(shù)據(jù)指標(biāo)平臺(tái)領(lǐng)域，有足夠的縱深理解，知道用什么樣的數(shù)據(jù)集做何種評(píng)測(cè)框架。

「因?yàn)榭蛻魧?duì)模型的選擇面太廣了，沒(méi)有一個(gè)好的工具、評(píng)測(cè)框架，試錯(cuò)成本挺高的」，他認(rèn)為，重點(diǎn)是幫助業(yè)務(wù)用戶進(jìn)一步的降低使用 AI 的門(mén)檻，這是企業(yè)服務(wù)廠商的機(jī)會(huì)。

事實(shí)上，大模型的技術(shù)能力確實(shí)有解決具體現(xiàn)實(shí)世界商業(yè)問(wèn)題的潛力，但想把潛力轉(zhuǎn)化成真正能解決問(wèn)題的工具，一個(gè)通用的 Chatbot 或者生成工具并不足夠，這讓垂直領(lǐng)域的?AI?應(yīng)用和解決方案創(chuàng)業(yè)者看到了機(jī)會(huì)。

今年 AI+營(yíng)銷(xiāo)大火，特贊是這個(gè)領(lǐng)域的佼佼者，創(chuàng)始人&CEO 范凌分享，營(yíng)銷(xiāo)與 AI 的交集在內(nèi)容，而內(nèi)容是今天連接商品和消費(fèi)者之間的重要媒介。

隨著移動(dòng)互聯(lián)網(wǎng)的崛起，內(nèi)容成為消費(fèi)企業(yè)重要的營(yíng)銷(xiāo)資產(chǎn)，現(xiàn)在不少企業(yè)開(kāi)始搭建「內(nèi)容中臺(tái)」，管理圖、文、視頻、3D 等不同的內(nèi)容資產(chǎn)，但將這些資產(chǎn)轉(zhuǎn)化為真正的生產(chǎn)力而不只是躺在數(shù)據(jù)庫(kù)里的歷史記錄，是一個(gè)很大的難題。

而大模型出來(lái)以后，特贊意識(shí)到這是品牌內(nèi)容資產(chǎn)價(jià)值進(jìn)一步提升的機(jī)會(huì)。利用大模型可以對(duì)內(nèi)容有更好的理解和分析，如：給內(nèi)容打標(biāo)簽，給視頻打腳本；也可以用大模型生成更多的內(nèi)容。特贊的產(chǎn)品讓消費(fèi)企業(yè)可以更好的找到、匹配、使用和生成這些資產(chǎn)。更進(jìn)一步，這背后意味著內(nèi)容從一個(gè)個(gè)文件變成更細(xì)顆粒度的 token，品牌可以用來(lái)訓(xùn)自己的專(zhuān)有模型、構(gòu)建自己的數(shù)據(jù)集，從而建立更強(qiáng)的內(nèi)容增長(zhǎng)能力。

技術(shù)迭代帶來(lái)更多新機(jī)會(huì)

過(guò)去一年大模型技術(shù)快速迭代，AI 應(yīng)用的可能性也在不斷拓寬，其中特別值得關(guān)注的是多模態(tài)和智能體的技術(shù)進(jìn)步。

OpenAI 發(fā)布 GPTs 以后，Agent（智能體）成為一個(gè)熱點(diǎn)，而 Agent 的出現(xiàn)，有可能進(jìn)一步縮短技術(shù)與最終用戶之間的距離。清華系 AI 大模型創(chuàng)業(yè)公司面壁智能，近期正致力于開(kāi)發(fā)其先進(jìn)的 Agent 技術(shù)。聯(lián)合創(chuàng)始人兼首席執(zhí)行官李大海深諳今日人工智能尚未達(dá)到「外賣(mài)到家，直接送達(dá)顧客口中」的便捷程度。然而，他堅(jiān)信 Agent 技術(shù)將大幅縮減這一「最后一公里」，有望將其精簡(jiǎn)至僅剩最后一百米。

李大海進(jìn)一步闡述，AI Agent 發(fā)展?jié)摿薮螅磥?lái)提升空間非常廣闊。一方面是單體智能的優(yōu)化，即如何讓單一智能體更為高效地在各種場(chǎng)景中發(fā)揮效力。這不僅是對(duì) Agent 功能層面的挑戰(zhàn)，也深刻考驗(yàn)著底層模型的實(shí)力，歸根結(jié)底，這是一個(gè)綜合性進(jìn)化過(guò)程。另一方面，則是群體智能的探索，面壁智能不久前推出的 ChatDev 項(xiàng)目，便是一個(gè)典型的群體協(xié)同實(shí)例。在這個(gè)項(xiàng)目中，不同智能體擁有各自職責(zé)、專(zhuān)業(yè)知識(shí)與認(rèn)知視角。當(dāng)它們協(xié)同工作時(shí)，往往能夠比單一智能體產(chǎn)出更高效、更具創(chuàng)造性的結(jié)果。這種多智能體的協(xié)作，預(yù)示著智能體未來(lái)發(fā)展的重要方向。

另一個(gè)機(jī)會(huì)就是多模態(tài)，文字本質(zhì)上是對(duì)知識(shí)的壓縮，但要進(jìn)一步影響真實(shí)世界，不論是上文提到的生成游戲資產(chǎn)、營(yíng)銷(xiāo)資產(chǎn)，還是識(shí)別機(jī)場(chǎng)、工廠等現(xiàn)實(shí)世界的空間，多模態(tài)都是關(guān)鍵的技術(shù)能力。

今年 3 月成立的 HiDream.ai 是一家專(zhuān)注于為設(shè)計(jì)師和相關(guān)行業(yè)的專(zhuān)業(yè)創(chuàng)作者提供工具和服務(wù)的創(chuàng)業(yè)公司，尤其在圖片生成和視頻生成領(lǐng)域，他們有自己的多模態(tài)大模型。創(chuàng)始人兼 CEO 梅濤院士分享了今天多模態(tài)領(lǐng)域的進(jìn)展，他認(rèn)為如果像自動(dòng)駕駛一樣將 AIGC 也分成 L1 到 L5，從人工參與比較多，到最后不需要人工參與，目前我們處于從 L2 到 L3 的階段，換言之，我們正在從創(chuàng)意產(chǎn)生到工具替代的階段。

這引申出一個(gè)很有意思的話題：多模態(tài)會(huì)不會(huì)被大語(yǔ)言模型顛覆？梅濤經(jīng)常被問(wèn)，他也問(wèn)過(guò)很多公司，包括 DALL·E-3、Midjouney、還有很多其他的模型，基本目前視覺(jué)生產(chǎn)還是以 Diffusion Model 為主，未來(lái)趨勢(shì)可能是會(huì)利用大語(yǔ)言模型對(duì) Diffusion Model 增強(qiáng)，但最終生成圖片和視頻還是 Diffusion Model 更好，所以他并不擔(dān)心會(huì)被替代。

02「有點(diǎn)頭疼」的真問(wèn)題

雖然在短短半年里取得了一些突破，但今天大模型技術(shù)還在快速演進(jìn)之中，在這種漲潮的時(shí)候如何「趕?！?，對(duì)創(chuàng)業(yè)者也提出了一系列的問(wèn)題和挑戰(zhàn)。

有意思的是，第一批大模型落地的實(shí)踐者們倒沒(méi)有太擔(dān)心被模型能力升級(jí)覆蓋的問(wèn)題。他們最擔(dān)心的反而是在技術(shù)的早期發(fā)展階段：我們以為拿到了一個(gè)通用性很強(qiáng)的能力，但最后落地場(chǎng)景的時(shí)候都變成了定制；我們希望用智能創(chuàng)造價(jià)值，但最后發(fā)現(xiàn)人工卻越來(lái)越重。

上一輪 AI 浪潮里，當(dāng)阿爾法狗擊敗圍棋世界冠軍李世石、柯潔，人工智能所展現(xiàn)出的能力已經(jīng)強(qiáng)大到令人驚訝。但企業(yè)真正將技術(shù)用到業(yè)務(wù)場(chǎng)景，去解決問(wèn)題并嘗試商業(yè)化時(shí)，卻發(fā)現(xiàn)能夠解決的場(chǎng)景太過(guò)碎片化，很多時(shí)候都是業(yè)務(wù)流程里的某一個(gè)環(huán)節(jié)，這就導(dǎo)致其很難標(biāo)準(zhǔn)化、規(guī)?；罱K變成 case by case 的去做定制，AI 視覺(jué)四小龍們無(wú)一例外都陷入到了這個(gè)泥潭。

沒(méi)有人愿意重蹈覆轍變成「高級(jí)外包公司」，這個(gè)時(shí)候如何一上來(lái)就堅(jiān)定地抱著把技術(shù)收斂成產(chǎn)品的目標(biāo)，哪怕不是一上來(lái)就把市場(chǎng)規(guī)模放前面去思考，而是先看技術(shù)到底能收斂的解決什么問(wèn)題，就成了一個(gè)大模型早期階段實(shí)踐的新原則。

微調(diào)的需求將持續(xù)擴(kuò)大

活動(dòng)當(dāng)天，與會(huì)者們 60 次提到「微調(diào)（Tuning）」。同道獵聘集團(tuán)董事會(huì)主席兼 CEO 戴科彬斷言，今天開(kāi)發(fā)應(yīng)用「肯定要（對(duì)基礎(chǔ)大模型）微調(diào)」。獵聘作為招聘平臺(tái)，在線的產(chǎn)品都是標(biāo)準(zhǔn)化的，但即使這樣也需要大量的「微調(diào)」。

比如，同樣招產(chǎn)品經(jīng)理，互聯(lián)網(wǎng)公司招產(chǎn)品經(jīng)理跟醫(yī)藥招產(chǎn)品經(jīng)理是兩回事，這里面要做的微調(diào)非常多?；久總€(gè)崗位會(huì)有兩條垂直縱線，一個(gè)是崗位縱線、一個(gè)是行業(yè)縱線，行業(yè)里面的公司還有縱線。

此外真正落地到一些細(xì)分行業(yè)，只完成「大學(xué)通識(shí)教育」的大模型，依然存在能力不足的問(wèn)題。比如在民航業(yè)，航旅縱橫創(chuàng)始人 & CEO 薄滿輝表示，大模型能力的加持可以用比目前 APP 交互更加自然、高效的模式解決用戶獲取民航出行信息的一些問(wèn)題。但民航還有一些專(zhuān)有的信息是公域當(dāng)中沒(méi)有的，比如有些業(yè)內(nèi)語(yǔ)言業(yè)外人士聽(tīng)起來(lái)跟天書(shū)差不多，但是在行業(yè)內(nèi)有非常明確的含義，通用的大模型目前解決不了這個(gè)問(wèn)題。

微調(diào)的需求似乎也成為了一個(gè)比較明確的趨勢(shì)，即便在百度內(nèi)部，文心一言持續(xù)迭代的前提下，百度文庫(kù)也向百度智能云平臺(tái)提出內(nèi)部需求——需要能自己做持續(xù)調(diào)優(yōu)（SFT）的工具，不斷提升模型在百度文庫(kù)這一特定場(chǎng)景的表現(xiàn)。這也說(shuō)明未來(lái) AI native 的應(yīng)用，不是用一個(gè)靜態(tài)的模型就能支撐的，需要支持它在模型側(cè)有不斷進(jìn)化的能力。

算力優(yōu)化需要更極致

當(dāng)模型持續(xù)優(yōu)化的需求，再加上更多創(chuàng)業(yè)者參與到多模態(tài)模型，算力優(yōu)化成為相對(duì)迫切的顯性需求。與會(huì)者闡述道，GPU 訓(xùn)練跟 CPU 不一樣，CPU 宕機(jī)一臺(tái)機(jī)器、兩臺(tái)機(jī)器，換新機(jī)器就可以奏效。但大模型對(duì)算力基礎(chǔ)設(shè)施的要求一直是齊步走的狀態(tài)，怎么保證算力能用起來(lái)，至關(guān)重要。

以無(wú)問(wèn)芯穹為例，這是一家解決大模型的中間層軟硬件協(xié)同優(yōu)化問(wèn)題的技術(shù)公司，CEO 夏立雪分享，很多場(chǎng)景驗(yàn)證下來(lái)，用了大模型的效果就是比不用好，比如在搜索、交互的時(shí)候，大模型技術(shù)讓用戶體驗(yàn)顯著上升了，但問(wèn)題是——賬算不過(guò)來(lái)。

相比此前幾輪浪潮，本輪 AI 技術(shù)呈現(xiàn)出鮮明的「大一統(tǒng)」趨勢(shì)，各類(lèi)模型結(jié)構(gòu)趨向統(tǒng)一，這意味著算力優(yōu)化有很大空間做深?！笍哪Ｐ椭苯哟蛲ǖ接布?，包括對(duì)模型本身計(jì)算結(jié)構(gòu)，比如量化稀疏的改造，都能夠適配足夠大的應(yīng)用場(chǎng)景」。依托整個(gè)中間層軟件棧，無(wú)問(wèn)芯穹有機(jī)會(huì)把大模型場(chǎng)景的所有硬件算力性能優(yōu)化到極致，讓單個(gè) token 的計(jì)算成本降到最低，同時(shí)讓更多中小企業(yè)可以觸達(dá)大模型工作負(fù)載下的算力服務(wù)。

九章云極副總裁于建崗博士也看到了這一市場(chǎng)痛點(diǎn)，今年，大模型讓客戶使用算力的方式發(fā)生變化，九章云集 DataCanvas 從過(guò)去的 AI 基礎(chǔ)軟件，擴(kuò)展到了算力層等更多的維度，包括 GPU Cloud 算力中心，和大模型落地的基礎(chǔ)軟件，像 tool Chain 或者說(shuō) app tooling 和 Finetune、Agent，以及 LLMOps 等工具。于建崗認(rèn)為，幫助客戶落地時(shí)，要給客戶「開(kāi)箱即用」的輕便體驗(yàn)，「通過(guò) interactive Natural UI(NUI) based orchestration 來(lái)快速便捷實(shí)現(xiàn)業(yè)務(wù)流程」，重要的是讓客戶的數(shù)據(jù)飛輪轉(zhuǎn)起來(lái)。

工具鏈條需要更茁壯

如前所述，把大模型落到不同場(chǎng)景、行業(yè)，要解決各種各樣的具體業(yè)務(wù)問(wèn)題，意味著要做大量的微調(diào)、定制、優(yōu)化。「有時(shí)候我們團(tuán)隊(duì)感嘆人工智能，人工是真的夠重，現(xiàn)在這個(gè)階段，其實(shí)耗費(fèi)的人工特別的多?！挂晃蛔鲂袠I(yè) SaaS 的嘉賓這樣感嘆道。

要減低技術(shù)和現(xiàn)實(shí)業(yè)務(wù)需求之間不小的 Gap，要提升解決這種 Gap 的效率，工具鏈條的完善也會(huì)非常重要。當(dāng)下大模型賽道已經(jīng)涌現(xiàn)出了一批做工具的企業(yè)，但另一個(gè)現(xiàn)實(shí)問(wèn)題是：現(xiàn)階段大家的需求太多元、技術(shù)迭代變化速度太快，工具也沒(méi)有辦法收斂。做工具，沒(méi)人能賺到錢(qián)，以商業(yè)正循環(huán)的方式不斷完善進(jìn)步，大模型落地的效率也會(huì)受到影響。

Jina AI 聯(lián)合創(chuàng)始人&CTO 王楠分享，他們?cè)谀瓿跛伎歼@個(gè)時(shí)代自己的定位時(shí)，就意識(shí)到目前還處在大模型時(shí)代非常早期的一個(gè)階段，所有人都沒(méi)有找到真正的 killer app，這個(gè)時(shí)候關(guān)鍵是怎么樣賦能開(kāi)發(fā)者快速的做產(chǎn)品迭代，這就意味著有很強(qiáng)的的工具需求。

做工具的起點(diǎn)是一個(gè)團(tuán)隊(duì)首先完成了一個(gè)項(xiàng)目，發(fā)現(xiàn)這個(gè)項(xiàng)目里面有一些經(jīng)驗(yàn)是可以抽象出來(lái)。但在抽象的過(guò)程中很重要的是把經(jīng)驗(yàn)抽象到哪一層——如果太通用，這個(gè)工具別人要拿去使用的時(shí)候還要做很多的定制化，就會(huì)導(dǎo)致「既然我都做了這么多定制化了，為什么還要用這個(gè)工具」；但也不能太具體，太具體的話就會(huì)擠在很小的群體里面。

大模型的技術(shù)迭代和需求變化非?？?，這個(gè)度就很難把握。王楠舉了一個(gè)例子，比如今年大火的 LangChain 剛出來(lái)時(shí)，當(dāng)時(shí)還沒(méi)有基于 Agent 的工具框架，只有專(zhuān)門(mén)針對(duì) QA 做 chatbot（聊天機(jī)器人）的框架。Jina 早年和他們都是做模型推理的編排工作，但 Jina 團(tuán)隊(duì)判斷 LangChain 做得太具體，這個(gè)市場(chǎng)（chatbot）沒(méi)有那么大。而在 11 月 30 號(hào)（ChatGPT 發(fā)布）之后，chatbot 崛起，LangChain 快速起量，起步更早的 Jina 也就很快被超越。

相反，Jina 團(tuán)隊(duì)開(kāi)發(fā)的另一個(gè)工具，輔助提示詞生成的 PromptPerfect，他們觀察到了大模型火了以后用戶需要優(yōu)化提示詞，但卻沒(méi)想到這個(gè)需求能夠堅(jiān)持這么久，現(xiàn)在每天用戶量還是很大的，給他們帶來(lái)了穩(wěn)定的收入。

要想避免應(yīng)用工具的價(jià)值因?yàn)樯舷掠蔚淖兓?，王楠分享?Jina 的四個(gè)經(jīng)驗(yàn)：

• 避免和模型過(guò)度綁定：底層模型升級(jí)換代非?？?/li>
• 避免過(guò)度優(yōu)化：硬件主導(dǎo)的時(shí)代，底層技術(shù)棧的優(yōu)化對(duì)于上層軟件的優(yōu)化是降維打擊
• 聚焦不變的核心價(jià)值：節(jié)省開(kāi)發(fā)者的時(shí)間
• 與上下游大范圍的深度集成：把自己嵌入在開(kāi)發(fā)者工具鏈生態(tài)之中

別找客戶，而是找到最該去解決的問(wèn)題

將 AI 技術(shù)落地到真實(shí)的商業(yè)世界還有一個(gè)必須面對(duì)的問(wèn)題，大模型時(shí)代應(yīng)用開(kāi)發(fā)者普遍遇到的一大商業(yè)化困境，就是價(jià)格與價(jià)值的錯(cuò)位。極客公園創(chuàng)始人張鵬在現(xiàn)場(chǎng)聽(tīng)了不止一個(gè)創(chuàng)業(yè)者吐槽這個(gè)錯(cuò)位問(wèn)題后，總結(jié)了一個(gè)被參會(huì)者集體認(rèn)同的苦惱：「客戶抱著讓你解決登月問(wèn)題的目標(biāo)，但心理價(jià)位卻是同城快遞的預(yù)算?！?/strong>