• 正文
  • 相關(guān)推薦
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

制約AI應(yīng)用生態(tài)的最大瓶頸在哪?

04/07 10:50
480
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

上周看到一個(gè)有趣的消息,關(guān)于99元的AI玩具。

AI玩具現(xiàn)在就像是七八點(diǎn)鐘的太陽,各路大軍紛紛涌入,各種產(chǎn)品琳瑯滿目。

大部分都是面向兒童教育和陪伴的小東西。

當(dāng)然也有一些面向成年人的玩具。

國(guó)產(chǎn)芯片公司里面,MCU藍(lán)牙、WIFI類的公司,平板處理器類的公司,還有大量的模組公司,正在摩拳擦掌,準(zhǔn)備爭(zhēng)搶這個(gè)早期藍(lán)海市場(chǎng)。

這些是配套大模型智能硬件,還有大量配套大模型的軟件,比如有大模型平臺(tái)已經(jīng)開出了應(yīng)用商店。

理論上說,無論是AI智能硬件,還是APP軟件,都是在大模型外面套上一層外衣,也就是所謂的“套殼”應(yīng)用。

當(dāng)我了解了大模型的收費(fèi)機(jī)制,我的發(fā)現(xiàn)是,所有的AI應(yīng)用,無論硬件軟件,不過就是大模型的代理商?,F(xiàn)在幾乎所有商用的大模型,都是在背后默默開啟收費(fèi)策略,比如火山引擎下的扣子智能硬件方案的收費(fèi)是這樣的(據(jù)說是國(guó)內(nèi)最低)。

不管是大語言模型,還是音視頻,還是知識(shí)庫,都是持續(xù)收費(fèi),而且是通過Token收費(fèi)的。

什么是Token?

我相信,在大街上你問100個(gè)人什么是Token,可能最多只有1-2個(gè)人可能知道,但也說不清楚,這個(gè)概念實(shí)在是太專業(yè)了。

模型服務(wù)用量的一個(gè)重要概念是 token。在調(diào)用模型推理服務(wù)時(shí),會(huì)將輸入內(nèi)容進(jìn)行分詞(tokenize),轉(zhuǎn)化為模型可以理解的 token ,經(jīng)過模型處理后,同樣輸出 token,并轉(zhuǎn)化為您需要的文本或者其他內(nèi)容載體。而模型處理(包括輸入、輸出)的 token 數(shù)量會(huì)被作為模型推理服務(wù)用量的一個(gè)重要計(jì)量單位。

如語言大模型推理服務(wù)費(fèi)用的一種較為常見的計(jì)算方式如下:

費(fèi)用 = token 使用數(shù)量 * token 單價(jià)

由于不同模型采用的分詞策略不同,同一段文本可能會(huì)被轉(zhuǎn)化為不同數(shù)量的 token。

您可以使用Token計(jì)算器或者分詞 API接口,來估算內(nèi)容對(duì)應(yīng)的 token 數(shù)量。

由此對(duì)于時(shí)下火爆的AI智能玩具,我產(chǎn)生了很大的疑問,即大模型在背后持續(xù)收費(fèi)的話,現(xiàn)在火爆賣出去的 AI玩具如何平衡后期運(yùn)營(yíng)成本?

只要客戶一直用下去,勢(shì)必會(huì)持續(xù)消耗Token,那么就會(huì)產(chǎn)生費(fèi)用,這個(gè)費(fèi)用是用戶出還是玩具商出?是否用戶還要繳納月租費(fèi)之類的使用費(fèi)用?

目前國(guó)外一些高端的AI玩具,確實(shí)不但售價(jià)高昂,而且還需要繳納不菲的月租費(fèi),這肯定不是99元玩具的用戶能夠接受的。

內(nèi)容創(chuàng)業(yè)領(lǐng)域任何新事物誕生的時(shí)候,商業(yè)模式都需要一段時(shí)間的迭代創(chuàng)新,最終形成大家(平臺(tái)、開發(fā)者、用戶)都能接受的模式。

互聯(lián)網(wǎng)提供了很多借鑒案例。

中國(guó)第一代互聯(lián)網(wǎng)開始的時(shí)候,最早的創(chuàng)業(yè)公司是做ISP(互聯(lián)網(wǎng)接入)業(yè)務(wù)的,當(dāng)時(shí)最NB的公司是瀛海威,收費(fèi)按照分鐘+流量計(jì)費(fèi),互聯(lián)網(wǎng)應(yīng)用寥寥無幾,五年之后電信寬帶開始走入家庭,采取的是包月不限流量的方式,互聯(lián)網(wǎng)生態(tài)開始四面開花,風(fēng)起云涌。

手機(jī)上網(wǎng)最早的計(jì)費(fèi)方式,是3分錢/MB,后來逐漸被便宜的包月套餐所取代,于是手機(jī)短視頻終于有機(jī)會(huì)崛起了。

早期的網(wǎng)絡(luò)游戲,采取的是點(diǎn)卡收費(fèi)(也是按分鐘計(jì)費(fèi)),我們知道的傳奇、大話西游、魔獸世界這些經(jīng)典網(wǎng)游都是要在線下網(wǎng)吧買點(diǎn)卡的,當(dāng)然后來盛大搞出了免費(fèi)道具模式,改變商業(yè)模式之后,整個(gè)網(wǎng)游行業(yè)迎來了大發(fā)展。

眼下的智能AI生態(tài),是由平臺(tái)(大模型)、開發(fā)者和用戶組成,平臺(tái)急著收錢,可能不利于整個(gè)生態(tài)的形成,就會(huì)使蛋糕做不大,這是個(gè)格局問題。

按照Token收費(fèi),實(shí)際上屬于成本定價(jià)法,而不是以供需定價(jià),這里面存在一些問題:

1、Token作為計(jì)費(fèi)單位的概念不清晰

作為一個(gè)技術(shù)名詞,大部分人無法理解其計(jì)費(fèi)邏輯。

2、Token的消耗不可控

各個(gè)大模型的技術(shù)差異,會(huì)導(dǎo)致每個(gè)操作消耗的Token差異很大。比如寫個(gè)文章,有時(shí)候消耗幾千,有時(shí)候就要消耗幾萬,用戶也無法審計(jì)為什么大模型要收這么多。

不同大模型平臺(tái)對(duì)token的定義和計(jì)量標(biāo)準(zhǔn)并不一致。例如,有的平臺(tái)1token等于1個(gè)漢字,有的則為1.5或1.8個(gè)漢字。這種差異可能導(dǎo)致用戶在跨平臺(tái)使用時(shí)難以比較準(zhǔn)確費(fèi)用。

Token計(jì)費(fèi)主要基于數(shù)量,而無法完全反映文本的復(fù)雜性。例如,處理一個(gè)包含專業(yè)術(shù)語的短句可能比處理一個(gè)簡(jiǎn)單的長(zhǎng)句需要更多的計(jì)算資源。

3、脫離市場(chǎng)需求和競(jìng)爭(zhēng)

成本定價(jià)法主要關(guān)注成本,而忽略了市場(chǎng)需求和競(jìng)爭(zhēng)環(huán)境。成本定價(jià)法通常假設(shè)成本和需求是固定的,但實(shí)際上市場(chǎng)需求和成本會(huì)隨著市場(chǎng)環(huán)境的變化而變化。這種方法難以根據(jù)市場(chǎng)動(dòng)態(tài)靈活調(diào)整價(jià)格,缺乏應(yīng)對(duì)市場(chǎng)變化的能力。

4、限制了生態(tài)的形成

平臺(tái)希望能夠建立起一個(gè)開發(fā)者生態(tài)系統(tǒng),持續(xù)地創(chuàng)造內(nèi)容給用戶,但是收費(fèi)模式會(huì)限制市場(chǎng)天花板的高度,這樣的話蛋糕做不大,最終平臺(tái)也會(huì)消亡。

開源大模型起來的話,勢(shì)必可能摒棄成本定價(jià)法甚至免費(fèi),收費(fèi)模型的商業(yè)模式很可能被迅速顛覆。

無法壟斷的收費(fèi)模式是脆弱的。

總的來看,我感覺現(xiàn)在還處于AI商業(yè)化的史前時(shí)代,必然有公司會(huì)用商業(yè)模式的創(chuàng)新來引爆市場(chǎng),這時(shí)候應(yīng)用創(chuàng)新會(huì)真正走向大眾市場(chǎng)。

相關(guān)推薦