- 游戲新視野,《堡壘前線:SCAR步槍指南》
- 游戲攻略揭秘,《堡壘前線:AK47步槍圖鑒》
- 探索策略選擇,《殺出重圍3:人類革命》BETA關(guān)卡評測
- 游戲攻略揭秘,《堡壘前線》DTR霰彈槍簡介
- 探秘游戲世界,S1897霰彈槍圖鑒 - 堡壘前線
- 搶先體驗(yàn),《殺出重圍3:人類革命》Beta版通關(guān)點(diǎn)評
- 游戲攻略揭秘,《堡壘前線:UMP9沖鋒槍指南》
- 游戲新手指南,《堡壘前線:UZI沖鋒槍指南》
- 探索游戲角色魅力,《云夢四時(shí)歌》夜鶯符靈圖鑒
- 深入探索,《云夢四時(shí)歌》朽扉符靈圖鑒
聲明:本文來自于(ID:ykqsd.com)授權(quán)轉(zhuǎn)載發(fā)布。
PPIO派歐云創(chuàng)始人兼首席執(zhí)行官姚欣先生
中國開源大模型DeepSeek再次遭遇服務(wù)中斷,引發(fā)了廣泛關(guān)注。
DeepSeek宣布R1網(wǎng)絡(luò)和API服務(wù)暫時(shí)不可用,并表示正在積極調(diào)查原因。
自春節(jié)以來,DeepSeek頻繁出現(xiàn)服務(wù)器繁忙的情況,讓各地用戶困擾。
DeepSeek聲稱所有負(fù)載按R1定價(jià),每天的成本計(jì)算顯示利潤率為545%,這一數(shù)據(jù)引發(fā)了行業(yè)關(guān)注。
姚欣指出,盡管DeepSeek擁有許多創(chuàng)新技術(shù),但服務(wù)質(zhì)量存在重大問題。
姚欣表示,DeepSeek的服務(wù)質(zhì)量不合格。
PPIO派歐云成立于2018年,由PPTV創(chuàng)始人姚欣和前藍(lán)馳創(chuàng)投投資人王聞宇共同創(chuàng)立,專注于為用戶提供網(wǎng)絡(luò)邊緣側(cè)的分布式云計(jì)算服務(wù)。
姚欣曾比喻,PPIO派歐云類似于“算力的滴滴”,專注于為企業(yè)提供靈活的算力服務(wù),涵蓋音視頻和AI推理等多個領(lǐng)域。
DeepSeek-V3/R1模型發(fā)布后,PPIO派歐云迅速進(jìn)行適配工作,并在SuperCLUE發(fā)布的DeepSeek-R1網(wǎng)頁端穩(wěn)定性測評中取得滿分,確保了客戶和開發(fā)者獲得穩(wěn)定支持。
在姚欣看來,PPIO派歐云最獨(dú)特的價(jià)值在于其"彈性"調(diào)用資源的能力,通過一套分布式系統(tǒng)實(shí)現(xiàn)資源的動態(tài)調(diào)整,從而釋放DeepSeek官網(wǎng)的峰值壓力,有效應(yīng)對DeepSeek自身服務(wù)中遇到的壓力。
3月6日,PPIO上線高性能版Deepseek R1/V3 Turbo(全參數(shù)滿血版)版本,吞吐速度達(dá)到30 TPS,較之前版本提升了3倍。當(dāng)前活動價(jià)8折優(yōu)惠,Deepseek V3 Turbo的價(jià)格降至每百萬tokens 1.6元。
姚欣對鈦媒體AGI表示,就長期來看,在AI基礎(chǔ)架構(gòu)領(lǐng)域,MaaS中間這一層級的盈利能力不重要,關(guān)鍵在于推動開源和標(biāo)準(zhǔn)化建設(shè),使MaaS逐步普及并走向公開化。這一過程充滿挑戰(zhàn),行業(yè)正在 You追我趕的加速發(fā)展中,而DeepSeek正致力于推動更多模型的開源,加速技術(shù)創(chuàng)新。
姚欣表示,未來三年,AI 大模型推理成本可能下降1000倍以上,在計(jì)算資源成本高昂且需求激增的市場背景下,分布式算力將成為引領(lǐng)新一輪發(fā)展的重要驅(qū)動力。
姚欣指出,自去年5月以來,PPIO派歐云平臺上的80億參數(shù)規(guī)模模型價(jià)格已下降了一半以上。在同一模型條件下,API調(diào)用價(jià)格在過去一年間下降了10倍。這一趨勢表明,整個市場已形成AI推理和AI商業(yè)落地的共識,因此公司今年計(jì)劃加大應(yīng)用落地、接納客戶服務(wù)、兼容更多國產(chǎn)GPU卡等服務(wù)。
姚欣強(qiáng)調(diào),推理算力成本的持續(xù)下降必將催生AI應(yīng)用的爆發(fā)式增長。未來兩年,中國AI將進(jìn)入"免費(fèi)應(yīng)用"時(shí)代,即AI推理成本將低于AI應(yīng)用通過廣告或增值服務(wù)的變現(xiàn)收入,從而實(shí)現(xiàn)免費(fèi)應(yīng)用。
以下是姚欣與鈦媒體AGI之間的一段獨(dú)家對話(已刪減):
姚欣:我相信大家都很清楚這個數(shù)字,545%只是一個理論數(shù)字,DeepSeek的文章中也提到過,如果全行業(yè)都達(dá)到這個水平,大家都別干了。
我們的拆解和解讀主要有三點(diǎn):
一是DeepSeek做了很多獨(dú)特的創(chuàng)新,對于我們的啟發(fā)在于,許多AI模型和推理采用了單機(jī)單卡、單機(jī)多卡的部署方式,一個單機(jī)上面運(yùn)行多個任務(wù)。在進(jìn)行模型訓(xùn)練時(shí),我們沒有很好地思考其未來的部署方案。如今,DeepSeek清楚地認(rèn)識到未來需要在多個集群上部署模型,模型架構(gòu)的核心是采用專家并行策略,即將專家并行分布在多個機(jī)器上。這一思路與我們PPIO派歐云對于分布式推理的理解不謀而合。
第二,成本率是一個理論值,比如它的資源利用率幾乎滿負(fù)荷運(yùn)轉(zhuǎn),只有在凌晨出現(xiàn)低谷,盡管成本率本身沒有顯著下降,但通過降價(jià)策略將產(chǎn)品售出,同時(shí)在凌晨將資源利用率提升。
不得遺憾地說,作為一個服務(wù)過4.5億用戶的互聯(lián)網(wǎng)應(yīng)用服務(wù)系統(tǒng)(PPTV的創(chuàng)始人),這是一個理論、理想的情況。服務(wù)的本質(zhì)是什么?簡單來說,任何一個互聯(lián)網(wǎng)應(yīng)用服務(wù)系統(tǒng),它全天流量一定是有波峰、波谷,像正弦曲線一樣起伏。然而,在你最高峰的時(shí)候突然變成一條直線,這意味著在那個時(shí)間段用戶請求進(jìn)不來。
總結(jié)而言,DeepSeek在春節(jié)期間的服務(wù)崩潰導(dǎo)致無法滿足企業(yè)及用戶需求,服務(wù)質(zhì)量表現(xiàn)糟糕,完全不達(dá)標(biāo)的。
不過,PPIO派歐云在春節(jié)期間第一時(shí)間接入DeepSeek,通過分布式推理實(shí)現(xiàn)更大的負(fù)載均衡與優(yōu)化,成功保障了客戶的服務(wù)質(zhì)量、穩(wěn)定性和可用性。
姚欣:我們對企業(yè)和用戶版本進(jìn)行了區(qū)分。
其中,企業(yè)客戶獲得優(yōu)先級服務(wù),春節(jié)期間流量激增,但PPIO派歐云支持的DeepSeek-V3/R1服務(wù)的可用性達(dá)到了99.9%,確保了服務(wù)質(zhì)量。
在我看來,PPIO派歐云最獨(dú)特的優(yōu)勢在于能夠根據(jù)用戶需求動態(tài)調(diào)整資源,擁有龐大的分布式數(shù)據(jù)中心和計(jì)算資源,這種能力在春節(jié)的應(yīng)對中展現(xiàn)得尤為出色。
姚欣補(bǔ)充道,投資錯過項(xiàng)目是很正常的,畢竟沒有哪個投資者能把全球最優(yōu)項(xiàng)目都拿走,何況DeepSeek還有充足的資金。
我認(rèn)為,真正優(yōu)秀的公司應(yīng)該具備強(qiáng)勁的現(xiàn)金流支持創(chuàng)始人實(shí)現(xiàn)夢想,融資只是補(bǔ)充現(xiàn)金的一種手段,不能因?yàn)橛腥谫Y能力就一味燒錢用于流量或收入擴(kuò)展,而應(yīng)該更多地依靠盈利業(yè)務(wù)來服務(wù)用戶,就像DeepSeek和梁文鋒的例子。
姚欣:MaaS被定義為推理加速和中間層服務(wù)。從我的角度來看,上一輪SaaS和IaaS占據(jù)了80%以上的市場份額,而PaaS的市場份額較小,MaaS則相當(dāng)于在AI領(lǐng)域中的中間層。
因此,在任何一個行業(yè)中的底層中間層幾乎都不會產(chǎn)生盈利能力,無論是開源數(shù)據(jù)庫還是操作系統(tǒng)本身,它們的盈利模式都依賴于其生態(tài)體系和上下游產(chǎn)業(yè)鏈?;谶@一認(rèn)識,我提出自己的思考:將底層中間層抽象與虛擬化,統(tǒng)一平臺標(biāo)準(zhǔn),使得上層應(yīng)用能夠快速接入和利用核心能力,從而簡化開發(fā)流程,提高效率。
長期來看,在AI基礎(chǔ)設(shè)施架構(gòu)中,MaaS中間層的盈利能力可能不是首要考量,關(guān)鍵在于推動其開源化與標(biāo)準(zhǔn)化進(jìn)程,使MaaS技術(shù)逐步普及并實(shí)現(xiàn)普惠化。這一目標(biāo)也得到了PPIO派歐云的積極支持,他們不僅計(jì)劃推出更多開源技術(shù),還將積極支持開源生態(tài)系統(tǒng)的發(fā)展。值得注意的是,PPIO本身并不直接從MaaS中間層獲取收益,而是通過提供計(jì)算資源、存儲空間以及優(yōu)化模型等服務(wù),與彈性IaaS平臺進(jìn)行協(xié)同銷售,最終實(shí)現(xiàn)高性價(jià)比的開源模型服務(wù)。
要實(shí)現(xiàn)這一目標(biāo),整個行業(yè)需要不斷突破技術(shù)瓶頸,推動技術(shù)創(chuàng)新與應(yīng)用落地。開源合作無疑是一個最有效的加速方式,它通過"你中有我、我中有你"的協(xié)作機(jī)制,促進(jìn)技術(shù)進(jìn)步。DeepSeek鼓勵更多模型開源,通過開源加速技術(shù)創(chuàng)新與應(yīng)用迭代,最終實(shí)現(xiàn)技術(shù)進(jìn)步。
姚欣:這正是我們的核心業(yè)務(wù),因此我們的模型接入速度和質(zhì)量都始終保持在行業(yè)領(lǐng)先水平。不僅包括DeepSeek自身的一系列模型,如Llama和阿里通義千問等,我們還特別關(guān)注行業(yè)領(lǐng)先模型的接入與應(yīng)用。事實(shí)上,在2023年P(guān)PIO派歐云開始專注于智能算力云業(yè)務(wù)時(shí),我們就提出了兩條核心戰(zhàn)略:一是聚焦推理功能,放棄訓(xùn)練過程;二是推動開源,提供模型的快速部署與應(yīng)用服務(wù)。
春節(jié)期間,DeepSeek推出的開源模型引發(fā)了廣泛關(guān)注。我們迅速進(jìn)行了解析與評估,并迅速推出了"滿血版"模型上線。工程師團(tuán)隊(duì)加班加點(diǎn)優(yōu)化改進(jìn),為客戶提供最佳使用體驗(yàn)。我認(rèn)為,DeepSeek的模型性能提升將極大地解放新的應(yīng)用場景,同時(shí)開源模型的普及也將大幅降低企業(yè)使用成本,這對于我們這樣的企業(yè)來說無疑是一個重大利好。因此,我們將全力支持開源,助力客戶快速實(shí)現(xiàn)業(yè)務(wù)落地。
我相信,在接下來的幾個月里,我們會有更多的客戶接入系統(tǒng),進(jìn)一步推動收入的增長。
姚欣:我們平臺擁有200多個模型,這些模型既包括基礎(chǔ)開源模型,也涵蓋了多種微調(diào)模型和多模態(tài)模型。
同時(shí),我堅(jiān)信底座模型不需要過于復(fù)雜,就像操作系統(tǒng)和搜索引擎那樣,一個精簡的基礎(chǔ)架構(gòu)即可支撐起豐富的應(yīng)用場景。大量基于底座模型的垂直行業(yè)模型、微調(diào)模型以及模型應(yīng)用的開發(fā),反而會促進(jìn)生態(tài)系統(tǒng)的繁榮發(fā)展。目前開源模型的性能已經(jīng)大幅提升,接近閉源水平,這已成為行業(yè)發(fā)展的必然趨勢。
此外,在多模態(tài)領(lǐng)域,我們還在積極推進(jìn)音頻聲音克隆技術(shù)的研發(fā),并對接開源的視頻生成模型,以進(jìn)一步豐富應(yīng)用場景。
姚欣:PPIO派歐云在進(jìn)入這一領(lǐng)域時(shí),我們不會僅僅滿足于中間層的開發(fā),而是采取自底向上、自下而上的建設(shè)性策略。我們不僅具備極強(qiáng)的彈性資源池和全球算力調(diào)度能力,還擁有二十年的分布式架構(gòu)積累。一旦市場需求爆發(fā),我們不僅追求性價(jià)比,更強(qiáng)調(diào)彈性,這樣才能確保在高峰期用戶的正常訪問需求,從而實(shí)現(xiàn)商業(yè)模式的可持續(xù)發(fā)展。
這個問題與移動互聯(lián)網(wǎng)早期階段具有相似性,關(guān)鍵在于先做好用戶服務(wù)工作,伴隨一波又一波的熱點(diǎn)事件帶來增長。然后,通過智能計(jì)算云服務(wù)實(shí)現(xiàn)差異化,采用分布式推理模式,提供商業(yè)To B(企業(yè)級)服務(wù),推出開源、更好且成本更低的解決方案,與生態(tài)系統(tǒng)的共同發(fā)展促進(jìn)整個生態(tài)的普及、發(fā)展和繁榮。
姚欣:我認(rèn)為,國產(chǎn)算力在訓(xùn)練階段確實(shí)面臨挑戰(zhàn),但推理型模型的引入為國產(chǎn)算力的發(fā)展帶來了新機(jī)遇。顯存(存儲)能力和并行機(jī)制(通信)的重要性日益凸顯,這不僅有利于國產(chǎn)卡的發(fā)展,也將進(jìn)一步提升其性能水平。
對于算力需求,我的觀點(diǎn)是:
首先,算力將持續(xù)增長,但其構(gòu)成方式將發(fā)生重大轉(zhuǎn)變。預(yù)計(jì)到2024年,英偉達(dá)60%的算力卡將應(yīng)用于訓(xùn)練場景,而推理場景將占到40%。未來,推理場景的占比將進(jìn)一步提升,這一變化與用戶使用量、模型規(guī)模和用戶活躍度密切相關(guān)。
其次,從全球視角來看,目前的AI應(yīng)用滲透率相當(dāng)于2011年移動互聯(lián)網(wǎng)階段。因此,還有巨大的增長空間。即使訓(xùn)練算力市場增長放緩,但推理算力市場將實(shí)現(xiàn)爆炸式增長,總體算力規(guī)模將保持高增長態(tài)勢。
姚欣:一體機(jī)與國產(chǎn)卡適配性并無直接關(guān)聯(lián)。大家選擇做"一體機(jī)"的根本原因是滿足客戶的不同需求。
在公有云、私有云和專有云等不同形態(tài)下,各自具有特定的特點(diǎn)和應(yīng)用場景。我認(rèn)為,一體機(jī)屬于私有云或?qū)S性品懂?,它通過內(nèi)部系統(tǒng)部署,解決了企業(yè)數(shù)據(jù)不出境、不出體外的問題,提供了安全性和隱私性保障。因此,開展一體機(jī)業(yè)務(wù)是企業(yè)合理的選擇。
此外,成本結(jié)構(gòu)也存在差異。對于公有云客戶而言,使用成本較低,使用門檻也較為友好。相比之下,私有云需要投入硬件成本,且設(shè)備需要長期運(yùn)維,通常需要分?jǐn)傊?年或5年才能逐步回收成本,同時(shí)設(shè)備價(jià)值下降速度較快。對于企業(yè)客戶而言,數(shù)據(jù)安全和不出境需求也很重要,因此存在一體機(jī)這種特殊需求。這與移動互聯(lián)網(wǎng)早期時(shí)期,大家普遍傾向于自己搭建數(shù)據(jù)中心存儲數(shù)據(jù),后來才意識到公有云比自建和運(yùn)維更劃算,需要一個教育和認(rèn)知的過程。
當(dāng)然,這還需要考慮客戶的具體需求和服務(wù)。目前,Pileo歐云主要以公有云為主,服務(wù)于大量互聯(lián)網(wǎng)和C端場景。對于需要在企業(yè)內(nèi)網(wǎng)訪問、數(shù)據(jù)敏感的行業(yè)客戶,或只需在企業(yè)內(nèi)部網(wǎng)絡(luò)訪問的特定需求,我們也會提供基于一體機(jī)的私有化部署方案。
姚欣:首先,任何底層創(chuàng)新的過程都具有周期長、發(fā)展緩慢的特性,這是一個不爭的事實(shí)。
比如,英偉達(dá)自成立以來已運(yùn)營31年,誰能想到它今天已成為AI時(shí)代最大的"軍火"供應(yīng)商。底層技術(shù)往往需要一個長期的發(fā)展周期。PPIO平臺成立的第一天,我就堅(jiān)信分布式架構(gòu)的推廣將覆蓋全球,并非一個三年、五年就能完成的任務(wù),而是一個需要10年、20年才能完成標(biāo)準(zhǔn)化和普及化的長期工程。這一技術(shù)要想真正成為所有應(yīng)用的基礎(chǔ),還需要waiting for the right time to fully realize its potential.
其次,投資人的分工主要體現(xiàn)在時(shí)間周期和退出期上。一些基金的募資周期較短,3至5年即需退出,而另一些則處于成長期,期待未來更長的回報(bào)周期。資金的生命周期長短直接影響了投資策略的制定,這對整個生態(tài)系統(tǒng)的繁榮至關(guān)重要。
人民幣基金近年來也在逐步加大對早期項(xiàng)目的投資力度。中國的一級資本市場正在逐步向長期投資的方向轉(zhuǎn)型。金融系統(tǒng)的流動性和投資理念的轉(zhuǎn)變,為中國資本市場的健康發(fā)展奠定了基礎(chǔ)。
當(dāng)年P(guān)PTV自成立以來已運(yùn)營10余年,其視頻行業(yè)的積淀讓其在技術(shù)創(chuàng)新上始終走在前列。PPIO平臺自成立以來,我一直堅(jiān)信科技是長期發(fā)展的事業(yè),任何偉大的創(chuàng)新都需要持續(xù)的努力和耐心。今天的PPIO正是承載著當(dāng)年的愿景,科技創(chuàng)新將為未來的生活奠定新的基礎(chǔ),分布式架構(gòu)將成為未來的重要基礎(chǔ)設(shè)施。
姚欣:這是十多年前的事。誰不想讓自己的孩子上清華北大,我也希望"我的孩子"能去納斯達(dá)克敲鐘,也希望未來能成為像字節(jié)這樣的閃耀企業(yè)。但在競爭過程中,我發(fā)現(xiàn)企業(yè)并購?fù)顺鲆殉蔀槌B(tài),2016年加入藍(lán)馳后,90%以上的公司都是以并購方式退出,IPO退出不到10%。這是一個不可忽視的趨勢。
從PPTV到PPIO,我離我的夢想越來越近了。今天的PPIO正是承載著當(dāng)年的愿景,科技創(chuàng)新將為未來的生活奠定新的基礎(chǔ),分布式架構(gòu)將成為未來的重要基礎(chǔ)設(shè)施。我們還是沿著當(dāng)年的夢想一直在往前走。
姚欣:客戶在各個領(lǐng)域都在競爭,所有的機(jī)會都是在優(yōu)中選優(yōu)的過程中產(chǎn)生的,每家企業(yè)都應(yīng)有其獨(dú)特的核心競爭力,我們希望在技術(shù)獨(dú)特性上下功夫,提升護(hù)城河,做到"上而強(qiáng)","軟而優(yōu)"。
最近,隨著AI技術(shù)的快速發(fā)展,模型價(jià)格的下降趨勢尤為明顯。特別是在PPIO平臺上,80億參數(shù)規(guī)模的模型價(jià)格在過去半年內(nèi)已大幅下降,預(yù)計(jì)未來一年內(nèi)將再下降十倍。
就深度求索等新興模型而言,我們有理由相信,未來半年內(nèi)肯定會找到進(jìn)一步降低成本的空間。
我堅(jiān)信,通過持續(xù)的努力,我們一定能夠?qū)崿F(xiàn)"推理成本下降千倍"這一長期目標(biāo)。同時(shí),我們預(yù)測,未來兩年內(nèi),中國的AI技術(shù)將進(jìn)入"免費(fèi)應(yīng)用"時(shí)代,AI推理成本將低于其變現(xiàn)收入,無需收費(fèi)即可實(shí)現(xiàn)廣泛應(yīng)用。
深度解讀:姚欣的觀點(diǎn)很值得商榷。她認(rèn)為,大廠在進(jìn)行AI應(yīng)用開發(fā)時(shí),絕不會采取簡單的"燒錢"策略,而是會基于商業(yè)邏輯和市場反饋進(jìn)行理性分析。對于那些質(zhì)疑這種投入方式的同行,姚欣表示,大廠之所以能夠堅(jiān)持這么做,是因?yàn)樗麄冇兄娴乃伎伎蚣芎透L遠(yuǎn)的戰(zhàn)略規(guī)劃。
對于PPIO派歐云來說,我們注意到整個市場已經(jīng)形成了清晰的共識點(diǎn),包括AI推理技術(shù)和AI商業(yè)落地應(yīng)用。這些共識點(diǎn)與我們的公司定位高度契合,因此今年團(tuán)隊(duì)的工作重點(diǎn)將集中在以下幾個方面:加速AI應(yīng)用落地,完善客戶服務(wù)體系,兼容更多國產(chǎn)GPU卡。通過這些努力,我們希望能夠?qū)崿F(xiàn)每年成本降低十倍的目標(biāo)。隨著這種持續(xù)性降低成本的效果顯現(xiàn),AI應(yīng)用的爆發(fā)性增長將是不可避免的,而我們也將因此獲得更大的發(fā)展空間。
(本文首發(fā)于鈦媒體App,作者|林志佳)
睡眠呼吸的秘密,打呼嚕與肥胖的關(guān)系:權(quán)威專家解析 千幻世王寶樂技能玩法攻略,《三千幻世》王寶樂技能玩法攻略 貓博物館挑戰(zhàn)與完成,《貓博物館》貓咪博物館通關(guān)攻略 暗夜的光 潮汐的碎片 星辰的迷宮 孤島的回聲 冰封的 wait 暗夜的回響,大S教孩子韓語,買房韓國,布局已就緒 得分后衛(wèi),《美職籃全明星》得分后衛(wèi)介紹 溫柔奶茶色搭配你的時(shí)尚,顯白的奶茶色,穿出春日味道 斯內(nèi)克潛行,合金裝備Snake彩蛋位置在哪 突破性物資,'進(jìn)步MS-30'貨運(yùn)飛船與國際空間站實(shí)現(xiàn)對接 Odynfall下載roguelite射擊游戲平臺更新,Odynfall下載鏈接在哪里 關(guān)稅引發(fā)的代價(jià),"美加征關(guān)稅:沃爾瑪要求中國供應(yīng)商降價(jià)10%"