人工智能區(qū)塊鏈;中國(guó)唯一合法數(shù)字貨幣
“區(qū)塊鏈+人工智能”行業(yè)分析
如果將人工智能比作建造太空火箭,那么數(shù)據(jù)和算力是燃料,算法就是發(fā)動(dòng)機(jī)。但傳統(tǒng)人工智能公司在數(shù)據(jù)層面上面臨著被大型機(jī)構(gòu)壟斷等困境,在算力層面上面臨著購(gòu)置硬件資源導(dǎo)致的資金難題,在算法層面上面臨著算法運(yùn)行不穩(wěn)定等難題。
區(qū)塊鏈可以看做是分布式的數(shù)據(jù)、算力、算法的資源集合體,所以“區(qū)塊鏈+AI”被看做是一種解決傳統(tǒng)AI難題的良藥。本文立足于傳統(tǒng)人工智能的現(xiàn)狀與痛點(diǎn),重點(diǎn)分析了11個(gè)區(qū)塊鏈+AI項(xiàng)目,總結(jié)了區(qū)塊鏈與人工智能在數(shù)據(jù)、算力、算法三方面的優(yōu)勢(shì)。
AI和區(qū)塊鏈的發(fā)展是由區(qū)塊鏈引發(fā)的,不是AI領(lǐng)域的單邊需求,因此投資邏輯在于探索交叉領(lǐng)域給雙邊的機(jī)遇。文章最后給出了區(qū)塊鏈+人工智能類(lèi)未來(lái)的發(fā)展趨勢(shì)。
1人工智能行業(yè)現(xiàn)狀
1.1人工智能的概念
人工智能(Artificial Intelligence),英文縮寫(xiě)為AI。日常生活中接觸的人工智能多指深度學(xué)習(xí),即多層神經(jīng)網(wǎng)絡(luò),如圖1所示。它是研究、開(kāi)發(fā)用于模擬、延伸和擴(kuò)展人的智能的技術(shù)科學(xué)。本質(zhì)上是通過(guò)統(tǒng)計(jì)數(shù)據(jù),并從中歸納出模型。
圖1深度學(xué)習(xí)模型
1.2人工智能的歷史
“人工智能”一詞最初是在1956年DARTMOUTH學(xué)會(huì)上提出,1975年之后學(xué)者開(kāi)始著手研究BP(Back Propagation,后向傳播)算法,現(xiàn)在使用神經(jīng)網(wǎng)絡(luò)時(shí),大多是在使用BP算法進(jìn)行訓(xùn)練。1986年之后,學(xué)者們實(shí)現(xiàn)了BP網(wǎng)絡(luò),同時(shí)期計(jì)算機(jī)硬件能力快速提升。2006年之后,隨著移動(dòng)互聯(lián)網(wǎng)發(fā)展,海量數(shù)據(jù)爆發(fā),深度學(xué)習(xí)算法在語(yǔ)音和視覺(jué)識(shí)別上實(shí)現(xiàn)突破,人工智能商業(yè)化高速發(fā)展,人工智能關(guān)鍵時(shí)間節(jié)點(diǎn)如圖2所示。
圖2人工智能關(guān)鍵時(shí)間節(jié)點(diǎn)
1.3人工智能產(chǎn)業(yè)圖譜
人工智能產(chǎn)業(yè)圖譜的角色包括了數(shù)據(jù)和計(jì)算資源的提供方,算法、產(chǎn)品及解決方案提供者,終端落地行業(yè)如金融、公共安全、教育等
如圖3所示,數(shù)據(jù)、運(yùn)算力和算法模型是影響人工智能行業(yè)發(fā)展的三大要素。
圖3人工智能產(chǎn)業(yè)圖譜圖片來(lái)源:艾瑞咨詢(xún)中國(guó)人工智能行業(yè)研究報(bào)告(2018年)
2人工智能行業(yè)的痛點(diǎn)
2.1數(shù)據(jù):被大型機(jī)構(gòu)壟斷,數(shù)據(jù)標(biāo)注質(zhì)量差
互聯(lián)網(wǎng)巨頭,像谷歌、微軟、蘋(píng)果、Facebook、阿里、騰訊和亞馬遜,基于海量用戶(hù)數(shù)壟斷了我們的數(shù)據(jù)。現(xiàn)在的人工智能多為有監(jiān)督學(xué)習(xí),需要對(duì)數(shù)據(jù)進(jìn)行充分標(biāo)注,并非所有類(lèi)型的影像數(shù)據(jù)都易標(biāo)注,例如如醫(yī)療影像數(shù)據(jù)需由專(zhuān)業(yè)醫(yī)師標(biāo)注病灶,業(yè)界領(lǐng)先的視覺(jué)公司一般會(huì)有數(shù)百人的標(biāo)注團(tuán)隊(duì),但標(biāo)注多為外包,缺乏專(zhuān)業(yè)培訓(xùn)和實(shí)時(shí)指導(dǎo),導(dǎo)致被標(biāo)注的數(shù)據(jù)質(zhì)量差。
區(qū)塊鏈如何解決:區(qū)塊鏈?zhǔn)且环N以密碼學(xué)技術(shù)為基礎(chǔ),以去中心化的方式,對(duì)大量數(shù)據(jù)進(jìn)行組織和維護(hù),用戶(hù)控制自己的數(shù)據(jù),打破科技巨頭壟斷數(shù)據(jù)的現(xiàn)狀。區(qū)塊鏈上的數(shù)據(jù)全部都附有相關(guān)人不可偽造的數(shù)字簽名,區(qū)塊鏈還具有完全公開(kāi)、高可靠性、去信任等諸多優(yōu)點(diǎn),可以實(shí)現(xiàn)全球數(shù)據(jù)共享和溯源,使得構(gòu)建更高規(guī)模、更高質(zhì)量、可控制權(quán)限、可審計(jì)的全球去中心化人工智能數(shù)據(jù)標(biāo)注平臺(tái)成為可能。
2.2 算力:硬件成本高
在工業(yè)領(lǐng)域需要大量的圖片、視頻輸入以及場(chǎng)景訓(xùn)練,需要極大的運(yùn)算量,普通人工智能科技公司需要百萬(wàn)以上的資金購(gòu)置GPU、FPGA等硬件資源,對(duì)于大部分中小型企業(yè)來(lái)說(shuō),負(fù)擔(dān)太大。
區(qū)塊鏈如何解決:把分布式挖礦與人工智能結(jié)合,將大型GPU或者FPGA服務(wù)器集群、中小型企業(yè)閑散的空余GPU放服務(wù)器以及個(gè)人閑置GPU作為計(jì)算節(jié)點(diǎn),利用區(qū)塊鏈技術(shù)通過(guò)共享算力,為人工智能提供算力供給。
2.3 算法:人才短缺,研發(fā)進(jìn)度緩慢
算法是邏輯的表現(xiàn),目前的困境在于缺乏專(zhuān)家,一個(gè)博士生大概需要五年的時(shí)間培養(yǎng),但是五年前還沒(méi)有博士生開(kāi)始從事深度學(xué)習(xí),所以該領(lǐng)域的專(zhuān)家極度稀缺。
區(qū)塊鏈如何解決:搭建發(fā)布機(jī)器學(xué)習(xí)任務(wù)的平臺(tái),利用群體智慧優(yōu)化人工智能算法,一套算法由多個(gè)人工智能專(zhuān)家更新維護(hù),不再是由一家公司決定一套算法。
3區(qū)塊鏈+人工智能行業(yè)整體分析
區(qū)塊鏈+人工智能類(lèi)項(xiàng)目按照涉及的領(lǐng)域,分為數(shù)據(jù)類(lèi)、算力類(lèi)和算法類(lèi)項(xiàng)目,概括如下圖。
3.1區(qū)塊鏈+人工智能行業(yè)項(xiàng)目一覽
根據(jù)CoinMarketCap數(shù)據(jù),截至2018年7月24日14:00,在區(qū)塊鏈中的AI概念板塊中,項(xiàng)目市值排名主要集中在130-270名之間。
3.2 區(qū)塊鏈+人工智能賽道市值與總市值關(guān)系
2018年1月1日至2018年6月1日,在區(qū)塊鏈+人工智能行業(yè)中,根據(jù)非小號(hào)統(tǒng)計(jì),一月有1個(gè)主流幣上了交易所并且統(tǒng)計(jì)了市值,有1個(gè)主流幣上了交易所沒(méi)有統(tǒng)計(jì)市值,有7個(gè)主流幣沒(méi)有上交易所;三月份有4個(gè)主流幣上了交易所并統(tǒng)計(jì)了市值,有4個(gè)主流幣上了交易所沒(méi)有統(tǒng)計(jì)了市值,有1個(gè)主流幣沒(méi)有上交易所;六月份之后,主流幣種都上了交易所并統(tǒng)計(jì)了市值。
圖4 AI賽道市值與總市值關(guān)系(億人民幣)數(shù)據(jù)來(lái)源:非小號(hào)項(xiàng)目市值信息不完全,但是根據(jù)六月份之后的趨勢(shì)可以判斷,隨著區(qū)塊鏈總市值在下降,AI概念板塊的市值也在下跌,如圖4所示。
4區(qū)塊鏈+人工智能類(lèi)項(xiàng)目
本章對(duì)代表性的區(qū)塊鏈+人工智能項(xiàng)目進(jìn)行技術(shù)分析。
4.1數(shù)據(jù)類(lèi)項(xiàng)目
數(shù)據(jù)服務(wù)涉及到數(shù)據(jù)來(lái)源、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)安全保護(hù)及防數(shù)據(jù)造假、數(shù)據(jù)清洗標(biāo)注。
1)數(shù)據(jù)來(lái)源:為保證用戶(hù)隱私,所有區(qū)塊鏈+AI項(xiàng)目中的數(shù)據(jù)來(lái)源均是用戶(hù)、或者機(jī)構(gòu)自主提供,而非網(wǎng)絡(luò)爬取。
2)數(shù)據(jù)存儲(chǔ)及交易:解決方案可概括為利用區(qū)塊鏈的分布式特點(diǎn),采用分布式存儲(chǔ)方案,對(duì)于提供存儲(chǔ)能力的節(jié)點(diǎn),提供代幣激勵(lì),個(gè)人或單位可以加入網(wǎng)絡(luò),成為節(jié)點(diǎn)的貢獻(xiàn)者,登記并提供節(jié)點(diǎn)存儲(chǔ)能力,包括容量、接口、存儲(chǔ)類(lèi)型以及相應(yīng)的SLA(ServiceLevelAggrement)。對(duì)于個(gè)人隱私數(shù)據(jù),用戶(hù)可以上傳到用戶(hù)本地節(jié)點(diǎn),利用私鑰限制訪問(wèn)權(quán)限。
3)數(shù)據(jù)安全保護(hù)及防數(shù)據(jù)造假:目前使用密碼學(xué)的公私鑰技術(shù),驗(yàn)證數(shù)據(jù)的來(lái)源,判斷數(shù)據(jù)提供者的身份,驗(yàn)證數(shù)據(jù)的有效性。
4)數(shù)據(jù)清洗標(biāo)注:結(jié)合社區(qū)節(jié)點(diǎn)的多角色參與,取代人工智能行業(yè)中的數(shù)據(jù)眾包平臺(tái)。
表2列舉了數(shù)據(jù)類(lèi)項(xiàng)目的對(duì)比表。
重點(diǎn)項(xiàng)目分析:
1)Bottos(BTO)
Bottos項(xiàng)目采用數(shù)據(jù)挖礦的方式實(shí)現(xiàn)用戶(hù)數(shù)據(jù)變現(xiàn),用戶(hù)不是依靠大量的算力投入,只需要擁有所需的測(cè)試數(shù)據(jù)(測(cè)試數(shù)據(jù)可以是方言、一些鳥(niǎo)類(lèi)的照片或者叫聲),就可以獲得代幣。
Bottos系統(tǒng)構(gòu)建的數(shù)據(jù)交換市場(chǎng),提供了基礎(chǔ)的存儲(chǔ)服務(wù),可以幫助用戶(hù)存儲(chǔ)一定、短時(shí)、少量的數(shù)據(jù),數(shù)據(jù)交換市場(chǎng)為有大容量、長(zhǎng)時(shí)間存儲(chǔ)需求的特殊客戶(hù),提供了儲(chǔ)存交易市場(chǎng)的購(gòu)買(mǎi)服務(wù)。為獲取優(yōu)質(zhì)訓(xùn)練數(shù)據(jù),Bottos項(xiàng)目采用社區(qū)節(jié)點(diǎn)多角色參與進(jìn)行清洗和標(biāo)注,但是清洗和標(biāo)注落地方案作為技術(shù)保留,在項(xiàng)目白皮書(shū)中沒(méi)有披露。
底層技術(shù)通過(guò)對(duì)當(dāng)前區(qū)塊鏈技術(shù)棧的總結(jié),該項(xiàng)目首創(chuàng)積木式動(dòng)態(tài)節(jié)點(diǎn)模型,實(shí)現(xiàn)動(dòng)態(tài)編排區(qū)塊鏈節(jié)點(diǎn),讓系統(tǒng)支持不同節(jié)點(diǎn)的類(lèi)型,構(gòu)成不同的服務(wù)網(wǎng)絡(luò),實(shí)現(xiàn)了分層和模塊化構(gòu)架,如圖5所示。
圖5 Bottos積木式動(dòng)態(tài)節(jié)點(diǎn)
2)AICHAIN(AIT)
AICHAIN希望打破全球數(shù)據(jù)壟斷性壁壘,打造由區(qū)塊鏈驅(qū)動(dòng)的人工智能生態(tài)系統(tǒng),讓數(shù)據(jù)資源方、應(yīng)用開(kāi)發(fā)方、運(yùn)行平臺(tái)資源方和用戶(hù)在這個(gè)區(qū)塊鏈上自由發(fā)布和使用各自的資源和應(yīng)用,讓用戶(hù)以更低的技術(shù)門(mén)檻和成本將AI應(yīng)用生態(tài)建設(shè)到區(qū)塊鏈平臺(tái)之上
資源分享平臺(tái)示意圖如圖6所示。
分享平臺(tái)存在著兩個(gè)技術(shù)落地的難題,一是鏈上資源如何能安全保存,二是如何撮合資源所有者和資源需求者交易。
圖6 分享平臺(tái)示意圖
4.2算力類(lèi)項(xiàng)目
算力類(lèi)項(xiàng)目涉及算力交易以及算力分配。
1)算力交易:公鏈中的節(jié)點(diǎn)通過(guò)安裝挖礦軟件及基礎(chǔ)人工智能運(yùn)行環(huán)境,參與算力的貢獻(xiàn),然后算力購(gòu)買(mǎi)方與算力出售方通過(guò)任務(wù)競(jìng)價(jià)等模式進(jìn)行交易。
2)算力分配:區(qū)塊鏈本身是分布式的計(jì)算資源,算力分配的做法是將計(jì)算任務(wù)拆解分配給大量計(jì)算機(jī)并行計(jì)算。
表3算力類(lèi)項(xiàng)目特點(diǎn)
重點(diǎn)項(xiàng)目介紹:
1)DeepBrainChain(DBC)深腦鏈通過(guò)智能合約在交易平臺(tái)上進(jìn)行算力交易,運(yùn)用動(dòng)態(tài)計(jì)算協(xié)同計(jì)算節(jié)點(diǎn),通過(guò)利用閑置計(jì)算資源降低成本。算力分配模式采用采用競(jìng)爭(zhēng)部署挖礦,如圖7所示,優(yōu)點(diǎn)是節(jié)點(diǎn)分散、去中心化程度高。但是算力分配技術(shù)細(xì)節(jié),該項(xiàng)目并沒(méi)有披露。
圖7深腦鏈挖礦節(jié)點(diǎn)架構(gòu)
2)Hadron.Cloud
通過(guò)AI瀏覽器進(jìn)行算力交易,出售算力獲取Hadron代幣。
Hypernet的算力分配是通過(guò)在blockchain層下面創(chuàng)造新編程模型,解決連續(xù)通信進(jìn)程計(jì)算有關(guān)的問(wèn)題。
在目前區(qū)塊鏈行業(yè)里,用全新的區(qū)塊鏈協(xié)議有效支持百萬(wàn)級(jí)的任務(wù)分發(fā)和協(xié)作,是一個(gè)新穎的做法。
3)Hypernet
Hypernet沒(méi)有提及如何進(jìn)行算力交易,項(xiàng)目著重介紹了算力分配的安全保護(hù)機(jī)制,為促進(jìn)算力買(mǎi)賣(mài)雙方之間的交易,設(shè)計(jì)了ProcessReplication(復(fù)制過(guò)程),這可以確保計(jì)算過(guò)程的損失不會(huì)影響到整個(gè)作業(yè)。當(dāng)peer的一組被分配相同的一種數(shù)據(jù)時(shí),各peer可以通過(guò)hashing的運(yùn)行結(jié)果,保證任何參與人不會(huì)被騙。
這種過(guò)程跟ProofofSpacetime(已使用在其它分散式項(xiàng)目)一樣的結(jié)構(gòu)。
Hypernet軟件基礎(chǔ)架構(gòu)包括三個(gè)主要組件組成:BlockchainResource Scheduler、基于分散平均分配規(guī)則的API、Hypernet的運(yùn)行環(huán)境。
圖8 Hypernet軟件基礎(chǔ)架構(gòu)
4.3算法類(lèi)項(xiàng)目
算法項(xiàng)目技術(shù)模式包括:
1)改善算法:公鏈系統(tǒng)上模型不是最優(yōu)的,區(qū)塊鏈中的每一個(gè)節(jié)點(diǎn)都可以為算法調(diào)參,即利用群體智慧改善現(xiàn)有的人工智能算法;
2)交易平臺(tái):構(gòu)建AI算法交易平臺(tái),交易的標(biāo)的可以是算法需求、算法模型或者將算法模型封裝好的AI Dapps;
3)改善區(qū)塊鏈:當(dāng)前區(qū)塊鏈設(shè)計(jì)固定,區(qū)塊鏈參數(shù)不能靈活調(diào)整且智能合約,不能自動(dòng)判斷交易模型的合理性,利用人工智能算法動(dòng)態(tài)更新區(qū)塊鏈參數(shù),讓區(qū)塊鏈系統(tǒng)實(shí)現(xiàn)自我進(jìn)化,并自動(dòng)嗅探交易漏洞,實(shí)現(xiàn)合約交易的文明化進(jìn)程。
表4列舉了算法類(lèi)重點(diǎn)項(xiàng)目對(duì)比表,
表4算法類(lèi)重點(diǎn)項(xiàng)目對(duì)比表
重點(diǎn)項(xiàng)目介紹:
(1)Cortex(CTXC)
Cortex公鏈不能改善算法,算法交易的模式是構(gòu)建一個(gè)機(jī)器學(xué)習(xí)平臺(tái),允許用戶(hù)在平臺(tái)上發(fā)布任務(wù)、購(gòu)買(mǎi)算法模型,Cortex通過(guò)將訓(xùn)練后的最先進(jìn)的機(jī)器學(xué)習(xí)模型放到公鏈上,解決模型的鏈上推斷共識(shí),利用人工智能算法實(shí)現(xiàn)區(qū)塊鏈進(jìn)化。底層技術(shù)愿景包括:
第一點(diǎn)是鏈上推斷共識(shí),高度去中心化,所有節(jié)點(diǎn)根據(jù)經(jīng)過(guò)訓(xùn)練的AI算法模型的推斷結(jié)果而不是其他共識(shí)機(jī)制下得出的確定結(jié)果達(dá)成一致,從而保證了去中心化的區(qū)塊鏈自治。
第二點(diǎn)是構(gòu)建虛擬機(jī)CVM,兼容以太坊的虛擬機(jī),CVM指令集完全兼容EVM,同時(shí)CVM還支持推理指令。指令的輸入是推斷的代碼,輸出是推斷的結(jié)果。
第三點(diǎn)是AI智能合約,這部分相較于普通的智能合約,AI智能合約涉及推理指令,是整個(gè)區(qū)塊鏈體系的重點(diǎn),架構(gòu)圖如圖9所示,要求所有節(jié)點(diǎn)在推斷結(jié)果的結(jié)果上達(dá)成一致。Cortex后期脫離以太坊的構(gòu)架,銷(xiāo)毀ERC-20代幣,采用Endorphins,模擬以太坊中Gas的概念來(lái)做AI智能合約計(jì)算耗費(fèi)的記賬,并命名為Endorphins,以此作為CVM在顯卡級(jí)別的計(jì)費(fèi)方式。相對(duì)于同類(lèi)AI項(xiàng)目,技術(shù)的創(chuàng)新點(diǎn)為:項(xiàng)目在技術(shù)架構(gòu)上創(chuàng)新提出鏈上推斷共識(shí);有自己的虛擬機(jī)且相對(duì)于以太坊的虛擬機(jī)而言,增加了支持推斷指令的設(shè)計(jì);后期脫離以太坊的構(gòu)架,采用Endorphins作為計(jì)費(fèi)方式且設(shè)計(jì)科學(xué)合理,可實(shí)現(xiàn)性較強(qiáng)。
圖9 AI智能合約推斷
(2)SingularityNET(AGI)
SingularityNET(AGI)通過(guò)建立一個(gè)針對(duì)AI的去中心化開(kāi)源平臺(tái),實(shí)現(xiàn)改善算法的目的,平臺(tái)循環(huán)模式圖如圖10所示,讓AI算法的提供方和使用方實(shí)現(xiàn)實(shí)時(shí)靈活的溝通交流。算法交易部分通過(guò)跟蹤哪些算法正在被使用,并相應(yīng)地對(duì)開(kāi)發(fā)人員進(jìn)行補(bǔ)償。項(xiàng)目沒(méi)有涉及改善區(qū)塊鏈的部分。
底層技術(shù)創(chuàng)新點(diǎn):前期采用POW+POS共識(shí)機(jī)制,未來(lái)脫離以太坊后,采用POR(ProofofReputation)信譽(yù)共識(shí)機(jī)制。該機(jī)制包含以下因素:股權(quán)、在網(wǎng)絡(luò)中的整體活動(dòng)、特定評(píng)級(jí)方面、活動(dòng)長(zhǎng)度和特定閾值以上的評(píng)級(jí)等。基于貢獻(xiàn)和行為計(jì)算節(jié)點(diǎn)的可信度,同時(shí)利用算法的隨機(jī)性保證公平性。
與同類(lèi)的項(xiàng)目相比,SingulaityNET項(xiàng)目并不定位于AI領(lǐng)域的公鏈搭建,而是致力于開(kāi)源的AI算法平臺(tái)的建立和社區(qū)的建設(shè),這使得該項(xiàng)目具有極強(qiáng)的可實(shí)現(xiàn)性。團(tuán)隊(duì)本身也處于AI領(lǐng)域的前沿,母公司的OpenCog基金會(huì)背景使得項(xiàng)目具有極強(qiáng)的吸引力。總體來(lái)看,容易落地。
圖10 SingularityNET開(kāi)源平臺(tái)機(jī)構(gòu)圖
4.4項(xiàng)目投資明細(xì)
根據(jù)CoinMarketCap,區(qū)塊鏈+AI項(xiàng)目發(fā)行時(shí)間集中在2017年前后,投資機(jī)構(gòu)既有老牌傳統(tǒng)機(jī)構(gòu)如微軟等,也有專(zhuān)注于區(qū)塊鏈的投資機(jī)構(gòu)如節(jié)點(diǎn)資本、比特大陸等,圖11列出了市值前9的區(qū)塊鏈+AI項(xiàng)目。
圖11人工智能項(xiàng)目投資明細(xì)
5區(qū)塊鏈+AI項(xiàng)目投資邏輯
從技術(shù)角度出發(fā),區(qū)塊鏈+AI項(xiàng)目的投資邏輯將從數(shù)據(jù)、算力、算法層面進(jìn)行分析,技術(shù)方向的關(guān)注重點(diǎn)如圖12所示。
圖12人工智能領(lǐng)域投資邏輯關(guān)注重點(diǎn)
5.1 整體邏輯
1)AI和區(qū)塊鏈的投資趨勢(shì),是由區(qū)塊鏈引發(fā)的,因此一定不是AI領(lǐng)域單邊的需求,因?yàn)槟菢拥脑捑蜁?huì)回歸AI領(lǐng)域的投資邏輯。我們需要探索交叉領(lǐng)域給雙邊帶來(lái)的機(jī)遇,以及創(chuàng)造全新的機(jī)會(huì)。
2)人工智能市場(chǎng)并不是一片藍(lán)海,BAT等巨頭公司資源,技術(shù)優(yōu)勢(shì)非常明顯。初創(chuàng)企業(yè)在長(zhǎng)尾眾包市場(chǎng)機(jī)會(huì)可能大一些。比如未來(lái)去中心化的算法交易市場(chǎng)可能更易落地,用物質(zhì)獎(jiǎng)勵(lì),來(lái)刺激機(jī)器學(xué)習(xí)專(zhuān)家開(kāi)發(fā)模型,性能最好的模型會(huì)獲得更高比例的收益。
3)要讓去中心化的AI市場(chǎng)起作用,就需要運(yùn)用各種安全計(jì)算技術(shù),包括聯(lián)合學(xué)習(xí)等,保證個(gè)人和公司提供的任何模型參數(shù)都能以完全私密的方式來(lái)處理。
4)目前創(chuàng)業(yè)要充分考慮到熊市的影響,已經(jīng)有一定進(jìn)展和實(shí)力或具有賺錢(qián)能力的項(xiàng)目才能安穩(wěn)度過(guò)熊市,比如項(xiàng)目主網(wǎng)已經(jīng)上線、已經(jīng)有實(shí)際業(yè)務(wù)現(xiàn)金流等。
5.1 數(shù)據(jù)
這一領(lǐng)域初創(chuàng)公司可以通過(guò)數(shù)據(jù)眾包的方式,利用token的優(yōu)勢(shì)進(jìn)行彎道超車(chē)。
1)數(shù)據(jù)保密:由于數(shù)據(jù)讀寫(xiě)方面,區(qū)塊鏈僅支持記錄級(jí)寫(xiě)授權(quán),但讀操作時(shí)完全共享,這種情況導(dǎo)致鏈上數(shù)據(jù)完全共享,因此數(shù)據(jù)的保密性很重要。
2)規(guī)模化存儲(chǔ)節(jié)點(diǎn):項(xiàng)目前期應(yīng)該能吸引大量的儲(chǔ)存節(jié)點(diǎn),以降低數(shù)據(jù)存儲(chǔ)的成本的項(xiàng)目。
5.2 算力
目前這一領(lǐng)域巨頭公司優(yōu)勢(shì)明顯,在目前的發(fā)展情況下,初創(chuàng)公司突破較難,等算法市場(chǎng)、存儲(chǔ)市場(chǎng)等生態(tài)起來(lái)了以后可能會(huì)有新機(jī)會(huì)出現(xiàn)。
1)AI芯片研發(fā):英特爾壟斷了芯片,芯片是人工智能算力的硬件基礎(chǔ),這類(lèi)項(xiàng)目投資者需要關(guān)注項(xiàng)目方是否有能力研發(fā)并生產(chǎn)芯片。
2)并行計(jì)算:算力分配需要考察各個(gè)客戶(hù)端能否將提交的算法進(jìn)行聚合修改,保證算法參數(shù)實(shí)時(shí)有效的更新在每一個(gè)客戶(hù)端,是目前AI算力分配過(guò)程中遇到的難點(diǎn),所以投資者需要關(guān)注項(xiàng)目方是否有能力處理大規(guī)模并行計(jì)算難題。
5.3 算法
1)算法保密:去中心的AI算法交易市場(chǎng),讓每個(gè)AI人才都可以為算法做出貢獻(xiàn),但是要讓去中心化的AI市場(chǎng)起作用,就需要保證個(gè)人和公司提供的任何算法模型都能以完全私密的方式來(lái)處理。
2)同步模型參數(shù):分布式網(wǎng)絡(luò)協(xié)同訓(xùn)練人工智能模型時(shí),參數(shù)需要通過(guò)共識(shí)機(jī)制協(xié)同調(diào)整,如果模型參數(shù)不一致,最終的算法模型可用性非常低,所以此類(lèi)項(xiàng)目投資者需要關(guān)注項(xiàng)目是否能做到同步模型參數(shù)。
6區(qū)塊鏈+AI項(xiàng)目未來(lái)趨勢(shì)
6.1技術(shù)總體趨勢(shì):此領(lǐng)域成熟還有大量條件待滿足
理想情況是:利用合理的Token模型構(gòu)建底層價(jià)值網(wǎng)絡(luò),保證區(qū)塊鏈節(jié)點(diǎn)的積極性,在區(qū)塊鏈的隱私,性能,硬件,算法安全性提高的前提下,越來(lái)越多的數(shù)據(jù),算力,算法,新理論在市場(chǎng)上進(jìn)行交易。同時(shí)進(jìn)行自我優(yōu)化。
6.2 隱私:首要因素
ai相關(guān)的數(shù)據(jù)和計(jì)算的隱私,在云計(jì)算時(shí)代未得到徹底解決,區(qū)塊鏈時(shí)代是一個(gè)大的機(jī)遇。因此應(yīng)關(guān)注隱私方面的進(jìn)展。
6.3 經(jīng)濟(jì)模型:給予角色正確的激勵(lì)
區(qū)塊鏈+AI項(xiàng)目中包括數(shù)據(jù)的提供方和購(gòu)買(mǎi)方,算力的提供方和購(gòu)買(mǎi)方,算法的提供方和購(gòu)買(mǎi)方。如何協(xié)調(diào)AI生態(tài)中各種角色的經(jīng)濟(jì)激勵(lì),使更多的數(shù)據(jù)、算力和算法在平臺(tái)上交易,甚至貢獻(xiàn)新的理論,是值得研究的課題。
6.4 擴(kuò)容:更好的解決方案
隨著區(qū)塊鏈擴(kuò)容方案的落地,目前AI+區(qū)塊鏈中使用的各種算法可以有更智能的解決方案。
6.5 存儲(chǔ):未來(lái)會(huì)出現(xiàn)更好的垂直性?xún)?chǔ)存。
在訓(xùn)練AI模型的過(guò)程中,為了訓(xùn)練屬于自己的模型,需要存儲(chǔ)自己的數(shù)據(jù)。目前IPFS方案的落地可能性眾說(shuō)紛紜,一種可能性是,會(huì)出現(xiàn)專(zhuān)門(mén)應(yīng)用于人工智能領(lǐng)域的數(shù)據(jù)存儲(chǔ)協(xié)議,針對(duì)ai計(jì)算所需的隱私要求和存儲(chǔ)pattern做的專(zhuān)門(mén)的優(yōu)化,有些場(chǎng)景下比通用存儲(chǔ)可能會(huì)先出現(xiàn)落地應(yīng)用。
6.6 硬件:期待專(zhuān)用芯片的出現(xiàn)
礦工一直在做的就是簡(jiǎn)單的SHA256的哈希運(yùn)算,但深度學(xué)習(xí)還是以GPU通用計(jì)算為主,而且深度學(xué)習(xí)訓(xùn)練的算法本身不是確定的,因此目前挖礦硬件是難以支持深度學(xué)習(xí)訓(xùn)練的。未來(lái)期望會(huì)出現(xiàn)滿足ai+blockchain各種需求的專(zhuān)用芯片,配合專(zhuān)門(mén)的協(xié)議,可以解決均等分配計(jì)算任務(wù)的難題,使得在礦工在挖礦給區(qū)塊鏈記賬的同時(shí),幫助解決AI計(jì)算問(wèn)題。
6.7 AI算法安全性趨勢(shì)
AI算法如果架構(gòu)在去中心化的區(qū)塊鏈上,隨著AI被用在各種區(qū)塊鏈上的越來(lái)越重要的場(chǎng)景,如果會(huì)出現(xiàn)沒(méi)有任何一家公司完全控制算法,算法存在失控的可能性,因此,AI行為安全一定會(huì)變得越發(fā)重要。
長(zhǎng)推:聊聊AI+區(qū)塊鏈的看法
原文作者:B
原文來(lái)源:twitter
注:本文來(lái)自@bonnazhu推特,火星財(cái)經(jīng)整理如下:
借著近期OpenAI 4o版本的發(fā)布,侃一下對(duì)AI+區(qū)塊鏈的看法:
以O(shè)penAI為首的生成式AI浪潮,靠一己之力,拉動(dòng)了數(shù)據(jù)、存儲(chǔ)、計(jì)算這三個(gè)板塊的發(fā)展。從此之后,AI將成為它們未來(lái)十年甚至幾十年最重要的客戶(hù),服務(wù)好AI,再由AI去服務(wù)各個(gè)下游行業(yè)客戶(hù)和應(yīng)用的鏈條正在逐步形成,AI成了最重要的中間層和發(fā)動(dòng)機(jī):
第一,AI帶動(dòng)了上游基建的需求:
1) 計(jì)算:包括芯片的設(shè)計(jì)與生產(chǎn),云計(jì)算服務(wù),數(shù)據(jù)中心,網(wǎng)絡(luò)/電力基礎(chǔ)設(shè)施等
這一環(huán)節(jié)偏重物理,AI的訓(xùn)練和結(jié)果輸出需要消耗大量的算力、電力以及網(wǎng)絡(luò)資源,而芯片的性能又是決定效率和能耗的關(guān)鍵,這就決定了像英偉達(dá), AMD這樣的芯片設(shè)計(jì)公司,臺(tái)積電, 三星這樣的晶圓代工廠,以及谷歌、微軟,亞馬遜等有云計(jì)算和數(shù)據(jù)中心業(yè)務(wù)的科技巨頭注定捕獲這一輪最大的價(jià)值。
但區(qū)塊鏈并不是沒(méi)有用武之地。目前算力壟斷非常明顯,高性能GPU一卡難求,或者需要付出很高的溢價(jià)才能在云計(jì)算廠商處獲取相關(guān)服務(wù),并且還可能由于地緣政治,芯片禁售等原因,導(dǎo)致算力在地理上的分布也呈現(xiàn)集中。這種失衡帶來(lái)的需求外溢,使得去中心化計(jì)算成為這一輪AI浪潮中獲取實(shí)際利益的區(qū)塊鏈板塊之一。這一板塊的項(xiàng)目眾多,新項(xiàng)目不斷涌現(xiàn),爭(zhēng)奪會(huì)很激烈,如@akashnet_@rendernetwork@gensynai@NodeAIETH@exa_bits@ionet@fluence_project@gpunet@nosana_ai等等。
不過(guò)由于區(qū)塊鏈網(wǎng)絡(luò)本身的性能局限與機(jī)器學(xué)習(xí)高昂計(jì)算量的矛盾,使得復(fù)雜的深度學(xué)習(xí)必然要在鏈下進(jìn)行,然后把結(jié)果傳輸?shù)芥溕稀H绾悟?yàn)證算力提供方是否按照要求執(zhí)行了訓(xùn)練任務(wù)是一個(gè)難點(diǎn),并且計(jì)算需要調(diào)用數(shù)據(jù)和模型,存在潛在的隱私暴露問(wèn)題。此時(shí)ZK(零知識(shí)證明)的威力就顯現(xiàn)出來(lái)了。目前已經(jīng)有不少項(xiàng)目在探索ZK為AI進(jìn)行服務(wù),例如 @bagel_network@gizatechxyz@ModulusLabs都旨在打造一個(gè)開(kāi)發(fā)者可以部署AI模型,并可運(yùn)用ZK對(duì)AI訓(xùn)練和推斷過(guò)程進(jìn)行校驗(yàn)的機(jī)器學(xué)習(xí)平臺(tái),即ZK machine learning,而@ezklxyz則是專(zhuān)注做服務(wù)AI的ZKP生成器和驗(yàn)證器,@Ingo_zk則是鉆研ZKP生成硬件加速。
另外,生成式AI帶來(lái)的能耗(包括計(jì)算產(chǎn)生的能耗以及散熱帶來(lái)的能耗)也是相當(dāng)驚人。據(jù)說(shuō)OpenAI訓(xùn)練GPT-6的時(shí)候,把微軟的電網(wǎng)都搞崩了。隨著之后各大巨頭繼續(xù)加碼AI數(shù)據(jù)中心(其中OpenAI計(jì)劃聯(lián)合微軟耗資1000億美元打造名為Stargate星際之門(mén)的超級(jí)計(jì)算器),能耗只會(huì)幾何級(jí)上漲。但是網(wǎng)絡(luò)/電力這種基礎(chǔ)的建設(shè)翻新周期很慢,且在例如美國(guó)這種國(guó)家,土地大多是私有的,拓展電網(wǎng)及相關(guān)的基礎(chǔ)設(shè)施需要經(jīng)過(guò)私人同意。如何讓私人有動(dòng)力參與到基礎(chǔ)設(shè)施的拓展中,或是讓私人減輕對(duì)電網(wǎng)的依賴(lài)和負(fù)擔(dān),這可能是未來(lái) #DePin的一個(gè)重要議題。當(dāng)然,除了電能,穩(wěn)定的帶寬也是AI需求的重要基礎(chǔ)設(shè)施之一,大部分?jǐn)?shù)據(jù)中心都會(huì)傾向于構(gòu)建在ISP(網(wǎng)絡(luò)業(yè)務(wù)提供商)近一些的地方,電力豐富的地方,網(wǎng)絡(luò)帶寬資源不一定豐富。如何利用#DePin解決這個(gè)錯(cuò)配問(wèn)題,也是一個(gè)值得期待的方向。
2) 數(shù)據(jù):包括數(shù)據(jù)采集、數(shù)據(jù)標(biāo)注/處理、數(shù)據(jù)交易/授權(quán)。
盡管數(shù)據(jù)是AI的“食物”,然而大多數(shù)機(jī)器學(xué)習(xí)模型只能使用經(jīng)過(guò)處理的結(jié)構(gòu)化數(shù)據(jù)。目前,用于機(jī)器學(xué)習(xí)的數(shù)據(jù)來(lái)源非常廣泛,且大部分是非結(jié)構(gòu)化的和分散在各處的公開(kāi)數(shù)據(jù),因此需要花費(fèi)大量時(shí)間和精力對(duì)這些數(shù)據(jù)進(jìn)行搜集和處理。這其實(shí)是一個(gè)勞動(dòng)密集的苦差事,卻也是區(qū)塊鏈和代幣經(jīng)濟(jì)能夠很好切入的環(huán)節(jié),目前在做這個(gè)數(shù)據(jù)采集、處理分包業(yè)務(wù)的主要有 @getgrass_io@PublicAI_@AITProtocol這幾家。
不過(guò)需要注意的是,隨著新的機(jī)器學(xué)習(xí)模型架構(gòu)的出現(xiàn),對(duì)于結(jié)構(gòu)化數(shù)據(jù)的依賴(lài)會(huì)有所改變。新的技術(shù)架構(gòu)如自監(jiān)督學(xué)習(xí)、GAN、VAE和預(yù)訓(xùn)練模型,可以直接利用非結(jié)構(gòu)化數(shù)據(jù)進(jìn)行深度學(xué)習(xí),繞過(guò)數(shù)據(jù)處理和清洗環(huán)節(jié),而這會(huì)對(duì)勞動(dòng)密集型平臺(tái)的需求帶來(lái)一定沖擊。
此外,可以公開(kāi)抓取的數(shù)據(jù)只是這個(gè)世界數(shù)據(jù)的冰山一角,大量的數(shù)據(jù)其實(shí)掌握在私營(yíng)機(jī)構(gòu)或者個(gè)人用戶(hù)手中,除了部分企業(yè)會(huì)有公開(kāi)的API允許調(diào)用外,大部分?jǐn)?shù)據(jù)仍舊沒(méi)有被激活。如何讓更多的數(shù)據(jù)持有者貢獻(xiàn)/授權(quán)自己的數(shù)據(jù),同時(shí)又能良好的保護(hù)隱私,是一個(gè)重點(diǎn)方向。曾經(jīng)有不少做去中心化數(shù)據(jù)交易的平臺(tái),但因?yàn)榭嘤谡也坏接袛?shù)據(jù)需求的甲方,經(jīng)過(guò)幾輪周期的大浪淘沙,基本都銷(xiāo)聲匿跡,只剩下少數(shù)如 @oceanprotocol熬到了AI的春天,而它們獨(dú)特的Compute-to-data模式,讓數(shù)據(jù)使用者可以直接在數(shù)據(jù)分享者的數(shù)據(jù)集上進(jìn)行計(jì)算而不暴露數(shù)據(jù),恰好解決了這個(gè)隱私痛點(diǎn)。
3) 存儲(chǔ):包括數(shù)據(jù)庫(kù)(database),數(shù)據(jù)備份/存儲(chǔ)系統(tǒng)(storage)
深度學(xué)習(xí)模型在訓(xùn)練和推斷時(shí)用到的數(shù)據(jù),大多是從數(shù)據(jù)庫(kù)或者數(shù)據(jù)存儲(chǔ)備份系統(tǒng)處調(diào)取的。可以把數(shù)據(jù)庫(kù)和備份/存儲(chǔ)系統(tǒng)理解成“冰箱”,不過(guò)數(shù)據(jù)庫(kù)和備份/存儲(chǔ)系統(tǒng)其實(shí)是不太一樣的,前者側(cè)重管理,需要支持頻繁的讀寫(xiě),以及復(fù)雜查詢(xún)(如SQL)和檢索,后者側(cè)重大規(guī)模、長(zhǎng)期的備份和歸檔,需要保證隱私、安全和不可篡改。
Database和storage相輔相成,共同服務(wù)AI深度學(xué)習(xí),一個(gè)典型的場(chǎng)景是:數(shù)據(jù)從database中提取,進(jìn)行預(yù)處理和清洗,轉(zhuǎn)換成適合模型訓(xùn)練的格式,處理后的數(shù)據(jù)可以存儲(chǔ)在去中心化storage中,確保數(shù)據(jù)的安全。模型訓(xùn)練階段,從去中心化storage中讀取訓(xùn)練數(shù)據(jù),進(jìn)行模型訓(xùn)練,訓(xùn)練過(guò)程中生成的中間數(shù)據(jù)和模型參數(shù)可以存儲(chǔ)在database中,便于快速訪問(wèn)和微調(diào)、更新。
這一板塊是區(qū)塊鏈的優(yōu)勢(shì)所在,@ArweaveEco@Filecoin@storj@Sia__Foundation都是這個(gè)賽道的,甚至@dfinity也可以歸類(lèi)進(jìn)去,然而越來(lái)越覺(jué)得@ArweaveEco才是最適合服務(wù)AI的那個(gè)方案:其一次性支付永續(xù)存儲(chǔ)的模式,加上生態(tài)系統(tǒng)中許多database項(xiàng)目作為補(bǔ)充,以及新發(fā)布的并行架構(gòu)AO計(jì)算網(wǎng)絡(luò),完美適配深度學(xué)習(xí)中多線程任務(wù)的需求,這使得其能夠很好地支持機(jī)器學(xué)習(xí)的部署。
第二,AI性能決定了下游應(yīng)用的上限:
雖然AI已經(jīng)或多或少在工業(yè)、農(nóng)業(yè)領(lǐng)域(2B)有所應(yīng)用,但這一輪我們看到的突破主要是基于大語(yǔ)言模型(LLM)的2C應(yīng)用。我們可以把這些應(yīng)用分成兩大類(lèi):
第一類(lèi)其實(shí)只是大語(yǔ)言模型的具象化,例如一些AIGC平臺(tái),它們根據(jù)用戶(hù)指令生成用戶(hù)想要的結(jié)果,但這一類(lèi)應(yīng)用的性能主要取決于使用的AI模型,而主要的LLM模型被巨頭們壟斷,因而應(yīng)用間的差異性往往較小,護(hù)城河相對(duì)較窄;另一類(lèi)則是利用AI模型來(lái)提升現(xiàn)有產(chǎn)品的功能和用戶(hù)體驗(yàn),例如增加了AI能力的搜索引擎、游戲等,包括@_kaitoai@ScopeProtocol@EchelonFND
除此之外,生成式AI浪潮還催熱了一種新的應(yīng)用生態(tài)—AI Agent,即智能機(jī)器人,其具備根據(jù)用戶(hù)意圖獨(dú)立執(zhí)行任務(wù)和做出決策的功能。AI Agent本質(zhì)是在LLM的模型基礎(chǔ)上,增加了更為復(fù)雜的執(zhí)行和處理邏輯,使其能服務(wù)于不同的應(yīng)用場(chǎng)景。實(shí)際上,這種Agent的雛形在加密貨幣領(lǐng)域已經(jīng)存在,例如DeFi借貸協(xié)議的清算機(jī)器人(liquidation bot)和去中心化交易平臺(tái)的套利機(jī)器人(arbitrage bot)。這些DeFi Bots雖然具備智能機(jī)器人的一些特點(diǎn),但它們是純鏈上的,不支持鏈下行為,且因?yàn)槭腔谥悄芎霞s,需要外部觸發(fā)才能啟動(dòng)。
在沒(méi)有AI的情況下,目前是通過(guò)一套外部的keeper網(wǎng)絡(luò)來(lái)打通鏈下和鏈上的,例如價(jià)格預(yù)言機(jī)就是這樣一個(gè)典型,以及 @thekeep3r也是一個(gè)例子。而AI Agent的出現(xiàn),給了一種新的思路,即可以由智能機(jī)器人自行去完成,并實(shí)現(xiàn)自動(dòng)化。鏈上AI Agent標(biāo)的主要有:@autonolas@MorpheusAIs;而其他較為通用的AI Agent的標(biāo)的有@chainml_@Fetch_ai;以及專(zhuān)注陪伴、人機(jī)交互的AI Agent有@myshell_ai@virtuals_io@The_Delysium,而這一類(lèi)Agent的特點(diǎn)是擬人化,提供情緒價(jià)值,且具有被運(yùn)用到各個(gè)游戲、元宇宙之中的想象空間。
第三,寫(xiě)在最后:
AI其實(shí)是一個(gè)融合敘事,它的出現(xiàn),把原先各個(gè)孤立甚至當(dāng)初找不到市場(chǎng)契合點(diǎn)的幾個(gè)加密板塊串聯(lián)起來(lái)了。目前AI仍舊處于大基建投資時(shí)代,數(shù)據(jù)、存儲(chǔ)、計(jì)算這一類(lèi)上游板塊是最直接的持續(xù)受益者,它們對(duì)AI發(fā)展更為敏感,確定性也更高。
但是對(duì)于這個(gè)行業(yè)的投資者來(lái)說(shuō),風(fēng)險(xiǎn)在于大部分的紅利可能不在加密貨幣市場(chǎng),目前幣市的AI效應(yīng)更多還是來(lái)自傳統(tǒng)市場(chǎng)供需關(guān)系失衡帶來(lái)的溢出效應(yīng),或者就是純炒作。而下游應(yīng)用由于性能天花板取決于AI模型,而AI模型仍處在不斷迭代的過(guò)程中,且AI與產(chǎn)品的結(jié)合點(diǎn)還在探索,市場(chǎng)契合度還有待驗(yàn)證,這使得下游應(yīng)用的未來(lái)變數(shù)還比較大,確定性不如上游板塊那么高。
當(dāng)然,還有像@bittensor_和@ritualnet這樣的項(xiàng)目,我認(rèn)為更應(yīng)該稱(chēng)之為AI生態(tài)平臺(tái)的項(xiàng)目。他們并不單純專(zhuān)注于上游或下游的某一塊業(yè)務(wù),而是通過(guò)架構(gòu)和經(jīng)濟(jì)機(jī)制設(shè)計(jì),使上下游業(yè)務(wù)的各個(gè)提供者能夠接入并部署到其平臺(tái)或鏈上,實(shí)現(xiàn)所謂的人工智能協(xié)作。這些項(xiàng)目有著宏大的遠(yuǎn)景,但目前區(qū)塊鏈AI上下游面臨的需求捕獲問(wèn)題同樣會(huì)反映到它們身上,且估值較高。不過(guò),相比于押注某一個(gè)具體項(xiàng)目,押注這些平臺(tái)的風(fēng)險(xiǎn)會(huì)相對(duì)小一些。
短期內(nèi),區(qū)塊鏈能否繼續(xù)從AI紅利中獲益,可能仍然取決于上游板塊的供需關(guān)系失衡,尤其是供給不足狀況的持續(xù)。但從中長(zhǎng)期來(lái)看,區(qū)塊鏈的可驗(yàn)證性、不可篡改性和代幣激勵(lì)等特性,確實(shí)能夠?yàn)锳I帶來(lái)新的可能性,其中,零知識(shí)證明是一大利器,既能保護(hù)隱私,又能實(shí)現(xiàn)可信驗(yàn)證,完美解決了區(qū)塊鏈在性能局限下服務(wù)AI深度學(xué)習(xí)高計(jì)算量需求的問(wèn)題。
圖片新聞
-
上海財(cái)經(jīng)大學(xué)軍訓(xùn)時(shí)間-上海財(cái)經(jīng)大學(xué)軍訓(xùn)要剪頭發(fā)嗎
93%的人還瀏覽了 -
鐵西區(qū)教育局_鐵西區(qū)教育局24小時(shí)服務(wù)熱線
99%的人還瀏覽了 -
國(guó)際教育活動(dòng)-國(guó)際教育日活動(dòng)
54%的人還瀏覽了 -
房產(chǎn)過(guò)戶(hù)需要多長(zhǎng)時(shí)間_房產(chǎn)過(guò)戶(hù)需要多長(zhǎng)時(shí)間才能拿到房產(chǎn)證
74%的人還瀏覽了 -
房產(chǎn)證地下室—房產(chǎn)證地下室和住宅用途不一致
94%的人還瀏覽了 -
三河房產(chǎn)_三河房產(chǎn)中介
95%的人還瀏覽了