中新網(wǎng)上海4月4日電(記者 陳靜)復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授、MOSS系統(tǒng)負(fù)責(zé)人邱錫鵬4日對(duì)記者表示，好的語(yǔ)言模型需要更好地理解語(yǔ)言與常識(shí)。情景學(xué)習(xí)、思維鏈和自然指令學(xué)習(xí)是語(yǔ)言模型的關(guān)鍵技術(shù)。
邱錫鵬教授認(rèn)為，大型語(yǔ)言模型技術(shù)的快速演進(jìn)，已經(jīng)給人類(lèi)展現(xiàn)出一個(gè)通向“通用人工智能”未來(lái)的大框架，下一步最重要的是讓大模型和現(xiàn)實(shí)世界“對(duì)齊”，保證模型對(duì)人類(lèi)的可信、誠(chéng)實(shí)、有助、無(wú)害至關(guān)重要。
邱錫鵬解釋?zhuān)榫皩W(xué)習(xí)，即在上下文語(yǔ)境中學(xué)習(xí)的能力。語(yǔ)言模型會(huì)在“提示詞”(prompt)中附帶一些例子作為“上文”輸入，再預(yù)測(cè)并輸出下文，這就改變了傳統(tǒng)的學(xué)習(xí)范式，可以大幅降低下游開(kāi)發(fā)成本。
思維鏈，指的是做大模型示例的時(shí)候不要只給答案，也要給它推導(dǎo)過(guò)程，語(yǔ)言模型學(xué)習(xí)這個(gè)推導(dǎo)過(guò)程，最終給出一個(gè)正確的答案。他認(rèn)為，這是突破模型參數(shù)約束、實(shí)現(xiàn)“涌現(xiàn)”能力的關(guān)鍵技術(shù)。自然指令學(xué)習(xí)，則是讓模型能直接理解人類(lèi)指令，模型從指令中學(xué)習(xí)判斷能力，不斷“對(duì)齊”人類(lèi)的真實(shí)意圖。
邱錫鵬教授主持研發(fā)的MOSS系統(tǒng)將于4月中旬開(kāi)源。他直言，該系統(tǒng)在推理能力和事實(shí)類(lèi)知識(shí)方面還需提升。這主要是由于參數(shù)規(guī)模不足造成的，可以通過(guò)擴(kuò)大模型規(guī)模來(lái)實(shí)現(xiàn)。這位學(xué)者指出：“首先是對(duì)語(yǔ)言模型基座進(jìn)行架構(gòu)優(yōu)化，將面臨輸入長(zhǎng)度、中文編碼、多模態(tài)接入等幾重挑戰(zhàn)；其次是指令微調(diào)，難度遠(yuǎn)高于預(yù)訓(xùn)練，而讓模型的回答‘對(duì)齊’人類(lèi)思維習(xí)慣也非常困難；再次是能力強(qiáng)化。”
“在讓模型自我學(xué)習(xí)、自我迭代的過(guò)程中，最重要的就是人必須參與其中，以保持機(jī)器與人類(lèi)價(jià)值觀、思維方式的對(duì)齊，否則就可能會(huì)離我們?nèi)祟?lèi)的偏好越來(lái)越遠(yuǎn)。”他指出，當(dāng)語(yǔ)言模型向人類(lèi)的價(jià)值觀和思維方式對(duì)齊，并應(yīng)用于真實(shí)世界，無(wú)疑將顛覆各個(gè)行業(yè)生態(tài)。
記者了解到，在由復(fù)旦大學(xué)管理學(xué)院主辦的復(fù)旦科創(chuàng)先鋒論壇上，嘉賓們聚焦“大型語(yǔ)言模型引發(fā)的時(shí)代變革”，就人工智能的現(xiàn)狀和未來(lái)展開(kāi)對(duì)話(huà)，進(jìn)一步討論了人類(lèi)可能將要面臨的時(shí)代變革。
作為從事人工智能技術(shù)產(chǎn)品化的業(yè)界人士，沈李斌看到的則更多是如何用AI替代掉簡(jiǎn)單重復(fù)人類(lèi)勞動(dòng)的問(wèn)題。他介紹，目前客服機(jī)器人已經(jīng)替代了不少的人工。“人類(lèi)的精力就可以留做一些更積極主動(dòng)的工作。”沈李斌認(rèn)為，這種生成式能力將在企業(yè)里發(fā)揮非常重要的作用，提高各個(gè)流程的效率。同時(shí)，基于生產(chǎn)力的解放，很多企業(yè)與企業(yè)之間的上下游關(guān)系也將產(chǎn)生變化，大量結(jié)構(gòu)性的機(jī)會(huì)正孕育其中。
對(duì)此，邱錫鵬教授認(rèn)為，人類(lèi)具有適應(yīng)性和靈活性，更擅長(zhǎng)的是利用AI的能力把工作做到更好。在這樣的背景下，人類(lèi)的思考和判斷能力需要再度強(qiáng)化，變得更加明確。他表示，目前為止AI依然在可控范圍內(nèi)發(fā)展，但當(dāng)它成為某種基礎(chǔ)設(shè)施后，如何控制其能力就將變得十分關(guān)鍵，相關(guān)的法律法規(guī)、政府的重視、社會(huì)的認(rèn)同，都將參與進(jìn)整個(gè)生態(tài)中來(lái)。(完)
