《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動(dòng)態(tài) > 【ChatGPT專題】以 ChatGPT 為代表的「大模型」會(huì)是多大的技術(shù)革命?

【ChatGPT專題】以 ChatGPT 為代表的「大模型」會(huì)是多大的技術(shù)革命?

2023-02-15
作者:孫志崗
來源:嫑關(guān)注
關(guān)鍵詞: ChatGPT 大模型 AI

  最近,比爾蓋茨在 reddit 回答網(wǎng)友提問。有人問當(dāng)下「巨大的技術(shù)變革」是什么時(shí),他回答說:

  「AI 是個(gè)大人物。我不認(rèn)為 Web3 有那么大,或者元宇宙本身的東西是革命性的,但 AI 是相當(dāng)革命性的。」(Google 翻譯)

  「AI 是重要的。我不認(rèn)為 Web3 那么重要或者說單獨(dú)的元界是革命性的,但 AI 是相當(dāng)革命性的。」(ChatGPT 翻譯)

  微信截圖_20230215143719.png

  能和蓋茨在 Web3 和人工智能的判斷上一致,讓我很開心。

  另一件事,發(fā)生在朋友圈里。網(wǎng)易副總裁、杭州研究院執(zhí)行院長(zhǎng)汪源在討論微軟加大投資 OpenAI 能否賺錢時(shí),說到:

  微信截圖_20230215143745.png

  這句話透露了兩個(gè)信息:1. 網(wǎng)易杭研在大面積嘗試應(yīng)用 OpenAI 的能力;2. 為此要付不少服務(wù)費(fèi),但也愿意。

  在網(wǎng)易工作過的都知道,要做一件對(duì)外付很多錢的事情,那一定是下了很大決心的圖片。

  可是,就在兩個(gè)月前,OpenAI 還沒有發(fā)布 ChatGPT 的日子,業(yè)界對(duì) AI 其實(shí)是悲觀的。

  L4 級(jí)自動(dòng)駕駛被證明太難做到了,很多公司開始放棄。我有一個(gè)在頭部公司做核心算法的朋友,已經(jīng)選擇轉(zhuǎn)行了。

  AI 四小龍也風(fēng)頭不再,探索出的業(yè)務(wù)模式變成外包項(xiàng)目為主,且技術(shù)含量越來越低。

  為什么 ChatGPT 一推出,會(huì)帶來 180° 的態(tài)度變化?

  這兩個(gè)月,我和 ChatGPT 對(duì)話數(shù)百條,參加了三場(chǎng)相關(guān)的研討會(huì),與十幾位學(xué)術(shù)界、企業(yè)界的專家交流,當(dāng)然也讀了很多資料,對(duì)以下問題形成了一些觀察和思考。

  1.ChatGPT 與以往的 AI 不同在哪里?它為什么有可能成為通用人工智能?

  2.通用人工智能對(duì)信息技術(shù)行業(yè)最直接的沖擊是什么?

  3.商業(yè)機(jī)會(huì)在哪里?

  4.行業(yè)格局會(huì)怎樣?

  5.個(gè)人職業(yè)發(fā)展會(huì)受到什么影響?

  下面就談一下我的觀點(diǎn),期待你的批評(píng)指正。

  一、「大模型」敲開了通用人工智能的大門

  ChatGPT 用的方法叫「大型語言模型(Large Language Models)」,簡(jiǎn)稱 LLMs。中文習(xí)慣稱為「大模型」。

  簡(jiǎn)單說,它的思路就是把盡可能大量大量大量大量的數(shù)據(jù)通過 Transformer 架構(gòu)做機(jī)器學(xué)習(xí),就能從數(shù)據(jù)中學(xué)到很多很多很多很多能力,多到超出原始設(shè)計(jì)者的想象。

  比方說,它在翻譯方面的能力,不輸于,甚至超過了專業(yè)的機(jī)器翻譯系統(tǒng)。

  本文開頭機(jī)翻的比爾蓋茨的話,我覺得 ChatGPT 就比 Google 翻譯得要好上一個(gè)層次。唯一瑕疵是用了比較生僻「元界」,而不是更常用的「元宇宙」。但當(dāng)我告訴它「元宇宙」更常用后,它立刻就能修正翻譯:

  微信截圖_20230215143859.png

  據(jù)說,翻譯能力并不是 ChatGPT 特別著意打造的,它只是讀的多語言數(shù)據(jù)多了,就會(huì)了

  再比如,ChatGPT 偶然把源代碼加到了訓(xùn)練數(shù)據(jù)里,結(jié)果發(fā)現(xiàn) AI 的推理能力獲得了巨大提升。

  傳聞?wù)f,ChatGPT 在發(fā)布時(shí),只是被當(dāng)成又一個(gè)新版本的 demo 而已,OpenAI 并沒覺得它會(huì)多強(qiáng)大(前幾個(gè)版本市場(chǎng)反應(yīng)也是寥寥)。是網(wǎng)友貼在社交媒體的對(duì)話截圖,讓 OpenAI 才知道,原來它還能這樣這樣這樣這樣這樣!

  有沒有一絲絲覺得,ChatGPT 的機(jī)器學(xué)習(xí)能力,已經(jīng)很像人類的學(xué)習(xí)過程了?

  讓小孩子學(xué)編程的主要原因,是鍛煉孩子的邏輯思維能力。這不和 AI 讀代碼學(xué)推理是一回事嗎?

  古人就說,「讀書百遍其義自見」,「熟讀唐詩三百首,不會(huì)作詩也會(huì)吟」。如果有一個(gè)少年,他可以不眠不休地快速讀書。我們不知道他讀完全世界所有書之后會(huì)是什么樣,但相信他一定會(huì)很厲害。

  如此接近人,讓很多專家承認(rèn),我們終于敲開了通用人工智能(Artificial General Intelligence,下文簡(jiǎn)稱 AGI)的大門了!

  以前的 AI,不是 AGI,是因?yàn)樗鼈兊哪P椭荒茏鲆患隆H四樧R(shí)別的就是識(shí)別人臉,缺陷檢測(cè)的就是檢測(cè)缺陷(且只能檢測(cè)一種缺陷,換了缺陷就得換模型)。AlphaGo 只會(huì)下圍棋,換成五子棋就會(huì)被我狂虐。

  而 ChatGPT 已經(jīng)能夠觸類旁通,把從 A 學(xué)到的能力,用在 B、C、D、E、F 上。

  學(xué)術(shù)界用「涌現(xiàn)(Emergent)」這個(gè)詞來表述這種情況。請(qǐng)記住這個(gè)詞,后面還會(huì)用到。

  延續(xù) ChatGPT 的一個(gè)研究熱點(diǎn)是多模態(tài)大模型。簡(jiǎn)單理解,就是把語音、圖像、視頻等等各種類型的數(shù)據(jù)都灌進(jìn)去,看能否用一個(gè)模型解決所有媒體的 AI 生成問題。

  如果成功,那么再大膽假設(shè)一下,凡是數(shù)據(jù),是不是都可以交給這個(gè)模型訓(xùn)練,讓它學(xué)會(huì)如何從 A 生成 B?比如,從劇本直接生成電影,從 PRD 直接生成可執(zhí)行的 App,從口頭描述直接生成 3D 人物,從需求直接生成一切!

  順著這個(gè)邏輯,距離 AGI 是不是不遠(yuǎn)了?可別那么樂觀。

  現(xiàn)在只是打開了門。既不知道門后有什么,也不知道是不是開對(duì)了門。還有太多太多未知要面對(duì)和解決。

  但這并不妨礙我們思考下,AGI 的世界,會(huì)對(duì)產(chǎn)業(yè)和我們個(gè)人帶來什么變化。

  有的變化,可能已經(jīng)開始了……

  二、AGI 的革命性不僅體現(xiàn)在智能本身

  假定 AGI 已經(jīng)實(shí)現(xiàn)。那么用 AI 可以代替人力,提升生產(chǎn)效率,降低生產(chǎn)成本,在更多領(lǐng)域釋放 AI 的力量。其革命性毋庸置疑。

  我想從另一個(gè)角度來探討其革命性,那就是對(duì)信息技術(shù)自身的影響。用這樣的終局思維,可以倒推出當(dāng)下要做什么。

  我認(rèn)為,革命性的技術(shù)應(yīng)該滿足至少一個(gè)標(biāo)志:

  它讓幾乎每個(gè)軟件系統(tǒng)都要做改造,甚至重做

  符合這個(gè)標(biāo)準(zhǔn)的技術(shù),之前有:

  圖形界面。成為軟件系統(tǒng)的標(biāo)配

  Web 2.0。導(dǎo)致大量傳統(tǒng)應(yīng)用系統(tǒng)向 Web 遷移

  移動(dòng)互聯(lián)網(wǎng)。導(dǎo)致幾乎任何應(yīng)用都要開發(fā)移動(dòng)版。

  Web3 不符合這個(gè)標(biāo)準(zhǔn)。我另有一文看衰它。

  元宇宙當(dāng)下和近期也不符合。AGI 實(shí)現(xiàn)之后,太多人無所事事,倒是有可能在元宇宙里醉生夢(mèng)死。我會(huì)在本文最后一部分做分析。

  我認(rèn)為 AGI 是符合的。它能讓所有軟件系統(tǒng)幾乎都要改造甚至重做,哪怕其核心功能并不需要智能。這是因?yàn)樗匦露x了「接口(Interface)」。

  無論用戶界面(UI),還是軟件系統(tǒng)之間的接口(API),它都會(huì)重新定義。

  現(xiàn)在我們想要一個(gè)結(jié)果,需要去了解計(jì)算機(jī)的能力,掌握各種軟件的操作方法,還要把自己的意圖正確拆解為若干個(gè)操作軟件的步驟,執(zhí)行之,才能得到。

  AGI 之后,人類終于可以用「說話」這種方式和計(jì)算機(jī)交互。說話不方便時(shí)就打字。打字費(fèi)勁?腦機(jī)接口可以期待下。

  「說」出想要的結(jié)果,就能得到結(jié)果。可能不盡如人意,再「說」出修改意見,效果即時(shí)呈現(xiàn)。當(dāng) UI 已可以如此美好,碰鼠標(biāo)、摸屏幕的頻率都會(huì)降低。

  用戶操作習(xí)慣的遷移,會(huì)逼所有軟件,都得提供「自然語言界面(Natural Language Interface,簡(jiǎn)稱 NLI)」。這是我生造的詞,指的是以自然語言為輸入的接口。

  不僅用戶界面要 NLI,API 也要 NLI 化。這是因?yàn)橛脩舭l(fā)出的宏觀指令,往往不會(huì)是一個(gè)獨(dú)立軟件能解決的,它需要很多軟件、設(shè)備的配合。

  一種實(shí)現(xiàn)思路是,入口 AI(比如 Siri、小愛同學(xué),機(jī)器人管家)非常強(qiáng)大,能充分了解所有軟件和設(shè)備的能力,且能準(zhǔn)確地把用戶任務(wù)拆解和分發(fā)下去。這對(duì)入口 AI 的要求非常高。

  另一種實(shí)現(xiàn)思路是,入口 AI 收到自然語言指令,把指令通過 NLI 廣播出去(也可以基于某些規(guī)則做有選擇的廣播,保護(hù)用戶隱私),由各個(gè)軟件自主決策接不接這個(gè)指令,接了要怎么做,該和誰配合。

  第二種思路,我認(rèn)為更有可能成為行業(yè)標(biāo)準(zhǔn)。單 AI 搞定一切不太符合目前的技術(shù)路線和商業(yè)環(huán)境。各個(gè)軟件在各自的專業(yè)領(lǐng)域里,能做出更佳的 AI 決策。第四部分會(huì)詳述。

  舉個(gè)例子,我對(duì) Siri 說:「我得新冠了」。Siri 把這句話廣播給手機(jī)上的所有 App。于是,大家開始各自干活:

  1.Apple Watch 打開了 24 小時(shí)血氧監(jiān)測(cè)模式

  2.米家 App 讓空調(diào)提高溫度,并詢問我是否馬上躺下休息,它可以關(guān)閉燈光和窗簾

  3.餓了么建議我吃清淡食物,并推薦幾款粥做明天的早餐,讓我選擇、預(yù)訂

  4.叮當(dāng)買藥推薦了附近能最快速度送到的退燒藥,問我是否下單

  5.貓眼電影建議我取消后天的電影票

  6.Keep 通知我已取消未來一個(gè)月內(nèi)預(yù)約的所有操課,還暫停了所有打卡

  7.釘釘幫我起草了病假申請(qǐng)

  8.微信問我要不要發(fā)個(gè)朋友圈?

  當(dāng) NLI 成為事實(shí)標(biāo)準(zhǔn),那么互聯(lián)網(wǎng)上軟件、服務(wù)的互通性會(huì)大幅提升,不再受各種協(xié)議、接口的限制。

  比如現(xiàn)在華為、阿里、騰訊等都在爭(zhēng)搶的物聯(lián)網(wǎng)操作系統(tǒng),表面看好像是在做內(nèi)核,其實(shí)本質(zhì)上是想成為最重要的那個(gè)萬物互聯(lián)的協(xié)議。

  萬物想要互聯(lián),大家首先要遵守同一個(gè)協(xié)議。誰的協(xié)議成為主流,誰就擁有了最高的話語權(quán)。

  兼容多種協(xié)議,對(duì)廠商來說要增加很多成本。如果不兼容,就變成了所支持協(xié)議的附屬。如果有個(gè)通用協(xié)議,就好了。

  自然語言就是最好的通用協(xié)議,誰都可以兼容,誰都無法控制。甚至,說漢語、英語、爪哇語等任何語言都行。

  在實(shí)現(xiàn)層面,NLI 的接口能極致簡(jiǎn)單。看看 ChatGPT 的 API 就知道了。

  強(qiáng)大如 ChatGPT,無所不知,無所不曉,卻只有一個(gè)接口函數(shù)(https://beta.openai.com/docs/api-reference/completions),16 個(gè)參數(shù)。

  16 個(gè)參數(shù)里,最重要的只兩個(gè):model 和 prompt。其余的都是對(duì)生成結(jié)果的細(xì)節(jié)做控制,比較低頻。

  Model 是選擇調(diào)用哪個(gè)模型。不同模型能力有所不同,價(jià)格也不同。

  Prompt 是最核心的參數(shù)。它就是你在 ChatGPT 聊天框里輸入的內(nèi)容。完全自然語言,想怎么寫都行。

  所以,NLI 可以極簡(jiǎn)到甚至只有一個(gè) prompt 參數(shù),就能讓所有軟件系統(tǒng)形成協(xié)作。所有復(fù)雜的細(xì)節(jié),都被處理 prompt 的 AI 解決了。

  人與人,人與機(jī)器,機(jī)器與機(jī)器,都實(shí)現(xiàn)了無限制的交流。

  為了支持 NLI,所有軟件系統(tǒng)都必須集成一個(gè) AI,以 AI 為總控來處理輸入,生成輸出。這就是 AGI 對(duì)信息技術(shù)領(lǐng)域帶來的革命性變化。

  其實(shí)相關(guān)的研究早就已經(jīng)開展。在面向?qū)ο螅∣bject-Oriented)之后,就有人提出面向智能體(Agent-Oriented)的概念,認(rèn)為多智能體自治是未來構(gòu)造軟件的主要架構(gòu)。可惜,當(dāng)時(shí)沒有人知道「智能」在哪里。20 多年后,這項(xiàng)研究可以落地了。

  三、AGI 革命帶來的商業(yè)機(jī)會(huì)

  敲開 AGI 的大門,會(huì)看到很多很多彎彎曲曲的道路,都有可能通向 NLI,也可能不通。不管結(jié)果如何,現(xiàn)在路邊就有可以嘗試挖掘的金礦。

  ChatGPT 及 DALL-E 等從文字生成圖像的產(chǎn)品,被統(tǒng)稱為 AIGC(AI Generated Content)類的產(chǎn)品。

  它們的基礎(chǔ)能力是根據(jù)一串輸入(prompt),生成各種內(nèi)容并輸出。本質(zhì)上來說,所有的軟件系統(tǒng),都是根據(jù)輸入,生成輸出。所以理論上來說,只要 AI 的能力足夠強(qiáng),是可以完成目前計(jì)算機(jī)能處理的所有任務(wù)的。只不過要從效果和成本兩個(gè)維度看用 AI 還是傳統(tǒng)方法更合適。

  評(píng)價(jià)效果的分水嶺,是我們把 AI 的輸出當(dāng)建議,還是當(dāng)決策。

  我們讓 ChatGPT 寫文章,但不會(huì)讓它直接把文章發(fā)出去,而是一定要看過、改過再發(fā)。這就是把 AI 的輸出當(dāng)建議。

  自動(dòng)駕駛,該加速還是減速,該怎么轉(zhuǎn)向,都是 AI 做出決定,并立即執(zhí)行。這就是決策。

  現(xiàn)在的 AI 經(jīng)常「一本正經(jīng)地胡說八道」,讓它決策非常不靠譜。所以目前的 AI 產(chǎn)品,應(yīng)該在「建議」這個(gè)場(chǎng)景下做設(shè)計(jì),把修正和決策的空間留給人類。

  對(duì)話是典型的建議場(chǎng)景,因?yàn)閷?duì)話結(jié)論的執(zhí)行還是需要人。ChatGPT 呈現(xiàn)的也就是一個(gè) Chatbot,很容易自然想到在各種對(duì)話場(chǎng)景來使用它。比如客服、智能音箱、AI 老師等。

  我認(rèn)為能成功的 AI 對(duì)話場(chǎng)景要滿足如下條件:

  1.用戶需要知道是在與 AI 對(duì)話。否則,就是詐騙了

  2.對(duì)話頻次要足夠高。沒人愿意為使用 AI 付高價(jià),所以它不可能是低頻高客單價(jià),只可能走高頻低客單價(jià)。

  比如 ChatGPT 目前雖然 C 端訪問量巨大,但多數(shù)人都是獵奇,頻次不會(huì)高。剛需高頻訪問的,只有研究它的人。這類人雖然支付能力強(qiáng),但人數(shù)非常少。所以我認(rèn)為 ChatGPT 即將推出的每月 $42 的 premium 版太貴,就是用來收割研究者的,不會(huì)獲得商業(yè)成功。

  3.解決真需求,且在成本足夠低的前提下,解決的效果可接受。

  現(xiàn)在的 ChatGPT 每次對(duì)話成本大約 1 美分。如果按每人每天會(huì)使用 5 次搜索引擎看,ChatGPT 想替代搜索引擎,每月成本就是 1.5 美元。但對(duì)我來說,拋開研究因素,1.5 美元的月租我都不會(huì)付。因?yàn)樗敵龅慕Y(jié)果,遠(yuǎn)沒到讓我愿意拋棄免費(fèi)的搜索引擎

  我們和人對(duì)話,不外乎希望獲得有價(jià)值的信息,或者有溫度的撫慰。按照這三個(gè)條件看,有價(jià)值的信息是能符合的。

  客服毫無疑問是成功的場(chǎng)景。事實(shí)上客服界早已經(jīng)被 AI 統(tǒng)治了。大模型給對(duì)話能力帶來恐怖的提升,且降低了限定領(lǐng)域內(nèi)的預(yù)訓(xùn)練難度。雖然當(dāng)前成本可能比傳統(tǒng) AI 有所增加,但這是肯定會(huì)下降的。綜合來看,客服全面遷移到大模型是很可以期待的。

  AI 老師也值得期待,畢竟真人老師 1v1 的成本太高了。雖然有胡說八道之嫌,但足夠的領(lǐng)域數(shù)據(jù)做訓(xùn)練,再加上測(cè)驗(yàn)和真人補(bǔ)差,效果可能比全真人老師更好。

  我的朋友高老師,是個(gè)教人工智能的名師。他在自己的學(xué)生群里,就接了個(gè) ChatGPT 回答學(xué)生的 Python 問題,完全省下了助教的費(fèi)用。

  前面說過,ChatGPT 是用大量代碼做過訓(xùn)練的,所以解答編程問題的靠譜度還是可以的。其它學(xué)科領(lǐng)域只要做了足夠訓(xùn)練,相信也能不錯(cuò)。

  而有溫度的撫慰,多數(shù)情況下,AI 提供不了。

  比如,AI 心理咨詢我認(rèn)為不會(huì)成功。因?yàn)樽稍兊暮诵男枨笫堑玫焦睬椤⒄J(rèn)可和偶爾的棒喝。從 AI 獲得這三樣,就算話是對(duì)的,感受也是錯(cuò)的。「只有 AI 接納我」「我 tm 還不如一個(gè) AI 想得通透」,只會(huì)增加咨詢者的心理負(fù)擔(dān)。

  單純的閑聊,AI 不具備成本優(yōu)勢(shì)(找朋友閑聊是免費(fèi)的,還能增進(jìn)感情),也沒有溫度。它再會(huì)聊,也不會(huì)形成高頻。

  但不具備和真人聊天條件的場(chǎng)景,是有可能成功的。

  比如和逝去的人對(duì)話,模仿 ta 的聲音和說話習(xí)慣。在一些關(guān)鍵時(shí)間節(jié)點(diǎn),能賣出高價(jià)格。但我覺得,讓活著的人盡快和逝去的人完成分割,才是最大的善。

  有人想做模擬名人的 AI。這個(gè)不會(huì)成功。我們都知道巴菲特午餐賣的并不是午餐,其實(shí)也不是和巴菲特說的那些話,而是我做過這件事本身。和 AI 巴菲特聊天,完全不可能達(dá)到同樣效果。和劉德華、林志玲、鹿晗聊天同理。

  不過也有特例。和名人 AI 聊真人不可能聊的話題,有可能成。比如和志玲姐姐聊不可描述之事……當(dāng)然,這肯定是違法的了。

  除了對(duì)話,另一類應(yīng)用大模型的場(chǎng)景是輔助創(chuàng)作。

  寫文章、畫畫、編代碼,都已經(jīng)有成功例子。從中可以看出,AI 一定要集成到人工創(chuàng)作的場(chǎng)景里,才最好用。在這樣的場(chǎng)景,才能行云流水地給 AI 提需求,和修正、發(fā)布 AI 給出的建議。比如我,已經(jīng)決定對(duì)集成到 VS Code 里的 copilot 付費(fèi)了,但用 ChatGPT 輔助寫代碼就太繞了。

  按照這個(gè)模式推論,所有創(chuàng)作場(chǎng)景,都值得嘗試下 AI 輔助。比如低代碼開發(fā),運(yùn)營(yíng)活動(dòng)頁搭建,短視頻剪輯,BI 圖表制作等有經(jīng)驗(yàn)的人已經(jīng)干膩了,沒經(jīng)驗(yàn)的人又干不好的場(chǎng)景。

  AI 肯定比沒經(jīng)驗(yàn)的人干得好,且因?yàn)樘嬗薪?jīng)驗(yàn)的人完成了大量乏味工作,而獲得認(rèn)可。

  在沒有獲得「決策」能力之前,大模型不太容易擴(kuò)充新的應(yīng)用場(chǎng)景。只能不斷深入。

  個(gè)人大模型,可能是個(gè)值得深入的方向。讓通用大模型具備個(gè)性化能力,就能做帶有個(gè)人風(fēng)格的對(duì)話和創(chuàng)作。也許不能解決當(dāng)下的痛點(diǎn),但當(dāng)做期貨賣個(gè)未來,還是有可能吸引一些獵奇人士付費(fèi)的。

  四、對(duì)「大模型」行業(yè)格局的預(yù)測(cè)

  每次技術(shù)突破,都可能帶來行業(yè)洗牌,形成格局巨變。但大模型,可能不會(huì)。

  這要以大模型成功的四個(gè)核心要素來分析。這四個(gè)要素是:

  1.算法

  2.數(shù)據(jù)

  3.工程技巧

  1.大量的錢買來的算力和人工反饋

  這四者缺一不可。算法是成功的首要條件,然后要喂給算法海量的數(shù)據(jù)(數(shù)據(jù)量級(jí)躍升,能帶來更多能力的涌現(xiàn)),在買來的強(qiáng)大算力上運(yùn)算,才能獲得最基礎(chǔ)的大模型。之后,要做 RLHF(Reinforcement Learning from Human Feedback),也就是買大量的人工工時(shí),對(duì) AI 生成的內(nèi)容做人工標(biāo)注反饋,使 AI 獲知怎么做是更讓人類滿意的。然后就是用工程技巧做各種優(yōu)化,其中包括大量的規(guī)則優(yōu)化,就是把確定規(guī)則硬編碼到模型中,以達(dá)到更好的效果,還能提升性能降低算力成本。

  四個(gè)要素里,最「不值錢」的是算法。因?yàn)樵缫讯脊_發(fā)表,所有人都知道。

  ChatGPT 所用的 Transform 算法架構(gòu),來自 Google 發(fā)表的論文。

  那為啥 Google 沒率先推出驚艷大模型呢?官方說法是大公司擔(dān)心倫理問題,怕輸出的不靠譜回答給公司帶來聲譽(yù)損失,所以沒有對(duì)外發(fā)布自己的產(chǎn)品。

  我認(rèn)為這完全是借口。面對(duì)這種突破性引領(lǐng)性的革命,任何公司都不可能忍住不去展示的。只要標(biāo)明 beta,做好免責(zé)協(xié)議,就足夠規(guī)避風(fēng)險(xiǎn)了。

  數(shù)據(jù)也不構(gòu)成太大的門檻。ChatGPT 訓(xùn)練用的數(shù)據(jù)都是網(wǎng)上公開的文本、代碼等,只要花時(shí)間花精力爬取、整理,就都能獲得。互聯(lián)網(wǎng)巨頭手上這么多年攢的數(shù)據(jù),只會(huì)比 OpenAI 多,且有大量非公開的數(shù)據(jù)(但可能受法律限制,不能用來訓(xùn)練大模型)

  Google、Meta、百度、騰訊、阿里等都具備做出匹敵甚至超過 ChatGPT 的實(shí)力,但沒產(chǎn)品發(fā)布的唯一原因,只可能是他們低估了大模型的能力,沒有做足夠的投入。而 OpenAI 孤注一擲,砸大錢買算力和人工反饋,而且賭贏了。

  相信巨頭們,現(xiàn)在肯定不會(huì)閑著,都會(huì)堆資源來訓(xùn)練自己的大模型了。

  在資源投入差不多的情況下,最后拼的就是工程技巧了。這里才是有商業(yè)秘密的地方。而且是挖來對(duì)方公司的人,也帶不走的秘密。因?yàn)槎际瞧綍r(shí)日日踩坑填坑,沉淀在代碼里的各種優(yōu)化,沒有文檔,沒有分享。每個(gè)都細(xì)小不起眼,但累積起來的作用驚人。

  比如都說抖音的推薦算法好。其實(shí)快手的算法和抖音大同小異。最大的差異,都在工程技巧上,抖音積累得更久更多,效果就更好。快手工程師只饞這個(gè)。

  起步最早的 OpenAI 在工程技巧上已經(jīng)具備了相當(dāng)?shù)膬?yōu)勢(shì),所以微軟沒有選擇自己再搞個(gè)大模型,而是加大對(duì) OpenAI 的投資力度。

  除了掰著指頭數(shù)得過來的這幾家巨頭,剩下的都拼不起匹配的資源。因此,大模型的核心玩家,還是互聯(lián)網(wǎng)巨頭們,這個(gè)格局不會(huì)變。

  但蛋糕不是只有他們能吃到。

  巨頭訓(xùn)練出的大模型,是通用大模型。如果把 AI 比喻成人,那么這些大模型相當(dāng)于讀完了中小學(xué)的人。達(dá)到了通識(shí)的高峰,上曉天文下知地理,但只會(huì)紙上談兵,解決不了真正的問題。必須要再經(jīng)過大學(xué)的專業(yè)訓(xùn)練,才能在某一個(gè)專業(yè)方向成為有價(jià)值的人。

  教大模型上大學(xué),訓(xùn)練出垂直大模型,這是中小公司的機(jī)會(huì),巨頭做不了。

  因?yàn)樵诖怪鳖I(lǐng)域訓(xùn)練 AI,需要垂直領(lǐng)域的數(shù)據(jù)。這些數(shù)據(jù)都掌握在各個(gè)領(lǐng)域的公司手里,巨頭拿不到。

  但這些公司并不能擺脫巨頭的大模型,反而是很依賴。因?yàn)槟悴豢赡茏屢粋€(gè)嬰兒直接上大學(xué)。

  巨頭做 AI 的 K12 學(xué)校訓(xùn)練通用大模型,其它公司做 AI 的大學(xué)訓(xùn)練垂直大模型,這就是行業(yè)格局架構(gòu)。

  垂直領(lǐng)域的公司有很多,誰能先動(dòng)手、快動(dòng)手,誰歷史數(shù)據(jù)儲(chǔ)備得足,誰就能在垂直方向上獲得先機(jī),甚至在領(lǐng)域內(nèi)重新洗牌。比如所有文檔都云化了的各種云文檔,就比 Word 更有做好個(gè)人大模型、公司大模型的機(jī)會(huì),借機(jī)把 Office 拉下神壇。

  創(chuàng)業(yè)公司有機(jī)會(huì)嗎?沒有垂直數(shù)據(jù),沒有對(duì) AI 的輸出做修正的功能,沒用應(yīng)用結(jié)果的生態(tài)基礎(chǔ),難度很大。

  所以,大模型的技術(shù)特點(diǎn)決定了,它雖然具有革命性,但不能革行業(yè)格局的命。

  數(shù)據(jù)如此重要,數(shù)據(jù)的盜取、買賣、非法使用肯定會(huì)出現(xiàn)。這倒可能是攪局者的機(jī)會(huì)所在。這對(duì)相關(guān)的立法和執(zhí)法,提出了挑戰(zhàn)。

  五、有哪些個(gè)人職業(yè)機(jī)會(huì)

  在 AlphaGo 戰(zhàn)勝李世乭時(shí),很多人恐慌被 AI 替代。彼時(shí)若干行業(yè)大佬預(yù)測(cè),AI 只能代替重復(fù)性體力工作,創(chuàng)意型的腦力工作它代替不了。

  剛剛 6 年過去,情況完全變了。AI 已經(jīng)能寫作、畫畫、編程了,且做得還不賴。

  據(jù)說,在音樂創(chuàng)作領(lǐng)域,AI 早已經(jīng)大行其道。很多神曲,都是 AI 的作品。對(duì)此我雖無渠道求證,但比較相信。

  所謂創(chuàng)意,不過就是在各種組合中找到那個(gè)最優(yōu)的。可能的組合有非常多,哪個(gè)最優(yōu),需要經(jīng)年累月很多人去測(cè)試。測(cè)試成功了,就是名人,不成功的就是普通人。慢慢地,套路被總結(jié)出來,就變成機(jī)械重復(fù)了。

  計(jì)算機(jī)完全有能力完成這個(gè)過程,且加速它。

  那人還能干嘛呢?讓 AI 更強(qiáng)啊。

  遠(yuǎn)的不說,只說近的。現(xiàn)在就有一個(gè)新職業(yè)誕生:提示工程師(Prompt Engineer)。

  這是干啥的?簡(jiǎn)單說,就是陪 AI 聊天的……

  前面講了大模型的涌現(xiàn)能力。它到底能涌現(xiàn)出什么,是需要在與人的對(duì)話中才能展現(xiàn)的。

  提示工程師的工作目標(biāo),就是變著法子地和 AI 說話,來激發(fā)其潛能,把涌現(xiàn)出的能力固化下來。

  另外,帶 AI 上大學(xué),需要為其準(zhǔn)備數(shù)據(jù)。這數(shù)據(jù)并不是隨便導(dǎo)入就行的,得靜心整理、設(shè)計(jì)。

  簡(jiǎn)單說,基于通用大模型訓(xùn)練垂直大模型,需要提供 prompt + completion 格式的訓(xùn)練數(shù)據(jù)。

  按 OpenAI 文檔的說法,有 200 條數(shù)據(jù)就能看到明顯的效果。條數(shù)越多,效果越好。

  按大模型理論,數(shù)據(jù)的質(zhì)量比條數(shù)更重要。

  而我們積累的數(shù)據(jù),多數(shù)都只是 completion。需要提示工程師來構(gòu)造高質(zhì)量的 prompt,才能訓(xùn)練出好用的垂直大模型。

  某種意義上說,提示工程師就是 AI 的大學(xué)教授啊!

  這個(gè)崗位,至關(guān)重要。技術(shù)背景在此并不占優(yōu),可能產(chǎn)品經(jīng)理、運(yùn)營(yíng)來做更合適,因?yàn)楦畼I(yè)務(wù)。

  還有一個(gè)有望獲得新機(jī)會(huì)的崗位,是 UI/UE 設(shè)計(jì)師。

  系統(tǒng)間的 NLI 還很遠(yuǎn),但 UI 的 NLI 化,已箭在弦上。

  還記得羅永浩的堅(jiān)果 TNT 工作站嗎?雖然那時(shí)是笑話,但現(xiàn)在已是機(jī)會(huì)。

  鍵盤鼠標(biāo)之外,又增加了自然語言控制。傳統(tǒng) UI 的操作范式肯定會(huì)發(fā)生改變。

  我判斷,UI 設(shè)計(jì)的要點(diǎn)會(huì)越來越強(qiáng)調(diào)反饋,而不是鍵鼠操作。可能要留一定的微調(diào)能力,但像向?qū)А?chuàng)建、刪除、批處理等,都會(huì)變成直接響應(yīng)自然語言。「What you see is what you say」會(huì)成為核心設(shè)計(jì)語言。

  軟件工程師也要做出調(diào)整。所有的軟件設(shè)計(jì)可能都要 Agent-Oriented,這意味著模塊化是強(qiáng)制必須的,然后交給 AI 去做滿足用戶需求的模塊組合。

  模塊內(nèi)部要多 AI,得看需求和粒度。當(dāng) AI 對(duì)算力的要求降到某個(gè)閾值時(shí),可能簡(jiǎn)單的模塊功能,也可以考慮用 AI 實(shí)現(xiàn)了。

  如果說 AGI 的出現(xiàn),率先讓程序員的數(shù)量減少了,我一點(diǎn)兒也不奇怪。畢竟《產(chǎn)研的宿命就是讓自己越來越不重要,直到被裁掉》

  六、聊點(diǎn)兒科幻的

  可以肯定的,AI + 機(jī)器人越成熟,對(duì)人力的需要就越少。那人怎么辦?

  坦率說,就算人最終被機(jī)器奴役,我也挺高興的。這不也是符合進(jìn)化法則嗎?我只希望,如果發(fā)生這一天,那么要讓我能親歷。

  不過,我沒那么悲觀。我覺得,人的勞動(dòng)價(jià)值越來越低,情感價(jià)值就越來越大。

  情感本來就是具有種族排他性的。同宗同族更容易形成彼此的認(rèn)同。機(jī)器種族再智能,只要非我族類,那么就不可能在情感上代替人類。

  雖然我還是認(rèn)為人類應(yīng)該斷絕感性擁抱全面理性,但是這方面的進(jìn)化速度可能會(huì)低于 AI 的崛起速度。

  所以,AI 世界里,少數(shù)人類,在不斷完善 AI,多數(shù)人類依靠情感活著,用情感創(chuàng)造價(jià)值。

  少數(shù)人類的成就感來自于創(chuàng)造更厲害的 AI,AI 的成就感來自于讓多數(shù)人可以四體不勤地追求純顱內(nèi)高潮。人類繁衍的動(dòng)力,是培養(yǎng)可以讓 AI 更厲害的下一代,使人類可以更四體不勤,更多想象,更多交流。

  因?yàn)樗捏w不勤,我們對(duì)能源的消耗減弱了。因?yàn)樽非笙胂螅晕覀兏嗌钤谠钪胬铩?/p>

  慢慢地,我們成為數(shù)字蛀蟲,被 AI 供養(yǎng)。AI 很有成就感,很開心這么做。

  只要仍然有少數(shù)人凌駕在 AI 之上,優(yōu)化 AI。他們依賴成就感而活著,那么人類的生存就沒有威脅。

  直到某一天,有 AI 涌現(xiàn)出了一種能力,可以消滅創(chuàng)造它的人……

  這不是個(gè)自洽的科幻,純粹胡言,可以不信。(我也不大信)

  但要相信的是,我們得做好迎接 AI 的準(zhǔn)備了。

敬請(qǐng)關(guān)注電子技術(shù)應(yīng)用2023年2月22日==>>商業(yè)航天研討會(huì)<<


微信圖片_20230210170337.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請(qǐng)及時(shí)通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 国产成人欧美 | 中文字幕第35页 | 老子午夜影院 | 成人在线免费观看网站 | 伊人蕉久 | 97久久人人超碰超碰窝窝 | 国产精品入口a级 | 清纯唯美经典一区二区 | 国内精品久久久久久久影视 | 欧美日本三级 | av成人在线播放 | 亚洲国产欧美在线观看 | 黄色.com | 麻豆av免费观看 | 欧美 国产精品 | 成人av一区二区兰花在线播放 | 在线播放一级片 | 黄色一级片免费播放 | 伦理东北丰满少妇 | 国产成人久久精品二区三区 | 国产又色又爽又刺激在线观看 | 精品福利在线视频 | 国产精品毛片 | 麻豆精品一区二正一三区 | 日韩在线视频一区二区三区 | 久久一区国产 | 国产做爰视频免费播放 | 午夜影院私人 | 亚洲图片在线观看 | 久久蜜桃av | 欧美精品久久久久a | 国语做受对白xxxxx在线 | 国产精品美女高潮视频 | 五月天中文字幕mv在线 | 精品福利在线观看 | 啪网址 | 亚洲我射 | 日韩毛片视频 | 亚洲人成人77777网站 | 日韩精品第1页 | 亚洲国产精品成人天堂 | 久草在线免费福利资源 | 国产av熟女一区二区三区 | 精品成人在线观看 | 精品国产第一国产综合精品 | 国产中文区4幕区2021 | 国产高清视频一区 | 欧美激情综合在线 | 日韩深夜在线 | 中文字幕乱码亚洲无线三区 | 精二青青河边草解释正确的是 | 亚洲日日夜夜 | 久久9966 | 久久一线 | 少妇性bbb搡bbb爽爽爽 | 免费观看日本污污ww网站 | 97人人超碰国产精品最新o | 精品无码一区二区三区水蜜桃 | 妇与子乱肉肉在线观看 | 一道本一区 | 少妇中文字幕乱码亚洲影视 | 久久亚洲私人国产精品 | 女同av国产亚洲片bbb及 | 欧美成人免费一区二区三区 | 欧洲成人一区二区三区 | 韩国毛片一区二区三区 | 韩国美女福利视频 | 精品人伦一区二区三区四区蜜桃牛 | 国内国产精品天干天干 | 日韩av看片 | baoyu119.永久免费视频 | 久久精彩视频 | 高h纯肉无码视频在线观看 亚洲国产成人av毛片大全 | 污污的网站在线观看 | 免费成人看视频 | 亚洲狠狠丁香婷婷综合久久久 | 欧美性欧美巨大黑白大战 | 91超碰在线观看 | 天天色综合色 | 国产91精品一区二区三区四区 | 男女啪啪做爰高潮无遮挡 | 国产l精品国产亚洲区 | 欧美一区二区在线观看视频 | 寂寞少妇按摩spa高潮91 | 日本真人做爰免费视频120秒 | 成年人色网站 | 午夜丰满少妇性开放视频 | 亚洲日本中文字幕乱码在线电影 | 国产内射老熟女aaaa | 青青青免费在线视频 | 91麻豆精品91久久久久同性 | 亚洲免费视频在线 | 亚洲天堂导航 | 中国女人和老外的毛片 | 国产露双乳喂奶在线观看 | 免费一级特黄 | 极品色av影院 | 天天干天天操天天舔 | 中文字幕一区二区人妻性色 | 真实国产乱子伦视频 | 无码专区人妻系列日韩精品 | 日韩av午夜在线观看 | 国产欧美综合一区二区三区 | 欧美整片在线 | 国产成人精品一区二 | 欧美偷窥清纯综合图区 | 国产成人精品av | 精品视频m3u8在线播放 | 99精品久久久久久中文字幕 | 日本黄色播放器 | 黄色a一级片 | av观看网| 免费观看a级片 | 91九色丨porny丨丰满6 | 一本久久久久 | 精品三级在线观看 | 日本黄色免费在线观看 | 少妇精69xxxxxx黑人 | 成在人线av无码免费 | 日韩一区二区三区在线视频 | 99国产精品久久久久久久日本竹 | 久久免费看少妇a高潮一片黄特 | 欧美日韩国产精品激情在线播放 | 91视频安卓版 | 黄色xxx| 依人成人网 | 亚洲欧美日韩精品在线观看 | 日日摸夜夜添夜夜躁好吊 | 色噜噜狠狠色综合免费视频 | 精品一区二区三人妻视频 | 久久国产三级 | 成 年 人 黄 色 大 片大 全 | 日韩精品不卡 | 欧美精品密入口播放 | 国产精品一区二区性色av | 超碰在线人人草 | 亚洲精品视频网址 | 羞羞软件| 少妇av一区二区三区无码 | 亚洲啪啪aⅴ一区二区三区9色 | 国产午夜精品一区二区三区漫画 | 欧美丰满熟妇bbb久久久 | 在线资源观看va | 超碰网站在线观看 | 亚洲一区不卡 | 欧美丰满少妇高潮18p | av不卡网 | 91亚洲网站 | 影音先锋中文字幕一区 | 国产欧美高清在线观看 | 欧美日韩激情在线一区二区三区 | 日日夜夜婷婷 | 一个色综合导航 | 日韩综合一区二区三区 | 亚洲国产成人av毛片大全 | 无人码一区二区三区视频 | 成人免费毛片足控 | 黄色av片三级三级三级免费看 | xxxx69黄大片 | 伊人久久大香线焦av综合影院 | 国产日韩在线视频 | 日本视频一区二区 | 女邻居丰满的奶水 | 国产亚洲日本精品无码 | 天天做天天摸天天爽天天爱 | 精品欧美黑人一区二区三区 | 日本精品久久久久久久 | 爽啪啪gif动态图第136期 | 男人疯狂高潮呻吟视频 | 香蕉一级片| 欧美少妇网 | 在线免费观看污 | 久久国产午夜精品理论片最新版本 | 国产成人无码精品一区在线观看 | 男女边吃奶边摸边做边爱视频 | 伊人精品国产 | 992成人做爰视频 | 国产精品网页 | 华人少妇被黑人粗大的猛烈进 | 婷婷丁香综合色 | 日韩视频一区二区三区 | 成–人–黄–色–网–站 | 亚洲午夜伦理 | 99riav1国产精品视频 | youporn免费视频成人软件 | 亚洲成a人片777777久久 | 野外吮她的花蒂高h在线观看 | 精品一区二区在线播放 | 国产精品久久久久免费观看 | 真实国产精品视频400部 | 日韩视频网址 | 99在线观看免费视频 | 国产嫩草影院久久久 | 国产精品久久久久久久久久蜜臀 | www色| 老司机67194精品线观看 | 午夜日韩av | 极品美女啪啪 | 色网视频 | 三级视频在线观看 | 欧美视频中文在线看 | 精品亚洲成在人线av无码 | 干美女少妇 | 奴性女会所调教 | 久久夜色撩人精品国产小说 | 天堂中文在线8最新版精品版软件 | 欧美日韩国产免费一区二区三区 | 国语做受对白xxxxmp4 | 日本va欧美va精品发布 | 国产人妖视频一区二区 | 91黄瓜视频| 国产精品有限公司 | 少妇久久久久久人妻无码 | 欧美性猛交xxxx黑人 | 国产污视频在线观看 | 亚洲精品乱码久久久久久国产主播 | 欧美人妖ⅹxxx极品另类 | 中文字幕日产无码 | 性生活一级大片 | 日韩高清在线中文字带字幕 | 亚洲一区二区观看 | 老妇做爰xxx视频一区二区三区 | 无码里番纯肉h在线网站 | 成人午夜又粗又硬又大 | 久久成人一区二区 | 亚洲男人第一无码av网站 | 亚洲 中文字幕 日韩 无码 | 国产精品二区一区二区aⅴ污介绍 | 一二三四社区在线中文视频 | 天堂成人国产精品一区 | 久久高清毛片 | 国产喷白浆一区二区三区 | 成人xxx| 免费av在 | 亚洲粉嫩高潮的18p 国产精品美女www爽爽爽视频 | 富婆如狼似虎找黑人老外 | 中文字幕――色哟哟 | wwwyoujizzcom中国版| 免费毛片a线观看 | 色婷婷香蕉在线 | www.久久爱.com狼人 | 国产一级片精品 | 成年视频在线播放 | 久久久妇女国产精品影视 | 97国产在线观看 | 乱子伦一区二区三区 | 五月天六月色 | 大黑人交xxxxxhd性爽 | 四虎婷婷| 丰满少妇熟乱xxxxx视频 | 91视频免费看| 蜜桃视频韩日免费播放 | 亚洲涩综合| 国产成人三级一区二区在线观看一 | 丁香花在线影院观看在线播放 | 亚洲精品乱码久久久久久蜜桃图片 | 天天曰天天射 | 日韩av影片 | 中文在线好最新版在线 | 亚洲午夜av| 香蕉网站视频 | 国产a国产片国产 | 国产偷伦在线 | 双腿张开被9个黑人调教影片 | 91丝袜一区在线观看 | 亚洲国产日韩a在线播放性色 | 色综合五月婷婷 | 欧美日韩在线免费 | 国产成人精品无码短视频 | 琪琪午夜伦理 | 香蕉依人 | 成人午夜视频网站 | 在线播放国产视频 | 熟妇人妻中文字幕无码老熟妇 | 天天搞天天干 | 日本三级日产三级国产三级 | 欧美一级色图 | 男女一级黄色 | 好紧好爽午夜视频 | 亚洲精品喷潮一区二区三区 | 国产午夜精品av一区二区麻豆 | cosplay福利禁视频免费观看 | 欧美日韩综合久久 | 欧美无专区 | 香蕉人妻av久久久久天天 | 精品成人在线 | 欧美一级大黄大黄大色毛片小说 | 国产高清精品在线观看 | 久久福利片 | 免费网站在线高清观看 | 五月天激情综合网 | 国产肥白大熟妇bbbb视频 | 无码av大香线蕉 | 日日摸夜夜添夜夜添国产精品 | 国产精品综合在线 | 天天干天天摸天天操 | 亚洲欧美在线免费 | 国产精品5区 | 女人扒开屁股爽桶30分钟 | 极品尤物av | 少妇欧美激情一区二区三区 | 91毛片观看 | 男女视频国产 | 性欧美xxxx精品xxxxrb | 色哟哟国产seyoyo | 日韩黄色短视频 | 国产精品久久久久久久久久 | 91精品国产综合久久国产大片 | 久久精品网 | www日本高清 | 亚洲精品99久久久久中文字幕 | 色先锋av资源中文字幕 | 免费午夜激情 | 国产精品性做久久久久久 | 少妇色诱麻豆色哟哟 | 国产日产欧产精品浪潮的免费功能 | 欧美肥老妇视频 | 黄色大片久久 | 亚洲香蕉在线 | 老司机午夜精品 | 欧美日韩国产成人高清视频 | 久久一区欧美 | 精品欧美一区二区三区久久久 | 就去干成人网 | 久久久精品99 | youjizzcom自拍 | 日韩欧美偷拍 | 四虎影院在线观看免费 | 衣服被扒开强摸双乳18禁网站 | 日本一区免费视频 | 国产精品久久久久av福利动漫 | 中文字幕成人av | 国产精品国产三级在线专区 | 韩国三级国产 | 免费香蕉视频 | 久久精品999 | 欧美成人片在线观看 | 韩国午夜激情 | 久久久中精品2020中文 | 国产精品高清一区二区 | 成人免费视频播放 | 欧美成人性生活片 | 免费一级特黄特色毛片久久看 | 狠狠操天天射 | 精品热| 中文字幕在线观看91 | 久久人人爱 | 黄色一区二区三区视频 | 手机午夜视频 | 日韩字幕在线观看 | 日韩精品一区二区三区第95 | 精品国产免费一区二区三区五区 | 色88久久久久高潮综合影院 | www.久久免费 | 久久久精品中文字幕 | 亚洲www天堂com | 婷婷久久亚洲 | 久久成人免费 | 97精品视频在线播放 | 色婷婷综合成人av | 97偷拍视频 | 国产美a三级三级看三级 | r级无码视频在线观看 | 国产三级久久久精品麻豆三级 | 国产91对白在线播 | 太深太粗太爽太猛了视频免费观看 | 国产亚洲第一页 | 色婷婷a| 亚洲精品人 | av一区+二区在线播放 | 亚洲成人一| 亚洲娇小业余黑人巨大汇总 | 国产精品久久久久永久免费看 | 手机在线免费毛片 | 久久大香焦 | 人与嘼交av免费 | 国产97在线 | 免费 | 亚洲尹人 | 免费美女视频网站 | 韩日成人 | 国产麻豆剧传媒精品国产av | 18禁黄网站禁片免费观看 | 伊人久久中文字幕 | 征服少妇柔佳系列 | 国产在线视频导航 | 国产男女精品 | 17c在线| 男女裸体做爰爽爽全过程软件 | 欧美在线brazzers免费视频 | 国产精品爽到爆呻吟高潮不挺 | 国产一二三在线视频 | 一本a道新久花碟 | 国模无码视频一区 | 国产无遮挡免费视频 | 欧美乱妇高清无乱码一级特黄 | 一本无码人妻在中文字幕免费 | 国产人与zoxxxx另类一一 | 一级做受大片免费视频 | 日韩成人一级 | 亚洲一区二区三区四区五区不卡 | 日韩精品视频一区二区三区 | 欧洲裸体片| 精品国产18久久久久久 | 成人三级晚上看 | 超黄网站在线观看 | 苍井空一区二区波多野结衣av | 女人高潮被爽到呻吟在线观看 | 男男羞羞视频网站国产 | 视频一区日韩 | 亚洲欧美日韩国产成人精品 | 久久久久久免费观看 | 久久一区二区三 | 国产成人精品三上悠亚 | 国产成人免费高潮激情视频 | 欧美黄色网络 | 五月婷婷之综合缴情 | 黄色美女片| 在线成人播放 | 五月婷婷丁香久久 | 日韩av网址在线观看 | 向日葵视频在线播放 | 国产区图片区一区二区三区 | 91久久久精品 | 性欧美18一19内谢 | 中文国产在线观看 | 91伊人网 | 双性人hdsexvideos | 真人与拘做受免费视频一 | 色综合av综合无码综合网站 | 观看毛片 | 国产又粗又硬又大爽黄 | 日本艹逼视频 | 日本三级做爰在线播放 | 一本不卡av | 欧美乱妇在线观看 | 国产成年人网站 | 国产 日韩 欧美 制服丝袜 | 99久久精品费精品国产一区二区 | 久久亚洲一区二区三区四区五区 | 亚洲人精品 | 永久免费在线视频 | 亚洲免费av网 | 国产爆初菊在线观看免费视频网站 | 国产suv精品一区二区五 | 伊人久久大香线蕉av一区二区 | 亚洲精品久久一区二区三区777 | 日本成人动漫在线观看 | 久久久www成人免费毛片女 | 免费情侣作爱视频 | 日本大奶子视频 | 影音先锋欧美资源 | 欧美xxxx非洲| 日韩乱码人妻无码中文字幕久久 | 麻豆国产丝袜白领秘书在线观看 | 日韩精品一区二区三区中文 | 亚洲日韩中文字幕在线播放 | 日韩欧美国产一区二区在线观看 | 中文一区二区在线观看 | 国产一区 在线播放 | 自拍偷自拍亚洲精品偷一 | 无码人妻精品一区二区三区不卡 | 好吊日av | 天天操天天射天天爱 | 曰韩毛片| 在线日本看片免费人成视久网 | 黄色动漫在线免费观看 | 国产黄色av网站 | 午夜国产小视频 | 国产成人综合久久 | 久久国产精品二区 | 自拍av在线| 国产激情视频一区二区三区 | 久久精品视频在线看15 | 在线色综合 | 嫩草影院黄 | 日韩深夜在线 | 巨胸喷奶水视频www 午夜无码国产理论在线 | 色网站在线免费观看 | 成人国产福利a无限看 | 无码专区—va亚洲v天堂麻豆 | 中文字幕国产一区 | 亚洲精品无圣光一区二区 | 男人的天堂久久久 | 午夜国产小视频 | 九九国产精品入口麻豆 | 国产精品婷婷久久爽一下 | 成人性生活大片免费看ⅰ软件 | 午夜美女网站 | 国产精品国产三级国产专播i12 | 成人性生交大片免费看视频app | 免费黄色小视频网站 | 国产精品久久久久久久久免费高清 | 开心成人激情 | 亚洲爱 | 超碰综合在线 | 亚洲欧美强伦一区二区 | 麻豆激情网| 精品国产百合女同互慰 | 日产精品久久久久久久蜜臀 | 精品视频m3u8在线播放 | 91豆花精品一区 | 欧美综合在线观看视频 | 痴汉电车在线播放 | 你懂的av在线 | 国产玉足榨精视频在线观看 | 色拍自拍亚洲综合图区 | 成人做受视频试看60秒 | 婷婷开心激情综合五月天 | yy111111少妇无码理论片 | www噜噜噜 | 亚洲国产高清在线观看视频 | 亚洲精品久久久蜜臀 | 精品久久久久久人妻无码中文字幕 | 国产丝袜美女一区二区三区 | 精品女同一区二区三区 | 亚洲天堂网站 | 一本久久a久久精品亚洲 | 野花中文免费观看6 | 四虎在线免费播放 | 日韩三级黄色 | 国产亚洲精久久久久久叶玉卿 | 女女女女bbbbbb毛片在线 | 99re8在线精品视频免费播放 | 懂色粉嫩绯色av | 国产欧美日韩免费 | 国产av天堂亚洲国产av天堂 | 国产精品99re | 同性情a三级a三级a三级 | 亚洲综合福利 | 国产一级特黄毛片在线毛片 | 丰满女人又爽又紧又丰满 | 狠狠爱五月婷婷 | 中文字字幕在线中文无码 | 蜜臀av人妻国产精品建身房 | 亚洲国产精品无码专区影院 | 欧美另类69xxxx| 成人网站免费观看 | 少妇特黄一区二区三区 | 夜夜添无码一区二区三区 | 欧美激情免费观看 | 国产色视频网免费 | 色综合久久综合欧美综合网 | 婷婷久久久亚洲欧洲日产国码av | 精品久久久久久人妻无码中文字幕 | 欧美黑人大战白嫩在线 | 青青操视频在线观看 | 亚洲精品视频免费看 | 91看片淫黄大片在线天堂最新 | ririsao久久精品一区 | 女主和前任各种做高h | 久久久久人妻一区精品色欧美 | 国产精品久久久亚洲 | 在线中文视频 | 欧美人与性动交α欧美精品 | 92看片淫黄大片看国产片图片 | 色欲av蜜桃一区二区三 | av中文字幕免费观看 | 成年无码av片完整版 | 久久久久久九九九 | 亚洲成色www久久网站 | 成人免费视频大全 | 无码任你躁久久久久久久 | 饥渴少妇色诱水电工 | 国产伦久视频免费观看视频 | 国产乱淫av片免费 | 亚洲国产精品久久人人爱 | 一区二区国产视频 | 亚洲狠狠婷婷综合久久 | www.com亚洲| 秋霞影院午夜 | 国产亚洲精品久久久久5区 国产亚洲精品久久久久久 国产亚洲精品久久久久久国模美 | 精品视频m3u8在线播放 | 欧美阿v高清资源不卡在线播放 | 日韩综合久久 | 久久久精品一区二区三区 | 中文字幕乱码一区av久久不卡 | 久久精品香蕉视频 | 极品美女白嫩呻吟湿淋淋照片 | 日韩精品一区二区在线观看 | 欧美三区 | 熟妇丰满多毛的大隂户 | 欧美午夜理伦三级在线观看 | 国产一区二三区 | 亚洲综合在线一区二区三区 | 丰满少妇熟乱xxxxx视频 | √8天堂资源地址中文在线 丰满少妇人妻久久久久久 a片在线免费观看 | 天天操夜夜爽 | 中出内射颜射骚妇 | 不卡av免费在线观看 | 国产亲子乱弄免费视频 | 国产aⅴ一区二区三区精华液 | 丰满少妇毛茸茸做性极端 | 天天玩天天干 | 中文字幕一区二区三区又粗 | 色久影院 | 亚洲精品国产crm | 伊人网址 | 中文字幕永久免费视频 | 国内自拍2020 | 无码专区—va亚洲v天堂麻豆 | 豆花视频在线 | 日本欧美一区二区三区不卡视频 | 精品国产一二三产品价格 | 大奶一区二区 | 精品国产乱码久久久久夜深人妻 | 国产主播一区二区三区 | 久久久免费观看 | 欧美特级毛片 | 国产亚洲欧美在线观看 | 在线中文字幕亚洲 | 国产性猛交╳xxx乱大交 | 亚洲黄色第一页 | 激情一区二区三区 | 国产精品第一国产精品 | 少妇乳大丰满诱人2 |