《電子技術應用》
您所在的位置:首頁 > 通信與網絡 > 業界動態 > 上交大AI研究院首席科學家徐雷:中國人工智能研究真的世界領先了嗎?

上交大AI研究院首席科學家徐雷:中國人工智能研究真的世界領先了嗎?

2019-10-12
關鍵詞: 上交大 人工智能 AI

  盡管人工智能不是新鮮的概念,從1956年被提出至今已逾一個甲子,但對于大多數人來說,從2016年AlphaGo戰勝圍棋世界冠軍李世石開始,才對人工智能略有耳詳。在此之前,人工智能在大眾輿論場中幾乎是長期沉默的。

  但從學術界的視角來看,對人工智能的研究,猶如在盤山公路上爬坡,從未停止過。歐洲科學院院士、上海交大人工智能研究院首席科學家徐雷就是一位從上世紀八十年代初就加入這個領域的老一輩研究者,談及隨機霍夫變換RHT、分類器組合、對手競爭學習RPCL、非線性PCA學習、Mixture of Experts, EM 算法,LMSER學習、BYY 學習等神經網絡和模式識別領域中的多項先驅成果時,都繞不開他的名字。在這些領域中,徐雷自九十年代初起就一直是國際上最有影響的幾位華人之一。

  在37年余的人工智能研究生涯中,徐雷做出了多個廣為引用的成果。2001年當選IEEE Fellow,是從計算智能學會當選之首位中國學者;2002年當選國際模式識別學會 Fellow,是最早獲選的幾個華人之一; 2003年當選歐洲科學院院士。徐雷曾與Judea Pearl (2011圖靈獎得主), Geoffrey Hinton(引發當下人工智能浪潮的深度學習之父)和Michael I. Jordan均有合作文章發表。1993年加入香港中文大學之前,曾在MIT的Michael I. Jordan團隊工作過一年多。早在九十年代的前五年里,就在學界最頂級的NIPS(后改名為NeurlPS)會議中發表了四篇論文,并三次擔任NIPS大中華區的聯絡人。

  徐雷曾榮獲多個國內外主要獎項,如獲93年國家自然科學獎、95年國際神經網絡學會領袖獎、06年亞太神經網絡學會最高獎杰出成就獎(首位獲獎華人)。

640.webp (2).jpg

  為了解人工智能研究的歷史、現在與未來,AI報道(AI Report)拜訪了徐雷教授。這位在國際舞臺上為中國贏得聲譽的科學家對中國人工智能的發展有何看法?答案或許并不如國內AI圈中很多人想得那么樂觀。

  中國人工智能發展水平距離世界頂尖還有多遠?

  近年,我國人工智能發展迅猛,在企業數、發表論文數等數項指標上都已達到了世界第二。那么,中國整體人工智能發展水平距離世界頂尖水平還差多遠?

  徐雷認為,要講清這個問題,最好先看一下這一波人工智能熱潮是怎樣發展起來的。

  這一波人工智能熱潮起點源于2006年Geoffrey Hinton 及其學生在《神經計算》和《科學》上發表的兩篇深度學習論文,經過在學界的幾年孕育以后,引起IBM,微軟、谷歌等企業跟進推動,尤其是中國互聯網產業的蜂擁而入,才有了現在人工智能大發展的盛況。這波熱潮有下面三個主要支撐:

  (1) 理論方法  Hinton在2006年的工作源頭其實是八十年代中期曾引起人工神經網絡研究熱潮的反向傳播學習算法,始于發表在1986年《自然》的一篇論文,Hinton是三位作者中間的那位。這個算法的早期影子先是回溯到1974年,后又前推到1968年。八十年代末之后的十余年,在神經網絡研究在理論、方法、和算法上都有很大發展。現今的基本家當,例如,卷積網絡、生成網絡,自編碼學習、變分學習、以及包括LSTM在內的各種遞歸網絡,大都來自于那個時期。近年來的發展主流,基本上是這些方法的應用、拓展、和各種集成,當然也有一些如GAN學習等基礎研究突破。

  (2) 芯片算力  馬斯克的OpenAI 認為,2012-2017六年間AI計算力6年提升30萬倍。保守估計九十年代初到2006年的算力增長就算只有它的十分之一,那也意味著做2006年需要20分鐘算的問題,九十年代初中期要算一年。當時的基礎研究提出了各種方法,但不可能通過計算得到驗證,所以才會有一、二十年的滯后期。Hinton在1986年后的二十年再續前緣,既反映他的執著,也是歷史的圓滿。

  (3) 大數據和互聯網  九十年代初采集用于語音識別的數據都已經十分困難,采集人臉圖像數據則難度更大。就算那時有算力,也不可能有足夠大量的數據來訓練,以確定深度神經網絡中的大量參數。2009年原微軟人工智能首席科學家鄧力邀請Hinton來到微軟,利用他們在語音領域積累了多年的大數據,嘗試了深度學習的應用,發現用深度學習進行語音識別比原來的識別方法成果有了很大提高。李飛飛在 CVPR 2009 上發表了關于ImageNet的論文,關注如何有效地獲取圖像數據集,并從2010 年開始開啟了每年一度的ImageNet 挑戰賽(通過互聯網和眾籌),解決了計算機視覺的大數據獲取問題。

  在上述三大支撐中,第三個是我國的明顯強項。最多的人口、通訊和互聯網的飛速發展和普及、以及體制的優勢和社會的需求,語音、圖像、以及其他大數據的獲取都遠超歐美。而通過雄厚的資金投入,也購買獲得了巨大的算力,這些催生了國內許多獨角獸公司出現和飛速發展。2012年,Hinton團隊在ImageNet首次使用深度學習完勝其它團隊,神經網絡層數只有個位數。商湯的團隊在2016年ImageNet圖片分類中做出最佳性能時,用得神經網絡層數是1200多層。

  語音識別和計算機視覺這兩個“耳聰目明”領域快速進入商用,這大大推動了這波人工智能浪潮在世界范圍內的高漲。與此同時,主要集中在這兩個領域,中國學者發表論文數與日俱增,國內也出現了許多獨角獸公司。從總量來看,在企業數、發表論文數等數項指標上都已達到了世界第二。甚至可以說,在刷臉場景下,已做到世界第一。

  能在“耳聰目明”領域迅速發力,還和我國的文化淵源有關。徐雷說, 粗略地,人工智能可以從機器模擬“耳聰目明”、形象思維、和抽象思維三個方面來考慮。早在1975年,錢學森先生就提出,常用而重要的智能活動其實在形象思維。而那時候,人工智能界主要在研究抽象思維。

  很有意思,這兩種不同方式,中國人和西方人正好各擅長其一。中國文字基本是象形的,思維發展偏重形象思維,而西方文字抽象成符號,注重關系、形式、與語法。

  符號文字抽象于形象文字,故有西方有學者把抽象思維叫高級智能。自然地, AI發展的前半段就是基于符號思維,注重解析出基本單元,再按一定的規則,由底朝上逐步組合搭出一個體系。這種思維有利于抓住主要脈絡,解釋所看到的現實世界。 但是,針對“耳聰目明”這類識別認知活動,反而遇到很大困難。盡管有時被稱為初級智能, “耳聰目明”卻是思維的基礎,AI發展的前半段其實走了建“空中樓閣”的彎路。

  而這次人工智能浪潮就是從“耳聰目明”這個形象思維的基礎突破的。做法很簡單,數學上完成一個X到Y的一個整體性的映射,用一個深度神經網絡結構來實現。可能由于我們的文化偏好形象思維,華人不僅參與這次推波助瀾并引起主要發展,而且也是過去一路走來致力于推動“耳聰目明”的主角之一。

  早在1957年就有在美國的華人介入字符識別,70年代中期到80年代中期,是主攻“耳聰目明“的模式識別之第一個發展期,頭號領袖是美國普渡大學教授付京孫先生(1930-1985)。而徐雷的博士導師清華大學常迵院士(1917-1991)和博士后導師北京大學程民德院士(1917-1998),在上述時期則領導了中國模式識別的發展,建立了我國智能科學的第一批三個國家重點實驗室,其中兩個主攻模式識別與機器認知,并在我國學科設置上正式開出了模式識別的相關專業,近年來我國在 “耳聰目明”方面能夠人才濟濟,應當回溯到當年他們打下的根基。

  中國在“耳聰目明”領域能迅速發力的現實基礎,是有大量數據、大量需求,和大量投入。影像醫療就是另一個我國依靠樣本優勢有望快速趕超的領域,僅北京腫瘤醫院一個月胃癌的門診病歷數就超過全美胃癌患者一年的門診量。中國還有不少有明顯的樣本優勢的其它應用領域,都有望能快速看到應用效益,并問鼎世界。即使如此,現在也不到聲稱中國AI在應用方面已經領先的時候。例如,在語音識別和語言翻譯方面,Google的水平優于國內企業,特別是在英文和其他文字領域更是如此。在機器人行業中,尤其是類人或特種機器人,離美國的波士頓動力機器人的水平,國內水平遠遠落后,可能差一、二十年都不止。

  更令我們保持清醒的是,在三大支撐中的前兩個,我們的差距更大。

  在芯片方面,設計各種專門的人工智能芯片,是可以有望很快趕上甚至超越的。但是在芯片的制造上,卻有一段很長的路要趕。而制造能力才是基礎,造不出來的設計只能是紙上談兵。在算力方面,盡管中國的神威和天河超級計算機都曾經問鼎全球,現在也仍位四甲,但在量子計算機方面,谷歌和IBM都在商用化方面推進很快。還有,在下一代計算材料和芯片方面,我國的短板可能更大。

  在徐雷看來,東方文化注重集成、注重整體應用,這是一種優勢;西方注重基礎,注重造芯片,這是另一種優勢。取人之長補己之短,把別人的芯片集成過來直接使用不失為上策,東西方文化融合、互補,才能給發展人工智能帶來更好局面;只有在行不通時,才需要我們一切重新造起,這其中的關鍵是,中國必須要做到讓對方愿意賣給我們使用。

  80年代初期的歷史或值得我們借鑒:當時中國要買美國的一些計算機設備,都面臨西方所謂巴黎統籌委員會對我們的掣肘。因此,中國不斷跟蹤研制,一達到一個新的水平,他們就會批準把更一高檔的設備賣給中國。可見,在產業發展時,不一定要樣樣自主做,以小得多的代價跟蹤,最優配置資源,也許更佳,但要清楚讓人知道,需要的時候,我們是有能力自己做的。

  要在人工智能理論方法的基礎研究達到世界領先水平,中國也仍然是任重道遠。目前來自中國的論文,大多是在偏應用性質的會議上發表,能沖進NIPS論文不多,還達不到能在NIPS這個基礎研究的頂會上占有不可或缺的地位。大量的工作,都在追求能在中國計算機學會或其他單位自定的頂級會議上可以發表,并不追求是否能被別人大量的引用、跟隨和應用,而追求從0到1突破的努力更是鳳毛麟角。尤其令人擔憂的是,大多數大學和研究機構發出的論文,還都是通過直接用別人的開源程序計算的。

  徐雷接著說,前面提到,中國人的思維是從頂向下的,忽略基礎創新,重視整體把握、應用集成,追求“短、平、快”,最后一點是尤其堪憂的。大家都離起跑線不遠時,差距還不遠,越往前差距越大。對此,他特別地提到八十年代導師常迵之問。第一次常先生問付京孫教授:“中國模式識別的研究水平離美國差多遠?”付先生答“三、四年”。而三、四年后付先生再來華訪問,常先生再問“還差幾年”, 付先生答“七、八年”。類似的故事,在基礎研究起關鍵作用的階段,其他領域也出現過。徐雷希望,這個故事不會在今后的中國人工智能發展中重演。

  他還表示:“希望中國的學者中能有一部分,在這一波熱潮漸漸平穩下來、整頓盤整的期間,能慢慢沉下來,回歸到一些基礎研究。‘耳聰目明’ 的基礎研究不是中國人貢獻的,中國人的貢獻主要是快速推廣到實際應用。希望中國學者未來在形象思維、抽象思維等基礎研究領域有更多貢獻。”

  在科學“奧運會”上為國摘金

640.webp (1).jpg

  上海市經信委副主任張英(左一)給中科院上海分院副院長張旭院士(左二)、同濟大學副校長蔣昌俊教授(左三)、和徐雷教授(左四)發WAIC SAIL獎的評審專家的聘書。徐雷教授在去年和今年都擔任了SAIL獎的終評會審專家。

  盡管徐雷已過花甲之年,但他仍保持著高強度的工作,帶領著團隊奮戰在科研第一線。“我把一生的時間都用來拼搏了,我自認為是一個很拼的人。”徐雷這樣評價自己。這位發已斑白的老人始終保持著簡樸的生活,除了工作外,徐雷很少有別的愛好,每天從宿舍走到辦公室,晚上再走回去,就充作鍛煉身體了。

  很難想象,這位聞名遐邇的科學家曾是一名煤礦工人。在恢復高考前,徐雷曾在云貴交界的一處煤礦工作。1977年,在恢復高考后的第一次招生中,徐雷走進了考場,進入哈爾濱工業大學獲得了本科學位,隨后又考入清華大學,成為常迵先生和閆平凡教授共同任導師的第一個碩士生和第一個博士生。1987年,徐雷來到北大,師從程民德院士和石青云院士做博士后,次年成為北大全校當年破格提升的十位副教授之一。

  在此期間,徐雷在包括《中國科學》《科學通報》《計算機學報》《電子學報》《自動化學報》在內的國內核心刊物上發表論文18篇,在模式識別、人工智能、信號處理的主要國際會議上發表論文九篇。其中,1987年發表在UAI會議上的一篇論文最早將二值變量貝葉斯樹之學習拓廣到高斯變量,開實變量貝葉斯網學習之先。這篇論文被J.Pearl(2011年圖靈獎獲得者)收入1988年出版的經典專著中,成為了專門的一節。

  還有一篇發表在國際模式識別大會ICPR上的論文,是口頭報告,因為當時外匯有限,不能出去開會。會后當時的國際模式識別學會主席 Pierre Devijver(?-1996)卻給徐雷來了一封信,說他沒有時間事先獲得許可(當時國內還沒有電郵),就主動幫徐雷代做了口頭報告。Devijver當時并不認識徐雷,也不知道是常迵的學生,那論文徐雷是單獨作者,他只是認為那篇論文應該被介紹。當今國際模式識別學會的大獎,最重要的獎項是以付京孫(K.S.Fu)命名的,而另一個主要獎項是P.Devijver獎。

  1988年,在時任國家主席在北京人民大會堂主持頒獎的第一批40名霍英東獎獲得者中,徐雷是唯一的人工智能相關學科的學者。那年冬天,北大視覺與聽覺信息處理國家重點實驗室的主任石青云教授找他談,告知領導有意讓他接任做主任,該實驗室是當時國家首批智能科學相關的三個國家重點實驗室之一。此時,擺在徐雷面前的本是一個順理成章進入仕途的機會,但他毅然決然地放棄了。徐雷認為,在世界范圍內,中國的人工智能學科相關的研究離世界前沿還差的很遠,因此他選擇出國看看,與世界上最頂尖的科學家直接打交道。

  談及為何做出這一選擇時,徐雷回憶道,他曾深深受到陳景潤故事的影響:1972年,蘇聯數學家代表團來訪問中國,周總理一時很為難,不知道該找哪些數學家去接待。此時代表團提出,中國有個杰出年輕數學家叫陳景潤,哥德巴赫猜想研究做出了杰出成果,希望和他談談。于是政府到處去找這個年輕人,最后在中科院一間不足6平米的鍋爐房里找到了他。陳景潤的故事激勵著那個年代的知識分子,從此徐雷立下志向,一旦國家需要,也要能為國爭光。

  實際上,后來徐雷的確以中國自己培養的博士身份,在模式識別、神經網絡等人工智能領域,留下了多個中國人的印記,實現了當年的愿望。

  1989年至1993年,徐雷輾轉于歐美當時相關學術領域的四個領軍團隊。1989年初徐雷加入芬蘭拉普蘭塔理工大學的E.Oja團隊做高級研究員(Oja是九十年代歐洲神經網絡領域的幾個主要學術領頭人之一),1990年春加入加拿大康考迪亞大學C.Y.Suen團隊做副研究員,也是當時加拿大模式識別領域的領軍團隊。徐雷在1991年9月以訪問學者的身份加入了哈佛的 A.Yuille 團隊(Yuille是霍金的弟子,也是計算機視覺研究領域的大師),又在一年后加入麻省理工的M. I. Jordan團隊做博士后。直到1993年秋返回中國香港,加入香港中文大學任教。

  在此期間,徐雷研究著名的霍夫變換有突破性進展,發明了隨機霍夫變換RHT。他還以第一作者身份發表了另一論文,提出了分類器組合的三級框架并討論了多個組合方法, 為現在廣為研究的集成學習和信息融合提供了基礎,被廣為引用。這兩個成果使他在2002年當選國際模式識別學會 IAPR Fellow會士,成為最早獲選的幾位華人之一。

  在此期間,徐雷將當時相關領域很有影響的Oja自適應PCA學習,發展到自適應非線性PCA學習;并率先揭示了Hebb學習輔以S非線性實現獨立化學習,能消除旋轉不確定性;還為Oja自適應子空間學習的全局收斂性提供了數學證明。這些成果不僅讓徐雷在該方向的影響緊隨Oja之后,而且將Oja團隊的主要興趣引回,也吸引了歐美還有中國的不少學者之后的持續推進。

  在此期間,作為單獨作者,徐雷在1991年會議論文首先提出并在1993年的期刊論文中進一步闡述,提出了多層神經網絡自組織學習LMSER,以雙向對偶方式實現對網絡中參數的學習,其特點是強制了參數對稱性和神經元強度的對稱性。2006年Hinton團隊的那兩篇經典論文中的深度學習結構Stacked RBM,也強制了這種參數對稱性,而近年才出現的所謂U-net的結構,也與多層LMSER類似。由于算力的限制,當時計算實驗只做了單個隱層。但在論文中,討論和預言了多層LMSER的若干認知功能,如聯想、概念形成、心像、注意等。后面會提到,這些預言都在近年得到了計算驗證。

  在此期間,徐雷還1991年提出在競爭學習中引入反壟斷機制,同時適度地引入對手懲罰機制,發明了對手懲罰競爭學習(RPCL),開創了無監督學習過程中,可以實現模型自動選擇的先河。在學習中可以自動去除多余參數,可實現選擇模型自動選擇的另一個辦法L1學習, 是1995年才出現而快速走紅的。RPCL已被直接應用于解決許多實際問題上。例如,在大數據分析和無監督統計學習中經常遇到的聚類分析中,可自動確定樣本集來自幾個不同的類。

  在此期間,徐雷通過對Gaussian Mixture和Mixture of Experts 上的EM算法之收斂性做數學分析,有力支持了M. I. Jordan在九十年代倡導的EM算法的新一輪研究熱,澄清了當時統計文獻上關于EM算法的一些誤解,厘清了EM的優缺點。徐雷還與M. I. Jordan和G. Hinton合作,提出一個改進的多專家混合模型,更適合利用EM算法。

  也從這期間開始,徐雷成為了當時NIPS(后改名為NeurlPS)會議上活躍的少數幾位華人學者之一。從NIPS1992起,每年一篇,連續在NIPS年會上發表了四篇論文。若看作者單位,第一篇徐雷是第一作者,單位是北京大學。其他3篇的作者單位都是香港中文大學。這意味著中國學者在NIPS發表論文的最早時間至少可提前到1992年,而不是目前國內一些資料所記載的本世紀的頭幾年。

  80年代底開始,引發當下人工智能浪潮的深度學習之父G. Hinton和一批學術精英,接管了這個在1986年由IEEE信息論分會發起的學術會議。 從此NIPS成為神經網絡領域、乃至人工智能所有相關領域的旗艦會議。其后近三十年,先是G. Hinton和M. I.Jordan交替為旗手,后由他們的學生們接力,是人工智能領域,最活躍、最有創意,也是文章最難進入的會議。基礎研究成果大多先出現在NIPS,然后向其他會議,以一定的滯后期傳播和推廣應用。順便一提,從1995年起,徐雷曾連續三年擔任NIPS組委會中大中華區的聯絡人(Liaison)。

  徐雷在香港中文大學二十多年期間,先是進一步發展提出了貝葉斯陰陽學習理論,發表在NIPS1995會議上,這點后面還會做介紹。然后,他一方面將貝葉斯陰陽學習理論及以上所述成果,進一步發展、完善、系統化,并在智能金融、智能醫療、雷達信號識別等領域做了許多應用工作;另一方面,在徑向基網學習、獨立子空間學習、獨立分量分析、時序獨立狀態空間、運籌優化等方向還做了不少基礎研究工作。根據資料檢索,徐雷的多個研究成果已被國內和歐美日等許多研究單位,廣泛應用于雷達、遙感、材料、機器人、無人駕駛、軟件工程、網絡發掘、精密制造、醫學圖像、生物信息等領域。

  徐雷曾獲得數個國內外主要獎項和榮譽。1993年,徐雷獲國家自然科學獎。1995年,徐雷獲國際神經網絡學會領袖獎。2006年,徐雷獲亞太神經網絡學會最高獎——杰出成就獎,此獎每年僅獎一人,徐雷是榮獲此獎第三人,首兩位分別是日本智能領域的頭兩位大咖。此外,徐雷于2001年當選IEEE會士,成為中國最早的幾位會士之一,也是從計算智能學會當選的首位中國學者。2002年,徐雷當選國際模式識別學會 IAPR Fellow會士,成為最早獲選的幾位華人之一。2003年,徐雷當選歐洲科學院院士。

  徐雷曾任9個國際學術期刊之編委,例如,1994起年擔任國際神經網絡權威學術期刊Neural Networks的編委達22年,是首位擔任這個角色的華人。2001年至2003年,徐雷當選國際神經網絡學會理事會理事,是中國學者最早當選的二人之一(另一位是當時的北京大學常務副校長),并任Award committee委員。2007-08年徐雷任IEEE計算智能學會Fellow committee委員,是首位華人擔任該學會此角色。他還是首位獲任 IEEE 計算智能學會會士評審委員會的華人。

  徐雷于2016夏全職到崗上海交大,任致遠講席教授、人工智能研究院首席科學家、腦科學與技術中心首席科學家、張江實驗室腦與智能科技研究院神經網絡計算研究中心主任。在香港期間也一直致力于貢獻內地,為促進中國神經網絡領域的發展出力。2005年中國神經網絡學會在總結其十五年歷程時,向為該領域在中國之發展做出貢獻者,頒發了三個獎,一是給國內學者的貢獻獎, 羅沛林院士、吳佑壽院士獲獎;二是一個給外國學者的友誼獎,日本神經網絡領域頭號大咖Amari教授獲得;三是給境外華人的長期報效獎,由徐雷獲得。

  面對如此豐碩的成果,徐雷卻自謙道,“我只是在科技‘奧運會’的某個項目為中國拿過獎牌,只不過就像很多優秀的運動員一樣,只能在很短一段歷史時間里做冠軍。”實際上,徐雷的領軍時間并不短暫,從90年代初之后的一、二十年里,徐雷一直是神經網絡和模式識別等人工智能領域中,中國人的一個重要代表人物。

  人工智能將帶來哪些行業機會?

  近年間,人工智能為多個傳統行業賦能,如醫療、金融、安防等行業都受到了深刻的影響。哪些行業更能吃到人工智能的紅利?下一個人工智能帶來的增長點又將會出現在哪里?

  對此,徐雷概括,凡是涉及到視覺和語音的行業都可能被人工智能所改變。人類最主要的信息獲取渠道是視覺和聽覺,自2006年Hinton團隊的工作以來,這一波人工智能的核心突破點正是讓機器“耳聰目明”。

  以語音應用為例,由于人說話快、寫字慢,很多原本需要人們耗費時間精力記錄的工作可通過語音技術轉成記錄,如醫生手術記錄、打官司寫訴狀、填表等,都是人工智能可以發揮作用的場景。視覺方面,我國對場景監控的需求越來越大,相關行業未來仍有較大增長空間。不僅如此,人類智能中最主流的信息獲取渠道就是視覺,70%左右的信息獲取來自視覺,如果一個人從小就失明,長大后智能發展必然受損。人工智能也是同理,現在人工智能發展程度相當于達到了幾歲的兒童就能達到的視覺和聽覺能力,在此基礎上開發其他應用的空間是很大的。

  徐雷指出,要挖掘人工智能在視覺和語音相關領域的新應用,關鍵在于找到還未被一窩蜂涌入又有經濟增長點的場景,這就是二次創新。

  盡管人工智能應用前景廣闊,但在精密制造等領域,智能化進程并不如人們預期的那么快。徐雷認為,這是由于進入專業領域的人工智能人才過少,無論是來自高校的人才還是AI初創企業都很少選擇精密制造業的緣故。這類領域需要從業者能夠同時在人工智能領域和特定專業領域具備研究水平,從業者要進入相應領域的學習成本較高,這就導致大學老師和企業雙方都沒有強烈發展AI+制造的意愿。但一旦人工智能進入制造領域,必能發揮更大的作用。

  如今人工智能在醫療行業最重要的應用是醫療影像分析,也是中國有樣本優勢有望問鼎世界的領域。一來醫院已積累了大量影像片子,便于機器學習訓練;二來影像分析中人工智能的應用相對簡單,只要識別、檢索、分割和標記影像即可,需要用到的醫學專業知識較少,因此人工智能可以順利投入應用。而在醫藥開發這類需要更多專業知識的領域,人工智能與醫療的結合依然很難。懂醫的不懂AI,懂AI的人不懂醫,甚至雙方想互懂的欲望都不大,應用自然落地維艱。徐雷認為,這與評價機制有關,學者研究新領域的時間成本高,發文章慢,又難以獲得適當的評價,造成動力不足,這是AI與應用場景結合的關鍵難點。

  行業機會與地方政策息息相關。談及上海人工智能產業的發展機會,徐雷對AI報道表示,從中國現狀來看,人才最集中的地區是北京,但是上海政府是布局人工智能最積極的地方政府。

  一方面,從2018年起上海政府每年舉辦的世界人工智能大會WAIC,打造世界頂尖的智能合作交流平臺和行業盛會。并在大會上頒發最高榮譽SAIL獎(Super AI Leader,即“卓越人工智能引領者獎”),打造AI行業的“諾貝爾獎”,激勵全球范圍內在技術上做出方向性突破、應用創新,正在或將要改變未來生活的人工智能項目。

  另一方面,在上海政府的優惠政策下,很多來自北京、深圳的人工智能企業來到上海發展,為上海帶來了大量的人才。特別是上海經信委積極建設人工智能應用基地,并在一年內連續發布了二十多個人工智能試點應用場景作為各個領域的示范,動作是相對超前的。如果上海政府能夠堅持推動下去,未來前景很可觀。另外,上海研究人工智能的力量更具備可聯合性,協同性較強。

640.webp.jpg

  2018年在上海舉辦的世界人工智能大會期間,多年未見的老朋友相見于黃浦江畔。從右邊起依次是Alan L. Yuille、 張旭、徐雷、鄧力。另外,左起是Michael I. Jordan和徐雷。

  雙向智能應用初探

  談及近兩年的研究成果,徐雷介紹,近期他正在繼續發展雙向智能,即將形象思維抽象思維和認知結合到一起,并繼續發展整體理論框架。前面提到,早在1991年提出的LMSER學習,就具備實現換臉功能的潛力,只是當時因算力所限沒有實現。但在那篇論文中,已討論和預言了多層LMSER的若干認知功能,如聯想、概念形成、心像、注意等。最近徐雷的學生,對多層Lmser進行計算,不僅驗證了早年的預言,而且發現比目前相近的自編碼和U網,性能更優越,尤其是樣本少、攻擊強的情況下。

  推理是徐雷研究的又一方向。現在的知識圖譜方法反映的是信息的相關性,不能揭示因果性。在借助人工智能進行問題推斷時,找出因果關系是更有必要的。1987年時,徐雷就曾涉獵因果推理,最近在這方面又取得了較大進展。近年,中國全面啟動了新一代人工智能重大科技項目。徐雷作為負責人,帶領上海交大、清華、北大、浙大、電子科大、上科大和阿里巴巴七個單位組成的團隊,成功申請下來最近公布的首批項目之一,就是要主攻這個方向,希望能夠獲得大的突破。

  此外,雙向智能還能應用于許多類似AlphaGo的場景。在人工智能領域中,AlphaGo做到的事實際上被叫做啟發式搜索和問題求解。現在很多人以為AlphaGo的成功關鍵在于蒙特卡洛樹的前瞻性搜索,但徐雷表示,這并不是AlphaGo成功的關鍵要素,在1986-1988年間,中國學者在研究啟發式搜索時就已提出過類似思路。真正的關鍵在于用深度學習網絡來看到棋盤,猶如開了“天眼”,認清了狀態并由此聯想,做到三管齊下。

  徐雷總結稱,下棋和做領導是類似的,都要做三件事。第一件,是要先試幾步看一看,類似于鄧小平做深圳特區先行探路。第二件,需要有仙人指路,指出這一盤棋能不能贏,贏面是多少,這類似于大智慧者老子出面提示,起到的是堅定信心的作用。第三件,需要孫子相助,告訴從業者具體有幾種走法、走哪里是最好的策略,讓從業者選擇贏面最大的走法。下棋也好,解決任何一個問題也好,都需要三種人同時協同。AlphaGo之所以能贏,就是因為用深度學習網絡開了天眼、認了棋盤,同時做了“老子”和“孫子”。

  而雙向智能的關鍵就在于形象思維認知和抽象思維相結合,雙向協同互補。過去只用抽象思維進行問題求解所遇到的困難,有望通過雙向智能獲得改進。

  一般認為,AlphaGo按最低使用率計算,能耗也高達3萬瓦,是一個人腦的耗能一千倍。后來的AlphaGoZero 降到了其百分之十。我們希望運用雙向智能的耗能明顯小于AlphaGo,希望僅通過一個很小的機器就可以做到。徐雷強調:“關鍵是要追求單位能耗下的智能。”

  AlphaGo和AlphaGoZero由背靠Google的DeepMind公司研發而成,此外,世界上其他的巨無霸公司也先后投入了這場研究,如騰訊已推出圍棋AI“絕藝”,日本、法國也各有自己的圍棋AI。但徐雷認為,圍棋AI不應只有擁有巨大資源的巨無霸公司能做,希望僅用普通的機器也可以與它們對弈。

  雙向智能的另一優勢是魯棒性高。以刷臉應用為例,很多刷臉程序在應用時,框稍微動一下,用戶的臉就識別不出了,雙向智能方法有望改進這一困擾。

  徐雷解釋道,通常的人工智能研究,要么單向地由外向內考慮識別認知,如現在大多數深度學習應用,要么單向地由內向外考慮思維與問題求解。而雙向智能是兩個方向同時考慮,認知抽象的部分被叫做陽,另一部分叫作陰,陰陽和諧進行。有趣的是,1981年諾貝爾獎獲得者羅杰·斯佩里的發現,左右腦皮質區分為左右兩邊,一部分負責邏輯、分析,一部分負責認知,雙向智能理論與這個人腦分工理論是相容的。

  沿著在1991年提出Lmser的路子發展,引入概率理論,結合上面的思路, 徐雷在1995年進一步發展提出了貝葉斯陰陽學習理論。盡管陰陽的概念源自中國,在西方面臨接受度的問題,人工智能頂會NIPS在1995年會議還是接受了這個論文。它不但為許多現有統計學習主要模型提供了一個統一的框架,而且建立了一個易于計算的有限樣本下學習的新理論,可在參數學習的過程中自動完成模型選擇。上世紀末,麻省理工整理20世紀腦科學和神經網絡重要貢獻,出版經典匯集《腦理論和神經網絡方法》時,貝葉斯陰陽學習理論也被收納其中。

  AI新挑戰無可回避

  人工智能蓬勃發展的同時,也帶來了一系列新的挑戰。

  倫理方面,面臨最大爭議的研究領域是“增強智能”,特斯拉CEO埃隆·馬斯克正在研究的腦后插管就是一個代表性例子。“增強智能”旨在將人腦與機器直接連接,讓人能夠通過腦電波直接控制機器進行交流。這部分研究對殘疾人是有意義的,但也提出了重大的倫理挑戰:這一類人與機器的結合體是否依然能被稱作人類?

  人工智能還可能帶來更為直觀的危險。比如,國外有人做出蝴蝶或蜻蜓大小的飛行器,攜帶著烈性炸藥,通過人臉識別技術尋找特定對象并炸穿面部實施謀殺。目前,有3000多名人工智能從業者聯合簽名阻止上述研究,但以現有技術做出這類“殺手機器人”已不成問題。

  更重要的是,人工智能減少人的勞動,將導致失業問題。隨著人工智能逐漸替代人的勞動崗位,用工成本漸低,未來財富很可能越來越集中到幾個寡頭手里,其他人卻越來越貧窮。而人的本性決定,大資本家掙錢后不會拿出來與普通百姓共享。

  不過,失業問題并非完全無解。徐雷認為,人工智能不斷改變人類的生活形態,將造就行業洗牌的機會,舊的行業倒下后,也可能洗出新的領域。核心問題在于如何創造出新的生活方式,在某個領域的從業者批量失業的同時,怎樣讓新的行業吸收倒下的行業。徐雷將該過程比作小孩搭積木,“現在有一些積木塊,我們用它搭出一個世界;后來有一天,小孩玩這個積木玩煩了,希望搭出新的一堆積木,拆拆搭搭總有事干。”只是,人類的需求并非無限增長,因此新行業的創造存在極限。對此,徐雷寄希望于政府進行統一管理,強有力地從頂層解決最關鍵的分配問題,才有可能達到人工智能為勞動者減負而不導致失業潮的狀態。

  最后,徐雷談到了人工智能發展可能帶來人類抽象思維能力下降的問題。現代計算機在西方智能高度抽象的基礎上建立而成,在計算機替代人類完成很多抽象思維工作后,人類的相應能力就得不到鍛煉。這意味著人類不只是工作在被替代,連思維能力也在被代勞的過程中逐步減退。


本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 中文字幕永久有效 | 亚洲视频99| 天天尻逼| 狠狠操夜夜操 | 国产精品色婷婷99久久精品 | 国产精品奇米一区二区三区小说 | 亚洲精品久久久狠狠狠爱 | 欧美99热 | 成人性视频免费网站 | 亚洲欧美日韩国产综合 | 久久久美女 | 男人的亚洲天堂 | 一级特黄性色生活片 | 国产丝袜视频 | 国产第99页 | 成人国产精品一区二区 | 手机在线观看av片 | 国产乱码一区二区三区 | 午夜论坛| 国产精品丰满 | 九一亚洲精品 | 亚洲一区欧洲一区 | 欧美久久久久 | 天天玩天天干天天操 | 一本色道久久综合亚洲精品不 | 丰满少妇裸体淫交 | 欧美日本韩国 | 隔壁人妻偷人bd中字 | 对白超刺激精彩粗话av | 日本不卡免费新一二三区 | 精品中文在线 | 99精品国产在热久久 | 国产另类xxxxhd高清 | 精品无码久久久久久国产 | 五月天婷婷亚洲 | 一区二区国产精品视频 | 日日夜夜狠狠操 | 免费看成人aa片无码视频吃奶 | 在线观看91 | 国产又色又爽又刺激在线播放 | 国产无套粉嫩白浆内谢网站 | 杏导航aⅴ福利网站 | 国产精品久久久久久久蜜臀 | 51自拍视频| 久久亚洲人成网站 | 日韩午夜小视频 | 草比视频在线观看 | 一本色道久久综合狠狠躁篇的优点 | 久久久久久久久免费视频 | 国产馆在线观看 | 在线āv视频 | 久久综合一区二区 | 国语对白做受69按摩 | 国产一区二区三区四区五区vm | 欧美日韩亚洲成人 | 国产特黄大片aaaa毛片 | 国产精品成人国产乱 | 日韩五月天| 亚洲色无码一区二区三区 | 欧美人成在线 | 西西人体大胆4444www | 国产精品夜夜夜爽张柏芝 | 亚洲激情视频一区 | 人人草人人爱 | 国产欧美一区二区精品性色 | 91精品国产欧美一区二区成人 | 337p人体粉嫩久久久红粉影视 | 盗摄精品av一区二区三区 | 爱情岛论坛亚洲自拍 | 亚洲天堂1| 欧美毛片免费看 | 黄色大片在线 | 色偷偷88888欧美精品久久久 | 日韩不卡中文字幕 | 在线中文字幕乱码英文字幕正常 | 18深夜在线观看免费视频 | 韩国三级中文字幕hd久久精品 | 成人一区视频 | 91在线免费视频观看 | 男人巨茎大战欧美白妇 | gogogo日本免费观看电视动漫 | 马与人黄色毛片一部免费视频 | 国产激情一区二区三区四区 | 波多野结衣中文字幕久久 | 狠狠久久亚洲欧美专区 | 日韩三级毛片 | 亚洲天堂视频网站 | 久久这里有 | 精品国产1区2区3区 精品国产31久久久久久 | 国产深夜福利视频在线 | 欧美3p两根一起进高清免费视频 | 强奷乱码中文字幕熟女导航 | 色偷偷av亚洲男人的天堂 | 特一级黄色片 | 无码国产精成人午夜视频一区二区 | 久久精品片 | 久久久久99精品成人片牛牛影视 | 国产一区二区精品在线观看 | 中文字幕日韩高清 | 日韩欧美高清视频 | 久久久国产精品无码免费专区 | 97国产suv精品一区二区62 | 久久久久久久久久久久国产 | 久久久国产网站 | 亚洲中文字幕乱码av波多ji | 国产无在线观看 | 日本在线观看一区 | 国产一久久 | 蜜桃av免费看 | 国产精品夜间视频香蕉 | av美女在线观看 | 天天爱综合网 | 国产成人无码视频一区二区三区 | 亚洲欧美中文字幕 | 免费国产a国产片高清网站 国产婷婷一区二区三区 | cosplay福利禁视频免费观看 | 久久婷婷五月综合色精品 | 中文字幕亚洲国产 | 久久精品国产99国产精品亚洲 | 免费网站观看www在线观 | 成人综合一区 | 国产xxxx裸体xxx免费 | 一级色视频| 色久av| 中文字幕日韩精品亚洲七区 | 亚洲图片 欧美 | 国产又粗又硬又大爽黄老大爷 | 羞羞网站在线看 | 色欲久久久天天天综合网 | 国产尤物av | 久久av不卡 | 久久综合九色综合欧洲98 | 黄视频在线免费看 | 大rb狠狠地给你这y荡的视频 | 欧美一级在线观看 | 五月激情片 | 色哟哟网站 | 国产日韩欧美一区二区三区乱码 | 欧美另类交人妖 | 国产一级做a爰片在线看免费 | 久久综合伊人77777麻豆最新章节 | 老司机伊人 | 伊人情人综合网 | 国产一级片| 无码av中文一区二区三区桃花岛 | 国产精品成人国产乱 | www日日干 | 亚洲春色av无码专区在线播放 | 国产精品欧美激情 | 色婷婷综合激情综在线播放 | 免费观看全黄做爰大片国产 | 在线观看欧美精品 | 中出乱码av亚洲精品久久天堂 | 国产aⅴ一区二区三区 | 一级片视频播放 | 亚洲激情视频在线播放 | 日韩在线一区视频 | 午夜dv内射一区二区 | 成人区人妻精品一区二区不卡 | 99精品视频在线导航 | 国产精品偷伦免费观看视频 | 久久久精品福利 | 欧美精品与人动性物交免费看 | 精品久久久久久久久久岛国gif | 老司机午夜精品99久久免费 | 性涩av | 97久久精品无码一区二区天美 | 欧美日韩国产网站 | 国产成人亚洲综合a∨婷婷 国产成人艳妇aa视频在线 | 亚洲成色| 涩五月婷婷 | 国产女主播av | 成年人香蕉视频 | 久久久精品波多野结衣 | 国产精品一二三区成毛片视频 | 国产第一页在线观看 | 性视频免费的视频大全2015年 | 亚洲国产一区精品 | 国产亚洲精品久久久久久国模美 | 久久久久夜色精品国产老牛91 | 久久97超碰 | 摸丰满大乳奶水www免费 | 亚洲国产婷婷六月丁香 | 亚洲国产va精品久久久不卡综合 | 国产精品wwwwww| 日韩有码在线视频 | 亚洲一级免费在线观看 | 毛片无码一区二区三区a片视频 | 高h七仙女辣黄h | 国产精品片一区二区三区 | 动漫av一区二区 | 久久综合婷婷 | 午夜视频www | 欧美成人午夜免费视在线看片 | jizz高清 | 精品xxxx户外露出视频 | 久久亚洲国产成人精品性色 | 中文日产日产乱码乱偷在线 | 亚洲一区精品在线观看 | 日本在线视频免费 | 狠狠色噜噜狠狠狠狠色综合久av | 午夜性刺激在线视频免费 | 美女撒尿毛片视频免费看 | 成年人激情网站 | 日韩在线激情视频 | 木下凛凛子中文字幕亚洲 | 日本视频精品 | 精品一区二区三区国产 | 99自拍| 精品三级av无码一区 | 无码人妻aⅴ一区二区三区有奶水 | 国产精品久久天堂噜噜噜 | 99久久免费只有精品国产 | 久草视频免费播放 | 久久亚洲欧美日韩精品专区 | 国产农村妇女毛片精品久久麻豆 | 国产香蕉9 | 欧美日韩免费一区 | 欧美精品久久一区 | 99免费观看| 美女又爽又黄又免费 | 欧美一区二区三区不卡视频 | 精品视频免费播放 | 在线免费观看网站入口在哪 | 不卡国产一区二区三区四区 | 欧美在线一二三 | 少妇久久人人爽人人爽人人片欧美 | 三级久久 | 亚洲春色综合另类网蜜桃 | 日韩久久久久 | xxxxxl19成人免费视频 | 亚洲资源av无码日韩av无码 | 美腿丝袜亚洲综合 | 国产精品三级av | 三级视频在线播放 | 欧美黄色性生活 | yy8男人的天堂 | 欧美一区二区三区色 | 中文字幕亚洲一区 | 黄频在线播放 | 国产精品白丝喷水在线观看 | 日韩视频在线观看视频 | 欧洲金发美女大战黑人 | 亚洲国产精品久久久天堂不卡 | 精品一区二区三区在线观看 | 国产成人精品福利 | 日韩一区二区三区欧美 | 国产黄站 | 黄色网络在线观看 | 欧洲熟妇色xxxx欧美老妇多毛网站 | 在线观看1区 | 国产另类ts人妖高潮 | 无码人妻精品一区二区三区不卡 | 日本大乳奶做爰洗澡三级 | 午夜精品久久久久久中宇牛牛影视 | 天堂中文а√在线官网 | 国产无套内射久久久国产 | 91午夜精品亚洲一区二区三区 | 成人片黄网站色大片免费毛片 | 国内品精一二三区品精 | 成人免费黄色片 | 久久综合伊人中文字幕 | 国产一级黄色片视频 | 国产精品一区二区久久国产 | 鲁鲁在线 | 99国产精品久久久 | 日本熟妇色一本在线看 | av免费在线观看网站 | 国产热re99久久6国产精品 | 人妖粗暴刺激videos呻吟 | 日韩经典在线 | 92成人午夜福利一区二区 | 91av入口| aa片在线观看视频在线播放 | 亚洲一在线 | 公车乳尖揉捏酥软呻吟 | 色一情一乱一乱一区99av白浆 | 欧美精品v国产精品 | 2级黄色片| 免费网站看v片在线18禁无码 | 日韩成人极品在线内射3p蜜臀 | 亚洲二区在线 | 隔壁人妻偷人bd中字 | 欧美成人在线影院 | 三级无遮挡污在线观看 | 麻豆免费在线视频 | 国产裸体歌舞一区二区 | 黄色网络在线观看 | 欧美 日韩 国产 成人 在线观看 | 欧美性猛交xxxx免费看久久 | 黄色大片免费在线观看 | 国产对白叫床清晰在线播放图片 | 久久精品亚洲a | 好紧好湿好爽免费视频 | 亚洲成a人v在线蜜臀 | 一级特黄aaa毛片在线视频 | 欧美中文字幕一区二区 | 无码人妻精品一区二区三区免费 | 永久免费网站看黄yyy45视频 | 色妺妺av爽爽影院 | 又紧又大又爽精品一区二区 | 中文字幕一区二区三区久久蜜桃 | 天天透天天操 | 欧产日产国产精品精品 | 中国黄色录像一级片 | 久久久久亚洲精品成人网小说 | 老熟仑妇乱一区二区 | 天天色综合合 | 色婷婷久久综合中文久久一本 | 日韩免费在线视频 | 国产免费观看久久黄av片 | 午夜不卡av免费 | 国产精品三p一区二区 | 韩国一区二区三区在线观看 | 日本久久高清 | 国产精品点击进入在线影院高清 | 国产精品爱啪在线线免费观看 | 免费看一级黄色大片 | 精品熟人妻一区二区三区四区不卡 | 国产亚洲精品自拍 | 久久99国产综合精品免费 | 风间由美不戴奶罩邻居勃起av | 国产午夜精品久久久久 | 在线一二三区 | 国产重口老太伦 | 亚洲福利一区二区三区 | 久久午夜av| 色综合久久成人综合网 | 91黄色在线视频 | 人人妻人人澡人人爽人人精品av | 久久精品aaaaaa羞羞羞 | 欧美综合自拍亚洲综合图 | 久久久久久久久福利 | 国产呦小j女精品视频 | 久久久精品国产一区二区三区 | 成年免费视频黄网站zxgk | 可以看污的网站 | 台湾全黄色裸体视频播放 | 狠狠干狠狠撸 | 超碰av在线播放 | 亚洲精品国产一区黑色丝袜 | 中文字幕乱码一区二区三区四区 | 国产精品伦一区二区三级视频 | 91亚洲国产成人精品一区二三 | 日韩欧美亚洲国产精品字幕久久久 | 中文在线国产 | 在线观看视频亚洲 | 一级黄色性生活视频 | 91黑丝在线观看 | www久久com| 亚洲一区二区在线播放相泽 | 亚洲黄色小视频在线观看 | 91毛片在线观看 | 国产黄a三级三级三级看三级黑人 | 欧美精品一区二区在线播放 | 国产精品久久国产精麻豆96堂 | 精品福利视频一区二区 | 男女裸体影院高潮 | 国产精品久久久久久久久久久久冷 | www.欧美激情 | av不卡中文字幕 | 久久久久久久久久网站 | 精品国产亚洲一区二区三区 | 中文字幕乱码亚洲无线三区 | 91精品国产综合久久香蕉的特点 | 亚洲中文字幕久在线 | 蜜桃91丨九色丨蝌蚪91桃色 | 国产精品久久久久一区二区 | 性xxxxx大片免费视频 | 91精品国产91久久久久久最新 | 亚洲综合国产 | 神马久久网站 | 91av视频免费观看 | 国产精品久久久久久久久久久久午夜 | 最新亚洲春色av无码专区 | 午夜视频在线观看一区二区 | 精品人妻伦九区久久aaa片 | 五月天激情小说 | 久久日韩激情一区二区三区四区 | 亚洲人成人一区二区在线观看 | 国产精品女上位好爽在线观看 | 夜夜躁人人爽天天天天大学生 | 亚洲专区路线一路线二高质量 | 在教室伦流澡到高潮hnp视频 | 丁香六月婷婷综合 | 欧美精品乱码99久久蜜桃 | 永久免费观看av | 久久一级视频 | 99热这| 国精产品一区一区三区mba下载 | 成人美女黄网站色大免费的88 | 亚洲色图 在线视频 | 成人欧美一区二区三区黑人麻豆 | 国产美女特级嫩嫩嫩bbb片 | 精品在线免费观看视频 | 欧美亚洲黄色 | 欧美雌雄另类xxxxx | 真人二十三式性视频(动) | 亚洲欧美日韩精品在线观看 | 四虎永久在线精品免费播放 | 亚洲精品久久久蜜臀av站长工具 | 欧美视频久久 | 亚洲久久在线 | 国产色网址 | 成人性生交大片免费看r老牛网站 | 亚洲狠狠爱一区二区三区 | 日韩欧美一本 | 精品久久久久中文字幕日本 | 波多野结衣视频在线播放 | 51嘿嘿嘿国产精品伦理 | 国产黄频在线观看 | 精品国产_亚洲人成在线 | 国内精品人妻无码久久久影院蜜桃 | 精品国产不卡一区二区三区 | а√在线中文网新版地址在线 | 中国产一级a毛片四川女 | 日本在线免费 | 一区二区三区高清视频一 | 欧美自拍视频 | 免费观看全黄做爰大片小说 | 国产91清纯白嫩初高中在线观看 | 国产精品12区 | 欧美亚洲国产精品久久 | 人人射人人爱 | 91大奶| 超碰丝袜| 欧美 日韩 人妻 高清 中文 | 黑人一区| 日韩国产精品一区 | 日本少妇高潮喷水视频 | 色播av在线| 久久亚洲一区二区三区四区五区 | 国产精品熟妇一区二区三区四区 | 自拍偷自拍亚洲精品播放 | 偷拍女人私密按摩高潮视频 | 第四色男人天堂 | 男男羞羞视频网站国产 | 久久久久99精品国产片 | 亚洲精品国偷自产在线99人热 | 1区2区3区在线观看 2015www永久免费观看播放 | 琪琪色在线观看 | 欧美jizzhd精品欧美巨大 | 久久久无码人妻精品无码 | 天堂无乱码 | 日本视频中文字幕 | 国产地址一 | 无码伊人久久大杳蕉中文无码 | 黄色污污网站 | 午夜成年人视频 | 玛雅精品福利视频在线导航 | 不卡欧美| 少妇高潮露脸国语对白 | 国产色在线视频 | 亚洲人成网亚洲欧洲无码 | 免费无码又爽又刺激高潮视频 | 久久精品一区二区三 | 亚洲免费中文 | 亚洲一级一区 | 女人扒开腿让男人桶到爽 | 欧美性激情 | 亚洲熟妇无码爱v在线观看 又色又爽又黄18禁美女裸身无遮挡 | 动漫美女爆羞羞动漫在线蜜桃 | 国产成人一区二区三区在线播放 | 另类一区二区 | 亚洲无人区码一码二码三码的含义 | 亚洲人成无码网站久久99热国产 | 亚洲一区二区观看 | 欧美一级网 | 亚洲第一网站男人都懂 | 成人短视频在线免费观看 | 好吊妞视频在线观看 | 香港三级日本三级a视频 | 日韩欧美理论 | 一本到综在合线伊人 | 一本色道久久99一综合 | 强伦人妻一区二区三区视频18 | 国产偷窥网 | 国产成人在线精品 | 一级特黄妇女高潮2 | 欧美另类videosbestsex | 全黄一级毛片 | 视频久久精品 | 精品厕所偷拍各类美女tp嘘嘘 | 韩日精品视频在线观看 | 中文字幕第五页 | 亚洲天堂中文在线 | 丁香五香天堂 | 国产日产欧产精品精品app | 少妇久久久久久久久久 | 国产免费网 | 亚洲日韩中文字幕一区 | 7m精品福利视频导航 | 亚洲色图欧美在线 | 操操干干 | 欧美日韩在线精品一区二区 | 日本在线不卡一区二区 | 狠狠久久亚洲欧美专区 | 香蕉视频免费在线观看 | 天堂在线中文资源 | 久久av影视 | 那个网站可以看毛片 | 精品国产1区2区 | 日本最大色倩网站www | 欧美色图1 | 精品国产三级a在线观看 | 精品人体无码一区二区三区 | 深夜网站在线观看 | 国产精品偷伦免费观看视频 | 久久无码人妻精品一区二区三区 | 97se亚洲国产综合自在线观看 | 中文字幕无码乱码人妻系列蜜桃 | 6080av| 国产免费a∨片同性同志 | 久久久亚洲精品无码 | 99久久精品日本一区二区免费 | www.国产色| 在线精品一区二区 | 精品国产鲁一鲁一区二区张丽 | www国产亚洲精品久久麻豆 | 日韩a在线播放 | 未满十八18禁止午夜免费网站 | 91成人在线视频 | 国内自拍视频一区二区三区 | 最新免费av网站 | 99亚洲一区 | www国产成人免费观看视频,深夜成人网 | 国产高清一区二区三区视频 | 成年人av在线 | 精品国产成人 | 久久午夜羞羞影院免费观看 | 成年美女黄网色视频免费4399 | 202丰满熟女妇大 | 久久av一区| 狠狠躁夜夜躁人人爽天天5 中国china露脸自拍性hd | 性色m3u8视频在线观看 | 国产精品久久久国产盗摄蜜臀 | 狠狠操2019 | 午夜精品视频 | 日韩精品五区 | 免费看48女人真人毛片 | 色偷偷av一区二区三区 | 黑人粗一硬一长一进一爽一a级 | jizz中文字幕| 欧美一级在线免费 | 99爱免费| 亚洲好骚综合 | 国产免费一区二区三区 | 性猛交xxxx乱大交孕妇2 | 最近最新中文字幕 | 国产中文字幕一区 | 亚洲国产美女视频 | 男女一级黄色 | 久久精品女人天堂av免费观看 | 日本道精品一区二区三区 | 欧美日产国产精品 | 日日夜夜拍 | 国内精品视频饥渴少妇在线播放 | 国产午夜精品一区理论片飘花 | 第九色婷婷 | 国产男人天堂 | 丰满肥臀大屁股熟妇激情视频 | 天天插天天射 | 久久福利视频导航 | 欧美三级韩国三级日本三斤 | 日韩精品久久无码中文字幕 | 动漫精品专区一区二区三区 | 99青青草| 韩国av一区二区 | 日韩v91综合区 | 欧美性猛交xx乱大交 | 国产情侣一区 | 变态 另类 国产 亚洲 | 午夜67194| 欧美日本一二三区 | 久久色网站 | 国产重口老太伦 | 日韩娇小xxxxhd | 国产1区2区3区中文字幕 | 国产乱理伦片在线观看 | 国产在线不卡一区二区三区 | 国产精品久久久国产偷窥 | 亚洲成a人片在线观看www | 欧美麻豆久久久久久中文 | 丰满少妇乱子伦精品看片 | 国产精品99久久久久人中文网介绍 | 国产福利免费观看 | 久久亚洲精品成人av | 久久蜜桃资源一区二区老牛 | 青青青草网站免费视频在线观看 | 中文字幕亚洲乱码熟女在线 | 一区二区免费 | 精品久久人妻av中文字幕 | 可以免费在线观看的av | 中文字幕在线2021 | 亚洲人成影院在线观看 | 小黄鸭精品aⅴ导航网站入口 | 国产精品99久久久精品无码 | 免费黄毛片 | 国产精品久久久久久久久久蜜臀 | ww久久 | 撕开奶罩揉吮奶头高潮av | 老司机深夜福利在线观看 | 免费人成在线观看网站 | 深夜网站在线观看 | 国产人妻精品一区二区三区不卡 | 日本丶国产丶欧美色综合 | 欧美69影院| 天天干天天色 | 国产精品网站在线观看免费传媒 | 午夜男人的天堂 | 成年人免费小视频 | 亚洲性无码av中文字幕 | 国产麻豆剧果冻传媒星空视频 | a级黄视频 | 97精品久久久午夜一区二区三区 |