無(wú)可否認(rèn)的是,人工智能已逐步滲透到我們的工作和生活中。服務(wù)機(jī)器人實(shí)際上是多種技術(shù)的融合和實(shí)現(xiàn),包括語(yǔ)音交互、導(dǎo)航定位、運(yùn)動(dòng)控制、后臺(tái)調(diào)度管理、多傳感技術(shù)、通信等多領(lǐng)域技術(shù)。要讓產(chǎn)品成功商用,這些技術(shù)缺一不可。

定位導(dǎo)航技術(shù):
得雷達(dá)SLAM者,走得更遠(yuǎn)
行業(yè)領(lǐng)先的服務(wù)機(jī)器人企業(yè),八成都采用了SLAM技術(shù)。簡(jiǎn)單來(lái)說(shuō),SLAM技術(shù)是指機(jī)器人在未知環(huán)境中,完成定位、建圖、路徑規(guī)劃的整套流程。
隨著谷歌無(wú)人駕駛車的使用,基于激光雷達(dá)技術(shù)的雷達(dá)SLAM算法也變成了科研界的熱門話題。據(jù)介紹,雷達(dá)SLAM雖然成本較高,但卻是目前最穩(wěn)定、最可靠、高性能的SLAM方式。剛剛完成A輪融資的深圳優(yōu)地科技有限公司,旗下優(yōu)地機(jī)器人采用的正是雷達(dá)SLAM。這種技術(shù)定位精度控制在±10mm內(nèi),能夠確保機(jī)器人在完全未知的環(huán)境中創(chuàng)造地圖,同時(shí)根據(jù)地圖進(jìn)行定位、導(dǎo)航、自主規(guī)劃路線。也就是說(shuō)你下達(dá)任務(wù)后以后它就能自主規(guī)劃路線、完成任務(wù)后回到迎賓地點(diǎn),無(wú)需人工操作,與谷歌無(wú)人駕駛技術(shù)有異曲同工之妙。
SLAM技術(shù)目前已廣泛應(yīng)用于AR、機(jī)器人、無(wú)人駕駛等新興領(lǐng)域,其中雷達(dá)SLAM因良好的指向性與高度聚焦性,成為行業(yè)主流定位導(dǎo)航方式。
運(yùn)動(dòng)控制技術(shù):
輪動(dòng)機(jī)器人更符合市場(chǎng)需求
有趣好玩的雙足機(jī)器人你一定都見(jiàn)過(guò),然而事實(shí)是這類機(jī)器人穩(wěn)定性差,移動(dòng)速度慢,并且一推就倒。而輪式、履帶式的服務(wù)機(jī)器人則擁有更好的平衡性,在運(yùn)動(dòng)過(guò)程中更穩(wěn)定。
“我們的機(jī)器人采用自主研發(fā)的輪式底盤,輪式底盤具有更強(qiáng)的穩(wěn)定性、可靠性和耐用性。”優(yōu)地科技負(fù)責(zé)人接受采訪時(shí)表示,“比如有的機(jī)器人只能在平地行走,而我們機(jī)器人可以爬坡,只要坡度不超過(guò)15度都可以,整機(jī)可以承重40kg。”
目前雙足機(jī)器人主要有電機(jī)和液壓兩種運(yùn)動(dòng)控制方式,前者結(jié)構(gòu)相對(duì)簡(jiǎn)單,但負(fù)載能力有限;后者雖然有較大的負(fù)載能力,但結(jié)構(gòu)復(fù)雜。而輪式、履帶式機(jī)器人的運(yùn)動(dòng)控制方式主要由縱向控制和橫向控制兩部分組成,前者調(diào)節(jié)移動(dòng)速度;后者調(diào)節(jié)移動(dòng)軌跡。在運(yùn)動(dòng)、避障過(guò)程中,輪式、履帶式機(jī)器人能夠根據(jù)速度的不同采取不同的控制策略,以保持整體的穩(wěn)定性。從目前的技術(shù)發(fā)展和實(shí)用性來(lái)看,輪式、履帶式的機(jī)器人顯然更符合市場(chǎng)需求。
多傳感器融合技術(shù):
最終體現(xiàn)產(chǎn)品差異化功能
傳感器如同機(jī)器人的“五官”,機(jī)器人通過(guò)傳感器獲取外界信息,以滿足探測(cè)和數(shù)據(jù)采集的需要。系統(tǒng)通過(guò)綜合、互補(bǔ)、修正、分析所得信息,從而完成決策,快速作出反應(yīng)。未來(lái)的機(jī)器人想要做得更像人,多傳感器融合技術(shù)至關(guān)重要。比如日本Pepper機(jī)器人就配有1個(gè)3D傳感器、5個(gè)觸摸傳感器、2個(gè)陀螺儀、2個(gè)聲波定位儀、3個(gè)緩沖傳感器、6個(gè)激光傳感器。通過(guò)這項(xiàng)技術(shù),Pepper能識(shí)別人的表情、語(yǔ)氣、周圍環(huán)境,并根據(jù)人的情緒做出更豐富的、更人性化的反應(yīng)。
目前我國(guó)主流服務(wù)機(jī)器人主要配有紅外傳感器、超聲波傳感器、觸覺(jué)傳感器、視覺(jué)傳感器等。實(shí)際上,如果服務(wù)機(jī)器人想要完成更多、更復(fù)雜的任務(wù),還需配備更多的傳感器。多傳感器融合技術(shù)的成熟與否,將直接體現(xiàn)在服務(wù)機(jī)器人的差異化功能上。
深度學(xué)習(xí)算法:
機(jī)器學(xué)習(xí)里的重要突破
“機(jī)器學(xué)習(xí)里面最重要的一個(gè)突破,就是深度學(xué)習(xí)。”李開(kāi)復(fù)最近在公開(kāi)演講中表示,“深度學(xué)習(xí),簡(jiǎn)單的理解,就是給非常非常大的神經(jīng)元,用特別大量的數(shù)據(jù)充進(jìn)去訓(xùn)練。它就可以在某個(gè)領(lǐng)域,在識(shí)別方面、分類方面,或者預(yù)測(cè)方面,遠(yuǎn)遠(yuǎn)超過(guò)任何過(guò)去的算法。”
所謂深度學(xué)習(xí)算法,就是機(jī)器人模仿人腦構(gòu)建神經(jīng)網(wǎng)絡(luò),并通過(guò)信息收集、建立模型的方式來(lái)解釋數(shù)據(jù),以達(dá)到機(jī)器學(xué)習(xí)的功能。機(jī)器人通過(guò)解析、學(xué)習(xí)數(shù)據(jù),更易理解人類的語(yǔ)言、行動(dòng),并做出更精準(zhǔn)的回應(yīng)。谷歌的阿爾法狗在“出道前”就是不斷地和自己下棋,研習(xí)棋譜,讓系統(tǒng)進(jìn)行自我博弈,并迅速完成自我進(jìn)化。
傳統(tǒng)機(jī)器人無(wú)法理解語(yǔ)意、環(huán)境,而深度學(xué)習(xí)算法的出現(xiàn)則改變了這種現(xiàn)狀。獲取的復(fù)雜數(shù)據(jù)模型越多,機(jī)器人就越“聰明”,它不再是機(jī)械性地完成任務(wù),而是有“思考”、有“判斷”地模仿人類做出相應(yīng)的舉動(dòng)。不過(guò),受技術(shù)水平、大數(shù)據(jù)獲取難題以及云運(yùn)算效率等因素限制,目前深度學(xué)習(xí)算法還存在一定的瓶頸,想要廣泛應(yīng)用于服務(wù)機(jī)器人中,恐怕還需要一段時(shí)間。
智能語(yǔ)音、通信技術(shù)和后臺(tái)管理技術(shù)等都將是企業(yè)能否搶占市場(chǎng)份額的關(guān)鍵技術(shù)。因文章篇幅限制,這里不再展開(kāi)討論。
據(jù)報(bào)道,2016年12月中國(guó)機(jī)器人產(chǎn)業(yè)聯(lián)盟將陸續(xù)發(fā)布3項(xiàng)聯(lián)盟標(biāo)準(zhǔn),17項(xiàng)機(jī)器人產(chǎn)業(yè)聯(lián)盟標(biāo)準(zhǔn)。2017年,垂直應(yīng)用場(chǎng)景與產(chǎn)業(yè)標(biāo)準(zhǔn)兩大現(xiàn)實(shí)因素也是服務(wù)機(jī)器人企業(yè)需要考量的重點(diǎn)。垂直應(yīng)用場(chǎng)景的選擇決定了機(jī)器人深耕的領(lǐng)域、方向,而能否符合標(biāo)準(zhǔn)規(guī)范則決定了機(jī)器人能否進(jìn)入市場(chǎng)銷售。
3·9:AlphaGo下圍棋戰(zhàn)勝圍棋宗師李世石;
3·23:微軟聊天機(jī)器人“Tay”學(xué)會(huì)種族歧視言論;
5·7:“自動(dòng)駕駛”特斯拉自動(dòng)駕駛致使車禍;
9·28:谷歌、亞馬遜、Facebook、IBM 及微軟五大科技巨頭組建超級(jí)AI聯(lián)盟;
10·12:美國(guó)白宮發(fā)布人工智能白皮書(shū);
10·17:微軟AI的語(yǔ)音識(shí)別能力首次超過(guò)人類;
11·25:人工智能改善癌癥診斷法;
12·5:亞馬遜開(kāi)展新零售業(yè)務(wù)Amazon Go;
12·19:扎克伯格開(kāi)發(fā)AI助手Jarvis;
12月:華人AI研究貢獻(xiàn)占據(jù)全球份額近一半。
2016年圍繞著人工智能各行各業(yè)開(kāi)始智能化探索,創(chuàng)投圈攻城略地,中美等眾多國(guó)家也積極布局人工智能搶占戰(zhàn)略制高點(diǎn)。在市場(chǎng)規(guī)模方面,《2016中國(guó)人工智能產(chǎn)業(yè)發(fā)展報(bào)告》中多家分析機(jī)構(gòu)的數(shù)字評(píng)估認(rèn)為,2016年年底,世界人工智能市場(chǎng)規(guī)模將突破100億美元,其中,中國(guó)市場(chǎng)規(guī)模將達(dá)到15億美元左右。未來(lái),人工智能市場(chǎng)有望進(jìn)一步擴(kuò)大,到2020年,全球人工智能市場(chǎng)將發(fā)展到200億美元左右的規(guī)模。人工智能,未來(lái)已來(lái)?
人工智能尚處初級(jí)階段
學(xué)術(shù)界將人工智能界定為“研究與設(shè)計(jì)智能體”,而且把智能體定義為“能夠感知環(huán)境,并采取行動(dòng)使成功機(jī)會(huì)**化的系統(tǒng)”,一般分為感知智能、認(rèn)知智能和創(chuàng)造性智能。對(duì)其研究最早出現(xiàn)在 20 世紀(jì) 50 年代,在發(fā)展過(guò)程中經(jīng)歷了起起落落,進(jìn)入21世紀(jì)以后,隨著深度學(xué)習(xí)、大數(shù)據(jù)、云計(jì)算等相關(guān)技術(shù)的成熟,近年來(lái)取得眾多突破性的發(fā)展。
但縱觀社會(huì)發(fā)展的歷程來(lái)看,目前人工智能的發(fā)展仍處于初級(jí)階段,稱之為“弱人工智能”,其中感知智能以深度卷積神經(jīng)網(wǎng)絡(luò)為代表的感知智能依賴于大數(shù)據(jù),在視覺(jué)物體識(shí)別、語(yǔ)音識(shí)別和自然語(yǔ)言理解等方面取得了媲美人類水平的成功;具有近似人類能力的認(rèn)知智能的研究,仍在逐步探索中;而創(chuàng)造性智能則是在更高層次上的人工智能,要求人工智能具有類似于人類的頓悟、靈感等超強(qiáng)能力,這方面的研究甚至還沒(méi)有起步。
從產(chǎn)業(yè)鏈上看,人工智能產(chǎn)業(yè)鏈包括基礎(chǔ)技術(shù)支撐、人工智能技術(shù)及人工智能應(yīng)用三個(gè)層次。其中基礎(chǔ)技術(shù)支撐由數(shù)據(jù)中心及運(yùn)算平臺(tái)構(gòu)成;人工智能技術(shù)是基于基礎(chǔ)層提供的存儲(chǔ)資源和大數(shù)據(jù),通過(guò)機(jī)器學(xué)習(xí)建模,開(kāi)發(fā)面向不同領(lǐng)域的應(yīng)用技術(shù);人工智能應(yīng)用主要為人工智能與傳統(tǒng)產(chǎn)業(yè)相結(jié)合實(shí)現(xiàn)不同場(chǎng)景的應(yīng)用,如機(jī)器人、無(wú)人駕駛汽車、智能家居、智能醫(yī)療等領(lǐng)域。目前人工智能的發(fā)展還是國(guó)內(nèi)外科技巨頭為主推動(dòng)力,國(guó)外以Google、Facebook、IBM、Microsoft、Amazon、Intel等為主,國(guó)內(nèi)以BAT及語(yǔ)音巨頭科大訊飛為主。
人工智能的重要意義是對(duì)每一個(gè)行業(yè)和領(lǐng)域效率帶來(lái)指數(shù)級(jí)提升推動(dòng)作用,由于技術(shù)的復(fù)雜性,發(fā)展不會(huì)一蹴而就,必然經(jīng)歷一個(gè)由點(diǎn)到面,由專用領(lǐng)域到通用領(lǐng)域的歷程,通用領(lǐng)域的人工智能實(shí)現(xiàn)還比較遙遠(yuǎn)。截至2016年11月,據(jù)數(shù)據(jù)統(tǒng)計(jì)顯示,全球1485家人工智能公司可劃分為深度學(xué)習(xí)、機(jī)器學(xué)習(xí)、機(jī)器學(xué)習(xí)、自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)、圖像識(shí)別、手勢(shì)控制、虛擬私人助手、無(wú)人駕駛、智能機(jī)器人、語(yǔ)音翻譯等13個(gè)細(xì)分領(lǐng)域。近五年內(nèi),專用領(lǐng)域的定向智能化將是人工智能主要的應(yīng)用發(fā)展方向。或許在更遠(yuǎn)的將來(lái),如果人腦芯片等硬件架構(gòu)能有所突破,運(yùn)算能力有極大提高,則專用智能將有可能逐步進(jìn)化成為跨場(chǎng)景、跨上下游應(yīng)用的通用智能。
2017 年人工智能將掀起怎樣的風(fēng)暴?
有機(jī)構(gòu)預(yù)測(cè)2017年人工智能的投資將同比增長(zhǎng)300%以上。人工智能在技術(shù)上將更迅猛發(fā)展,智能語(yǔ)音、智能圖像、自然語(yǔ)言處理、深度學(xué)習(xí)等技術(shù)越來(lái)越成熟,像空氣和水一樣會(huì)逐步滲透到日常生活。行業(yè)專家關(guān)于2017年人工智能的發(fā)展方向有如下幾點(diǎn):
1.機(jī)器學(xué)習(xí)應(yīng)用的擴(kuò)張:機(jī)器學(xué)習(xí)正被應(yīng)用在更復(fù)雜的任務(wù)以及更多領(lǐng)域中,而且被更多的人作為挖掘數(shù)據(jù)的方式。
2.無(wú)監(jiān)督學(xué)習(xí)會(huì)取得更多的進(jìn)展(也存在很大的挑戰(zhàn),在這方面離人類的能力還差得很遠(yuǎn))。
3.計(jì)算機(jī)在理解和生成自然語(yǔ)言:預(yù)計(jì)**會(huì)在聊天機(jī)器人和其他對(duì)話系統(tǒng)上落地。
4.深度學(xué)習(xí)和其他的機(jī)器學(xué)習(xí)以及人工智能技術(shù)的混用,是成熟技術(shù)的典型標(biāo)志。將深度學(xué)習(xí)應(yīng)用到醫(yī)療領(lǐng)域中包括對(duì)醫(yī)療圖像、臨床數(shù)據(jù)、基因組數(shù)據(jù)等各種類型數(shù)據(jù)上的研究和成果將會(huì)大大增加。
5.自動(dòng)駕駛汽車,計(jì)算機(jī)視覺(jué)也會(huì)持續(xù)取得進(jìn)展。
6.聊天機(jī)器人和自動(dòng)駕駛汽車可能會(huì)取得較大進(jìn)展。
7.預(yù)計(jì)更多的人類基準(zhǔn)會(huì)被打破,特別是那些基于視覺(jué)、適合卷積神經(jīng)網(wǎng)絡(luò)的挑戰(zhàn)。而非視覺(jué)特征創(chuàng)建和時(shí)間感知方法將變得更頻繁、更富有成果。
總的來(lái)說(shuō),2017年人工智能還將深遠(yuǎn)影響著全球各個(gè)科技領(lǐng)域的創(chuàng)新,持續(xù)改變著消費(fèi)者、企業(yè)以及機(jī)器的交互方式,同時(shí)刺激著科技市場(chǎng)成長(zhǎng)和革新。有許多關(guān)于人工智能公認(rèn)定義的爭(zhēng)論。有些人認(rèn)為人工智能就是“認(rèn)知計(jì)算”或是“機(jī)器智能”,而另一些人則把它與“機(jī)器學(xué)習(xí)”的概念混淆了。然而,人工智能并不是特指某種技術(shù),它實(shí)際上是一個(gè)由多門學(xué)科組成的廣闊領(lǐng)域,包括機(jī)器人學(xué)和機(jī)器學(xué)習(xí)等。人工智能的**目標(biāo)是讓機(jī)器替代人類去完成需要認(rèn)知能力的任務(wù)。為了實(shí)現(xiàn)這一目標(biāo),機(jī)器必須自動(dòng)學(xué)習(xí)掌握能力,而不僅僅是執(zhí)行程序員編寫(xiě)的命令。
人工智能前景可期 六大領(lǐng)域亟需密切關(guān)注
人工智能在過(guò)去的十年里取得了令人嘆為觀止的進(jìn)步,例如自動(dòng)駕駛汽車、語(yǔ)音識(shí)別和語(yǔ)音合成。在此背景之下,人工智能這一話題越來(lái)越多地出現(xiàn)在同事和家人的閑談之間,人工智能技術(shù)已經(jīng)滲透到他們生活的角角落落。與此同時(shí),流行媒體幾乎每天也在報(bào)道人工智能和技術(shù)巨頭們,介紹他們?cè)谌斯ぶ悄茴I(lǐng)域的長(zhǎng)期戰(zhàn)略。一些投資者和企業(yè)家渴望了解如何從這個(gè)新領(lǐng)域挖掘價(jià)值,大多數(shù)人還是絞盡腦汁思考究竟人工智能會(huì)改變什么。此外,各國(guó)政府也正在努力應(yīng)對(duì)自動(dòng)化給社會(huì)帶來(lái)的影響(如奧巴馬總統(tǒng)的離職演講)。
其中,人工智能的六大領(lǐng)域在未來(lái)可能對(duì)數(shù)字產(chǎn)品和數(shù)字服務(wù)產(chǎn)生重要的影響。作者一一列舉了這六個(gè)方向,解釋了它們的重要性,目前的應(yīng)用場(chǎng)景,并列舉出正在使用的公司和研究機(jī)構(gòu)。
強(qiáng)化學(xué)習(xí)
強(qiáng)化學(xué)習(xí)是一種通過(guò)實(shí)驗(yàn)和錯(cuò)誤來(lái)學(xué)習(xí)的方法,它受人類學(xué)習(xí)新技能的過(guò)程啟發(fā)。在典型的強(qiáng)化學(xué)習(xí)案例中,代理者通過(guò)觀察當(dāng)前所處的狀態(tài),進(jìn)而采取行動(dòng)使得長(zhǎng)期獎(jiǎng)勵(lì)的結(jié)果**化。每執(zhí)行一次動(dòng)作,代理者都會(huì)收到來(lái)自環(huán)境的反饋信息,因此它能判斷這次動(dòng)作帶來(lái)的效果是積極的還是消極的。在這個(gè)過(guò)程中,代理者需要平衡根據(jù)經(jīng)驗(yàn)尋找**策略和探索新策略兩方面,以期實(shí)現(xiàn)最終的目標(biāo)。
Google的DeepMind團(tuán)隊(duì)在Atari游戲和圍棋對(duì)抗中都運(yùn)用了強(qiáng)化學(xué)習(xí)的技術(shù)。在真實(shí)場(chǎng)景中,強(qiáng)化學(xué)習(xí)有被用來(lái)提高Google數(shù)據(jù)中心的能源利用率。強(qiáng)化學(xué)習(xí)技術(shù)為這套冷卻系統(tǒng)節(jié)省了約40%的能耗。強(qiáng)化學(xué)習(xí)有一個(gè)非常重要的優(yōu)勢(shì),它的代理者能以低廉的代價(jià)模擬生成大量的訓(xùn)練數(shù)據(jù)。相比有監(jiān)督的深度學(xué)習(xí)任務(wù),這個(gè)優(yōu)勢(shì)非常明顯,節(jié)省了一大筆人工標(biāo)注數(shù)據(jù)的費(fèi)用。
應(yīng)用:包括城市道路的自動(dòng)駕駛;三維環(huán)境的導(dǎo)航;多個(gè)代理者在同樣的環(huán)境中交互和學(xué)習(xí)等
主要研究人員: Pieter Abbeel (OpenAI), David Silver, Nando de Freitas, Raia Hadsell (Google DeepMind), Carl Rasmussen (Cambridge), Rich Sutton (Alberta), John Shawe-Taylor (UCL) 等
技術(shù)公司代表: Google DeepMind, Prowler.io, Osaro, MicroPSI, Maluuba/Microsoft, NVIDIA, Mobileye等
生成模型
不同于用來(lái)完成分類和回歸任務(wù)的判別模型,生成模型從訓(xùn)練樣本中學(xué)到一個(gè)概率分布。通過(guò)從高維的分布中采樣,生成模型輸出與訓(xùn)練樣本類似的新樣本。這也意味著,若生成模型的訓(xùn)練數(shù)據(jù)是臉部的圖像集,那么訓(xùn)練后得到的模型也能輸出類似于臉的合成圖片。細(xì)節(jié)內(nèi)容可以參考Ian Goodfellow的文章。他提出的生成對(duì)抗模型(GAN)的結(jié)構(gòu)當(dāng)下在學(xué)術(shù)界非常的火熱,因?yàn)樗o無(wú)監(jiān)督學(xué)習(xí)提供了一種新思路。GAN結(jié)構(gòu)用到了兩個(gè)神經(jīng)網(wǎng)絡(luò):一個(gè)是生成器,它負(fù)責(zé)將隨機(jī)輸入的噪聲數(shù)據(jù)合成為新的內(nèi)容(比如合成圖片),另一個(gè)是判別器,負(fù)責(zé)學(xué)習(xí)真實(shí)的圖片并判斷生成器生成的內(nèi)容是否以假亂真。對(duì)抗訓(xùn)練可以被認(rèn)為是一類游戲,生成器必須反復(fù)學(xué)習(xí)用隨機(jī)噪音數(shù)據(jù)合成有意義的內(nèi)容,直到判別器無(wú)法區(qū)分合成內(nèi)容的真?zhèn)巍_@套框架正在被擴(kuò)展應(yīng)用到許多數(shù)據(jù)模式和任務(wù)中。
應(yīng)用:仿真時(shí)間序列的特征(例如,在強(qiáng)化學(xué)習(xí)中規(guī)劃任務(wù));超分辨率圖像;從二維圖像復(fù)原三維結(jié)構(gòu);小規(guī)模標(biāo)注數(shù)據(jù)集的泛化;預(yù)測(cè)視頻的下一幀;生成自然語(yǔ)言的對(duì)話內(nèi)容;藝術(shù)風(fēng)格遷移;語(yǔ)音和音樂(lè)的合成
技術(shù)公司代表: Twitter Cortex, Adobe, Apple, Prisma, Jukedeck, Creative.ai, Gluru, Mapillary, Unbabel
主要研究人員: Ian Goodfellow (OpenAI), Yann LeCun 和 Soumith Chintala (Facebook 人工智能研究院), Shakir Mohamed 和 A?ron van den Oord (Google DeepMind)等等
記憶網(wǎng)絡(luò)
為了讓人工智能系統(tǒng)像人類一樣能夠適應(yīng)各式各樣的環(huán)境,它們必須持續(xù)不斷地掌握新技能,并且記住如何在未來(lái)的場(chǎng)景中應(yīng)用這些技能。傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)很難掌握一系列的學(xué)習(xí)任務(wù)。這項(xiàng)缺點(diǎn)被科學(xué)家們稱作是災(zāi)難性遺忘。其中的難點(diǎn)在于當(dāng)一個(gè)神經(jīng)網(wǎng)絡(luò)針對(duì)A任務(wù)完成訓(xùn)練之后,若是再訓(xùn)練它解決B任務(wù),則網(wǎng)絡(luò)模型的權(quán)重值不再適用于任務(wù)A。
目前,有一些網(wǎng)絡(luò)結(jié)構(gòu)能夠讓模型具備不同程度的記憶能力。其中包括長(zhǎng)短期記憶網(wǎng)絡(luò)(一種遞歸神經(jīng)網(wǎng)絡(luò))可以處理和預(yù)測(cè)時(shí)間序列;DeepMind團(tuán)隊(duì)的微神經(jīng)計(jì)算機(jī),它結(jié)合了神經(jīng)網(wǎng)絡(luò)和記憶系統(tǒng),以便于從復(fù)雜的數(shù)據(jù)結(jié)構(gòu)中學(xué)習(xí);漸進(jìn)式神經(jīng)網(wǎng)絡(luò),它學(xué)習(xí)各個(gè)獨(dú)立模型之間的側(cè)向關(guān)聯(lián),從這些已有的網(wǎng)絡(luò)模型中提取有用的特征,用來(lái)完成新的任務(wù)。
應(yīng)用:訓(xùn)練能夠適應(yīng)新環(huán)境的代理者;機(jī)器人手臂控制任務(wù);自動(dòng)駕駛車輛;時(shí)間序列預(yù)測(cè)(如金融市場(chǎng)、視頻預(yù)測(cè));理解自然語(yǔ)言和預(yù)測(cè)下文。
技術(shù)公司代表: Google DeepMind, NNaisense, SwiftKey/Microsoft Research.
主要研究人員: Alex Graves, Raia Hadsell, Koray Kavukcuoglu (Google DeepMind), Jürgen Schmidhuber (IDSAI), Geoffrey Hinton (Google Brain/Toronto)
微數(shù)據(jù)學(xué)習(xí)微模型
一直以來(lái)深度學(xué)習(xí)模型都是需要堆積大量的訓(xùn)練數(shù)據(jù)才能達(dá)到**的效果。比如,某只參加ImageNet挑戰(zhàn)賽的團(tuán)隊(duì)使用了120萬(wàn)張分布于1000個(gè)類別的人工標(biāo)注圖像訓(xùn)練模型。離開(kāi)大規(guī)模的訓(xùn)練數(shù)據(jù),深度學(xué)習(xí)模型就不會(huì)收斂到**值,也無(wú)法在語(yǔ)音識(shí)別、機(jī)器翻譯等復(fù)雜的任務(wù)上取得好效果。數(shù)據(jù)量需求的增長(zhǎng)往往發(fā)生在用單個(gè)神經(jīng)網(wǎng)絡(luò)模型處理端到端的情況下,比如輸入原始的語(yǔ)音片段,要求輸出轉(zhuǎn)換后的文字內(nèi)容。這個(gè)過(guò)程與多個(gè)網(wǎng)絡(luò)協(xié)同工作各處理一步中間結(jié)果不同(比如,原始語(yǔ)音輸入→音素→詞→文本輸出)。如果我們想用人工智能系統(tǒng)解決訓(xùn)練數(shù)據(jù)稀缺的任務(wù)時(shí),希望模型訓(xùn)練用到的樣本越少越好。當(dāng)訓(xùn)練數(shù)據(jù)集較小時(shí),過(guò)擬合、異常值干擾、訓(xùn)練集和測(cè)試集分布不一致等問(wèn)題都會(huì)接踵而至。另一種方法是將在其它任務(wù)上訓(xùn)練好的模型遷移到新的任務(wù)中,這種方法被稱為是遷移學(xué)習(xí)。
一個(gè)相關(guān)的問(wèn)題是用更少的模型參數(shù)建立更小的深學(xué)習(xí)架構(gòu),而模型的效果卻保持**。這種技術(shù)的優(yōu)勢(shì)在于更高效的分布式訓(xùn)練過(guò)程,因?yàn)橛?xùn)練過(guò)程中需要傳輸?shù)膮?shù)減少了,并且能夠方便地將模型部署在內(nèi)存大小受限制的嵌入式硬件上。
應(yīng)用:訓(xùn)練淺層模型來(lái)模擬在大規(guī)模的已標(biāo)注訓(xùn)練數(shù)據(jù)集上訓(xùn)練得到的深度網(wǎng)絡(luò)模型;構(gòu)建效果相當(dāng)?shù)珔?shù)更少的模型結(jié)構(gòu)(如SqueezeNet);機(jī)器翻譯
技術(shù)公司代表: Geometric Intelligence/Uber, DeepScale.ai, Microsoft Research, Curious AI Company, Google, Bloomsbury AI
主要研究人員: Zoubin Ghahramani (Cambridge), Yoshua Bengio (Montreal), Josh Tenenbaum (MIT), Brendan Lake (NYU), Oriol Vinyals (Google DeepMind), Sebastian Riedel (UCL)
學(xué)習(xí)/推理硬件
促進(jìn)人工智能發(fā)展的催化劑之一就是圖形處理器(GPU)的升級(jí),不同于CPU的順序執(zhí)行模式,GPU支持大規(guī)模的并行架構(gòu),可以同時(shí)處理多個(gè)任務(wù)。鑒于神經(jīng)網(wǎng)絡(luò)必須用大規(guī)模(且高維度)數(shù)據(jù)集訓(xùn)練,GPU的效率遠(yuǎn)高于CPU。這就是為什么自從2012年**個(gè)GPU訓(xùn)練的神經(jīng)網(wǎng)絡(luò)模型——AlexNet公布之后,GPU已經(jīng)成為名副其實(shí)的淘金鐵鍬。NVIDIA在2017年繼續(xù)領(lǐng)跑行業(yè),領(lǐng)先于Intel、Qualcomm、AMD和后起之秀Google。
然而,GPU并非專為模型訓(xùn)練或預(yù)測(cè)而設(shè)計(jì),它原本是用于視頻游戲的圖像渲染。GPU具有高精度計(jì)算的能力,卻遭遇內(nèi)存帶寬和數(shù)據(jù)吞吐量的問(wèn)題。這為Google之類的大公司和許多小型創(chuàng)業(yè)公司開(kāi)辟了新領(lǐng)域,它們?yōu)楦呔S機(jī)器學(xué)習(xí)任務(wù)設(shè)計(jì)和制造處理芯片。芯片設(shè)計(jì)的改進(jìn)點(diǎn)包括更大的內(nèi)存帶寬,圖計(jì)算代替了向量計(jì)算(GPU)和矢量計(jì)算(CPU),更高的計(jì)算密度,更低的能源消耗。這些改進(jìn)令人感到興奮,因?yàn)樽罱K又反哺到使用者的身上:更快和更有效的模型訓(xùn)練→更好的用戶體驗(yàn)→用戶更多的使用產(chǎn)品→收集更大的數(shù)據(jù)集→通過(guò)優(yōu)化模型提高產(chǎn)品的性能。因此,那些訓(xùn)練和部署模型更快的系統(tǒng)占據(jù)顯著的優(yōu)勢(shì)。
應(yīng)用:模型的快速訓(xùn)練;低能耗預(yù)測(cè)運(yùn)算;持續(xù)性監(jiān)聽(tīng)物聯(lián)網(wǎng)設(shè)備;云服務(wù)架構(gòu);自動(dòng)駕駛車輛;機(jī)器人
技術(shù)公司代表: Graphcore, Cerebras, Isocline Engineering, Google (TPU), NVIDIA (DGX-1), Nervana Systems (Intel), Movidius (Intel), Scortex
仿真環(huán)境
正如之前提到,為人工智能系統(tǒng)準(zhǔn)備訓(xùn)練數(shù)據(jù)很具有挑戰(zhàn)性。而且,若要將人工智能系統(tǒng)應(yīng)用到實(shí)際生活中,它必須具有適用性。因此,開(kāi)發(fā)數(shù)字環(huán)境來(lái)模擬真實(shí)的物理世界和行為將為我們提供測(cè)試人工智能系統(tǒng)適應(yīng)性的機(jī)會(huì)。這些環(huán)境給人工智能系統(tǒng)呈現(xiàn)原始像素,然后根據(jù)設(shè)定的目標(biāo)而采取某些行動(dòng)。在這些模擬環(huán)境中的訓(xùn)練可以幫助我們了解人工智能系統(tǒng)的學(xué)習(xí)原理,如何改進(jìn)系統(tǒng),也為我們提供了可以應(yīng)用于真實(shí)環(huán)境的模型。
應(yīng)用:模擬駕駛;工業(yè)設(shè)計(jì);游戲開(kāi)發(fā);智慧城市
技術(shù)公司代表: Improbable, Unity 3D, Microsoft (Minecraft), Google DeepMind/Blizzard, OpenAI, Comma.ai, Unreal Engine, Amazon Lumberyard