返回
頂部
我們已發(fā)送驗證鏈接到您的郵箱,請查收并驗證
沒收到驗證郵件?請確認郵箱是否正確或 重新發(fā)送郵件
確定
產(chǎn)業(yè)行業(yè)法院投稿訴訟招聘TOP100政策國際視野人物許可交易深度專題活動灣區(qū)IP動態(tài)職場商標(biāo)Oversea晨報董圖公司審查員說法官說首席知識產(chǎn)權(quán)官G40領(lǐng)袖機構(gòu)企業(yè)專利律所

適合專利代理師看的神經(jīng)網(wǎng)絡(luò)模型

深度
其言朗朗6年前
適合專利代理師看的神經(jīng)網(wǎng)絡(luò)模型

適合專利代理師看的神經(jīng)網(wǎng)絡(luò)模型

#文章由作者授權(quán)發(fā)布,未經(jīng)作者許可,禁止轉(zhuǎn)載,不代表IPRdaily立場#


原標(biāo)題:適合專利代理師看的神經(jīng)網(wǎng)絡(luò)模型


作為一個在籃球界深耕近二十年的專利代理師,經(jīng)常和同事吐槽工作中的各種正經(jīng)和不正經(jīng)的事(說到這里是不是以為筆者又要開始不正經(jīng)了),好的,筆者要開始正經(jīng)地扒“神經(jīng)網(wǎng)絡(luò)模型到底是怎么煉成的了”(大牛們看到這里就可以了,此文是專利代理師特供)。


神經(jīng)網(wǎng)絡(luò)模型是什么?


適合專利代理師看的神經(jīng)網(wǎng)絡(luò)模型


神經(jīng)網(wǎng)絡(luò)模型通常被視為聰明(無所不能)的黑盒子,給它喂什么樣的標(biāo)記樣本,它就能具備識別同類樣本的能力,但是執(zhí)著、較真、視客戶為上帝(負責(zé)任)的專利代理師是不會允許自己撰寫的專利文稿這么淺薄的,都恨不得把黑盒子拆開一個個分析其內(nèi)部每一部分的結(jié)構(gòu)、這部分結(jié)構(gòu)所提取的特征、它的權(quán)重是多少,說到這里,專利代理師是不是又要開始問:


神經(jīng)網(wǎng)絡(luò)模型到底是什么?


以神經(jīng)網(wǎng)絡(luò)模型從圖像中識別大白兔為例,其識別大白兔的大致過程是:將圖像分割成若干圖像塊,提取每個圖像塊具有的局部特征,再將這些圖像塊的局部特征匯總成全局特征,進而完成大白兔的識別。整個過程中,神經(jīng)網(wǎng)絡(luò)模型的工作可以分成如下幾個主要步驟:


步驟1,卷積層提取特征


例如,上述待識別圖像大小為7*7,每個像素點內(nèi)都存儲著圖像的顏色值(如左側(cè)視圖),然后通過一個卷積核(如中間視圖,相當(dāng)于權(quán)重)從圖像中提取特征,卷積核與數(shù)字矩陣對應(yīng)位相乘再相加,得到卷積層輸出結(jié)果(如右側(cè)視圖)。


適合專利代理師看的神經(jīng)網(wǎng)絡(luò)模型


上述卷積核每和一個3*3的圖像塊完成卷積(此圖和上圖的卷積核不同,原諒筆者盜圖o(╯□╰)o)后向右移動一個像素點,下圖示出了以步長為1(即每次卷積完后移動一個像素)的完整卷積過程,當(dāng)所有的像素點都至少被覆蓋一次后,就可以產(chǎn)生一個卷積層的輸出:


適合專利代理師看的神經(jīng)網(wǎng)絡(luò)模型


神經(jīng)網(wǎng)絡(luò)模型初始時并不知道要識別哪些特征,而是通過比較不同卷積核的輸出來確定哪一個卷積核(該卷積核所識別的特征即所需的最能表現(xiàn)該圖像的特征),比如要識別圖像中曲線這一特征,那么某個卷積核的輸出值越高,就說明該卷積核與曲線這一特征的匹配程度就越高,越能表現(xiàn)該曲線特征。


適合專利代理師看的神經(jīng)網(wǎng)絡(luò)模型



當(dāng)上述卷積核識別到大白兔屁股(就是傳說中的曲線)的時候,卷積核與大白兔屁股區(qū)域數(shù)字矩陣相乘后輸出較大,而在該卷積核識別大白兔的耳朵的時候,輸出則可能很小。


此時就可以將這個卷積核保存用來識別曲線特征,采用同樣的方式能找出識別大白兔其他部位(特征)的卷積核,在此過程中,卷積層在訓(xùn)練時通過不斷的改變所使用的卷積核,來從中選取出與圖片特征最匹配的卷積核,進而在圖片識別過程中利用這些卷積核的輸出來確定對應(yīng)的圖片特征。


步驟2,池化層處理


卷積層輸出的特征作為池化層的輸入,由于卷積核數(shù)量眾多,輸入的特征維度也很大,為了減少需要訓(xùn)練的參數(shù)數(shù)量和減小過擬合現(xiàn)象(過擬合時模型會過多的去注重細節(jié)特征,而不是共性特征,導(dǎo)致識別準(zhǔn)確率下降),可以只保留卷積層輸出的特征中有用的特征,而消除其中屬于噪聲的特征,既能減少噪聲傳送,還能降低特征維度。


池化層常見的兩種處理方式是:


最大池化(以步長為2示意):


適合專利代理師看的神經(jīng)網(wǎng)絡(luò)模型


均值池化:


適合專利代理師看的神經(jīng)網(wǎng)絡(luò)模型


步驟3,全連接層處理


全連接層(fullyconnected layers,F(xiàn)C)在整個神經(jīng)網(wǎng)絡(luò)模型中相當(dāng)于“分類器”,通過卷積層和池化層的操作可將原始數(shù)據(jù)映射到隱層特征空間,全連接層將學(xué)到的“分布式特征表示”映射到樣本標(biāo)記空間,即對于卷積層和池化層提取的有用的圖像特征(即局部特征),全連接層利用這些有用的圖像特征進行分類,利用激活函數(shù)對匯總的局部特征進行一些非線性變換,得到輸出結(jié)果。


說到這里,是不是覺得神經(jīng)網(wǎng)絡(luò)模型不僅僅是在獨立權(quán)利要求中寫個黑盒子就完了吧,不要說筆者沒有給出提示哦,對于不同的場景,識別過程中用到的卷積核、特征、各層的參數(shù)以及訓(xùn)練中卷積核的選擇、參數(shù)的訓(xùn)練、激活函數(shù)的作用都是不同的,利用這些不同可以完美地環(huán)繞在黑盒子周圍,保護著黑盒子(咳咳,未完待續(xù))。  



來源:康信知識產(chǎn)權(quán)微信平臺

作者:曾軍

編輯:IPRdaily王穎          校對:IPRdaily縱橫君


推薦閱讀(點擊圖文,閱讀全文)


適合專利代理師看的神經(jīng)網(wǎng)絡(luò)模型

倒計時!2019年“知識產(chǎn)權(quán)服務(wù)萬里行”四川站,重磅來襲!


適合專利代理師看的神經(jīng)網(wǎng)絡(luò)模型

開年重磅!尋找40位40歲以下企業(yè)知識產(chǎn)權(quán)精英(40 Under 40)


“投稿”請投郵箱“iprdaily@163.com”


適合專利代理師看的神經(jīng)網(wǎng)絡(luò)模型

「關(guān)于IPRdaily」


IPRdaily成立于2014年,是全球影響力的知識產(chǎn)權(quán)媒體+產(chǎn)業(yè)服務(wù)平臺,致力于連接全球知識產(chǎn)權(quán)人,用戶匯聚了中國、美國、德國、俄羅斯、以色列、澳大利亞、新加坡、日本、韓國等15個國家和地區(qū)的高科技公司、成長型科技企業(yè)IP高管、研發(fā)人員、法務(wù)、政府機構(gòu)、律所、事務(wù)所、科研院校等全球近50多萬產(chǎn)業(yè)用戶(國內(nèi)25萬+海外30萬);同時擁有近百萬條高質(zhì)量的技術(shù)資源+專利資源,通過媒體構(gòu)建全球知識產(chǎn)權(quán)資產(chǎn)信息第一入口。2016年獲啟賦資本領(lǐng)投和天使匯跟投的Pre-A輪融資。

(英文官網(wǎng):iprdaily.com  中文官網(wǎng):iprdaily.cn) 

 

本文來自康信知識產(chǎn)權(quán)微信平臺并經(jīng)IPRdaily.cn中文網(wǎng)編輯。轉(zhuǎn)載此文章須經(jīng)權(quán)利人同意,并附上出處與作者信息。文章不代表IPRdaily.cn立場,如若轉(zhuǎn)載,請注明出處:“http://islanderfriend.com/”

其言朗朗投稿作者
共發(fā)表文章1245
最近文章
關(guān)鍵詞
首席知識產(chǎn)權(quán)官 世界知識產(chǎn)權(quán)日 美國專利訴訟管理策略 大數(shù)據(jù) 軟件著作權(quán)登記 專利商標(biāo) 商標(biāo)注冊人 人工智能 版權(quán)登記代理 如何快速獲得美國專利授權(quán)? 材料科學(xué) 申請注冊商標(biāo) 軟件著作權(quán) 虛擬現(xiàn)實與增強現(xiàn)實 專利侵權(quán)糾紛行政處理 專利預(yù)警 知識產(chǎn)權(quán) 全球視野 中國商標(biāo) 版權(quán)保護中心 智能硬件 新材料 新一代信息技術(shù)產(chǎn)業(yè) 躲過商標(biāo)轉(zhuǎn)讓的陷阱 航空航天裝備 樂天 產(chǎn)業(yè) 海洋工程裝備及高技術(shù)船舶 著作權(quán) 電子版權(quán) 醫(yī)藥及高性能醫(yī)療器械 中國專利年報 游戲動漫 條例 國際專利 商標(biāo) 實用新型專利 專利費用 專利管理 出版管理條例 版權(quán)商標(biāo) 知識產(chǎn)權(quán)侵權(quán) 商標(biāo)審查協(xié)作中心 法律和政策 企業(yè)商標(biāo)布局 新商標(biāo)審查「不規(guī)范漢字」審理標(biāo)準(zhǔn) 專利機構(gòu)排名 商標(biāo)分類 專利檢索 申請商標(biāo)注冊 法規(guī) 行業(yè) 法律常識 設(shè)計專利 2016知識產(chǎn)權(quán)行業(yè)分析 發(fā)明專利申請 國家商標(biāo)總局 電影版權(quán) 專利申請 香港知識產(chǎn)權(quán) 國防知識產(chǎn)權(quán) 國際版權(quán)交易 十件 版權(quán) 顧問 版權(quán)登記 發(fā)明專利 亞洲知識產(chǎn)權(quán) 版權(quán)歸屬 商標(biāo)辦理 商標(biāo)申請 美國專利局 ip 共享單車 一帶一路商標(biāo) 融資 馳名商標(biāo)保護 知識產(chǎn)權(quán)工程師 授權(quán) 音樂的版權(quán) 專利 商標(biāo)數(shù)據(jù) 知識產(chǎn)權(quán)局 知識產(chǎn)權(quán)法 專利小白 商標(biāo)是什么 商標(biāo)注冊 知識產(chǎn)權(quán)網(wǎng) 中超 商標(biāo)審查 維權(quán) 律所 專利代理人 知識產(chǎn)權(quán)案例 專利運營 現(xiàn)代產(chǎn)業(yè)
本文來自于iprdaily,永久保存地址為http://islanderfriend.com/article_22021.html,發(fā)布時間為2019-06-23 14:41:36。

文章不錯,犒勞下辛苦的作者吧

    我也說兩句
    還可以輸入140個字
    我要評論
    回復(fù)
    還可以輸入 70 個字
    請選擇打賞金額