« ディープラーニング(6) | トップページ | リチウムイオン電池が過放電に弱い理由 »

2017年1月19日 (木)

ディープラーニング(7)

 コグニトロンの欠点を解決すべく、福島先生は脳の情報処理構造に注目された。その構造というのは、ヒューベルとウィーセルが猫の脳から発見した視覚野に関するヒューベル・ウィーセル仮説である。

 その仮説とは、単純型細胞、複雑型細胞、超複雑型細胞などが階層的に結合された神経回路で視覚情報処理が行われているというものである。福島先生は単純型細胞をS細胞、複雑型細胞をC細胞と命名し、それぞれの組を集めて階層化するネオコグニトロンの研究を始めた。

 ネオコグニトロンは視覚野を真似た構造のため、まずS細胞で画像の特徴量を抽出し、その出力をC細胞で集めるという構造にした。C細胞で特徴量を集める目的は、入力パターンの位置ずれを吸収するためである。現在のパターン認識を行うディープラーニングの構造は、ネオコグニトロンそのものであり、S細胞をコンボリューション、C細胞をプーリングと呼んでいるだけである。違いは学習の仕方で、ディープラーニングはバックプロパゲーションを採用しており、ネオコグニトロンは新しい入力パターンに反応する細胞がないときは新しく細胞を加えるという「add-if silent」学習則を採用している。

 ネオコグニトロンは当初特許出願されていたものの、予算が厳しく特許権を放棄されたそうだ。特許権がないくなったのでディープラーニングで開花したともいえるし、特許権を継続していれば莫大な収入になったともいえる。

|

« ディープラーニング(6) | トップページ | リチウムイオン電池が過放電に弱い理由 »

コメント

コメントを書く



(ウェブ上には掲載しません)




トラックバック

この記事のトラックバックURL:
http://app.f.cocolog-nifty.com/t/trackback/16253/69287490

この記事へのトラックバック一覧です: ディープラーニング(7):

« ディープラーニング(6) | トップページ | リチウムイオン電池が過放電に弱い理由 »