PROFILPELAJAR.COM

ネオコグニトロン（英: Neocognitron）は、1979年に福島邦彦によって提唱された畳み込みニューラルネットワークである^[1]^[2] 。

概要

畳み込みの手法を導入する以前のコグニトロン（「教師なし学習」を行う多層神経回路）では位置ずれや変形の影響を受けやすかった。このため、形の類似性だけに基づいてパターン認識することを目的としてネオコグニトロンが開発された。ネオコグニトロンは複数の種類の細胞から構成され、その中で最も重要な細胞は「S細胞」および「C細胞」と呼ばれる^[3] 。局所特徴量はS細胞によって抽出され、微小変位（local shift）といったこれらの特徴の変形はC細胞に委ねられている。入力中の局所特徴量は、隠れ層によって徐々に統合され、分類される^[4]。

デイヴィッド・ヒューベルとトルステン・ウィーセルが1959年に提唱したモデルから発想を得ている。彼らは「単純細胞（英語版）」および「複雑細胞（英語版）」と呼ばれる一次視覚野の2種類の細胞を発見し、パターン認識タスクにおいて使用されるこれら2種類の細胞のカスケードモデルを提唱した^[5]^[6]。

1998年、ヤン・ルカンらはネオコグニトロンにバックプロパゲーションによる教師あり学習を適用し、LeNet と名付けて公表した^[7]。手書き文字認識やその他のパターン認識の課題に用いられている^[8]。

ネオコグニトロンには様々な種類が存在する^[9]。例えば、ある種のネオコグニトロンは、逆伝播シグナルを用いることによって同一入力中の複数のパターンを検出でき、選択的注意（selective attention）を達成する^[10]。

脚注

^ Fukushima, Kunihiko「位置ずれに影響されないパターン認識機構の神経回路のモデル --- ネオコグニトロン ---」『Trans. IECE』J62-A第10号、October 1979、658–665頁。
^ Fukushima, Kunihiko (1980). “Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position”. Biological Cybernetics 36 (4): 93–202.
^ Fukushima 1987, p. 83.
^ Fukushima 1987, p. 84.
^ David H. Hubel and Torsten N. Wiesel (2005). Brain and visual perception: the story of a 25-year collaboration. Oxford University Press US. p. 106. ISBN 978-0-19-517618-6
^ Hubel, DH; Wiesel, TN (October 1959). “Receptive fields of single neurones in the cat's striate cortex”. J. Physiol. (Lond.) 148: 574–91. doi:10.1113/jphysiol.1959.sp006308. PMC 1363130. PMID 14403679.
^ Lecun, Y (1998). “Gradient-based learning applied to document recognition”. Proceedings of the IEEE 86 (11): 2278-2324. doi:10.1109/5.726791.
^ LeCun, Yann; Bengio, Yoshua; Hinton, Geoffrey (2015). “Deep learning”. Nature 521: 436–444. doi:10.1038/nature14539. PMID 26017442.
^ Fukushima 2007
^ Fukushima 1987, pp.81, 85

参考文献

Fukushima, K.; Miyake, S.; Ito, T. (1983). “Neocognitron: a neural network model for a mechanism of visual pattern recognition”. IEEE Transactions on Systems, Man, and Cybernetics SMC-13 (3): 826–834.
K. Fukushima. "A hierarchical neural network model for selective attention." In Eckmiller, R. & Von der Malsburg, C. eds. Neural computers, Springer-Verlag. pp. 81–90. 1987.
Fukushima, K. (2007). “Neocognitron”. Scholarpedia 2 (1): 1717. doi:10.4249/scholarpedia.1717.
Hubel, D.H.; Wiesel, T.N. (1959). “Receptive fields of single noreones in the cat's striate cortex”. J Physiol 148 (3): 574–591. doi:10.1113/jphysiol.1959.sp006308. PMC 1363130. PMID 14403679.