第９回　ニューラルネット

ヒトの脳のモデルと新しい計算機アーキテクチュア

平成２３年１２月１４日

ニューロンの基本構造

•  脳の情報処理の基本素子 •  信号の送受信を受け持つ •  多くの突起をもつ特殊な細胞 •  他のニューロンに信号を送る１本の軸索

•  他のニューロンから信号を受け取る多数の樹状突起

•  軸索は先端で細かく枝分かれしている

•  軸索と樹状突起のあいだにシナプスという隙間がある

岩波書店「ニューロンから心をさぐる」より

スパイキングニューラルネットワークとは

 発火頻度ではなくニューロンの内部電位に注目したモデル  アナログ量をパルスタイミングで表現  生体模倣の忠実度が高い  非同期動作なので高速処理に期待 内部電位

入力 出力

応用例

人間認識

物体認識

ジェスチャ認識

姿勢認識

ステップ数

画像処理知覚モジュールの選択

人工ニューロンをつくった人々（１）

Frank Rosenblatt

パーセプトロン

Marvin Lee Minsky

人工ニューロンモデル

（人工）ニューラルネットの特徴

•  ヒトの神経回路網の簡単な計算モデル •  単純な構成要素をネットワークで結合 •  ネットワーク結合の強度を学習で獲得 •  ネットワークの結合による連想記憶 •  簡単な計算プログラムによる高度な識別能力

人工ニューロンをつくった人々（２）

Paul J. Werbos

人工ニューロンのネットワーク

知識：問題領域での物事の関連性をネットワーク（ニューラルネット）の結合強度により記録する

低レベル 結合強度があらかじめ設定されている　

高レベル 問題領域の性質を結合強度のかたちで自動的に記録する　

信号伝達のメカニズム

階層型ニューラルネットワーク

階層型ネットワークによる教師付き学習

（「ニューラルネットの基礎と応用」 共立出版から）

手書き文字認識への応用

問題：マウスを使ってコンピュータに数字を覚えさせる

Step1：　各自で手書き文字のパターンを教え込む 　　　　 (プログラムTeachingPatternを起動） Step2:　コンピュータに学習させる。 　　　　 (プログラムBackPropagationを起動） Step3:　コンピュータが学習したかどうかチェック (プログラムTestingPatternを起動） Step4:　記憶のパターン生成を確認する 　　　　 (プログラムNertworkImageを起動）

プログラムはここからダウンロード

ニューラルネットの応用

1. 画像処理技術への応用 2. 音声処理への応用(NETtalk) 3. 知能ロボットへの応用 4. 金融・保険への応用（データマイニング）

NETtalk とは • 　階層構造型ニューラルネットを使って英語の読み（発音）を学習するシステム • 　機械学習はあたかも人間の言語発生能力の獲得過程を再現しているように見える • 　母音と子音を区別することは早い時期に達成される。最初は幼児がむずかっているように聞こえる

学習過程の実験

脳と計算機の関係

1. 脳を創る（理化学研究所） 2. バイオサイバネテイックス 3.  ニューロサイバネテイックス

人工ニューロンのネットワーク

知識：問題領域での物事の関連性をネットワーク（ニューラルネット）の結合強度により記録する

低レベル 結合強度があらかじめ設定されている　

高レベル 問題領域の性質を結合強度のかたちで自動的に記録する　

人工ニューロンをつくった人々(３)

John Joseph Hopfield

ホップフィールドネット

ネットワークの更新規則

• 　結合強度の対称性

• 　ニューロンの非同期動作

ネットワークの特徴

巡回セールスマン問題

与えられた都市を一度だけ通過し、出発した都市に戻る経路の全長が最小となる巡回の方法をみつける

応用事例：航空機の機回し

巡回セールスマン問題の経路数

問題の設定とその解法

１４都市の場合の解答例