ニューラルネットワークの勉強会を開催しました。

>

LSTM勉強会1

みなさん、こんにちは。

先月、お客様をお招きして「ニューラルネットワーク」の勉強会を開催しました。

・開催日:2018年3月8日(木)
・時間:10:30~13:30
・参加者:(お客様)3名、(当社)3名

今回は、長期短期記憶ニューラルネットワーク(LSTM:Long Short-Term Memory)が中心テーマです。
原著論文(英語)や書籍(LSTMについては非常に少ないのですが...)を読破して、独自のテキストを作成しました。
また、Excelを使ってLSTMを体感できるプログラムも作成してみました。

弊社の担当者(講師役)からの講義のあと、全員でデイスカッションを行い、LSTMの特徴や課題等について、知識を共有しました。
お客様からは「非常に分かり易かった」とのコメントをいただきました。

LSTM勉強会2

 

【テキストの目次例】
1.基本事項
1.1.微分と最小(大)値
1.1.1.微分
1.1.2.偏微分
1.2.ベクトルの内積と不等式
1.3.勾配降下法
1.4.合成関数の微分公式
1.5.活性化関数
1.5.1.ステップ関数
1.5.2.シグモイド関数
1.5.3.ハイパボリックタンジェント

2.ニューラルネットワーク
2.1.ニューラルネットワークの歴史
2.2.機械学習
2.3.ニューラルネットワーク
2.3.1.ニューラルネットワークの仕組み
2.3.2.ニューラルネットワークと勾配降下法
2.3.3.フォワードプロパゲーション
2.3.4.バックプロパゲーション
2.4.数学的モデルの導入
2.4.1.フォワードプロパゲーション
2.4.2.バックプロパゲーション
2.5.ユニット誤差
2.6.エポック
2.7.3層以上の場合
2.8.勾配降下法の問題点

3.リカレントニューラルネットワーク(RNN)
3.1.RNNの仕組み
3.2.RNNの時系列データの種類
3.3.RNNの立式
3.4.通時的誤差逆伝搬
3.5.RNNの問題点
3.6.勾配消失(爆発)問題の解決策

4.長期短期記憶ニューラルネットワーク(LSTM)
4.1.LSTMの仕組み
4.2.ゲートの仕組み
4.3.LSTMの立式
4.4.様々なLSTMの種類
4.4.1.オートエンコーダー
4.4.2.RNN エンコーダー・デコーダー
4.4.3.RNN エンコーダー・アテンション・デコーダー
4.4.4.双方向RNN

5.LSTMの使用例
5.1.LSTMの使用例
5.2.Google翻訳のアーキテクチャー

6.RNNの簡単なバージョンの実験(EXCEL)

7.参考文献

目次

お気軽にお問い合わせください。


お名前*必須 

フリガナ*必須 

会社名・団体名 

メールアドレス*必須 

お問い合わせ種別*必須 

お問い合わせ内容

※確認画面は表示されませんので、入力内容(とくにメールアドレス)にお間違いがないかどうか、もう一度ご確認のうえ、「この内容で送信する」ボタンを押してください。

UA-40268731-1