科目ナンバー

SG-HI5-7C09

履修条件・関連科目等

情報検索を履修していることが望ましい．

授業で使用する言語

日本語／英語

授業で使用する言語（その他の言語）

授業の概要

本講義では、深層学習と自然言語処理の基礎について概観する。特に、言語モデル、再帰型ニューラルネットワーク、注意機構、転移学習、グラフニューラルネットワークなどのトピックを扱う。さらに、Pythonで自然言語処理システムを構築することで、自然言語処理に関する基礎的な知識と技術の習得を目指す。

科目目的

この科目は、学位授与の方針で示す「知識獲得力」および「専門性」を習得することを目的としている。

到達目標

自然言語処理および深層学習における重要な要素技術や考え方について学ぶ。
プログラミング言語Pythonで自然言語処理システムを構築する。

授業計画と内容

1. イントロダクション
2. 機械学習の基礎
3. 自然言語処理の基礎
4. 深層学習の基礎
5. 分散表現
6. 畳み込みニューラルネットワーク
7. 再帰型ニューラルネットワーク
8. 注意機構とMemory Augmented Networks
9. 転移学習
10. 低リソース自然言語処理
11. 言語モデル(1): 事前学習モデル
12. 言語モデル(2): 大規模言語モデル
13. 言語モデル(3): 評価
14. NLP応用

授業時間外の学修の内容

指定したテキストやレジュメを事前に読み込むこと／その他

授業時間外の学修の内容（その他の内容等）

授業開始前の課題提出

授業時間外の学修に必要な時間数／週

・毎週１回の授業が半期（前期または後期）または通年で完結するもの。１週間あたり４時間の学修を基本とします。
・毎週２回の授業が半期（前期または後期）で完結するもの。１週間あたり８時間の学修を基本とします。

成績評価の方法・基準

成績評価の方法・基準（備考）

課題や試験のフィードバック方法

授業時間内で講評・解説の時間を設ける

課題や試験のフィードバック方法（その他の内容等）

アクティブ・ラーニングの実施内容

反転授業（教室の中で行う授業学習と課題などの授業外学習を入れ替えた学習形式）

アクティブ・ラーニングの実施内容（その他の内容等）

授業におけるICTの活用方法

クリッカー

授業におけるICTの活用方法（その他の内容等）

実務経験のある教員による授業

いいえ

【実務経験有の場合】実務経験の内容

【実務経験有の場合】実務経験に関連する授業内容

テキスト・参考文献等

manabaで資料を配布する。

参考書
Uday Kamath, John Liu, and James Whitaker, "Deep Learning for NLP and Speech Recognition" Springer, 2019.

その他特記事項

参考URL