ディープラーニング3

まず自然言語処理研究全体の概要について話し、自然言語処理では何をするのか理解する。

自然言語処理においてあらゆる手法で使われている技術単語の埋め込み/WordEmbeddingについて解説する。

自然言語処理において重要なアーキテクチャの一つであるEncoder-Decoderモデルについて説明する。

今日の自然言語処理において、必要不可欠な構成要素であるAttentionについて解説する。

ChatGPTに代表される大規模言語モデルに関する概要を説明する。

大規模言語モデルによって実現可能になったことや依然として課題として残っていることなど大規模言語モデルの今後について説明する。

第１回から第６回までで扱った自然言語処理の理解を促進するため、Jupyter Notebookを用いて演習を行う。

後半に扱うグラフニューラルネットワークが対象としているグラフデータについて構造なども含めて紹介する。

グラフニューラルネットワークの基本的な仕組みについて解説する。

グラフニューラルネットワークで性能が高く、多く使われる手法について紹介する。

グラフニューラルネットワークで性能が高く、多く使われる手法について紹介する。

グラフ畳み込みニューラルネットワークの課題点を説明し、その課題を解決する手法について紹介する。

説明可能性に関する手法についていくつか紹介および解説する。

第10回から第13回までで扱ったグラフニューラルネットワークおよび説明可能性に関する演習を、Jupyter Notebookを用いて行う。

これまで講義で扱っていない最新の深層学習の話題について紹介する。