- 最適化（GD, Momentum, AdaGrad, Adam)
- 単純パーセプトロンによるAND回路の作成
- MLPによるXOR回路の作成
- MLPによる2クラス分類
- ミニバッチを用いたMLPの学習
- MLPによる多クラス分類（MNIST）
- 正則化（Dropout）
- Batch Normalizationの導入
- im2colを用いた効率的な畳み込み処理
- CNNによる画像認識（MNIST, Numpy実装）
- MLPによる画像認識（MNIST, PyTorch実装）
- CNNによる画像認識（MNIST, PyTorch実装）
- 誤差関数の変更による学習効果
- CNNによる画像認識（CIFAR10, PyTorch実装）
- 既存のデータセットの活用
- データセットクラスの作成
- データ拡張（Data Augmentation）
- ハイパーパラメータの探索と検証データ
- Residual Network（ResNet, スキップ構造）
- SENet
- CNNの可視化（CAM）
- CNNの可視化（Grad-CAM）
- ファインチューニングと転移学習
- Attention Branch Network（ABN）
- EfficientNet
- Single Shot Object Detector (SSD)
- SegNet
- マルチタスク基礎（分類＋回帰）
- マルチタスク応用（検出＋セグメンテーション）
- Knowledge Distillation
- Deep Mutual Learning
- 半教師付き学習
- 自己教師付き学習
- Auto Encoderによる画像の復元とデノイジング
- Variational Autoencoder (VAE)
- 繰り返し処理による異常検知
- Generative Adversarial Networks (GAN)
- Deep Convolutional GAN (DC-GAN)
- Conditional GAN
- Conditional DC-GAN
- CycleGAN（スタイル変換）
- BigGAN
- StyleGAN
- Recurrent Neural Networkによる電力予測
- Encoder-Decoderによる計算機作成
- Attention Seq2seqによる計算機作成
- Attention Seq2seqによる日付変換
- Transformerによる計算機作成
- Convolutional LSTMを用いた動画像予測
- 強化学習（Q学習とQ Network）によるCart Pole制御
- DQN（クリッピング・リプレイ・ターゲットネットワーク）
- Policy gradient （DQNの改良）
- Actor-cltic
- Mask-Attention
- DQNの応用例
- ViTの教師あり学習（フルスクラッチ・fine-tuning）
- Attention Weightの可視化
- DeiT
- MAE