アーキテクチャ編 · 深掘り解説
AI 大規模モデルアーキテクチャの詳細解析
Transformer、Mamba、MoE、RAG などのアーキテクチャを理解し、アーキテクチャ選定の考え方を身につける。
対象者
プロダクトマネージャー：技術的な境界を理解する
技術管理者：アーキテクチャの意思決定
開発者：原理を深く理解する
アーキテクト：選定と最適化
学習目標
Transformer アーキテクチャを理解する
新興のアーキテクチャパラダイムを理解する
アーキテクチャ選定の考え方
講義概要
Transformer
O(n²)+汎用性が高く、拡張しやすい
-計算複雑度が高い
Mamba (SSM)
O(n)+長いシーケンスの処理、高速推論
-表現能力に限界がある
MoE
疎な活性化+超大規模モデル
-ルーティングが複雑
RAG
検索＋生成+知識更新、説明可能性
-検索品質に依存