Mixture of Experts (MoE) 12段階極小ビジュアル解剖シミュレーター | AIエンジニアリング教材

📅 投稿日: 2026年06月23日 22:45 👁️ 閲覧数: 5 回

AI・大規模言語モデル(LLM)の核心技術であるMoE(Mixture of Experts:混合専門家)機構を、12の数学的・物理的ステップに分解して完全可視化するインタラクティブシミュレーター。ルーター内積、Noisy Top-K、Softmax分配、FFN(Up/Down投影・ReLU)、加重和合成、Auxiliary Loss(補助損失)をリアルタイムに計算・体験学習できます。

← 記事一覧に戻る

📂 関連カテゴリーの記事