Keyboard shortcuts

Press or to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

2026-06-19 議事録

実施日時

  • 2026-06-19(金)Teams(オンライン)

目的

  • 各自の進捗共有(プロファイリング学習、環境構築、AI推論の動作確認)。
  • 計測結果の共有方法(ダッシュボード)と今後の方針を確認する。

決定事項

  • プロファイリングはperfを中心に進める。まずperf statで全体像を掴み、perf record/perf reportで詳細を見る(詳細はプロファイリングツール実践ガイド)。
  • ビルドは用途別(Debug / Profile / Release / Optimize など)に切り替えられるよう整備する。分析しやすさと速度はトレードオフのため。
  • 計測結果・グラフはダッシュボードに集約して共有する方向で進める。ツールはOSSを調査しつつ、AIを使った自作も検討する。
  • 環境は再現性を重視する。リポジトリ/コンテナを整備し、他メンバーがコマンド一つで同じ環境を再現できるようにする。
  • Pythonのパッケージ管理はuvを使う(動作が速く扱いやすい)。
  • AI推論は最終的にSGLangを使う想定で進める。

共有内容

プロファイリング学習(perf)— 田中

perfは日本語情報が少なく、man、Archwiki、ライブコーディング動画(impl Rust: One Billion Row Challenge)が学習に役立った。 実践的な使い方・注意点・ビルドオプションは技術ページへ分離した(プロファイリングツール実践ガイド)。要点:

  • まずperf stat -r <n> -d -d -dで詳細イベント+複数回実行の統計を取る。perf record/perf reportがcall graph・アセンブリ分析まででき、最も使いやすい。
  • perf recordはイベント数が多すぎると解析不能・ストレージ圧迫になる。実行中プロセスへ短時間アタッチ(perf record -F 999 -g --call-graph fp -p <PID> -- sleep 30)が有効。
  • 可視化にflamegraphが便利。

AI推論の動作確認

  • まずtransformersで小さめのモデルを動かし、モデルロード・KVキャッシュ確保まで確認した。
  • ベンチマークは昨年使われたShareGPTデータセットを利用して試行。token生成・読み込みの速度を計測した(メモ上の数値: 約512 tokens/s 処理・約128 tokens/s 出力。対照実験はこれから。要確認)。
  • vLLMSGLangを比較。vLLMは起動が速い一方でドライバ依存により不安定だったため、SGLangに切り替えて進めている(要確認:環境依存)。
  • 目標はプロファイリングだが、現状は環境構築とモデル動作確認まで。次は大きめのモデルでベンチを取得する。

環境構築・再現性

  • ローカルで構築したものをコンテナ等で他メンバーが再現できるようにする方針。スパコン側でSSH先をクローンすれば全員が同じ環境を再現でき、効率が上がる。
  • 管理担当を置き、リポジトリ/環境を整備する。

データ共有・ダッシュボード

  • 計測結果をダッシュボードに集約する案。あるメンバーが自分の研究で使っている仕組み(データ投入 → Pythonで自動グラフ生成 → Webページ表示)を流用できそう。
  • OSSのダッシュボードツールの調査、またはAIでの自作を検討する。

TODO

項目内容目的
ダッシュボード調査計測結果共有用のダッシュボード(OSS or 自作)を調べる各自の結果をチームで見られるようにする
環境の再現性整備コンテナ/リポジトリを整え、コマンド一つで再現できるようにする担当者間で環境差をなくす
AIモデルのベンチ取得大きめのモデルを動かし、SGLangでベンチマークを取る推論性能の基準を作る
MPI環境でのperfMPI環境でのperf等の使い方を実際に動かして確認する並列実行のプロファイリングに備える(今後の課題)
プロファイリング継続各自ツールを使い、結果を持ち寄る計測に基づく改善のため

今後の方針

  • 来週も各自のプロファイリング・環境整備を継続する(次回はHPC側のプロファイリング共有を予定)。
  • 7月の問題公開を見込み、それまでは過去問・環境・計測の練度を上げる。

関連ページ