HN20
LLMの裏側を徹底解剖!バックエンドエンジニアのための「kernelspace」:Rustで学ぶシステムプログラミング入門
Show HN: Kernelspace- interactive course on systems programming for LLM Serving
praveer13・5日前
Show HN: Kernelspace- interactive course on systems programming for LLM Serving
皆さんこんにちは。LLM(大規模言語モデル)の推論を支えるシステムレベルの技術を学べる、無料のインタラクティブなコース「kernelspace」を公開しました。私自身がJavaやPythonで培ったバックエンドの経験を活かしつつ、昨今のLLM界隈で飛び交う技術トレンドについていくために、ゼロからRustを学び直して構築したものです。主な特徴は以下の通りです。1. 9つのトラック・全68レッスン:Rustをゼロから学べる構成です。2. 8つのRustラボ:BPEトークナイザー、KVブロックマネージャー、Radixキャッシュ、バッチングスケジューラー、簡易実行エンジンなどの実装に挑戦できます。3. ブラウザで動く9つのシミュレーター(WASM):RooflineモデルやKVキャッシュの負荷状況、連続バッチングの挙動などを視覚的に理解できます。4. Fleet week:本番環境の推論フリートを想定したシミュレーション環境。すべての進捗はローカルに保存され、サーバーレス(GitHub Pagesでホスティング)で動作します。リポジトリはこちら:https://github.com/praveer13/kernelspace 。ぜひ触ってみて感想や貢献をいただけると嬉しいです!LLM時代のエンジニアとして、一緒にスキルアップしていきましょう。