Orchestra Research

Axolotlを使うLLMの追加学習で、YAML設定や学習手法の選択、データ形式の確認、複数GPUでの設定や不具合調査を支援するスキル。

• 追加学習用のYAML設定作成
• LoRAや好みに基づく学習手法の検討
• データ形式と入力処理の確認

言語モデルの追加学習をUnslothで進めるための資料参照と実装相談を支援。LoRAやQLoRAを使う学習の高速化・省メモリ化を軸に、APIの確認や不具合の調査を案内します。

• 学習の高速化と省メモリ化を調べたいとき
• LoRAやQLoRAの追加学習を学ぶ
• Unslothの機能やAPIを確認