148건 · 관련도순
Runs LLM inference on CPU, Apple Silicon, and consumer GPUs without NVIDIA hardware. Use for edge deployment, M1/M2/M3 Macs, AMD/Intel GPUs, or when CUDA is unavailable. Supports GGUF quantization (1.5-8 bit) for reduced memory and 4-10× speedup vs PyTorch on CPU.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Rust 製 AI/ML ライブラリ fandhe-ai のリファレンス。Burn / candle / tch 非依存の from-scratch 実装。 tape(), tape_for, Tape, Gradients, Tensor, Var, LinearVars, autodiff, kernel fusion, FusionPlan, BackendOps, Device (Cpu / Cuda / Metal), DeviceParamStore, compat::array, compat::Sequential, nn::Module, optim (AdamW / GradScaler), data::DataLoader, ONNX import / export, safetensors, inference::generate / KvCache, guardrail / self-repair CLI。
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Runs LLM inference on CPU, Apple Silicon, and consumer GPUs without NVIDIA hardware. Use for edge deployment, M1/M2/M3 Macs, AMD/Intel GPUs, or when CUDA is unavailable. Supports GGUF quantization (1.5-8 bit) for reduced memory and 4-10× speedup vs PyTorch on CPU.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Local speech-to-text using faster-whisper. 4-6x faster than OpenAI Whisper with identical accuracy; GPU acceleration enables ~20x realtime transcription. Supports standard and distilled models with word-level timestamps.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.