Hugging Face Blog·· 2025-03-07精選AI 評分61
用 React Native 在手機上本地執行 LLM 的入門指南
LLM Inference on Edge: A Fun and Easy Guide to run LLMs via React Native on your Phone!
AI 導讀
Hugging Face Blog 的教程示範以 React Native 建立手機應用，在裝置本地執行 LLM 聊天。應用從 Hugging Face Hub 下載 GGUF 模型，並以 llama.rn（llama.cpp 的 binding）載入，教程涵蓋 Android 和 iOS。文章亦介紹 GGUF 量化格式、手機選模取捨，以及逐 token 生成與推理速度追蹤等功能。
推薦理由
文章按模型選擇、GGUF 下載與載入、聊天介面逐步拆解 React Native 實作，並説明量化格式與設備能力的取捨，可作為端側 LLM 應用的開發參考。
來源：Hugging Face Blog · huggingface.co