如何在本機執行 Code Llama
Run Code Llama locally
Code Llama 已可透過 Ollama 在本機執行,提供 7B、13B 和 34B 參數版本。原文列出 `ollama run codellama:7b`、`ollama run codellama:13b` 和 `ollama run codellama:34b` 命令;13B 版本要求 16GB+ 記憶體,34B 版本要求 32GB+。
文章列出 13B 和 34B 版本的記憶體要求,以及基礎模型和 Python 專用版的 Ollama 命令,方便按本機資源選擇版本。
Meta Platforms, Inc. 今日向公眾發布 Code Llama。該模型以 Llama 2 為基礎,提供開放模型中的最先進效能、程式碼填補能力、對大型輸入上下文的支援,以及在程式設計任務中遵循零樣本指令的能力。
Code Llama 現已在 Ollama 上架,供用戶試用!
如果你尚未安裝 Ollama,請在此處下載。
供用戶試用 Code Llama:
提供 7 billion、13 billion(記憶體需求為 16GB+)及 34 billion(記憶體需求為 32GB+)參數版本:
ollama run codellama:7b
ollama run codellama:13b
ollama run codellama:34b
提示詞範例:
In Bash, how do I list all text files in the current directory (excluding subdirectories) that have been modified in the last month?
基礎模型及 Python 專用版本可用於程式碼生成/補全任務
基礎模型:
ollama pull codellama:7b-code
ollama pull codellama:13b-code
ollama pull codellama:34b-code
Python 專用版本:
ollama pull codellama:7b-python
ollama pull codellama:13b-python
ollama pull codellama:34b-python
來源:Ollama:Blog · ollama.com