跳到正文
Ollama:Blog·· 2024-04-18精選AI 評分80

Llama 3 已可透過 Ollama 執行

Llama 3

AI 導讀

Llama 3 已可透過 Ollama 執行,首批提供 8B 和 70B 參數版本。其訓練數據集規模達 Llama 2 的 7 倍,上下文窗口增至 8K,詞彙表含 128K tokens,錯誤拒答少於 Llama 2 的 1/3。

推薦理由

文中從訓練數據集、上下文窗口、詞彙表和錯誤拒答比例等方面比較 Llama 3 與 Llama 2,並提供 8B、70B 版本的執行命令。

正文 · 繁體中文

3 Ollamas

Llama 3 現已可透過 Ollama 執行。

如要開始使用,請下載 Ollama並執行 Llama 3:

ollama run llama3

能力最強的模型

Llama 3 相較於 Llama 2 及其他公開提供的模型有重大改進:

  • 使用規模是 Llama 2 七倍的數據集訓練
  • 上下文長度是 Llama 2 的兩倍,達 8K
  • 採用包含 128K 個 token 的更大詞彙表,大幅提升語言編碼效率
  • 與 Llama 2 相比,錯誤「拒絕」的情況少於1⁄3

兩種參數規模:8B 和 70B

Llama 3 首次發布包含兩種規模:

使用熱門工具搭配 Llama 3

LangChain

from langchain_community.llms import Ollama
llm = Ollama(model="llama3")
llm.invoke("Why is the sky blue?")

LlamaIndex

from llama_index.llms.ollama import Ollama
llm = Ollama(model="llama3")
llm.complete("Why is the sky blue?")

接下來

Meta 計劃推出一個擁有 400B 參數的 Llama 3 模型,以及更多模型。未來幾個月,Meta 將推出多個具備新能力的模型,包括多模態功能、以多種語言對話的能力、更長的上下文視窗,以及更強的整體能力。

來源:Ollama:Blog · ollama.com