跳到正文
熱點事件持續更新

AI以嵌入向量呈現語義,編號只是標籤

2 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

2026年10月24日19:58,阿里雲開發者社區 AI 的兩篇報道均解釋,AI 會把文字、圖像及音訊轉成數字;「貓」與「狗」的 token 編號相鄰,不代表兩者語義較相似,因編號只是標籤,不承載語義。模型從數據中學得的高維嵌入向量才呈現語義關係;數字表示的結構如何反映現實關係,亦關乎模型能否據此推理。其中一篇列出 GPT-3 詞表約有 50,257 個 token,每個以 12,288 維表示,嵌入層約有 6.17 億個參數。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月24日
  1. 阿里雲開發者社區 AI
    「貓=42、狗=43」不代表牠們更相似:AI 如何從數字中學出意義

    AI 不會因為「貓」的編號是 42、「狗」是 43,就判斷牠們比「汽車」更相似;編號只是標籤,不帶有語義。文本、圖像和音頻會轉換成數字,而模型從數據中學出的高維嵌入向量,才會呈現語義關係。數字之間的結構如何反映現實關係,決定了模型能否從表示中推理。

  2. 阿里雲開發者社區 AI
    「貓=42、狗=43」不代表牠們更相似:AI 如何把世界轉成數字,以及編號與意義的差別

    AI 將文字、圖像和音訊轉成數字,但 token 編號只是標籤,不能表示語義相似度;真正承載意義的是模型從數據中學出的高維嵌入向量。GPT-3 的詞表約有 50,257 個 token,每個以 12,288 維表示,嵌入層約有 6.17 億個參數。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。