神經網絡內部表徵以幾何結構映照外界

Goodfire Research 指出，神經網絡內部表徵會形成映照外界結構的幾何形狀，並以 Mountain Car 模型示範沿彎曲流形操控表徵可平順改變車輛位置。相比之下，線性操控可能令模型輸出混亂，或令車輛跳到另一位置。文章認為，研究神經幾何有助理解模型表徵、計算與行為，並支持更精準、可靠的模型控制。