AI 安全需要社會科學家
OpenAI 撰寫論文，主張長期 AI 安全研究需要社會科學家，確保 AI 對齊算法在涉及真實人類時奏效。論文指出，讓先進 AI 系統與人類價值觀對齊，須處理人類理性、情緒與偏見心理學上的諸多不確定性；OpenAI 計劃聘請社會科學家全職投入相關工作，並促進機器學習與社會科學研究人員合作。
#安全/對齊
#安全/對齊
今日 0 條OpenAI NewsAI 評分3939
OpenAI NewsAI 評分5252 OpenAI 提出以辯論提升 AI 安全的技術
OpenAI 提出一種 AI 安全技術，透過訓練智能體互相辯論議題，再由人類判定勝方。