Zico Kolter 加入 OpenAI 董事會
Zico Kolter Joins OpenAI’s Board of Directors
OpenAI 宣佈 Zico Kolter 加入董事會,並將加入 Safety & Security Committee。OpenAI 表示,這項安排將為治理工作增添 AI 安全與對齊方面的專業知識。
公告交代了 OpenAI 董事會增補的專業方向,以及 Zico Kolter 在 Safety & Security Committee 的職務安排,可據此瞭解其治理架構的人事變化。
我們宣佈 Zico Kolter 獲委任為 OpenAI 董事會成員。作為 Carnegie Mellon University 的教授及機器學習系主任,Zico 的工作主要聚焦於 AI 安全、對齊,以及機器學習分類器的穩健性。他的研究及專業知識涵蓋全新的深度網絡架構、了解數據 對模型影響的創新方法,以及評估 AI 模型穩健性的自動化方法,令他成為我們治理工作中不可或缺的技術董事。
Zico 亦會加入董事會的 安全與保安委員會,與董事 Bret Taylor、Adam D’Angelo、Paul Nakasone、Nicole Seligman 和 Sam Altman(CEO),以及 OpenAI 技術專家一同參與。委員會負責就所有 OpenAI 項目的重要安全與保安決策提出建議。
在歡迎 Zico 加入董事會時,董事會主席 Bret Taylor 表示:「Zico 對 AI 安全與穩健性有深厚的技術理解和獨到見解,將有助我們確保通用人工智能造福全人類。」
Zico Kolter 是 Carnegie Mellon University 的計算機科學教授及機器學習系主任,並已在該校擔任重要角色 12 年。Zico 於 2010 年在 Stanford University 完成計算機科學博士學位,其後於 2010 至 2012 年在 MIT 進行博士後研究。在其職業生涯中,他為機器學習領域作出重大貢獻,並在 NeurIPS、ICML 和 AISTATS 等著名會議上發表多篇獲獎論文。
Zico 的研究包括開發首批可建立具備穩健性保證的深度學習模型的方法。他率先提出利用神經網絡層內的傳統優化方法,將硬性限制嵌入 AI 模型的技術。最近在 2023 年,他的團隊開發了評估大型語言模型(LLMs)安全性的創新自動化方法,展示了透過自動化優化技術繞過現有模型防護措施的可能性。除了學術工作外,Zico 在整個職業生涯中亦一直與業界密切合作,曾任 C3.ai 首席數據科學家,目前則擔任 Bosch 首席專家,以及專注於 AI 安全與保安的新創公司 Gray Swan 的首席技術顧問。
來源:OpenAI News · openai.com