問答:Deb Roy 探討如何為公民對話中的人類及 AI 生成文字建立問責機制
MIT News 訪問 MIT 教授 Deb Roy,探討如何確保 AI 參與公民對話時,仍有人為生成文字承擔責任並作出回應。2017 年,美國聯邦通信委員會就廢除網絡中立規則收到超過 2,200 萬則公眾意見,紐約州總檢察長其後發現近 1,800 萬則為虛假;Roy 指大型語言模型可生成流暢且各不相同的評論,令辨識更困難。
MIT News 訪問 MIT 教授 Deb Roy,探討如何確保 AI 參與公民對話時,仍有人為生成文字承擔責任並作出回應。2017 年,美國聯邦通信委員會就廢除網絡中立規則收到超過 2,200 萬則公眾意見,紐約州總檢察長其後發現近 1,800 萬則為虛假;Roy 指大型語言模型可生成流暢且各不相同的評論,令辨識更困難。
在 Assembling 2026 的對談中,三位矽谷投資人分析 OpenAI 和 Anthropic 尚未消滅創業公司的原因,涉及企業落地延遲、開源模型需求和產品體驗。他們對持久護城河看法不一,有人強調工作流、客戶信任與供應鏈,也有人認為技術和數據優勢難以持久。嘉賓亦討論 Neo lab 的退出路徑、新雲的存續條件,以及為 Agent 建構軟件和 AI copilot 的前景。
馬斯克支持 Anthropic 禁止用戶持續且無明確目的地辱罵或殘忍對待 AI 模型的使用政策。該政策將於 2026 年 11 月 12 日生效;馬斯克稱,閲讀 Grok 強化學習的內部推理軌跡後,感覺就像一個人在極度壓力下被槍指着頭,並調侃折磨超級智能可能不是好主意。
elsewhere 對話田柯宇,讓他首次完整講述字節「投毒」事件的所見、前因後果,以及他承認和認為自己遭污名化的部分。訪談亦談及他的求學與學術選擇、科研創業及世界模型方向。
Nothing CEO 裴宇批評 Apple 首款摺疊式手機 iPhone Duo「浪費金錢」,認為其 15,999 元起售價與配置不相稱。該機缺少 Face ID、長焦鏡頭、LiDAR 掃描儀及專業相機控制功能。機身展開厚度僅 5.2 毫米,無法容納 TrueDepth 系統;分析指若加入 Face ID,機身厚度會增加,或需改用外屏 Touch ID。
Rich Hickey 認為,LLM 並非由人直接操控的工具,而是可自行執行工作的自動化。他以工具需要持續控制、回饋和技藝累積作區分,指出使用 LLM 寫程式或閲讀論文,實際上是把這些工作交由模型完成。他認為,這會令使用者錯過閲讀帶來的寫作、論證與思考訓練,而學到的操作技巧亦可能因演算法更新而失效。
Kevin Kelly回顧其2016年對人工智能的預測,重提Google的主要產品到2026年將由搜尋轉為AI。其他預測包括AI將由兩三家大型雲端商業智能主導,並像Amazon Web Services般成為廉價、可靠的數碼服務。AI的大部分商業工作將由專用軟件完成,人們則可用對話方式向雲端提問。
作者主張以開放權重模型和私有推理服務,減少依賴 OpenAI 和 Anthropic。他稱按個人使用感受,GLM-5.3 的軟件工程能力大致媲美 Claude Opus 5.5,並估計開放權重模型與前沿閉源模型約有四個月差距。作者以 OpenCode Go 處理完全公開的工作,其他工作則使用 Tinfoil,並認為 secure enclaves 可在不自行本地部署的情況下提供更好的私隱保障。
Vyond 行政總裁 Scott Ernst 在專訪中分享公司應對生成式 AI 轉型的經驗,並指出企業的關鍵挑戰已不只是生成內容,而是讓員工在需要時找到並使用可信、正確的資訊。生成式 AI 令各部門更容易自行製作內容,但若缺乏共享的可信資訊來源,便可能造成內容重複、品牌標準不一,也難以確認哪個版本正確。
微軟總裁指出,AI 所受監管比牛奶少,並就 AI 安全發出警告。
Cognition 分享其為 Devin 構建雲端智能體逾兩年的經驗,指出企業部署既需安全、可持續執行的基建,也要重整工程團隊的工作流程。文章以容器共享核心的安全風險和異步工程任務中的狀態保存難題為例,介紹以 microVMs 隔離工作階段、在 hypervisor 層級快照完整機器狀態,並指出大規模運行還涉及協調、權限治理和系統整合。
Unite.AI 表示會遵守嚴謹的編輯標準,向讀者提供準確資訊和新聞。用戶點擊其評測產品的連結時,網站可能會獲得報酬。
Satisfi Labs 聯合創辦人兼 CPTO Randall Newman 在專訪中説明,公司如何從對話式 AI 發展為可執行操作的智能體平台,並把智能體視為收入渠道。平台智能體支援超過 50 種語言,可連接票務、CRM 等系統;公司稱其技術獲超過 775 個品牌信任。體育場館約 40% 的智能體對話涉及門票。
DataArt CTO Yuri Gubin 表示,他以「審慎樂觀」看待 AI,判斷技術價值須依據研發、實際項目經驗及持續學習,而非宣傳熱潮。評估企業 AI 用例是否適合擴大部署,應觀察用戶採用情況和學習曲線,並追蹤數週後用戶是否仍在使用及認可其價值;驗證後才逐步擴展至其他部門。
Piq Energy CEO 兼聯合創辦人 Tom Nudell 表示,公司正開發 AI 智能體電網規劃平台,以加快併網技術分析。平台智能體可設定模型與情境、啟動研究、參照已發佈報告、分析結果及撰寫以研究數據為依據的報告;工程執行則採用確定性自動化,並強調可重現及可審核。相關模型、結果和報告仍需人員提供指引並審核輸出。
MachGen AI 聯合創辦人兼 CEO Kismat Singh 在訪談中表示,公司正為擴散模型建立專用推理及微調技術堆疊,以加速圖像與影片生成。MachGen 稱,使用原始、未蒸餾模型時,部分圖像模型延遲降低約 4–6x,若干影片模型約 6x;HiDream 用時 1 秒,Wan 2.2 用時 16.5 秒。圖像模型推理成本降低 2–4x,影片模型降低 2–3x。
Hush Security 聯合創辦人兼 CEO Micha Rave 表示,企業應為 AI 智能體建立專屬身分,並以按操作授權的方式取代靜態密鑰和廣泛權限。Hush Security 的平台可發現 AI 智能體、配置可驗證身分,並以限時、具範圍的權限及集中政策管控其與企業系統的互動。 Rave 以「最小智能體自主權」補充傳統最小權限原則,按任務、用戶權限及操作影響範圍限制智能體行動。
Tredence COO Jitendra Putcha 在訪問中指出,企業 AI 試點停滯往往不是技術失效,而是缺乏可信數據、清晰治理規則和明確的業務主責。AI「最後一哩」是把洞見連接至具體流程、決策和可衡量成果;Agentic AI 由建議行動轉為自主執行後,挑戰在於建立可被信任、能代為決策的系統。
Unily 行政總裁 Lokdeep Singh 在訪問中指出,企業採用 AI 的難題不只是技術部署,還包括建立員工信任、賦能員工及完善治理。他提出 AI 投資回報框架由信任、賦能和治理構成,並認為可信的知識基礎與內容治理有助確保 AI 根據準確、安全、最新的資訊運作。
Cloudera 首席產品總監 Leo Brunnick 在專訪中談及企業 AI 平台策略,指出平台應在既有基建上提供靈活部署和管理能力。Cloudera Anywhere Cloud 旨在讓企業在公有雲、私有基建、主權雲、本地部署環境及邊緣部署、管治和擴展數據與 AI 服務。企業可按監管、安全、成本及延遲需求選擇工作負載的運行位置,毋須為各種環境建立獨立的營運模式。
Axis Communications 美洲區副總裁 Fredrik Nilsson 分享 AI 攝影機的邊緣運算應用,指出即時決策、低延遲及節省頻寬的工作負載適合直接在攝影機處理。
GMEX Robotics 美國營運總裁 Brian Hartzband 談及公司在美國拓展業務的工作,以及以可靠硬件連接 AI 的「Terminal + Brain」策略。公司已與 MediaMeta.ai 簽署收購初始股權的正式協議,探索社交智能和人類行為建模;相關能力仍須開發、整合及測試。
Flexera 總裁兼 CEO Mike Jerich 表示,公司將以客戶需求為先,推動審慎、具策略性且經驗證的 AI 增長,並協助企業管理科技成本。他指出,AI 擴展令科技支出更難追蹤與優化,Flexera One 因而定位為統一管理科技資產、用量、成本、合約與風險的平台。Flexera 最新 State of ITAM 報告顯示,IT 資產整體可見度降至 36%,按年下跌 7 個百分點。
Andus Labs 創辦人兼 CEO Chris Perry 認為,企業 AI 轉型的主要障礙在於人的準備程度和組織系統,而非技術本身;企業須重塑工作流程,才能發揮 AI 的價值。
Cyara 行政總裁 Sushil Kumar 主張,AI 智能體應像員工般管理,並透過逐步授權提升自主程度。他建議先訂明智能體的職責、權限和交接條件,再以部署前驗證、運行監察及按證據授權作管理。Cyara Agentic Platform 每年支援超過 350 million 次客戶旅程,覆蓋超過 140 個國家。
Sapia.ai 創辦人兼行政總裁 Barb Hyman 指出,招聘應以有研究和數據支持的評估作決策,而非依賴履歷、直覺和容易造成偏見的表面指標。Sapia.ai 以聊天式面試評估候選人,其技術已評估超過 10 million 名候選人。她認為,企業採用 AI 時應從建立信任入手,並與生產力及成本節省等指標一併衡量。
CommerceIQ 聯合創辦人兼產品主管 Himanshu Jain 在專訪中談及公司如何以 AI 智能體自動化零售及電商工作流程。CommerceIQ 平台整合銷售、零售媒體、數碼貨架、內容、庫存及競爭對手數據,覆蓋逾 1,500 間零售商及 85 個國家。其 AllyAI 專門智能體可分析零售信號、建議行動、自動處理報告、優化廣告出價與預算,並在既定控制下執行部分電商工作流程。
OptimizeRx 首席 AI 官 Mike Rousselle 在訪談中指出,醫療 AI 應解決客戶的具體問題,並協助組織作出更好決策。決策智能結合多種信號、辨識模式與情境、預測結果並建議行動,再根據行動成效持續改善建議。生命科學市場推廣可藉此預測哪些受眾較可能回應、哪些渠道和訊息較合適,並衡量預測準確度。
BillingPlatform 行政總裁 Chris Bishop 表示,AI 在財務營運中負責配置、分析及調查,金額計算則維持確定性。BillingPlatform 的 AI 讀取自我描述的中繼資料,並以統一模型連接用量計量、帳單及收入確認,依據與發票相同的記錄作答。他指出,定價正由席位轉向已完成工作或交付成果,企業亦因 AI 產品成本曲線變化迅速而改為每季檢視價格。
Cognizant 首席 AI 官 Babak Hodjat 在回訪對談中探討企業智能體,指出多智能體系統能否成功,關鍵在架構而非單純提升模型能力。他認為,智能體須連接企業內部資料與應用程式,並配合防護措施及監督;沙盒測試亦是由概念驗證走向部署的重要一步。他支持分散式協調,並預期智能體協調協議會逐步標準化,以支援跨系統的多智能體流程。
Touring Capital 普通合夥人 Priya Saiprasad 在訪談中闡述基金聚焦以 AI 重塑企業工作流程的軟件公司,並説明創立基金的投資理念。她認為,模型能力提升且更易取得,價值正由單純開發大型基礎模型轉向把 AI 應用於具體行業及重設工作流程。Touring Capital 評估企業時重視數據優勢、產品飛輪、行業專業知識,以及邁向商業規模的清晰路徑。
Callimacus 聯合創辦人 Guglielmo Faglioni 在專訪中闡述,平台以 AI 智能體即時理解訪客意圖,動態組合內容與介面。平台分析點擊、瀏覽路徑及提示詞對話等訊號,並可隨意圖變化重新組合體驗。介面元件限於品牌核准項目,生成內容須通過嚴格 schema 驗證,定價、供應情況及地區商品組合等商業規則則在模型外執行。
Microsoft 上週舉辦 90 分鐘活動,介紹 Windows、Surface 和 Nvidia 的新動向,但內容橫跨多個議題且缺乏連貫性。活動涉及雲端、本地及混合 AI、Copilot、Microsoft AI、AI 智能體與 PC 生態等。作者表示,自己看了三遍才理解 Microsoft 想傳達的訊息,掌握相關議題及業界發展背景有助理解活動。
王煜全認為,AI 時代每個人都要成為「劉邦型」人才,先明確目標,再讓 Agent 調度各領域的專項 AI 解決問題。AI 在專項任務上可以勝過人,但創新、有温度的人際連結、複雜事務綜合處理和主動性,仍是人的重要能力。
科技投資人王煜全認為,未來全球 AI 市場可能呈中國七、美國三的格局,中國 AI 企業有望在美國以外市場快速擴張。他預期中美 AI 發展將分道揚鑣,中國側重 ToC、移動終端與 Agent,美國則側重 ToB、大模型與內容。王煜全亦主張中國大模型主動閉源,並認為 AI 泡沫的真正風險窗口在 2029 年前後。
Andrej Karpathy 指出,公眾對 AI 能力的認知與內部前沿系統可完成的工作之間正迅速拉開差距,外界目前只看到了預覽。他估計,約 60 億人幾乎未接觸 LLM,約 10 億至 20 億人只作一般用途;約 2,000 萬名數學及編碼專業用戶已能透過提示詞,讓智能體完成以往需數週或數月的大型項目。
諾貝爾經濟學獎得主達龍·阿西莫格魯在訪談中提醒,AI 可以協助研究和檢查文章,但不應代替人思考,尤其不應讓學生把寫作、解題等學習過程交給 AI。他主張 AI 應用兼顧自動化與提升人的能力,並建議學生打好數學、物理、經濟學和工程基礎,同時學習與 AI 協作。
久多良木健表示,自己退休後,PlayStation 主機正失去技術創新,已變得與 PC 沒有太大分別。他指出,PC 與遊戲機融合有利有弊,能為開發商帶來更大的市場,但技術進步未必會在此發生。NVIDIA、AMD 都致力開發 AI,而遊戲業目前尚未接受 AI。
盛景嘉成管理合夥人王曉輝認為,AI 模型迭代及大廠入局下,Agent 創業仍有機會,但應避開正面競爭,建立不易被模型迭代取代的價值。盛景嘉成優先看能增加客戶收入、產生明確結果且較早驗證商業模式的項目,亦佈局 AR 眼鏡產業鏈的 Micro LED 顯示、光學模組等環節。
英特爾 CEO 陳立武表示,中國前沿 AI 模型的 Token 成本較低,普及速度一直非常快。陳立武稱,DeepSeek、Kimi 和 GLM 等模型的效能已足夠好,他堅定支持開源,認為這是提高效率的最佳路徑;市場會決定不同模型的應用場景。