法國專家委員會建議加強生成式人工智能監管
法国专家报告建议对生成式人工智能加强监管
法國人工智能與數字委員會組織的專家委員會向總統馬克龍提交報告,提出18項建議以加強生成式人工智能監管。報告由9名跨學科專家在55場聽證後提出,建議限制系統的奉承迎合及擬人化機制,要求面向普通消費者的產品上市前接受跨學科風險評估,並從幼年開始普及人工智能教育。
据新华社电 法国总统府近日发布公报说,法国一个专家委员会向总统马克龙提交报告,建议对生成式人工智能加强监管,通过限制奉承迎合机制、开展上市前跨学科风险评估、加强教育等措施,防范生成式人工智能给个人认知能力、心理健康及社会运行带来的潜在危害。
这份报告由法国人工智能与数字委员会组织编写。9名跨学科专家在开展55场听证后,围绕个人和社会层面的风险提出18项政策建议。
报告指出,生成式人工智能正得到广泛使用,今年年初法国已有3300万独立用户,但四分之一的法国人对其潜在风险表示担忧。
研究显示,过度使用人工智能可能削弱用户的认知能力发展,如经常使用聊天机器人写作可能导致认知能力显著下降。人工智能工具存在日益加剧的拟人化和奉承迎合现象,可能导致用户产生情感依赖。人工智能还可能加剧网络暴力。
针对上述风险,专家委员会提出18项建议,包括在设计层面严格限制人工智能系统的过度奉承迎合和拟人化机制,防止企业利用用户的心理弱点牟利。同时,应将监管从发现违规后的纠正转向提前防范风险,并要求面向普通消费者的生成式人工智能产品在上市前接受跨学科风险评估。委员会还建议从孩童幼年阶段开始普及人工智能教育,培养会使用人工智能却不依赖人工智能的下一代。(罗毓)
新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn