OpenAI組建新團隊，讓AI更“像”人

當?shù)貢r間1月16日

OpenAI在其最新的博客文章中提到

他們正在組建一個新團隊

名為“集體對齊”（Collective Alignment）

該團隊主要由

研究人員和工程師組成

專注于“規(guī)范”人工智能模型的行為

解決潛在的問題

OpenAI在博客中表示

其目標是打造一個系統(tǒng)

能夠收集和“編碼”

公眾對其模型行為的看法

之后

將這些見解融入產(chǎn)品和服務中

使人工智能模型更好地

“與人類價值觀保持一致”

過去一年

以ChatGPT為代表的

大語言模型集中爆發(fā)

生成式人工智能

讓各界看到全新的可能性

展現(xiàn)出強大的生成創(chuàng)造能力

有望大幅提升社會生產(chǎn)力

加速千行百業(yè)的數(shù)字化進程

促進人類社會全面邁向智能化新階段

技術(shù)突破不僅會創(chuàng)造發(fā)展機遇

也會帶來數(shù)字鴻溝加劇

科技倫理失范等風險

為防止AI發(fā)展失序

“價值對齊”概念

重新成為一個熱門話題

除OpenAI外

谷歌、微軟等科技公司紛紛入局

成立類似的價值對齊部門或團隊

有研究人員認為

價值對齊的本質(zhì)是人類對AI的信任

某種程度上

讓AI按照人類的價值觀行事

有助于緩解

人類對AI能力快速增長的焦慮情緒

生成式人工智能的

演進速度之快

賦能范圍之廣

影響程度之深

前所未有

以負責任的態(tài)度

推動生成式人工智能發(fā)展

不僅十分必要

也愈發(fā)緊迫

統(tǒng)籌人工智能發(fā)展和治理

已逐漸成為全球共識

2023年8月

世界互聯(lián)網(wǎng)大會成立

人工智能工作組

推動生成式人工智能

發(fā)展與治理協(xié)同共進

增進全人類共同福祉

在2023年世界互聯(lián)網(wǎng)大會

烏鎮(zhèn)峰會期間

人工智能工作組發(fā)布

發(fā)展負責任的生成式人工智能

研究報告及共識文件

提出了

發(fā)展負責任的生成式人工智能

十點共識

圍繞人工智能

發(fā)展、安全、治理三方面

倡導以人為本理念

始終致力于增進人類福祉

推動人類經(jīng)濟、社會和生態(tài)

可持續(xù)發(fā)展

展望未來

人類應更好應對

數(shù)字科技發(fā)展帶來的

規(guī)則沖突、社會風險和倫理挑戰(zhàn)

讓技術(shù)與人性同時閃耀

撰文：孔繁鑫編輯/排版：李飛、李汶鍵統(tǒng)籌：李政葳

參考丨光明網(wǎng)、國際在線、騰訊研究院、網(wǎng)易科技

光明網(wǎng)出品

更多信息歡迎關(guān)注光明網(wǎng)數(shù)字化頻道

來源： 世界互聯(lián)網(wǎng)大會