計劃三年內提供100萬美元,用于研究如何使 AI 具有道德意識。
多知11月27日消息,據(jù)外媒 TechCrunch 報道,在美國國稅局提交文件披露的一項舉措中,OpenAI 的非營利部門向美國杜克大學的研究人員提供了一筆贈款,用于一個名為“Research AI Morality(研究人工智能道德)”的項目。
據(jù)介紹,該項目屬于一項更大的計劃,該計劃在三年內提供100萬美元,用于研究如何使 AI 具有道德意識。
該項目由專門研究實踐倫理學的教授 Walter Sinnott-Armstrong 和 Jana Schaich Borg 領導,Sinnott-Armstrong 是哲學界的研究人員,他深入應用倫理學、道德心理學和神經科學等領域。他在杜克大學的團隊致力于解決現(xiàn)實世界中的難題,比如通過設計算法來決定誰應該接受器官移植、權衡公眾和專家的觀點來完善這些系統(tǒng)的公平性。
OpenAI 資助的項目旨在創(chuàng)建算法,預測醫(yī)學、法律和商業(yè)等領域的人類道德判斷。這個研究的難點源于 AI 的運作方式:機器學習模型基于訓練數(shù)據(jù)預測結果,因此通常反映了主流文化的意見,可能會存在偏見。
針對此次的報道,Walter Sinnott-Armstrong通過電子郵件回應TechCrunch稱,他“無法談論”這項研究內容。