?
您好 ,歡迎您來到邯鄲之窗! 
首頁(yè) >財(cái)經(jīng) > 企業(yè)平臺(tái) >

OpenAI表示正努力減少ChatGPT存在的偏見和不良行為 并允許用戶自定義

來源:網(wǎng)易科技 編輯:小小 2023-02-17 11:23:03
分享:
\
圖片來自網(wǎng)絡(luò)/侵刪

  熱門聊天機(jī)器人 ChatGPT 背后的 AI 研究公司 OpenAI 表示,它正在努力減少系統(tǒng)中存在的偏見和不良行為,并將允許用戶自定義聊天機(jī)器人的部分行為。此前,有大量關(guān)于 ChatGPT 與用戶互動(dòng)不當(dāng)和結(jié)果錯(cuò)誤的報(bào)告。

  OpenAI 在發(fā)布在其公司網(wǎng)站上的博客文章中承認(rèn):”自從推出 ChatGPT 以來,用戶已經(jīng)分享了許多他們認(rèn)為有偏見、冒犯性或其他令人反感的輸出。在許多情況下,我們認(rèn)可了這些擔(dān)憂,它們揭示了我們系統(tǒng)的真正局限性,因此我們希望解決這些問題。“

  該公司繼續(xù)寫道:“我們正在投資于研究和工程,以減少 ChatGPT 在回應(yīng)不同輸入時(shí)存在明顯和微妙的偏見。在某些情況下,ChatGPT 目前拒絕了它不應(yīng)該拒絕的輸出。而在其他情況下,在它應(yīng)該拒絕的時(shí)候卻沒有拒絕。“

  OpenAI 此舉旨在回應(yīng)有關(guān) ChatGPT 自身存在偏見、結(jié)果不準(zhǔn)確和不當(dāng)行為的報(bào)道,以及微軟和谷歌對(duì)目前正在測(cè)試的新 AI 搜索產(chǎn)品的更廣泛批評(píng)。據(jù)報(bào)道,在周三發(fā)布的博客文章中,微軟詳細(xì)介紹了其基于 OpenAI 技術(shù)的新必應(yīng)聊天工具的局限性,同時(shí)谷歌也已要求員工投入更多時(shí)間手動(dòng)改進(jìn)其 Bard 系統(tǒng)的答案。

  OpenAI 還表示,該公司正在加大對(duì) ChatGPT 的開發(fā)力度,包括允許每個(gè)用戶進(jìn)行有限的定制,以適應(yīng)他們的品位、風(fēng)格和視圖。

  OpenAI 在博文中寫道:“我們認(rèn)為,AI 應(yīng)該是對(duì)每個(gè)人都有用的工具,因此每個(gè)人都應(yīng)該可以在社會(huì)規(guī)定的限度內(nèi)進(jìn)行定制。這將意味著允許其他人(包括我們自己)可能強(qiáng)烈反對(duì)的系統(tǒng)輸出。將定制發(fā)揮到極致可能會(huì)導(dǎo)致惡意使用我們的技術(shù),或者催生出盲目放大人們現(xiàn)有信念的‘馬屁精式 AI’,在這方面取得適當(dāng)?shù)钠胶鈱⑹蔷叽蟮奶魬?zhàn)。因此,系統(tǒng)行為總是需要限制。“
  文章來源:http://www.codekj.com/html/news/xwdt/2023_02/17/3022114.html

免責(zé)聲明:本網(wǎng)部分文章轉(zhuǎn)自互聯(lián)網(wǎng),本文僅代表作者個(gè)人觀點(diǎn),與邯鄲之窗網(wǎng)站無關(guān)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí),對(duì)本文以及其中全部或者部分內(nèi)容、文字的真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾,請(qǐng)讀者僅作參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。
熱點(diǎn)排行榜

地址:河北省邯鄲市人民路新時(shí)代商務(wù)大廈10樓 客服熱線:0310-3181999
邯鄲之窗  evokeinteriorspace.com  版權(quán)所有 未經(jīng)同意不得復(fù)制或鏡像 在線交流

冀公網(wǎng)安備 13040302001161號(hào) 冀ICP備12015509號(hào)-8