天天影视网色香欲综合网_大桥久未无码吹潮在线观看_日韩欧美一区二区三区免费看_中文人妻无码一区二区三区

關(guān)于是否上線反作弊工具，OpenAI內(nèi)部爭議了2年多。

該工具準確率高達99.9%！

它能專門用來檢測是否用ChatGPT水了論文/作業(yè)。早在2022年11月（ChatGPT發(fā)布同月）就已經(jīng)提出想法了。

但是！

這么好用的東西，卻被內(nèi)部雪藏了2年，現(xiàn)在都還沒對外公開。

為啥？

OpenAI對忠實用戶做了調(diào)查，結(jié)果發(fā)現(xiàn)近三分之一的人都表示如果用了反作弊工具，他們就棄了ChatGPT。而且還可能對非英語母語的用戶影響更大。

但公司內(nèi)部也有人提出，使用反作弊方法對OpenAI生態(tài)有好處。

雙方一直爭執(zhí)不下，該水印檢測工具因此未發(fā)布。

而除了OpenAI，如谷歌、蘋果也都準備了類似工具，有一些已開始內(nèi)測，但都未正式上線。

一、ChatGPT沒發(fā)布前已開始討論

ChatGPT大火后，不少高中生大學(xué)生都拿它來寫作業(yè)，所以如何甄別AI生成內(nèi)容也成為了圈內(nèi)的熱議話題。

從最新曝光的信息來看，OpenAI早在ChatGPT發(fā)布前就考慮到了這一問題。

當(dāng)時開發(fā)這項技術(shù)的人是Scott Aaronson，他在OpenAI從事安全方面的工作，也是德克薩斯大學(xué)計算機科學(xué)教授。

2023年初，OpenAI聯(lián)合創(chuàng)始人之一John Schulman，在一份Google文檔中概述了該工具的優(yōu)缺點。

隨后公司高管決定，在采取進一步行動之前，他們將征求一系列人士的意見。

2023年4月，OpenAI的一項委托調(diào)查顯示，全球范圍內(nèi)僅有1/4的人支持增加檢測工具。

同月，OpenAI又對ChatGPT用戶進行了調(diào)查。

結(jié)果顯示，有近30%的用戶表示，如果ChatGPT部署了水印，他們會減少使用ChatGPT。

此后，圍繞這項工具的技術(shù)成熟度以及用戶喜好的爭議一直不斷。

今年6月初，OpenAI召集了高級員工和研究人員再次討論該項目。

據(jù)稱最后大家一致認為，雖然技術(shù)上已經(jīng)成熟了，但去年的ChatGPT用戶調(diào)查結(jié)果還是無法忽視。

內(nèi)部文件顯示，OpenAI認為他們需要在今年秋天之前制定一項計劃，以影響公眾對人工智能透明度的看法。

不過直到目前消息曝出，OpenAI仍未透露出相關(guān)對策。

二、為啥不公開？

總結(jié)OpenAI遲遲不公開這項技術(shù)的原因，主要有兩方面：一是技術(shù)，二是用戶偏好。

先說技術(shù)，早在2023年1月，OpenAI就開發(fā)了一種甄別多個AI模型（包括ChatGPT）文本的技術(shù)。

這項技術(shù)利用了一種類似“水印”的方法，把看不見的標記嵌入文本中。

這樣，當(dāng)有人用檢測工具分析文本時，檢測器可以提供一個分數(shù)，表示文本由ChatGPT生成的可能性有多大。

不過當(dāng)時成功率只有26%，僅過了7個月，OpenAI就撤回了。

后來OpenAI逐漸將技術(shù)的成功率提到了99.9%，從技術(shù)上講，該項目大約一年前就已經(jīng)可以發(fā)布。

然而，圍繞技術(shù)的另一個爭議是，內(nèi)部員工認為該技術(shù)可能會損害ChatGPT寫作質(zhì)量。

同時，員工們還提出了一些關(guān)于“人們可能規(guī)避水印”的潛在風(fēng)險。

比如大學(xué)生都會的“翻譯術(shù)”，將文本翻譯成另一種語言，然后通過類似谷歌翻譯的方式再次翻譯回來，從而有可能被擦除。

再比如有人搞個“上有政策下有對策”，一旦公開使用水印工具的人多了，網(wǎng)友們指定分分鐘搞出破解版。

除了技術(shù)，另一大阻礙因素就是用戶了，OpenAI的多項調(diào)查顯示，用戶們似乎并不看好這項技術(shù)。

這也不得不提到用戶們到底拿ChatGPT在干啥？

這個問題可以參考《華盛頓郵報》的一項調(diào)研，他們從數(shù)據(jù)集WildChat中查看了近200,000個英語聊天記錄，這些對話由人類與兩個基于ChatGPT構(gòu)建的機器人生成。

可以看出，人們主要用ChatGPT來寫作（21%）以及幫助完成家庭作業(yè)（18%）。

這樣看來，人們反對這項檢測技術(shù)好像也不難理解。

那么，你同意在使用ChatGPT這類工具時增加水印嗎？

AI工具極大改變了企業(yè)的經(jīng)營管理方式，不少企業(yè)都利用AI開展營銷工作、管理工作，比如用AI制作海報、生成營銷文案、分析經(jīng)營數(shù)據(jù)等等，用AI來輔助企業(yè)的私域經(jīng)營。

對于部分企業(yè)來說，OpenAI推出反作弊工具可能會造成一定影響，那么在營銷時使用正版素材、獨有素材就更加重要了。

多享是一家專注于數(shù)字化服務(wù)、系統(tǒng)開發(fā)、新媒體營銷、農(nóng)村電商的專業(yè)互聯(lián)網(wǎng)公司，成立14年，助力2000+中小企業(yè)實現(xiàn)數(shù)字化轉(zhuǎn)型升級。研發(fā)的多享有數(shù)私域運營系統(tǒng)擁有中臺云倉、供應(yīng)商、自營商城、直播、短視頻、分銷、零售商管理、運營商管理等模塊，幫助企業(yè)實現(xiàn)數(shù)字化轉(zhuǎn)型，做好私域經(jīng)營！

還支持素材庫功能，獨有素材免費用！