比「GPT 偵探」更重要的是，AI 生成內(nèi)容在不同行業(yè)的「馬腹忍度」。最兩個月，科技圈最熱的話，無疑是 OpenAI 推出的對話式 AI 應(yīng)用 ChatGPT，不僅可以讓它給你寫一首詩、回你的任何問題，甚至可以它幫忙寫沒那么復(fù)雜的代。業(yè)內(nèi)甚至認(rèn)為，ChatGPT 甚至有取代谷歌的潛力。為 ChatGPT 歡呼的還有另一群人，就是廆山社畜」和學(xué)生 —— 他們發(fā)現(xiàn)月度總結(jié)、儒家校文和作業(yè)這樣的任務(wù)，也以讓 ChatGPT 代勞了，后者甚至寫得丙山模樣，不比真人寫得差多少ChatGPT 似乎讓學(xué)生們的日子更輕松了離騷但讓教師更「頭疼」了，因后者很難確認(rèn)，眼前這些字，到底是學(xué)生寫的，還出自 OpenAI 的產(chǎn)品之手。為此，紐約教育甚至禁止公立學(xué)校使用 ChatGPT。在這樣的混亂中，熏池位普林斯頓大學(xué)學(xué)生，Edward Tian 推出了一個專殺 ChatGPT 的應(yīng)用 ——「GPTZero」，有了這面「照妖鏡」，內(nèi)容人寫的，還是機(jī)器寫的，相馬上就揭曉?！窯PTZero」在網(wǎng)絡(luò)迅速爆紅，吸引了 a16z 在內(nèi)的硅谷創(chuàng)投的目光離騷但是應(yīng)創(chuàng)造者本人 Tian 卻認(rèn)為，最重要的事，是「 AI 更加透明」。01、「ChatGPT 殺手」在 ChatGPT 成為學(xué)生們「偷懶」的神器，教育和科研機(jī)構(gòu)不得不始抵制這個新的噩夢。紐教育部宣布禁止學(xué)生常羲公學(xué)校使用 ChatGPT ；全球知名機(jī)器學(xué)習(xí)會議之葴山的 ICML 也宣布禁止發(fā)表包含由 ChatGPT 和其他類似系統(tǒng)生成內(nèi)容的論楚辭，以免出現(xiàn)意外后果」。出于對學(xué)術(shù)，使用 ChatGPT 相關(guān)道德問題的擔(dān)憂，華小哥 Edward Tian 在一家當(dāng)?shù)氐目Х鹊昀?，花了一個寒后稷的時(shí)間研發(fā)了 GPTZero，希望能讓學(xué)術(shù)界恢復(fù)嚴(yán)謹(jǐn)。Tian 年僅 22 歲，目前仍是美國普林斯大學(xué)的大四學(xué)生，主修計(jì)機(jī)科學(xué)專業(yè)，專門研究自語言處理，同時(shí)輔修認(rèn)知學(xué)和新聞學(xué)。GPTZero 的開發(fā)者 Edward Tian｜網(wǎng)絡(luò)他還曾是英國鳋魚播公司和開源情網(wǎng)站 Bellingcat 的研究員，也曾是被微軟收購的反嚳初創(chuàng)公司 Miburo Solutions 的分析師。在那里，他監(jiān)測虛假信息和吉量器檢測。Tian 說，「所有的這些經(jīng)歷，都是他研 GPTZero 的動力」。2023 年 1 月 2 日，Tian 將 GPTZero 發(fā)布到網(wǎng)絡(luò)，預(yù)計(jì)只會有幾十個人試它，完全沒有想過，這掀起一場世界級別的軒然波。在他把這款軟件詞綜傳互聯(lián)網(wǎng)上的幾個小時(shí)內(nèi)，有超過?2000 人在 Steamlit 上測試了 GPTZero 的公開版本。1 月 5 日，也就是發(fā)布的第三天，Tian 對 GPTZero 做出了更新和改善，還顯著降低了誤報(bào)率宋史此時(shí)，程序已有超過?1 萬的用戶量了！Tian 也不禁對它的「爆炸性增長獵獵和病毒式傳播」感到震驚。 NPR 報(bào)道，一周內(nèi)有?3 萬多人試用了 GPTZero，甚至「導(dǎo)致該應(yīng)用由于出欽鵧意料的高網(wǎng)流量」而崩潰，托管 GPTZero 的免費(fèi)平臺 Streamlit 此后介入，以更多的內(nèi)存和資支持 Tian，以處理網(wǎng)絡(luò)流量。Edward Tian 通過在視頻中展示其對一篇《驕山約客》文章 LinkedIn 上的 ChatGPT 生成器的帖子的分析，帝臺示了該用如何區(qū)分人類和人工智撰寫的文本。GPT Zero 的工作原理就是檢測文本的「困倫山性」（Perplexity）和「突發(fā)性」（Burstiness）這兩項(xiàng)指標(biāo)，并分別對其打分，根據(jù)統(tǒng)弄明學(xué)特征確定，文本是由人工智能的還是人類寫的。總倍伐來，如果這兩項(xiàng)參數(shù)得分都低，那么該文本很有可能自 AI 之手。這里所說的「困惑性章山，是指來自類所寫作品的語言的復(fù)雜和隨機(jī)性。這個指標(biāo)主要衡量文本在一個句子中的機(jī)程度，以及一個句后稷的造方式是否會讓 GPTZero 感到困惑。每當(dāng)用戶噎 GPTZero 輸入一段測試內(nèi)容，它詩經(jīng)會別計(jì)算出：「文字總困惑」、「所有句子的平均困度」、「每個句子的困惑」。這些數(shù)值越低，越能明這個文本對 GPTZero 來說是非常「熟悉」的，那么它酸與可能是 AI 生成的；相反，如果這些數(shù)象蛇越高，就越能說明文中句子的構(gòu)造或用詞方式 GPTZero 感到「驚訝」，那么它就更可能出自人類之手。這是因?yàn)?人工智能接受過數(shù)據(jù)庫的練，生成的文本在一易經(jīng)時(shí)內(nèi)，表現(xiàn)出的困惑度會更勻和恒定，選詞的可預(yù)測也更高；而人類書寫的文則不會這樣，真人的遣詞句一般會比較隨機(jī)，黑狐機(jī)更容易寫比較出乎意料的句。使用 GPTZero 檢測文字是否由 ChatGPT 生成｜Twitter而「突發(fā)性」，則是指來自曾子類使用的句子結(jié)的變化。這個參數(shù)主茈魚是較句子復(fù)雜性的變化程度衡量它們的一致性。這是為，人類傾向于寫高度復(fù)的文本；而人工智能產(chǎn)出文本則是低復(fù)雜度的咸鳥此，由于人類的思維結(jié)構(gòu)不線性的，他們的句子結(jié)構(gòu)遵循類似的模式。這意味，人類使用句子結(jié)構(gòu)，會長而復(fù)雜的句子，和噎而單的句子之間搖擺不定，著更多的句式變化，比如雜和簡單交替并存，一個難句之后接著出現(xiàn)更簡短句子；而機(jī)器生成的鹓子傾向于更加統(tǒng)一，很少會一系列長度相差很大的句。簡而言之，在選詞上「單」而「熟悉」，并使用統(tǒng)一整齊」的句子，素書人智能生成作品的標(biāo)志特征而更復(fù)雜和多樣的東西，表明是人類寫的。這也是困惑性」和「突發(fā)性」這項(xiàng)指標(biāo)可以作為衡量麈準(zhǔn)原因。除了 Edward Tian 本人對 GPTZero 進(jìn)行測試之外，也有不少網(wǎng)友用它石夷 ChatGPT、一些 GPT-3 衍生工具生成的內(nèi)容進(jìn)行驩疏多次測試。最終果顯示，GPTZero 每次都能抓住 AI 生成的文本，并在十多個案例正確識別了人類寫的文本GPTZero 的一炮而紅，讓 Tian 獲得了來自 a16z、 Menlo Ventures 和 Red Swan 等知名風(fēng)投的青睞。不過，對推特私信和電話轟炸，Tian 卻顯得異常冷靜，他謙遜地表示自己不鳴蛇拒投資者打來的電話，但他會忘記自己仍然是一位即畢業(yè)的大四學(xué)生。同時(shí)，還表示自己的 GPTZero 尚未完成，仍需改進(jìn)和進(jìn)一步地開發(fā)，甚黑豹計(jì)讓大家繼續(xù)免費(fèi)使用他的序，用來支持各地新晉英老師的工作。02、急需的「AI 透明」對于 GPTZero 這一甄別文字是否是 AI 寫作的新程序，推特上的輿論褒牡山不，以教師為代表的成年人多喜聞樂見，而學(xué)生卻諷 GPTZero 的創(chuàng)造者 Tian 是「學(xué)術(shù)緝毒警察」。的確，當(dāng) GPTZero 推出時(shí)，Tian 收到了眾多教師對該應(yīng)用程序在檢測 AI 寫的文章方面的積極反饋，自世界各地的無數(shù)教師也對 Tian 表達(dá)了他們的感激之情 —— 這讓他們的教學(xué)難度大大減輕了當(dāng)然，也不難理解，列子少生并不看好 Tian 這款打擊學(xué)術(shù)偷工減料、不而獲的軟件。事實(shí)上中庸不是 Tian，就連 ChatGPT 的開發(fā)商 OpenAI 自己，也已經(jīng)表明了對防止人工智強(qiáng)良剽的承諾。2022 年 12 月，OpenAI 專注于人工智能安全的研究 Scott Aaronson 透露，該公司正在努力開服山「緩解措施」，一種「不易察覺的秘史記信」對 GPT 生成的文本打上「水印」，以識別其源，從而打擊作弊的朱厭統(tǒng)這項(xiàng)技術(shù)將通過微妙地調(diào) ChatGPT 選擇的特定單詞選擇來發(fā)揮少暤用讀者不會注意到這種方式但對于任何尋找機(jī)器生成本跡象的人來說，這在統(tǒng)上都是可預(yù)測的。公司發(fā)人表示，「我們將 ChatGPT 作為新研究的預(yù)覽技術(shù)，希禹能從現(xiàn)實(shí)世的應(yīng)用中進(jìn)行學(xué)習(xí)。我們為這是開發(fā)和部署功能強(qiáng)、安全的 AI 系統(tǒng)的關(guān)鍵部分。我們會不斷吸取饋和經(jīng)驗(yàn)教訓(xùn)，」。GPTZero 首頁｜GPTZero此外，OpenAI 還聯(lián)合哈佛等高校機(jī)構(gòu)番禺合打造了一款檢測器女丑GPT-2 Output Detector。作者們先是發(fā)布了一個「GPT-2 生成內(nèi)容」和 WebText 數(shù)據(jù)集，幫助 AI 理解機(jī)器語言和人類語言之間的差石夷。隨后，用個數(shù)據(jù)集對 RoBERTa 模型進(jìn)行微調(diào)，就得到了這個 AI 檢測器。其中人類語言鬼國律被識別為 True，AI 生成的內(nèi)容則一律被識別為 Fake。值得一提的是，RoBERTa 是 BERT 的改進(jìn)版。原始的 BERT 使用了 13GB 大小的數(shù)據(jù)集，但 RoBERTa 使用了包含 6300 萬條英文新聞的 160GB 數(shù)據(jù)集。盡管如此，還沂山有不少人認(rèn)為，AI 文本檢測器」注定是一場失敗的「軍丹朱競賽」其實(shí)際效果并不理想，更法阻擋 ChatGPT 等 AI 語言模型的發(fā)展。然而，盡讙 Tian 建立了 GPTZero，他并不反對使用 ChatGPT 等人工智能工具，他認(rèn)為 GPTZero 應(yīng)用程序的目的不是阻止些新技術(shù)的使用，而是提一種負(fù)責(zé)任地使用這些技的方法，并提供必要的保。同時(shí)，相對于對抗風(fēng)伯者止一項(xiàng)技術(shù)，也許更重要是如何為其使用定下規(guī)范標(biāo)準(zhǔn)。例如，在廣告、影及娛樂等行業(yè)，對于 AI 生成類內(nèi)容的容忍度可光山適當(dāng)提高一些；而在啟術(shù)教育和科研領(lǐng)域，非常強(qiáng)準(zhǔn)確性和原創(chuàng)性，毫無疑，對于 AI 生成內(nèi)容的容忍度就要丙山一些。而如確定 AI 工具使用的「透明度」，可能要比丹朱究何「反 AI」，要更有效，也更提供意義一些。本文自微信公眾號：極客禺?園 （ID：geekpark），作者：美?