聊天機器人ChatGPT的利用價值迅速被人類發(fā)掘：學(xué)生用它寫作業(yè)、程序員讓它幫忙寫代碼、新聞網(wǎng)站用它“水”文章……于是，學(xué)校不高興了，公司不高興了，創(chuàng)作者也不高興了。

(資料圖)

如今，ChatGPT的“造物主”O(jiān)penAI親自出馬，要解決各方人士利用這個工具“作弊”的問題。

2月1日，OpenAI宣布推出名為AI文本檢測器（AI Text Classifier）的新工具，來輔助辨別文本到底是人類編寫的，還是AI編寫的。

目前，該工具已經(jīng)可以免費試用。提交文本后，分類器會生成評估結(jié)果，包括以下5種：非常不可能、不太可能、不確定、可能、非?？赡埽ㄊ茿I生成的）。

不過，這個AI文本分類器離成熟還很遠(yuǎn)。不僅只能識別1000字符以下的文本，而且可靠性還有待提高。

一名AI研究員Sebastian Raschka用莎士比亞《麥克白》的第一章測試該工具，得到的評估結(jié)果是“非?？赡堋笔茿I創(chuàng)作的。Sebastian 在推特有14萬粉絲，他貼出截圖后評論區(qū)有人戲謔道：“電影靈感：ChatGPT是一個時空穿越者，實際上人類的創(chuàng)作語言從一開始就是由它影響?！?/p>

OpenAI其實對該工具的“不完美”也開誠布公，在網(wǎng)頁的說明部分明確寫著，根據(jù)他們的測試，只有約26%的AI生成文本識別為“非?？赡堋?，還有9%的人類創(chuàng)作會被誤判。OpenAI表示：“它仍然存在一些局限性，因此它應(yīng)該被作為確定文本來源的輔助工具，而非主要判定工具?！?/p>

與其說“不完美”，不如說這個工具還很初級。但即便如此OpenAI也迫不及待地將之發(fā)布，一方面是需要各方反饋完善工具，另一方面也是對ChatGPT引發(fā)的主要爭議的一種回應(yīng)。

我的罪，我自己先治了，姿態(tài)有時候比結(jié)果還重要。

A

ChatGPT已經(jīng)在美國教育界引起了廣泛的擔(dān)憂。

美國的在線課程網(wǎng)站Study.com向1萬名18歲以上的學(xué)生發(fā)起調(diào)查，詢問他們使用ChatGPT的情況，結(jié)果竟然有89%的學(xué)生表示自己會使用ChatGPT完成作業(yè)，還有48%的學(xué)生用它完成測驗，53%的學(xué)生用它寫論文，22%的學(xué)生用它生成論文大綱。

即便是考慮到調(diào)查規(guī)模不大、樣本代表性不佳等問題，這樣的比例依然令人震驚。

《紐約時報》曾報道一個例子。美國北密歇根大學(xué)教授安東尼·奧曼（Antony Aumann）在批改學(xué)生的世界宗教課作業(yè)的時候，看到一篇文章以罩袍禁令的道德影響為題，行文段落簡潔，例子準(zhǔn)確，邏輯嚴(yán)密，在一眾作業(yè)中很出挑。

但是安東尼教授沒有直接給高分，他起了疑心。在教授的質(zhì)問下，該學(xué)生向他承認(rèn)，這篇文章其實是用ChatGPT生成的。

雖然教育界也有一種聲音，認(rèn)為應(yīng)當(dāng)將ChatGPT這樣的新工具納入到教學(xué)當(dāng)中，而不是千方百計抵制它。也的確有一些大學(xué)開始這么做，支持的教育者認(rèn)為這就像是在數(shù)學(xué)課上使用計算器，如果能減輕學(xué)生負(fù)擔(dān)，用用也沒問題，這可以使他們有更多時間思考深層次的問題。

但反對的聲音似乎更加響亮。

1月3日，以“擔(dān)心對學(xué)生學(xué)習(xí)的負(fù)面影響”以及“對內(nèi)容的安全性和準(zhǔn)確性的擔(dān)憂”為由，紐約市頒布了ChatGPT禁令，不管是老師和學(xué)生，都不能通過公立學(xué)校的網(wǎng)絡(luò)和設(shè)備使用ChatGPT。

紐約市教育局發(fā)言人稱：雖然該工具能夠為問題提供快速簡單的答案，但并不能培養(yǎng)批判性思維和解決問題的能力，而這對學(xué)術(shù)成就和終生發(fā)展都至關(guān)重要。

這是一個強有力的信號：紐約市擁有全美最大的公立學(xué)校系統(tǒng)。

OpenAI也察覺到了爭議的嚴(yán)重性，該公司CEO山姆·阿爾特曼（Sam Altman）曾提出要嘗試用水印標(biāo)記ChatGPT生成的內(nèi)容。即將信號嵌入到生成的文本中，人類不能一眼看出，但是機器一驗便知。

但在OpenAI還在提議時，外界早已開始行動，例如馬里蘭大學(xué)的幾位研究者已經(jīng)對語言模型輸出的水印進(jìn)行了深入研究。而如OpenAI新推出的工具那樣直接判斷文本是否為AI創(chuàng)作的第三方檢測工具也已經(jīng)流行多時。

B

一些大學(xué)已經(jīng)行動起來，包括斯坦福大學(xué)在內(nèi)的一些機構(gòu)，聯(lián)合推出名為DetectGPT的工具，來辨別AI生成的文本。

而要說第三方檢測工具中，最受歡迎是GPTZero。這個工具出自一位22歲的普林斯頓大學(xué)華裔學(xué)生愛德華（Edward Tian）之手，今年1月3日上線，一周內(nèi)就有超過3萬人使用，一度導(dǎo)致程序崩潰。而推特上的演示視頻，更是吸引了超過700萬人次的觀看。

近日，愛德華又發(fā)布了迭代版本GPTZeroX，升級的最大特點是可以識別“人類+AI”混寫的文本，檢測出來后由ChatGPT生成的內(nèi)容會被黃色高亮標(biāo)記出來。

而且GPTZeroX還可以批量導(dǎo)入文件，支持word、PDF和TXT等格式。這對于教師來說是一個很實用的功能，畢竟學(xué)生的作業(yè)動輒就是幾十份。

GPTZero上線一天之內(nèi)，已經(jīng)涌進(jìn)了40萬訪問量，收到了220萬次服務(wù)請求。

愛德華表達(dá)了對教育工作者的支持，他曾在推特上表示：我承諾，本網(wǎng)站對個體教師和教育工作者保持免費。

除了教育領(lǐng)域以外，ChatGPT還帶來了其他的困擾。和“學(xué)術(shù)欺詐”類似的，已經(jīng)有不少程序員利用ChatGPT寫代碼。

此前已經(jīng)有人在網(wǎng)上發(fā)帖稱，作為初級程序員經(jīng)常使用ChatGPT，但是近期突然發(fā)現(xiàn)在公司無法訪問該工具了。

除此之外，早在去年12月，IT技術(shù)問答網(wǎng)站Stack Overflow就已經(jīng)推出新政策，禁止用ChatGPT生成的內(nèi)容在該社區(qū)回答問題。

“由于 GPT 足以讓網(wǎng)站用戶相信答案有價值，社區(qū)通常用來確定其同行貢獻(xiàn)合法性的信號經(jīng)常無法檢測到 GPT 生成的答案存在嚴(yán)重問題。結(jié)果，客觀上錯誤的信息進(jìn)入了網(wǎng)站。在目前的狀態(tài)下，GPT 可能會破壞讀者對我們網(wǎng)站提供由主題專家撰寫的答案的信任。”Stack Overflow如是說明。

可以說，OpenAI在2月的第一天發(fā)布AI文本輔助檢測工具，不是一個令人驚訝的消息，甚至顯得有些姍姍來遲。

C

根據(jù)OpenAI的說法，ChatGPT的走紅實屬意料之外的事情，這也可以解釋為什么如今的爭議OpenAI看起來毫無準(zhǔn)備。

《財富》雜志近期的一篇深度報道稱，OpenAI發(fā)布ChatGPT是抱著“孤注一擲”的態(tài)度，公司聯(lián)合創(chuàng)始人兼現(xiàn)任總裁格雷戈·布羅克曼表示：“我承認(rèn)，我當(dāng)時的立場是，不知道它能否成功?！?/p>

OpenAI此前已經(jīng)擁有全世界最強大的大預(yù)言模型之一GPT-3，以約三分之二的互聯(lián)網(wǎng)、整個維基百科和兩個大型圖書數(shù)據(jù)進(jìn)行集中訓(xùn)練，但是給出的結(jié)果總是差強人意。于是有團(tuán)隊提出了“強化學(xué)習(xí)”的方案，也就是讓它直接與人類對話，在試錯中學(xué)習(xí)。

而ChatGPT就是在這樣的背景之下被推出的。

相比之下，谷歌的自然語言平臺LaMDA早在2021年5月的開發(fā)者大會上初次亮相，2022年谷歌又發(fā)布了LaMDA2。在演示中，LaMDA也表現(xiàn)出了極其強悍的能力。甚至在去年中旬，“LaMDA已經(jīng)具備意識”的都市傳說曾經(jīng)鬧得沸沸揚揚。

但是谷歌一直不愿向公眾發(fā)布LaMDA。谷歌表示，部分原因在于LaMDA存在較高的誤差，且容易對用戶造成傷害。此類瑕疵被谷歌稱為“有毒性的”，谷歌擔(dān)心貿(mào)然推出LaMDA會對公司的聲譽造成影響。

而ChatGPT爆火后引發(fā)的一連串混亂，也恰恰印證了谷歌的擔(dān)憂。

ChatGPT已經(jīng)成為OpenAI重要的一款產(chǎn)品，盡管公司稱走紅不在計劃內(nèi)，這個工具還引發(fā)了各種爭議，ChatGPT依然進(jìn)一步使得AIGC（人工智能自動生成內(nèi)容）成為當(dāng)今最熱門的賽道，也加速了OpenAI向商業(yè)世界的邁進(jìn)。

微軟和OpenAI的合作關(guān)系快速升溫。在2019年就首次向OpenAI投資10億美元的微軟，在1月24日宣布已經(jīng)擴(kuò)大雙方的合作：微軟將向OpenAI進(jìn)行一項為期多年、價值數(shù)十億美元的投資，并將OpenAI的模型納入微軟的消費級和企業(yè)級產(chǎn)品中。

有知情人士稱，投資數(shù)額將高達(dá)100億美元。

此外，有消息稱微軟計劃在3月將ChatGPT融入到搜索引擎必應(yīng)中。谷歌也已經(jīng)坐不住了，也已經(jīng)發(fā)出“紅色警報”，要重新思考人工智能策略，計劃發(fā)布20款支持人工智能的新產(chǎn)品，并將在今年發(fā)布搜索聊天界面的演示版本。

2月1日，CNBC報道稱谷歌正在測試一款名為“學(xué)徒巴德（Apprentice Bard）”的聊天機器人，該產(chǎn)品基于LaMDA，將直接與ChatGPT抗衡。最關(guān)鍵的是，它的回答可以包括最近的事件，而ChatGPT對2021年之后幾乎一無所知。

OpenAI看起來在用一款產(chǎn)品去打擊另一款產(chǎn)品，實際上是在為ChatGPT的多領(lǐng)域應(yīng)用鋪平道路。

在可以預(yù)見的將來，這個賽道將硝煙四起。ChatGPT將只是“拋磚引玉”的里程碑式印跡，還是一款長青的商業(yè)產(chǎn)品，還有待時間的檢驗。

標(biāo)簽： 人工智能 教育工作者 莎士比亞