OpenAI在兩個多月前發(fā)布的聊天機器人名聲大噪，現(xiàn)在OpenAI又要“用魔法打敗魔法”，推出了針對人工智能生成文本的識別工具。

【資料圖】

據(jù)美國消費者新聞與商業(yè)頻道（CNBC）報道，美國人工智能研究機構OpenAI在當?shù)貢r間1月31日推出了一款新工具，旨在識別文本是由電腦自動生成還是由人類撰寫。

AI代寫作業(yè)，ChatGPT遭教育界拉黑

就在兩個月之前，OpenAI推出的聊天機器人ChatGPT可謂火遍全球，進而引發(fā)全世界各路資本和科技巨頭將目光投向這一賽道。

聊天機器人ChatGPT可以根據(jù)用戶提示來模仿類人對話，令很多人沉迷于與它聊天。這款程序無論是生成小說、解答疑難問題或者是哲學的問題，都能交出讓人驚嘆的答案。

硬幣都有兩面，ChatGPT本身也有不少問題，比如它有時候答非所問，甚至牛頭不對馬嘴，讓人不知所以，相關的用戶隱私保護也將是一大難題。不過，目前顯露出來最為嚴重的問題當屬“代寫作業(yè)”。

據(jù)《紐約時報》1月16日報道，美國北密歇根大學教授Antony Aumann評改“世界宗教”課程的結課論文時，發(fā)現(xiàn)一篇論文相當出彩。該文章以罩袍禁令的道德影響為題，段落簡潔，例子恰當，論據(jù)嚴謹。但在Aumann詢問之后，學生向他坦陳，這篇文章其實是用ChatGPT生成的。

本起代寫事件遠非個例，此前有調查顯示，ChatGPT已被美國大學生廣泛用于代寫作業(yè)。這也引發(fā)了教育界人士的廣泛擔憂，數(shù)日前，紐約教育部門便下令“拉黑”了ChatGPT，所有紐約市的學生和教師，都無法在學校網(wǎng)絡及設備上訪問ChatGPT。

新工具對AI生成文本的識別率為26%

對于代寫作業(yè)，OpenAI也給出了解決方式——一款新的文本識別工具。不過，這款工具是否真的能夠“用魔法打敗魔法”尚且存疑。

OpenAI的首席執(zhí)行官Sam Altman近日在一次訪談中表示，在新技術出現(xiàn)后，傳統(tǒng)的教育方式發(fā)生了變化，但他也提到，公司可能有辦法幫助教師來識別人工智能生成的文本。

據(jù)CNBC，OpenAI的員工們表示，OpenAI這款識別工具仍在改進之中，可能會犯錯，希望能得到家長和老師的反饋，在一次評估中“我們的工具正確地將26%的AI生成文本識別為‘可能是AI生成的’，同時錯誤地將9%的人類撰寫文本標記為‘AI生成文本?！?/p>

有意思的是，員工們還提到，人工智能生成的文本稍作升級，就能夠讓識別工具無法準確判別文本是否由人類撰寫。如此看來，ChatGPT和新工具或將展開“道高一尺魔高一丈”的角逐。

OpenAI由特斯拉CEO埃隆·馬斯克和投資家Sam Altman等人創(chuàng)辦，2018年馬斯克退出公司董事會。2019年，OpenAI獲得了微軟10億美元的投資，隨后兩家公司已經(jīng)進行了長達數(shù)年的合作，OpenAI在微軟的Azure云計算服務上開發(fā)其人工智能超級計算技術。近日，據(jù)美國科技媒體The Information報道，微軟可能會將OpenAI的ChatGPT整合到Word、PowerPoint、Outlook和其他應用程序中，并將使用ChatGPT背后的人工智能來推出一款新版搜索引擎必應（Bing）。

就在上周，微軟公司宣布，將對OpenAI進行持續(xù)數(shù)年、多達數(shù)十億美元的投資。微軟并未公開具體金額，不過美國財經(jīng)媒體Semafor此前報道稱，微軟對OpenAI的投資或高達100億美元。