(相關資料圖)
周二，人工智能研究初創公司OpenAI推出了一款工具，可以弄清文本是由人類撰寫的還是由計算機生成的。
兩個月前，OpenAI推出的聊天機器人ChatGPT吸引了公眾的注意，ChatGPT可以根據人的提示生成看起來似乎是由人撰寫的文本。在引發了一波關注之后，微軟(MSFT.US)上周宣布，對OpenAI進行數十億美元的投資，并表示將把這家初創公司的人工智能模型整合到其面向消費者和企業的產品中。
學校很快就限制使用ChatGPT，擔心這一軟件會影響學生學習。OpenAI的CEO Sam Altman表示，過去，在計算器等技術出現后，教育也發生了變化，但他也表示，公司可能有辦法幫助教師識別人工智能撰寫的文本。
該公司員工Jan Hendrik Kirchner、Lama Ahmad、Scott Aaronson和Jan Leike在一篇博文中寫道，“OpenAI的新工具可能會出錯，這是一項正在進行中的工作，公司希望家長和老師對分類器提出反饋”。
這些OpenAI員工寫道，“在我們對英語文本的‘挑戰集’評估中，我們的分類器正確地將26%的人工智能撰寫的文本(真陽性)識別為‘可能是人工智能撰寫的’，而將人類撰寫的文本錯誤地標記為人工智能撰寫的文本的比例為9%(假陽性)”。
這并非是人們首次嘗試確定文本是否是由機器生成的。本月早些時候，普林斯頓大學學生Edward Tian發布了一個名為GPTZero的工具，并在發布工具的網站上指出，這是為教育工作者而制作的。OpenAI自己也在2019年發布過一個檢測器，但它沒有ChatGPT的核心內容那么復雜。員工們寫道，新版本更適合處理來自最新人工智能系統生成的文本。
新工具不擅長分析少于1000個字符的文本，而且OpenAI不建議將其用于英語以外的其他語言。另外，員工們寫道，可以對人工智能生成的文本稍作更新，使分類器無法正確判斷它是否主要是由人類撰寫的。
即使早在2019年，OpenAI就明確表示，識別合成文本并非易事。公司打算繼續克服這方面的挑戰。員工們寫道，“我們將繼續進行檢測人工智能生成的文本方面的工作，我們希望在未來分享改進的方法”。
OpenAI