本周早些時候，谷歌AI搜索建議用戶使用“1/8 杯Elmer's膠水”來增稠披薩醬，這引發(fā)了源源不斷的笑話。現(xiàn)在看來，AI Overview從Reddit上的一個十年前的笑話中收獲了（糟糕的）食譜破解方法，導(dǎo)致一些人指出，谷歌在Reddit帖子上訓(xùn)練大型語言模型是一個錯誤。

 

為 NFL 效力的狗。更換汽車“轉(zhuǎn)向燈液”的技巧。建議用剪刀跑步以增強(qiáng)免疫系統(tǒng)。這些只是使用Google全新AI概覽功能的幾個例子，也是許多人在嘗試使用世界上最受歡迎的搜索引擎時首先看到的東西。

經(jīng)過多年（可能違法的）行業(yè)主導(dǎo)地位，谷歌的名字已成為“互聯(lián)網(wǎng)搜索”的代名詞。但其日益爭議的生成式人工智能項(xiàng)目可能會迅速抹去這一聲譽(yù)——尤其是已經(jīng)為許多用戶提供的實(shí)驗(yàn)性“人工智能概覽”功能。谷歌在本月初的新工具公告中寫道，人工智能概覽被宣傳為一種從廣泛的網(wǎng)站和已發(fā)布（通常受版權(quán)保護(hù)）內(nèi)容中提煉內(nèi)容的方法，據(jù)稱可以讓人們訪問“更多不同類型的網(wǎng)站，以解決更復(fù)雜的問題”。

但是，盡管AI Overview可能給出了許多正確的答案，但當(dāng)它出錯時，顯然是極其錯誤的。迄今為止最流行的例子是谷歌本周早些時候建議使用“1/8杯Elmer's膠水”來增稠披薩醬，這引發(fā)了源源不斷的笑話。現(xiàn)在看來，AI Overview從Reddit上的一個十年前的笑話中收獲了（糟糕的）食譜破解方法，導(dǎo)致一些人指出， 在Reddit帖子上訓(xùn)練大型語言模型是一個錯誤。（谷歌現(xiàn)在每年向論壇網(wǎng)站支付6000萬美元來這樣做）。

在向Verge和其他網(wǎng)站提供的一份聲明中，谷歌發(fā)言人聲稱，像在披薩上涂上黏合劑這樣的創(chuàng)意只會出現(xiàn)在搜索“通常非常不常見的查詢時，并不代表大多數(shù)人使用AI概覽的體驗(yàn)”。但撇開谷歌搜索披薩醬配方技巧并不“罕見”這一事實(shí)不談，已經(jīng)有一個X帳戶專門突出了數(shù)百個“足夠谷歌”的AI概覽示例，這說明了當(dāng)前的問題。

當(dāng)然，許多古怪的說法，如“約翰·亞當(dāng)斯總統(tǒng)21次畢業(yè)于威斯康星大學(xué)”、“蛇是哺乳動物”和“制造氯氣來清潔你的洗衣機(jī)”等，可能是經(jīng)過編輯的惡作劇圖片，無法區(qū)分這一事實(shí)只能說明互聯(lián)網(wǎng)存在更大的問題。而且，如果谷歌的許多荒謬或徹頭徹尾危險的人工智能建議中只有一部分是真的那么辯稱它們只是系統(tǒng)中的漏洞很可能無法保護(hù)該公司免受法律挑戰(zhàn)和訴訟的沖擊。

Google承諾公司將不斷改進(jìn)其產(chǎn)品，包括AI Overview。在一份提供給Ars Technica的聲明中，一位發(fā)言人表示：“我們在推出這項(xiàng)新體驗(yàn)之前進(jìn)行了廣泛的測試，并將使用這些孤立的例子來繼續(xù)完善我們的整體系統(tǒng)。”目前還不清楚這些錯誤答案會在AI Overview中持續(xù)出現(xiàn)多久，或者這種缺陷是否真的可以修復(fù)。但與此同時，至少Google有大量“孤立的例子”可以用作學(xué)習(xí)經(jīng)驗(yàn)。在他們繼續(xù)改進(jìn)這些系統(tǒng)的同時，用戶可以嘗試在自己的Google 搜索中禁用AI。

Google針對這些爭議，聲明道：“絕大多數(shù)AI Overview都提供了高質(zhì)量的信息，并提供了在網(wǎng)絡(luò)上進(jìn)行深入挖掘的鏈接。我們看到的許多例子都是不常見的查詢，我們也看到了被篡改或我們無法重現(xiàn)的例子。在推出這一全新體驗(yàn)之前，我們進(jìn)行了廣泛的測試，正如我們在搜索中推出的其他功能一樣，我們非常感謝大家的反饋。我們會根據(jù)內(nèi)容政策迅速采取行動，并利用這些案例對我們的系統(tǒng)進(jìn)行更廣泛的改進(jìn)，其中一些改進(jìn)已經(jīng)開始推出。”