當你的網站被海量上傳文件轟炸，無法處理時，你會怎麼做？軟件開發人員兼音樂家 Adrian Holovaty 就遇到了這種情況，他發現公司樂譜掃描儀上傳失敗的文件數量出現了異常激增。

令他沒想到的是，罪魁禍首竟然是ChatGPT。

在最近的博客文章聲音片段 聯合創始人解釋說，他在查看錯誤日誌時發現，ChatGPT 指示用戶將 ASCII“tabs”（吉他手和其他人用來代替樂譜的簡單音樂格式）上傳到 Soundslice 中，以便收聽音頻回放。問題是，這項功能根本不存在。因此，Holovaty 決定開發它。

Holovaty 寫道：“據我所知，這是第一家公司開發一項功能的案例，因為 ChatGPT 錯誤地告訴人們它的存在。”

於 2012 年推出，Soundslice是一個交互式音樂學習和共享平台，可以將照片或 PDF 中的樂譜数字化。

“我們的掃描系統原本就不支持這種符號風格，”霍洛瓦蒂寫道。“那麼，為什麼我們會被這麼多 ASCII 標籤的 ChatGPT 截圖轟炸呢？我困惑了好幾個星期——直到我自己動手嘗試了一下 ChatGPT。”

我們從未支持過 ASCII 標籤；ChatGPT 完全是在欺騙用戶。這不僅讓我們顏面掃地，還給我們的服務帶來了錯誤的預期。

AI 幻覺現象屢見不鮮。自 2022 年 ChatGPT 公開發布以來，已有無數實例聊天機器人，包括 ChatGPT、Google雙子座以及 Anthropic 的克勞德·艾，將虛假或誤導性信息當作事實。

雖然 OpenAI 沒有提及 Holovaty 的說法，但該公司承認幻覺仍然是一個問題。

OpenAI 的一位發言人表示：“解決幻覺問題是一個正在進行的研究領域。”解密“除了明確告知用戶ChatGPT可能會犯錯誤之外，我們還在不斷努力通過各種方法提高模型的準確性和可靠性。”

OpenAI 建議用戶將 ChatGPT 的回復視為初稿，並通過可靠來源驗證任何關鍵信息。它在系統卡和安全評估中心發布模型評估數據。

“幻覺不會消失，”西北人工智能諮詢公司聯合創始人兼首席執行官 Wyatt Mayham 告訴解密“在某些情況下，比如創意寫作或頭腦風暴，幻覺實際上是有用的。”

這正是霍洛瓦蒂所採取的方法。

“我們最終決定：管他呢？我們不如滿足市場需求，”他說。“所以我們定製了一個 ASCII 標籤導入器，這在我‘預計在 2025 年開發的軟件’清單中排名靠後，我們還修改了掃描系統的 UI 文案，以便向大家介紹這個功能。”

Holovaty 沒有回應解密請求評論。