OpenAI CEO警告：不要過度信任人工智慧，其本身並不完全可靠

據媒體報導OpenAI CEO Sam Altman近日接受採訪時發出警示：儘管ChatGPT在全球範圍內獲得廣泛認可，但用戶對其毫無保留的信任態度值得警惕。

最讓我驚訝的是人們如此輕易地相信ChatGPT給出的答案，Altman坦言儘管這款AI聊天機器人已被廣泛應用於教育輔導、學術研究甚至育兒建議等關鍵領域，但本身並不完全可靠。Altman特別強調了一個關鍵技術限制：AI會產生幻覺，這意味著它可能自信地給出完全錯誤或誤導性的訊息。

自2022年11月發布以來ChatGPT憑藉其卓越的自然語言處理能力迅速風靡全球。但隨著應用場景的不斷擴展，關於其準確性、偏見和潛在風險的爭議也日益凸顯。

Altman提醒所有用戶，在使用這類生成式AI工具時必須保持批判性思維，並對輸出內容進行必要驗證。在談到產品發展時，Altman透露了ChatGPT即將推出的重要更新，包括持久記憶功能——允許系統記住用戶的對話歷史，以及可能導入的廣告商業模式。這些創新雖然能提升使用者體驗和商業永續性，但也將帶來新的隱私保護和資料安全挑戰。

消息來源