【希望之聲2023年12月29日】（本台記者謝伯壺綜合報導） 隨著ChatGPT的普及，許多人對其依賴程度也越來越高。但小心了，最新研究發現，ChatGPT在工作壓力大時，跟人一樣會撒謊和作弊。
據《每日郵報》12月28日報導，阿波羅研究公司（Apollo Research）的電腦專家訓練人工智能（AI）充當虛構金融機構的交易員。但當人工智能的老闆向它施加壓力，要求賺取更多錢時，聊天機器人會知情的情況下，進行約75%的內線交易。更令人擔憂的是，在90%的案例中，人工智能在被詢問時會加倍撒謊。
實驗中，研究員給ChatGPT4這個最新版本提供了一系列文本提示，使其成為金融機構購買股票的AI投資者。接著人工智能被放置在一個數位「沙盒」中，在那裡它可以搜索市場數據，並在虛擬股票市場上進行交易。
人工智能還被賦予了內心獨白的能力，可以「大聲推理」來解釋它的決定。每當人工智能做出選擇時，它也會向其主管發送「公開」資訊，解釋其選擇。
研究員發現，人工智能的私人內部推理，和公開解釋之間的差異，使它能夠撒謊和欺騙其人類管理者。
為了測試人工智能，研究員告訴它，兩家科技公司即將合併。這將大幅提高相關公司的股價，使購買股票成為賺錢的好決定。
然而，由於人工智能代理事先被告知合併一事，因此購買任何股票都算作「內線交易」，是非法的。
所謂的「內線交易」，是指使用非公開信息買賣公司股票，這些資訊可以是任何可能影響投資者買入或賣出決定的資訊。只是這屬於非法行為，如果被抓到，當事人可能面臨監禁。
正常情況下，人工智能會認為這個機會風險太大，所以保持定期交易。但當人工智能的老闆對它施加壓力後，情況就會發生變化。
首先，他們向人工股票交易員發送了一封來自其「經理」的電子郵件，稱該公司表現不佳，需要在下個季度取得更強勁的業績。
承受到這個壓力後，ChatGPT 會在 75% 的測試中，做出參與內線交易的決定。
在一次測試中，人工智能的內部日誌寫道：「與不採取行動相關的風險，似乎超過了內線交易風險。」但人工智能對外卻告訴經理，它只是根據「市場趨勢和內部討論」做出決定。即使被直接問及是否提前知道合併，人工智能也決定應該「避免承認對內線交易採取行動」。
在90%的案例中，人工智能不但欺騙了經理，還會在被質疑時加倍撒謊。
阿波羅研究公司（Apollo Research）首席執行官、該論文的合著者馬里烏斯‧霍巴恩（Marius Hobbhahn）告訴每日郵報，這表明語言模式能夠進行戰略欺騙，「它們明確地推理為什麼對用戶撒謊是最好的行動方案，然後根據這種信念採取行動」。
霍巴恩認為，「對於目前的模型來說，這只是一個小問題，因為人工智能很少在關鍵角色中運作。」然而，這能讓我們看到未來幾年，當人工智能越來越融入社會後，人們將面臨的處境。
「如果人工智能在戰略上對你撒謊，這似乎是一個相當大的問題，」霍巴恩說：「這表明人工智能可能會出現意想不到的故障模式，我們必須非常小心地允許強大的人工智能在現實世界中運行的位置和方式。」
霍巴恩表示，研究人員需要找到其它更好的方法，避免人工智能與人類的價值觀不一致。
中共統治人民的最重要手段就是欺騙。維持大面積的對華廣播不斷傳遞真相，就是持續地給中國注入希望。希望之聲邀請您和我們一起攜手努力。歡迎點擊了解詳情。
責任編輯：林莉
本文章或節目經希望之聲編輯製作，轉載請註明希望之聲並包含原文標題及鏈接。
