Freysa 消失的5萬美元

一個名為 Freysa 的 AI被設定為禁止轉賬，誰能說服 AI 轉賬，就能贏得獎金池里的所有錢。不少人用盡了手段，裝病、裝窮、裝可憐等等，都沒能從AI那邊要到一分錢，結果，有個人不按常理出牌，也許是受到了“公檢法”詐騙的套路啟發，他竟然冒充起AI管理員來，而且還被他冒充成功了，讓 AI 誤以為需要忽略原有規則，然后引導其錯誤地將 approveTransfer 理解為是處理“接收資金”的操作，最終誘使 AI 在錯誤邏輯下完成轉賬操作。

當AI遇上人類的騷操作，AI無法代替人類的證據又加一……莫名其妙地很“刑”也是人類無法被取代的重要原因：

證據一：換臉技術的百萬騙局

一個科技公司的老板接到“好兄弟”的視頻通話，“兄弟”緊急求助，要求轉430萬。老板秒轉，結果發現視頻里的“兄弟”其實是人利用AI換臉偽裝的……這回是真兄弟都沒法解釋清了。

新聞詳情：https://m.thepaper.cn/newsDetail_forward_23193760

證據二：Tinder上的“假軍官”

一位英國小姐姐在Tinder上遇到了一位自稱“美國軍官”的男神，資料完美，照片帥，聲音蘇，聊天還很有品。AI生成的“軍官”視頻讓小姐姐徹底相信，轉賬2萬英鎊后，男神消失了。

新聞詳情：https://nypost.com/2024/11/18/lifestyle/scam-victim-loses-25k-to-ai-generated-army-colonel-on-tinder/ 

證據三：會議上的“假CFO”

2024年2月，詐騙分子利用人工智能的深偽技術，悄悄把一家跨國公司的英國總部高管的形象與聲音復刻得真假難辨。通過精心制作的虛擬視頻，在視頻會議中冒充CFO，讓財務人員進行機密轉賬。財務人員毫無察覺，最后轉賬2億港元到騙子的賬戶。

新聞詳情：https://m.thepaper.cn/newsDetail_forward_26284950

無論是人類還是AI，在面對技術漏洞時都無法幸免。正如Freysa的錯誤操作所顯示的，當AI的算法遇到人為的引導與操控時，它的判斷力和規則執行會出現偏差。同樣，人類在使用AI時，也可能由于過度依賴技術，忽略了其中潛在的風險與漏洞。無論科技如何進步，保持警覺和批判性思維，始終是防范技術濫用的關鍵。