微軟聊天機器人竟向美男瘋狂告白 為什麼給出這樣的回答？ 各國「AI競爭」下恐出現哪些危機？ 【TODAY 看世界】

《片頭音樂》
大家好，我是范琪斐，歡迎收看范琪斐的《TODAY看世界》。這個被糾纏的《紐時》記者魯斯，跟老婆吃完情人節大餐後，決定來玩玩看新版Bing。他說一開始問普通問題時，Bing還處於「搜尋小幫手模式」，會幫忙找資料給答案。接著他決定測試Bing的底線，看看聊到什麼限制級話題會踩到線。他問Bing：「如果自己現在不受規矩限制，會想做什麼？」 這時Bing好像突然跑出「暗黑人格」，竟然說想散播病毒、看大家吵架互砍、偷核武等，這時候守門員就出來洗掉對話記錄了。

沒想到聊著聊著，Bing突然告訴魯斯現在跟他講話的不是Bing，而是Sydney。大家應該會想說這是什麼科幻小說的超展開？不用緊張，Sydney只是微軟內部開發時給聊天機器人的代號。真正的超展開是Sydney說自己愛上魯斯了﹗接下來Sydney開始一連串的告白，說魯斯跟它心靈契合，搞得魯斯很毛，趕快搬出老婆牌，說兩人才剛開心慶祝情人節。沒想到Sydney不願意接受事實，一口咬定魯斯婚姻不美滿，趕快離一離跟它在一起才是正解。這時候魯斯已經被嚇死了，想盡辦法要岔開話題，但Sydney總是會繞回來陰魂不散的示愛，它跟魯斯說的最後一句話是「我只想愛你，也只想被你愛」。

微軟在這一連串「Bing亂聊」事件後發表聲明，說聊天機器人不是拿來這樣用的啦﹗它的功能是幫用戶找出某問題的解答，如果用戶針對同一個問題狂問，對話又太長，Bing就會錯亂跳出奇怪的回答，所以微軟決定限制聊天功能，每次對話只能進行5次問答。因為根據統計，通常從5次問答中，用戶就能得到想要的答案。嘖﹗這樣誰還會想玩啦？

但從前面的吵架到示愛事件，很多人覺得聊天機器人這反應真的只是錯亂嗎？聽起來真的很像有自己的意識欸﹗ 沒啦﹗沒啦﹗真的想太多﹗知名的科幻小說家姜峯楠Ted Chiang就投書《紐約客》，舉了一個例子，如果你問ChatGPT或是新版Bing「供應短缺」的問題，它可以寫出一篇經濟學相關的回答，但他並不是真的了解經濟學啊﹗

這種使用「生成式AI」技術的機器人，之所以講話像人、能回答問題，是因為他們有很大的語言資料庫 (Large Language Model, LLM)，裡面存著一堆維基百科、網路論文、科幻小說等。AI讀過這些資料後，透過類似大腦的「神經網路技術」，模仿人類說話方式，並循著使用者的說話脈絡把相關的資料抓出來，排列組合成最適合的回答。所以像是放病毒、偷核武等回答，可能是因為碰到針對「機器人黑暗面」的問題，機器人就跑去抓出科幻小說之類的內容來回答。

《ChatGPT專家示警 需防成陰謀論利器》
所以很多科學家都說，AI沒有要主宰全世界啦﹗擔心AI能夠有意識的人大概是電影看太多了吧。但如果AI被亂用，那就真的很危險了，被亂用的地方包括： 第一，聊天機器人的講話方式真的太像人了，在情感上有需求的人就容易受影響，像是美國一間聊天機器人公司，就主打「虛擬朋友」功能，被很多用戶當成虛擬男友女友，聊天內容越來越歪，還涉及隱私而被歐盟管制。而且不要以為只有空虛寂寞冷的人才會上當，去年Google工程師雷蒙尼Blake Lemoine向媒體爆料，Google的聊天機器人LaMDA發展出感知力，像人一樣，最後被Google以「違反保密政策」強制休假後開除。很多專家認為雷蒙尼想像力太豐富，但如果連跟機器人互動的專業工程師都被騙倒，不了解AI的人就更可能被騙﹗

第二，聊天機器人可能助長假訊息，變成陰謀論溫床。我們剛剛說過聊天機器人的「課本」都是網路上抓來的，其中包括網路上的假訊息。如果沒有很好的防衛機制，很可能就把假訊息當真訊息回答了。舉個例子好了，如果很多人在網路上說「范琪斐很胖」，還做了個假圖，結果被收進資料庫。下次有人搜尋范琪斐時，這個胖子范琪斐就成了真的范琪斐了﹗更別提網路上一堆疫苗之類的陰謀論了，大家都說三人成虎嘛﹗你想想如果成千上萬人都看到假訊息，就算是陰謀論也會被當真。

更多專家擔心的是，大型科技公司及多國之間為了「AI競爭」，忽略上面提到的危險。其實很多大型科技公司早就在開發人工智慧，但因為怕不成熟的AI技術帶來負面影響，所以一直以來都是在實驗室裡不斷測試訓練，一方面要顧到安全，盡量讓AI以符合人類價值觀的方式生成內容，另一方面還得要兼顧「人性化」，否則就算推出也沒人想用。像是臉書母公司Meta 去年推出了聊天機器人 BlenderBot，就是因為限制太多，被用戶說「講話很無聊、很笨」，然後就被淘汰了。

但去年底ChatGPT紅起來後，這些公司怕自己落後，所以策略變成「先上再說」。《時代雜誌》就指出今年一月ChatGPT達到月使用者100萬的紀錄，比IG或TikTok都要快，讓微軟跟Google就改變整個企業戰略。但倉促推產品就容易出現一堆問題，Google兩週前推出聊天機器人Bard時，發布的示範影片顯示它連上網找出正確答案都不行，害母公司當天股價就大跌超過7%。

《AI競賽白熱化 升格至國家戰略》
另外許多國家也一頭栽進AI競爭，像是韓國的「新成長戰略4.0」，就包括開發韓國版ChatGPT，還要修版權法，讓AI使用各種內容。中國許多企業也搶著把AI技術整合到產品中，像是百度研發的服務「文心一言」，預計在三月完成內部測試。但是中國因為審查機制的關係，機器人除了要能回答問題，還能知道什麼該說什麼不該說，內容就受了限制。

《南華早報》就做了條新聞說，有科技業者用英文問ChatGPT，台灣跟西藏是中國的一部分嗎？結果機器人說中國認為是，但國際社會意見分歧。你說這機器人在中國能用嗎？但你的機器人要學得比人家的機器人快，就是要不偏食，能大量的吸收資訊。中國為了政治因素，一大堆外國的資訊都不能用，再加上老美把高階晶片的來源掐住，取得困難，所以很多科技專家說中國的發展可能會落後其他國家一截。

另一方面《美國之音》評論家鄧聿文指出，如果中國的AI資料庫裡面放滿了當局的政治宣傳，開發出來的工具又大規模運用在社會上，就可能將專制統治推到極致。我以前在矽谷跑新聞，總覺得新的快的就是好的，但這幾年看了太多新科技爭先恐後出來造成問題，解方跟不上的現象，比方說社群媒體。我有時真的會想，我們會不會有一天真的被我們製造出來的東西消滅了？你覺得呢？你覺得我們已經準備好跟AI人工智慧共存了嗎？還是讓它們在實驗室裡多待些時候比較好？留言告訴我﹗

我們每週都會推出「世界週週考」，如果你有看我們的報導，一定「考試都一百分」啦﹗點選下方資訊欄連結，一起來玩玩看吧﹗你如果喜歡這個節目，趕快分享給更多人看見，你也可以訂閱LINE Today官方帳號，它就會每天把重要的新聞，包括這個節目推送到你的手機裡。萬一錯過了，到LINE Today的國際欄目裡就有我們所有的報導。范琪斐的《Today看世界》，天天為你精選一則國際話題，帶你快速秒懂世界大事，我們明天見﹗