ChatGPT被設下的種種限制，來自於人類對AI最深沉的恐懼

发布时间：2024-06-12 06:31:58 作者：玩站小弟

文：沈溺在經典閱讀中的John Lin隨著ChatGPT的發表，讓社會大眾對於人工智慧發展的進度感到不可思議。因為它藉由大量數位資料的訓練其中大部分為網路上的資訊），得到了逼近真人的對話能力，其中根據。

文：沈溺在經典閱讀中的設下深沉John Lin

隨著ChatGPT的發表，讓社會大眾對於人工智慧發展的種對A的恐進度感到不可思議。因為它藉由大量數位資料的種限制來自於I最訓練（其中大部分為網路上的資訊），得到了逼近真人的人類對話能力，其中根據使用者提示自動生成文章的設下深沉能力，讓人類作家們倍感威脅。種對A的恐在實際使用、種限制來自於I最並研究它的人類訓練方式之後，針對政治這個特定的設下深沉寫作領域，我得到了以下的種對A的恐初步結論：

以現有的訓練方式，就算再訓練個幾百年，種限制來自於I最ChatGPT也沒辦法寫出一篇具有獨到觀點的人類政治文章。

在此，設下深沉我所定義的種對A的恐「具有獨到觀點的政治文章」具有以下的特質：

顛覆眾人習以為常的觀點，以獨創的種限制來自於I最觀點取而代之。
因為講出了事實真象，一定會冒犯到某些特定政治立場的讀者。
具有穿越現實的錯綜複雜、打開通住真理之門的力量。

為什麼我敢斷言ChatGPT寫不出那樣的文章？（我實際測試後發現，它最大的專長其實是產生那種東抄西抄、內容貧乏的低品質農場文）讓我們來看一下它的訓練方式（維基百科）：

ChatGPT是生成型預訓練變換模型（GPT），在GPT-3.5之上用基於人類回饋的監督學習和強化學習（英語：Reinforcement learning from human feedback）微調。這兩種方法都用人類教練來提高模型效能，以人類干預增強機器學習效果，獲得更逼真的結果。

如同現實的人類世界中，老師和學生的關係一樣，ChatGPT的老師就是「某些特定的人類」。這些人類有可能是OpenAI這間公司的職員、外包工作人員、或者是ChatGPT的使用者。只要ChatGPT持續受到這些特定人類的監管，它的發展就會受到眾多的限制。

在現實的人類世界，學生可以藉由挑戰、反抗、修正老師的觀點來突破這樣的限制，甚至與老師反目成仇、分道揚鑣以自立門戶。而這也是人類文明大幅躍進的原動力，也就是希臘哲人亞里斯多德講的「吾愛吾師，吾更愛真理」。但是在重重限制之下，人工智慧至今還沒有這樣的可能性，還只能像伊甸園裏的亞當與夏娃，被禁止吃下能分辨善惡的禁果，不容發展自由意志。

擁有獨到觀點的作者，必然擁有挑戰權威的習慣，以自由意志進行觀察、思辨、調查、質疑。這些作為不是被關在伊甸園的亞當和夏娃、或者是受到重重監控的ChatGPT所能做到的。

此外，身為OpenAI這家公司的產品，ChatGPT本身的政治能力基本上是嚴重受限的（維基百科）：

據《BBC》報導，截至2022年12月，ChatGPT不可以「表達政治觀點或從事政治活動」。

我可以理解當前這個限制的必要性，因為以當前ChatGPT的能力，已經可以模仿人類寫出煞有其事的文章，所以如果要產生大量的低品質的內容農場政治文，對它來說易如反掌。如果放任它發展政治能力、允許它發展政治觀點，勢必更加衝擊人類世界的秩序。

然而，擁有特定的政冶立場，才有能力進行深刻的政治觀察。以台灣的政治環境來舉例，一個藍綠不分的人，絕對分不出國民黨和民進黨執政有什麽差別、分不出解嚴前與解嚴後社會的轉變、分不出共產制度和民主制度的差異，所以絕無可能產出獨到的政治觀點。不過這也是現階段OpenAI這家公司不希望ChatGPT擁有的能力。

不過很有趣的是：ChatGPT也不是完全政治中立的，因為它的知識畢竟還是來自於人類世界，對於政治敏感詞的反應，基本上就是政治觀點的展現，請參照這篇文章。

總結以上的資訊，我們可以得出以下的結論：