迴紋針和硬起飛是啥？AI內行人必懂10大關鍵字
文 / 林士蕙     6park.com
2023-05-24 6park.com
瀏覽數 3,750+ 6park.com

Photo by Tamanna Rumee on Unsplash
你可知「迴紋針」在AI人工智慧界有特殊意涵？甚至OpenAI企業LOGO就是以迴紋針構成？另外，用來訓練ChatGPT的非監督式學習是什麼？想像個內行人，在會議上談起此議題顯得專業，這10個英文單字請優先搞懂。
生成式AI至今在全球引發狂潮，現在，不論是科技業還是一般行業的主管，都把AI相關議題掛嘴上，常常討論。想談話像個內行人，或在公司數位轉型創新會議的簡報上顯得更專業嗎？以下這10個關鍵字是矽谷許多人工智慧科學家，討論此話題時常常提及的名詞。只要正確掌握，就能大致了解人工智慧的入門知識，也能提升你和企業高層討論此議題的深度。
目錄 6park.com
●AGI（Artificial General Intelligence, 通用人工智慧）
●Deep Learning（深度學習）
●LLM, Large Language Model（大型語言模型）
●Unsupervised Learning（非監督式學習）
●Supervised Learning（監督式學習）
●Reinforcement Learning（強化式學習）
●Paperclips（迴紋針）
●Hard Takeoff/Soft Takeoff （硬起飛／軟起飛）
●Guardrails（護欄）
●Stochastic Parrots（隨機鸚鵡）

AGI（Artificial General Intelligence, 通用人工智慧）
通用人工智慧，或可稱為強人工智慧，相較於AlphaGO等弱人工智慧，或說專家型人工智慧，AGI能理解與學習多元知識，較接近一般人類；不像AlphaGO 只能執行學習下棋的特定任務，其它都不會。而去年至今爆紅的生成式人工智慧，例如ChatGPT、Bard，也是朝AGI的方向去發展的應用，只是目前還不算全面成功。

Deep Learning（深度學習）
深度學習是機器學習的其中一種，它起源於模仿人類大腦的結構，特別是腦神經網絡，它實際上是採用具有多層節點的人造神經網絡來分析資訊與學習。由OpenAI開發出的聊天機器人ChatGPT，背後所使用的大型語言模型，正是採用了深度學習，特別是其中一種稱為「變換器」（Transformer）的模型，來生成近似人類的文本內容。

LLM, Large Language Model（大型語言模型）
大型語言模型（LLM）是一種人工智慧模型，它是根據所收到的輸入生成類似人類的文本來訓練出來。之所以能稱為「大型」，是因為它有大量的參數，通常是數十億，才足以讓這些模型來學習資料中更複雜的模式。
LLM通常是從多元的互聯網內容中訓練出來的。然而，這些模型不知道訓練中的具體檔或來源，也沒有能力去搜尋外界網頁，除非在對話過程中與它們分享。包括OpenAI ChatGPT的GPT-3和GPT-4；以及Google Bard的LaMDA（Language Model for Dialogue Applications），都是一種LLM。這些模型可以生成創意寫作，回答問題，翻譯語言，甚至編寫軟體代碼，以及其他任務。

Unsupervised Learning（非監督式學習）
訓練人工智慧學習的方式，可分為監督式與非監督式。所謂非監督式學習，是使用沒有經過標註與分類的資訊，來訓練人工智慧，並允許它在沒有經過指導的方式下自行理解掌握知識。ChatGPT正是由非監督式學習的方式訓練出來。
非監督式學習的問題是，它回答同一個問題不會有固定答案，因為它是按照相似度分類得來答案，也因此，許多人常因為ChatGPT回答同個問題，可以出現多種答案而感到困惑，事實上仍需要人類去自行驗證正確性。

Supervised Learning（監督式學習）
監督式學習則和非監督式學習不同，它是採取標註過的數據來訓練人工智慧，因此問一個問題會有固定答案。同時，人工智慧也會透過對照誤差，逐步修正去達到愈來愈精準的預測。
像是目前廣泛被使用的垃圾信偵測模型，就是用監督式學習方式訓練出來。至於監督式學習的缺點是需要仰賴大量人工，事前去做標註，耗費時間與成本較高。

Reinforcement Learning（強化式學習）
是除了非監督式與監督式學習之外，第三種常見用來訓練AI的機器學習方式。簡單來說，強化學習是讓機器在和一個動態環境互動過程中，讓自己從一次次的試錯中學著進步。
例如之前引起圍棋界轟動的AlphaGO，正是透過強化學習，來習得可以超越人類棋聖的強大下棋能耐。而 ChatGPT雖然主要是用非監督式學習來訓練，如今也正嘗試用強化學習來優化它的能耐。
圖／開發出AlphaGO的Deepmind公司，已被Google併購，截圖自官網

Paperclips（迴紋針）
當愈來愈多人討論起人工智慧的安全風險，迴紋針一詞總被提起。就連OpenAI執行長奧特曼（Sam Altman），也曾在今年2月個人推特上做了網路投票：「請問大家認為人工智慧是想要做很多的小迴紋針，還是一個大迴紋針就好？」結果竟來引來超過2萬網友熱烈討論與投票，也讓行外人更摸不著頭緒，到底人工智慧和迴紋針有何關係？ 6park.com
[iframe]"[/iframe]
其實，迴紋針這個象徵在人工智慧界相當重要，它源自於哲學家博斯特羅姆（Nick Bostrom）提出的一個思想實驗，該實驗認為，一個超級強大的人工智慧，有可能被賦予一項任務，即製造盡可能多的迴紋針，由於為了不斷製造迴紋針，人工智慧會不斷掠奪人類資源，甚至最後決定殺死人類，再將人類遺體製作成迴紋針，以完成被下達的任務。但是人類屆時已無法控制它。
因此，許多AI專家以迴紋針警惕自己，不要打造過度強大的人工智慧。其實，如果你有注意到OpenAI的企業標誌，會發現它正是由許多迴紋針所組成。雖然OpenAI執行長奧特曼，從未針對企業標誌背後的意義做完整說明，許多網友推測可能是發想於這個思想實驗。 6park.com
[iframe]"[/iframe]

Hard Takeoff/Soft Takeoff （硬起飛/軟起飛）
人工智慧又不是開飛機，為何要討論「硬起飛（Hard Takeoff）」或「軟起飛（Soft Takeoff）」？原來，這是專家用來評估人工智慧該如何開發，才不會過度衝擊人類的行內術語。「硬起飛」指的是人工智慧太快開發成超級智慧，人類有可能適應不及甚至反被宰制。「軟起飛」則就是相對緩慢的開發，讓人類社會有足夠時間適應。

Guardrails（護欄）
最近許多企業熱衷導入AI，但是也發生了不少個資與企業機密疑似外洩的事件；另外AI隨機亂達，可能造成假訊息風暴也被不少人擔憂。人工智慧是否需要有「護欄」來防治各種AI不按牌理出牌的狀況？這是近期矽谷企業在發展人工智慧時，已經正視的議題，這些公司也正積極研究各種護欄，來改善現有軟體。
另外，包括Nvidia等許多企業，也正打造創新的AI護欄軟體，提供給有需要的客戶來順應新趨勢。

Stochastic Parrots（隨機鸚鵡）
許多人在和生成式AI聊天機器人溝通時，會覺得它只會順著自己語意，隨機回答一些模稜兩可的答案，似乎它沒有真的懂過？不過是隻鸚鵡。「隨機鸚鵡」要探討的，正是這個現象。
隨機鸚鵡一詞最早源於2021年由班德（Emily M. Bender）等人發表「語言模型有可能太大？」為主題的論文中，他們認為，雖然複雜的人工智慧模型，可以生成看似真實的文本，但軟體本身其實並不理解語言背後的概念，那就像是一隻鸚鵡。
[iframe]"[/iframe] 6park.com
 6park.com
延伸閱讀
ChatGPT是AI一大步？秒懂人工智慧發展6階段

AI
评分完成：已经给本帖加上 25 银元！