iPAS 備考專區 登入

iPAS AI 應用規劃師 初級 科目一 人工智慧基礎概論・115 年第一次・L11・第 9 題

影片分類模型的輸出要是「各類別的機率」,用哪個函數?

原題

某影音串流平台建立神經網路模型,用於預測使用者最可能感興趣的影片類型。模型輸出層需將結果轉換為各類別的機率分佈,以便系統依機率高低推薦內容。下列哪一種函數最適合用於模型輸出層?

白話

影音串流平台要建一個神經網路,預測用戶最可能感興趣的影片類型。模型的輸出層必須把結果轉換成「各類別的機率分佈」:每個類別要有一個機率值,而且所有類別的機率加起來要等於 1,這樣系統才能依照機率高低來推薦內容。

問你:要讓輸出層產生「各類別的機率分佈」,應該用哪一種函數?

一句話總結

多類別分類的輸出層需要「各類別機率加總為 1」的分佈,這正是 Softmax 函數的設計目的:把任意實數向量轉成加總為 1 的機率分佈。

情境

先感受問題:五個影片類型,機率要加起來等於 100%

假設你是「光影串流」平台的 AI 工程師,正在建立影片類型分類模型。平台的影片分成 5 個類型:動作片、愛情片、紀錄片、動畫、恐怖片。

模型分析了用戶的觀看歷史後,要回答:「這個用戶接下來最可能點哪種類型?」

你需要的輸出格式是:

  • 動作片:45%
  • 愛情片:20%
  • 紀錄片:15%
  • 動畫:15%
  • 恐怖片:5%

這 5 個數字加起來剛好是 100%(1.0),這樣系統才能依機率高低推薦內容。

問題:神經網路的最後一層(輸出層)輸出的是任意實數(可能是 -3、0.5、7 之類的數字),不是機率。你需要一個函數,把這些任意實數轉成「加總為 1 的機率分佈」,這個函數就是 Softmax。

舊方法

沒有正確輸出函數,推薦系統會怎樣

「光影串流」在確定使用 Softmax 之前,工程師嘗試過幾種錯誤方式:

  1. 直接用線性輸出:輸出可能是「動作片 3.2、愛情片 -0.5、紀錄片 7.1」,這些數字沒有機率的意義,系統不知道怎麼用「依機率高低排序」
  2. 用 ReLU:ReLU 把負數變 0,輸出「動作片 3.2、愛情片 0、紀錄片 7.1」,但這些數字加起來不等於 1,還是不是機率分佈
  3. 用 5 個 Sigmoid:每個類別分別輸出一個 0-1 的值,但 5 個 Sigmoid 輸出各自獨立,加起來可能是 2.3 或 0.8,不符合「機率加總為 1」的要求
  4. 手動歸一化:把輸出除以總和,但這跟 Softmax 比有數值穩定性問題,極端值容易造成計算不穩定
  5. 取最大值直接輸出 1/0:只告訴系統「最可能是哪一類」,但喪失了機率信息,系統無法按照信心程度做排序推薦

新方法

Softmax 怎麼把任意數字變成機率分佈

Softmax 函數做的事可以用三個步驟理解:

第一步:讓所有值變成正數。對每個輸出值取 e 的指數(e^x),確保所有值都大於 0。原本是負數的輸出,經過這個操作也變成小的正數,不會再有負值。

第二步:算出總和。把所有類別的 e^x 加起來,得到一個總量。

第三步:各類別除以總和。每個類別的 e^x 除以總和,就得到該類別的機率。這樣做確保了:每個類別的值介於 0 到 1 之間,且所有類別的機率加起來剛好等於 1。

「光影串流」的模型輸出層使用 Softmax 後,每次給用戶推薦時都能輸出清晰的機率分佈,推薦系統按照機率高低排序,大幅提升推薦點擊率。

這就是選項 A 為什麼正確:Softmax 函數把輸出層的任意數值轉換為各類別的機率分佈,且所有類別機率加總為 1。

錯選項

為什麼其他選項是錯的

BSigmoid 函數(Sigmoid Function)

字面在說什麼

把任意實數壓縮到 0 到 1 之間的 S 型曲線函數,輸出可以解釋為「某件事的機率」。

為什麼不對

Sigmoid 用在二元分類(是/否,0/1)的輸出層,或多標籤分類(每個標籤獨立判斷)。問題是:5 個 Sigmoid 輸出的機率各自獨立,加總不等於 1(可能是 0.7+0.6+0.8+0.4+0.5=3.0),無法形成「各類別的機率分佈」,不符合本題需求。

誰會選錯

看到「機率」就聯想到 Sigmoid 的人。Sigmoid 確實輸出 0-1 的值,但它無法保證多個輸出加總為 1,這正是 Softmax 的差異所在。

C線性函數(Linear Function)

字面在說什麼

輸出等於輸入,不做任何非線性變換,輸出範圍是負無窮到正無窮的實數。

為什麼不對

線性函數輸出的是任意實數,不是機率。「動作片 3.2、愛情片 -0.5」這樣的輸出沒有機率意義,系統無法依機率高低推薦。線性輸出適合迴歸任務(預測連續數值),不適合分類任務的機率輸出。

誰會選錯

不熟悉輸出層函數選擇邏輯的人。記住:需要機率輸出就不能用線性函數,線性的輸出沒有機率的意義。

DReLU 函數(Rectified Linear Unit Function)

字面在說什麼

把負數輸出截斷為 0,正數保持不變(max(0, x)),是隱藏層最常用的激活函數。

為什麼不對

ReLU 的輸出是 0 到正無窮大的數字,不在 0-1 之間,也不保證加總為 1,無法輸出機率分佈。ReLU 是隱藏層的主角,不是輸出層的選擇(除非是迴歸且值必須為非負的特殊情況)。

誰會選錯

記得「ReLU 是最常用的激活函數」就選它的人。ReLU 常用是在隱藏層,輸出層的函數選擇完全取決於任務類型,不是最常用的就最好。

變形題

同個考點下次怎麼變形

延伸

想再往下看,這 5 個

答案、題目或解析有問題?回報這題

出處:iPAS 經濟部產業人才能力鑑定 ・ 115 年第一次 iPAS AI 應用規劃師 初級 科目一 人工智慧基礎概論 第 9 題

看官方原文 PDF

原題 © 經濟部產業發展署,AITerms.tw 僅作教學解析使用,本站解析以 CC BY-NC-SA 4.0 授權。