AITerms 登入
機器學習模型訓練最佳化

回饋迴路(Feedback Loop)是什麼?

回饋迴路是指系統輸出影響其輸入的過程,在AI中用於迭代改進模型效能,透過評估結果並調整參數。

完整定義

回饋迴路是指系統的輸出作為輸入重新進入系統的過程。在人工智慧領域,回饋迴路通常用於迭代地改進模型效能。模型產生輸出,然後評估該輸出,並根據評估結果調整模型的參數或訓練資料,以期在下一次迭代中產生更好的輸出。這種循環過程不斷重複,直到模型達到期望的效能水平。

白話說明

你有沒有覺得推薦系統好像越用越懂你?

你可以把回饋迴路想成「結果會反過來影響下一次輸入」的機制,系統不是只做一次,而是一直根據回饋修正自己。

它重要,是因為沒有回饋,模型或系統就很難持續變好,也不容易發現自己做錯了什麼。

記住這句

有輸出、又能拿回來改,就是回饋迴路。

比喻:回饋迴路就像你學開車 -- 你開車(輸出),發現開得有點歪(結果),然後你根據這個結果調整方向盤(輸入),讓車子回到正軌。這個不斷調整的過程就是回饋迴路。

容易混淆

回饋迴路 vs 單向流程

單向流程只輸出,不回頭修正。

回饋迴路會把結果送回系統,用來調整下一輪行為。

回饋迴路 vs 人機迴路

人機迴路強調人參與判斷。

回饋迴路是更廣的概念,只要輸出影響輸入就算。

實際案例

推薦系統

你點了某類影片,系統就更常推同類內容,下一輪輸出會被你的行為回饋影響。

模型訓練

模型看錯樣本後,錯誤會被拿來更新參數,讓下一次表現更好。

深入了解

正回饋會放大原本的趨勢,負回饋會把系統拉回穩定狀態。

在 AI 裡,回饋迴路很常和監控、再訓練和線上學習一起出現。

中英對照與常見說法

說法
回饋迴路、反饋迴路
出現場合
中文譯名,台灣多用「回饋」,中國大陸多用「反馈」
說法
反馈回路
出現場合
簡體寫法
說法
Feedback Loop
出現場合
英文原名
說法
回饋循環、閉環(closed loop)
出現場合
常見變體

正回饋與負回饋

「正」與「負」講的是方向不是好壞。負回饋不代表不好,它是絕大多數控制系統賴以穩定的機制。

作用
負回饋
抑制偏離,把系統拉回穩定
正回饋
放大偏離,把系統推得更遠
例子
負回饋
冷氣溫控、自動擴展、庫存補貨
正回饋
社群媒體的爆紅、銀行擠兌、推薦系統的同溫層
對系統的影響
負回饋
穩定
正回饋
可能失控,也可能是成長引擎

機器學習系統裡的回饋迴路,多數是有害的

這是實務上最需要警覺的一類。模型的預測影響了使用者的行為,使用者的行為又變成下一輪的訓練資料,於是模型開始強化自己的偏見。

推薦系統:模型推薦什麼,使用者就只看得到什麼,點擊資料只反映被推薦過的東西。沒被推薦過的內容永遠拿不到曝光,也就永遠不會被學到是好的。這叫做曝光偏誤(exposure bias)。

信用審核:模型拒絕的人不會產生還款紀錄,所以永遠無法驗證拒絕得對不對。訓練資料裡只有被核准過的人,模型在自己的舒適圈裡越來越有信心。

預測性警務:把警力派到預測犯罪率高的區域,那個區域自然記錄到更多案件,資料回頭又證明模型是對的。

內容生成:模型生成的內容流入網路,成為下一代模型的訓練資料。這叫做模型崩潰(model collapse),長期下來會讓資料分布的尾端逐漸消失。

怎麼偵測與打斷

保留一小部分隨機流量。 隨機推薦、隨機核准一小批,取得不受模型影響的乾淨資料。成本是短期損失,收益是長期有辦法驗證模型。

記錄傾向分數。 記下每個項目當時被曝光的機率,之後用逆傾向加權(IPW)修正偏誤。

監控分布而不只是準確率。 推薦內容的多樣性、核准族群的組成,這些指標往下走就是回饋迴路在收緊的訊號。準確率通常不會提早示警。

定期用外部基準檢查。 只跟自己的歷史比,永遠看不出整個系統偏到哪裡去了。

情境判斷

Q1:如果系統只根據使用者點擊結果調整推薦內容,這算回饋迴路嗎?

算,因為輸出已經影響下一次輸入。

Q2:如果回饋只會越滾越偏,這還是好設計嗎?

看情況,若沒有控制機制,回饋可能把偏差放大,所以通常要搭配監控。

常見問題

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本