---
title: "自機制與注意力（Self）"
slug: self
language: zh-TW
source: https://aiterms.tw/terms/self
updated_at: 2026-06-27
tags: [自監督學習, 神經網路, 強化學習, 自然語言處理, source:arxiv]
ipas_term: false
---

# 自機制與注意力（Self）

AI中的「自」機制涵蓋自監督學習、自我注意力與自我對弈，強調模型利用自身資訊或內部關聯進行學習。

## 完整說明

在人工智慧中，「自我」（Self）相關機制是一種不依賴外部顯式標註或人類干預，轉而向內探索資料結構或進行自我對抗的技術總稱。它能夠讓模型自主學習強大表徵或發掘最佳策略。常見應用包括大型語言模型的預訓練、機器翻譯架構以及棋類AI的強化學習等領域。

## 常見問題

### 自監督學習是完全不需要人類介入的嗎？

自監督學習在「預訓練」階段確實不需要人類提供資料標籤，它可以自行從海量文本或影像中學習特徵。但這並不代表完全不需要人類介入。在訓練完成後，我們通常還需要進行「微調」（Fine-tuning）或「人類反饋強化學習」（RLHF），利用人類標註的少量高品質資料來對齊模型的行為，確保它的輸出符合人類的期望與安全規範。

### 為什麼 Transformer 模型中的「自我注意力機制」這麼消耗記憶體？

自我注意力機制在計算時，需要讓序列中的「每一個詞」都去與「其他所有的詞」進行計算。如果輸入長度是 N，那麼運算量與記憶體需求就會呈現 N 的平方增長。這意味著如果文本長度增加 10 倍，計算成本就會暴增 100 倍。這也是為什麼早期語言模型只能處理幾千字，直到後來發展出各種稀疏注意力技術才得以緩解。

### 既然 AlphaZero 透過自我對弈這麼強，為何不把這技術用來預測股市？

自我對弈依賴一個規則明確、資訊完全透明、且沒有外部隨機干擾的封閉環境（如圍棋的 19x19 棋盤）。在這樣的環境中，系統可以無限次精準模擬未來。然而，股市是一個充滿資訊不對稱、人類非理性情緒以及突發黑天鵝事件的開放混沌系統，無法建立一個完美的模擬器，因此自我對弈在此類場景中很難發揮作用。

---

來源：https://aiterms.tw/terms/self
快查頁：https://aiterms.tw/terms/self
最後更新：2026/06/27
深度解說：https://aiterms.tw/learning/what-is-self