AITerms 登入
AI倫理與治理機器學習模型評估

人工智慧倫理(AI Ethics)是什麼?

人工智慧倫理旨在探討並解決AI系統開發、部署和使用過程中涉及的道德、法律和社會問題,確保AI的發展符合人類價值觀。

完整定義

人工智慧倫理是一個跨領域的研究領域,旨在探討並解決AI系統在開發、部署和使用過程中涉及的道德、法律和社會問題。它關注AI對人類福祉、公平、隱私和安全的潛在影響,並致力於制定指導原則和實踐,以確保AI的發展符合人類價值觀,並促進其負責任的使用。

白話說明

你有沒有遇過履歷篩選系統,把某些人群的申請一直排在後面?

你可以把人工智慧倫理想成 AI 的行為準則,重點不是模型會不會跑,而是它做出來的決定公不公平、有沒有傷人、可不可以被信任。它把「能做」和「該不該做」分開看。

這很重要,因為 AI 一旦被放進招募、金融、醫療這種真實流程,偏見和誤用都會直接變成人的損失。

記住這句

不只看模型準不準,也要看它對不對人。

比喻:AI倫理就像交通法規和駕駛道德 -- 它不是要禁止開車,而是確保AI系統在「上路」時,不會亂衝、撞到人,並且能安全地把我們載到目的地。

容易混淆

人工智慧倫理 vs AI治理

倫理在談價值判斷,像公平、尊重、責任。

治理在談怎麼把這些原則落地成制度和流程。

最關鍵的區別:倫理是想法,治理是做法。

人工智慧倫理 vs AI安全

倫理關心的是對不對、公不公平。

安全關心的是會不會失控、會不會造成傷害。

最關鍵的區別:倫理看價值,安全看風險。

人工智慧倫理 vs AI監管

倫理多半是自我要求。

監管是外部法律或政策要求。

最關鍵的區別:一個靠自律,一個靠規範。

實際案例

招募排序

如果履歷模型長期把女性候選人排得比較後面,就算整體準確率很高,也可能代表它學到了不公平的歷史資料,這就是倫理問題。

醫療分流

當 AI 幫忙判斷病患優先順序時,若沒有透明規則和人工覆核,最危險的不是錯一題,而是錯誤在最弱勢的人身上反覆發生。

深入了解

人工智慧倫理常看的面向

公平性、透明性、可問責性、隱私保護、避免傷害,通常是最基本的五個方向。

落地方式

先定原則,再做審查流程、影響評估、申訴機制與人工覆核,才算真的把倫理放進系統。

情境判斷

Q1(直覺題): 一個模型在測試集上表現很好,但在某個族群上一直較差,這算不算倫理問題?

算。若差異會讓特定族群承受更高風險或更差待遇,就不只是技術指標問題。

Q2(判斷題): 只要把敏感欄位刪掉,AI 就一定公平嗎?

不一定,這要看情況。模型可能透過其他變數間接推回敏感資訊,所以還要看資料、流程和結果是否真的公平。

常見問題

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本