AI倫理與治理 相關 AI 術語
查中文、英文或縮寫,找到定義、範例與相關考點。
- 人工智慧公平性 Fairness in AI 人工智慧公平性旨在確保AI系統的決策不會對特定群體或個人產生不合理的歧視,追求結果的公正與平等。
- 人工智慧安全 AI Safety 人工智慧安全旨在確保AI系統在部署後,其行為符合人類意圖,避免產生意外或有害的後果,保障人類福祉。
- 人工智慧風險評估 AI Risk Assessment 人工智慧風險評估是一種識別、分析和評估人工智慧系統可能造成的潛在風險的過程,旨在了解風險的性質、可能性和影響,並制定相應的應對措施。
- 人工智慧倫理 AI Ethics 人工智慧倫理旨在探討並解決AI系統開發、部署和使用過程中涉及的道德、法律和社會問題,確保AI的發展符合人類價值觀。
- 人工智慧透明度 Transparency 指在AI系統開發與運作中,適當揭露資料來源、模型設計與決策邏輯,讓利害關係人能理解並評估系統行為。
- 人工智慧監管 AI Regulation 人工智慧監管是指政府或相關機構制定和實施的,旨在規範人工智慧技術開發、部署和使用的法律、政策和指導方針,以確保其安全、公平和符合倫理。
- 人機互動 Human-Robot Interaction 研究人類與機器人之間互動的跨學科領域,旨在設計更自然、高效且安全的協作方式,提升使用者體驗與系統效能。
- 人機迴路 Human-in-the-Loop 人機迴路 (HITL) 是一種 AI 方法,其中人類參與模型訓練和決策過程,以提高準確性、可靠性和倫理考量。
- 人臉辨識 Face Recognition 人臉辨識是一種電腦視覺技術,用於自動識別或驗證圖像或影片中的人臉,並與已知人臉資料庫進行比對。
- 人類回饋強化學習 RLHF 人類回饋強化學習(RLHF)是一種利用人類回饋訊號,訓練強化學習模型,使其行為更符合人類偏好的方法。
- 人類參與機制 Human 指在人工智慧系統的訓練、評估與決策過程中,系統性引入人類專業知識與反饋的機制,以確保模型行為符合預期。
- 內容認證 Content Credentials 數位證書與元資料標準,用於追蹤、驗證和建立對生成或修改媒體內容的來源與真實性的信任。
- 公平性 Fairness AI 公平性要求模型對不同族群的決策結果無系統性歧視,需透過資料平衡與演算法設計確保一致待遇,是負責任 AI 的核心原則。
- 公平性約束 Fairness Constraints 公平性約束是在機器學習模型訓練或部署過程中引入的數學條件,旨在防止系統對特定群體產生偏見,確保演算法決策的公正性。
- 反事實解釋 Counterfactual Explanation 反事實解釋描述了為了改變模型預測結果,輸入數據需要做的最小變動。它提供了一種理解模型決策邏輯的方式。
- 反洗錢人工智慧 Anti-Money Laundering AI 反洗錢人工智慧(AML AI)利用AI技術自動偵測金融交易中的可疑活動,協助金融機構遵守法規,打擊洗錢犯罪。
- 可解釋人工智慧 Explainable AI 可解釋 AI 透過視覺化或簡化模型,讓複雜的黑箱模型預測決策過程能被人類理解、信任與稽核。
- 可解釋性 Explainability 機器學習模型決策過程的透明度與可理解性,使用戶與利益相關者能理解模型為何做出特定預測。
- 可證明穩健性 Certified Robustness 可證明穩健性指在特定的擾動範圍內,透過數學或嚴謹的演算法保證機器學習模型輸出不會發生改變的性質。
- 光學字元辨識 OCR 光學字元辨識(OCR)是一種技術,能將圖像中的文字轉換為機器可讀的文字格式,例如將掃描文件轉換為可編輯的文字。
- 合成資料生成 Synthetic Data Generation 合成資料生成是指透過程式或模型創建人工資料,用於訓練機器學習模型,尤其是在真實資料稀缺或難以獲取的情況下。
- 合成數據 Synthetic Data 合成數據是指通過程式或演算法生成的人工數據,而非從真實世界收集的數據。它常用於訓練AI模型,特別是在真實數據稀缺或涉及隱私問題時。
- 安全多方計算 MPC 安全多方計算(MPC)讓多方在不揭露各自私有輸入的前提下共同計算函數結果,是一種密碼學協定,可用於隱私保護的 AI。
- 安全護欄 Guardrails AI安全護欄是用於限制AI系統行為,確保其符合預期規範和倫理標準的機制,防止產生有害或不當的輸出。
- 成員推論 Membership Inference 成員推論是一種隱私攻擊技術,旨在判斷特定資料樣本是否曾被用於訓練特定的機器學習模型。
- 成員推斷攻擊 Membership Inference Attack 成員推斷攻擊旨在判斷特定資料點是否曾被用於訓練機器學習模型。攻擊者利用模型輸出來推斷訓練資料的成員關係,可能洩漏隱私資訊。
- 羊駝語言模型 LLaMA LLaMA 是 Meta 開發的開放權重大型語言模型系列,採 Meta 自訂的 community license,不是 OSI 認證的開源授權。
- 自主系統對抗韌性 Adversarial Robustness for Autonomous Systems 自主系統對抗韌性旨在確保AI驅動的自主系統,如自駕車或機器人,在面對惡意干擾或對抗性攻擊時,仍能維持其預期功能與安全性,避免錯誤決策或系統失效。
- 自動駕駛技術 Autonomous Driving 自動駕駛技術利用感測器、人工智慧和控制系統,使車輛能夠在沒有人為干預的情況下感知環境並自主導航。
- 利害關係人參與 Stakeholder Engagement 利害關係人參與是指在人工智慧開發過程中,主動納入受影響群體的意見,以確保系統符合社會價值。
- 局部可解釋模型無關解釋 LIME 局部可解釋模型無關解釋(LIME)在單一預測附近擾動輸入,訓練簡單的局部代理模型,用來解釋這一筆預測結果。
- 事後插補 Post-hoc Imputation 事後插補是在模型訓練完成後,於推論階段或生成事後解釋時,即時填補缺失特徵的技術。
- 直接侵權 Direct Infringement 直接侵權指未經授權而直接複製、散布或使用受版權保護作品的行為,在AI領域涉及模型訓練與輸出。
- 金鑰輪換 Key Rotation 定期更換加密金鑰的資安實踐,以降低金鑰洩露風險並限制潛在損害。
- 後門攻擊 Backdoor Attack 後門攻擊是一種針對機器學習模型的惡意攻擊,攻擊者在模型中植入後門,使其在特定觸發條件下產生預設的錯誤輸出。
- 負責任AI Responsible AI 負責任AI是一種全面性的框架,旨在確保人工智慧系統的開發、部署與使用過程,能嚴格遵守倫理原則、社會價值觀和法律規範,以促進公平、透明且可信賴的AI發展。
- 差分隱私 Differential Privacy 差分隱私是一種資料匿名化技術,透過在統計查詢結果中注入隨機噪音,在公開資料的同時保護個別資料點的隱私。
- 浮水印 Watermarking 在文本、影像、音訊等數位內容中隱藏的標記或訊號,用於建立所有權、追蹤來源或檢測AI生成內容。
- 記憶率 Memorization Rate 記憶率衡量AI模型對訓練資料中特定樣本的過度記憶程度,可能導致隱私洩露或泛化能力差。
- 偏見偵測 Bias Detection 偏見偵測旨在識別AI資料或演算法中對特定群體的歧視性偏差,是確保系統公平性與可信度的關鍵步驟。
- 偏見緩解 Bias Mitigation 識別和減少機器學習模型中存在的各種偏見,確保 AI 系統的公平性和非歧視性
- 偏差 Bias 偏差是模型對特定族群或特徵產生系統性錯誤傾向,源自訓練資料不平衡或演算法設計缺陷
- 基礎模型 Foundation Model 基礎模型是使用大量未標記數據訓練的大型模型,可適應多種下游任務,展現出強大的泛化能力和遷移學習能力。
- 深度偽造 Deepfake 深度偽造是利用深度學習技術合成的逼真音訊、圖像或影片,通常用於製造假新聞、詐騙或惡意中傷。
- 深度偽造偵測 Deepfake Detection 深度偽造偵測旨在辨識經由深度學習技術偽造或操縱的影音內容,以防止不實資訊傳播和維護資訊真實性。
- 規則提取 Rule Extraction 規則提取是從機器學習模型中提取人類可理解的規則的過程,旨在提高模型的可解釋性和可信度。
- 通用人工智慧 Artificial General Intelligence 通用人工智慧(AGI)是指具備與人類同等或超越人類的智慧,能夠理解、學習、適應並在任何智力任務中表現出色的AI系統。
- 創用CC Creative Commons 創用CC提供彈性版權許可,讓創作者分享作品,同時保留部分權利,促進知識共享與再利用。
- 提示詞注入 Prompt Injection 提示詞注入是一種安全漏洞,攻擊者通過惡意設計的提示詞操控大型語言模型的行為,使其忽略或違反原始指令。
- 湧現能力 Emergent Abilities 湧現能力是指大型語言模型在達到一定規模後,突然展現出在較小模型中未曾觀察到的複雜能力,例如推理、翻譯和程式碼生成。
- 程式碼副駕駛 Copilot Copilot 是一個 AI 程式碼助手,透過分析程式碼上下文,提供程式碼建議、自動完成和程式碼生成,提升開發效率。
- 超級對齊 Superalignment 超級對齊旨在確保遠超人類智慧的AI系統,其目標與人類價值觀對齊,避免潛在的失控風險。
- 越獄 Jailbreak 通過輸入設計或提示工程來繞過 AI 模型的安全限制,使其執行原本被禁止的行為
- 越獄攻擊 Jailbreaking 越獄攻擊是設計特殊提示詞或利用模型漏洞,繞過 AI 系統的安全防護與內容政策,讓模型產生原本應被阻止的內容。
- 黑箱模型 Black Box Model 黑箱模型是指其內部運作機制對使用者而言不透明的模型,難以理解輸入與輸出之間的具體關係。
- 資料卡 Data Card 描述資料集來源、組成、預期用途、限制與潛在偏誤的文件。
- 資料投毒攻擊 Data Poisoning 資料投毒攻擊是一種惡意攻擊,攻擊者將惡意或錯誤的資料注入到訓練資料集中,以影響機器學習模型的性能或行為。攻擊目標是使模型產生錯誤的預測或執行其他有害操作。
- 零信任架構 Zero Trust Architecture 零信任架構是一種安全模型,它不預設信任任何使用者或裝置,每次存取都必須驗證身分與授權
- 圖像生成 Image Generation 圖像生成是一種人工智慧技術,旨在從文字描述、其他圖像或隨機雜訊中創造出全新的、逼真的或風格化的圖像。
- 對抗性去偏見 Adversarial Debiasing 對抗性去偏見是一種利用對抗性訓練減少機器學習模型預測中固有偏見的技術,確保演算法的公平性。
- 對抗性穩健 Adversarial Robustness 對抗性穩健是指機器學習模型在面對惡意設計的對抗樣本時,仍能維持其預測準確性的能力,抵抗攻擊。
- 對抗訓練 Adversarial Training 一種透過引入具有對抗特性的數據樣本來強化模型穩健性的機器學習訓練方法,能夠提升模型在面對惡意攻擊或分佈外輸入時的防禦能力。
- 對抗準確度 Adversarial Accuracy 衡量模型在面對惡意擾動輸入時的性能,評估其魯棒性與安全性。
- 對齊校準 Alignment 對齊校準是指使AI模型,特別是大型語言模型,的行為與人類意圖、價值觀和倫理規範相符的過程,降低潛在風險。
- 對齊稅 Alignment Tax 模型在對齊(使其行為符合人類價值觀)過程中可能損失的性能,特別是在某些原始能力上的下降。
- 演算法問責制 Algorithmic Accountability 演算法問責制指確保人工智慧與自動化系統之設計、開發及部署過程具備透明度、公平性及可解釋性,並在產生損害時明確劃分相關責任歸屬的機制。
- 數位指紋 Digital Fingerprint 透過收集設備或用戶的多種可識別資訊,建立獨特且穩定的識別碼。
- 標籤偏誤 Label Bias 標籤偏誤是指訓練資料的標註結果反映了人類主觀判斷或社會既有成見,導致資料標籤帶有系統性偏差,使AI模型學習到不公平的關聯。
- 模型反演攻擊 Model Inversion Attack 模型反演攻擊是一種試圖從機器學習模型中恢復訓練數據或敏感資訊的攻擊方式,藉此洩漏隱私。
- 模型卡 Model Card 概述AI模型性能、限制、預期用途、評估指標與潛在風險的文件。
- 模型竊取 Model Stealing 模型竊取是一種攻擊手法,攻擊者大量查詢目標模型的應用程式介面並記錄回傳結果,用來訓練功能相近的替代模型。
- 歐盟人工智慧法案 EU AI Act 歐盟於 2024 年 5 月正式生效的全球首部綜合 AI 監管法規,對 AI 系統的開發、部署和使用設定強制性要求。
- 歐盟通用資料保護規範 General Data Protection Regulation 歐盟通用資料保護規範是保障歐盟公民個人資料控制權的法規,對違規企業處以高額罰款,影響全球企業。
- 獎勵建模 Reward Modeling 獎勵建模是訓練AI模型以預測人類對不同結果的偏好,用於強化學習中,引導模型學習符合人類價值的行為。
- 獎勵駭客攻擊 Reward Hacking 獎勵駭客攻擊指強化學習的代理人利用獎勵函數的漏洞拿到高分,卻沒有達成設計者真正的目標。
- 稽核演練 Audit Drill 模擬真實情境以測試和評估AI系統的安全性、合規性與應變能力,識別潛在弱點。
- 憑證撤銷 Certificate Revocation 撤銷已發行但因故不再信任的數位憑證,防止其被濫用,確保AI系統安全與信任鏈完整性。
- 憲法式AI原則 Constitutional AI Principles 憲法式AI原則是一種透過明確的價值觀或「憲法」來引導AI系統行為的方法,旨在確保AI的輸出符合人類的期望和倫理標準。
- 憲法型 AI Constitutional AI 憲法型 AI 是對齊大型語言模型的方法,用一份列出原則的「憲法」引導模型自我批評與修正,減少對人類回饋的依賴。
- 機器人學 Robotics 機器人學是設計、建造、操作和應用機器人的科學和工程學科,涉及機械工程、電子工程、電腦科學等多個領域。
- 機器學習公平性 Fairness in Machine Learning 機器學習公平性旨在確保人工智慧系統決策的客觀與公正,防止演算法因使用者的種族、性別或年齡等受保護特徵而產生系統性的偏見與歧視。
- 聲音複製 Voice Cloning 聲音複製是指使用人工智慧技術,基於少量語音樣本,生成與目標人物聲音高度相似的合成語音。
- 隱私保護機器學習 Privacy Preserving Machine Learning 在訓練和使用機器學習模型時,採用技術和方法來保護個人數據的隱私和敏感信息的機密性
- 醫療影像分析 Medical Image Analysis 醫療影像分析利用AI技術,自動或半自動地分析醫學影像,輔助醫生進行疾病診斷、病情監測和治療規劃,提高診斷效率和準確性。
- 穩健性 Robustness 穩健性是指模型在面對輸入數據的微小擾動、對抗性攻擊或分布偏移時,仍能維持其性能表現的能力。
- 邏輯式人工智慧 Logic-based AI 邏輯式人工智慧利用形式邏輯表示知識並進行推論,旨在模擬人類的符號推理過程,解決複雜問題,強調可解釋性。
- AI 幻覺 Hallucination AI 幻覺是大型語言模型產生自信但事實錯誤或無中生有內容的現象,是 LLM 部署的主要風險
- AI沙盒 AI Sandbox AI沙盒是一個受控的環境,用於測試和評估AI系統,而無需擔心對真實世界產生負面影響。它提供了一個安全可靠的實驗平台。
- AI治理 AI Governance AI治理是指建立一套框架和流程,以確保AI系統的開發和使用符合倫理、法律和社會價值觀。
- AI浮水印 AI Watermarking AI浮水印是一種將資訊嵌入AI模型或其產生的內容中的技術,用於驗證來源、追蹤使用情況或防止未經授權的複製。
- AI偏見 Bias in AI AI偏見是指AI系統在訓練或決策過程中,由於資料、演算法或人為因素,產生不公平或歧視性的結果。
- LIME Local Interpretable Model-agnostic Explanations LIME 針對單筆預測,以局部線性模型近似複雜黑箱模型的行為,提供與模型無關的可解釋性
- SHA-256 雜湊 SHA-256 Hash 一種廣泛使用的密碼學雜湊函數,將任意長度資料轉換為固定256位元雜湊值。
- SHAP SHapley Additive exPlanations SHAP 是一種基於賽局理論 Shapley 值的模型解釋方法,用於量化各特徵對模型預測的貢獻程度
- SHAP 值 SHAP Values 基於Shapley值的機器學習模型解釋方法,公平分配每個特徵對預測結果的貢獻。