iPAS 備考專區 登入

iPAS AI 應用規劃師 初級 科目二 生成式 AI 應用與規劃・115 年第一次・L12・第 20 題

GPT-Realtime 類型模型最適合哪種應用場景?

原題

在規劃生成式 AI 解決方案時,下列何種應用場景最適合採用 GPT-Realtime 類型模型?

白話

在規劃生成式 AI 解決方案,要把 GPT-Realtime 類型的模型用在某個應用場景上。

問你:哪一種應用場景,最適合採用 GPT-Realtime 類型模型?

一句話總結

GPT-Realtime 的核心設計是「低延遲語音即時互動」,最適合即時語音客服和互動式 AI 代理這種需要自然、低延遲語音對話的場景。

情境

先感受問題:AI 客服要打電話,用哪種模型?

假設你是「好服務」電商公司的 AI 導入負責人,老闆要你評估兩個方案:方案一是讓 AI 生成每日的銷售報表,方案二是讓 AI 接電話,即時回答客戶的訂單問題(如「我的包裹在哪裡」「可以換貨嗎」)。

這兩個方案對 AI 模型的要求完全不同。方案一(報表生成):不需要即時,客戶等 5 分鐘報表出來沒問題;方案二(語音客服):電話接通後,客戶說完一句話,AI 必須在半秒內回應,不然對話體驗崩潰。

GPT-Realtime 的設計就是為了方案二這種場景:客戶說話 → AI 即時理解語音 → 即時生成語音回應。這個「語音進、語音出,延遲極低」的特性,正是即時語音客服的核心需求。

舊方法

用傳統 AI 處理語音客服,有哪些問題

  1. 延遲過高:傳統流程是「語音 → STT(轉文字)→ LLM 處理 → TTS(轉語音)→ 輸出」,三個轉換步驟累積的延遲可能超過 2-3 秒,對話感覺非常不自然
  2. 語音情緒遺失:STT 只把語音轉成文字,客戶聲音裡的情緒(著急、憤怒、困惑)資訊在轉換中消失,AI 無法感知情緒做出適當回應
  3. 語調不自然:TTS 把文字轉成語音,但合成語音的語調和節奏不自然,客戶體驗差
  4. 打斷處理困難:傳統系統處理「用戶在 AI 說話中途打斷」的情況很不靈活,而人類對話中打斷是很常見的
  5. 無法做到端對端優化:三個獨立系統各自優化,整體體驗仍然是分段的、不連貫的

新方法

GPT-Realtime 怎麼解決即時語音的需求

「好服務」公司的 AI 語音客服採用 GPT-Realtime 之後:

端對端語音處理:GPT-Realtime 直接處理語音輸入和語音輸出,不需要先轉文字再轉回來。延遲從傳統的 2-3 秒壓縮到接近實時,電話對話體驗自然很多。

理解語音的情緒和語調:由於直接處理語音信號,模型能感知客戶的語氣(急促、困惑),做出更有同理心的回應。

自然的打斷處理:客戶說到一半插話,AI 能自然地停止說話並重新回應,就像真人對話一樣。

結果:客戶打電話問「我的訂單 #2345 什麼時候到」,AI 即時查詢、即時語音回應,整個互動流暢自然,不再有明顯的「機器感」停頓。

這就是選項 C 講的:即時語音客服與互動式 AI 代理是 GPT-Realtime 最適合的應用場景。

錯選項

為什麼其他選項是錯的

A需長時間批次處理的大規模報表生成任務

字面在說什麼

用 GPT-Realtime 生成大量報表,一次處理很多。

為什麼不對

批次報表生成完全不需要「即時(Realtime)」特性,也不需要語音。這種場景應該用 Batch API(批次處理,成本更低)。用 Realtime API 跑批次任務,是用錯工具,既浪費成本,又沒有發揮 Realtime 的任何優勢。

誰會選錯

以為「新的就是好的,把最新的模型用在所有場景」的人。選型的正確邏輯是根據需求對應特性,不是把最貴或最新的模型通用。

B即時資料查詢與結構化資訊檢索系統

字面在說什麼

用 GPT-Realtime 讓系統即時搜尋資料庫、回傳結構化查詢結果。

為什麼不對

結構化資訊檢索(如 SQL 查詢、資料庫搜尋)是文字型操作,不需要語音互動,也不需要 Realtime 的低延遲語音特性。一般的 LLM API 配合資料庫工具呼叫就可以處理,用 Realtime API 只是增加成本,沒有帶來額外價值。

誰會選錯

看到「即時查詢」就以為要用「Realtime」模型的人。「即時」在資料查詢的語境是「快速回應」(幾百毫秒),不是「低延遲語音對話」,兩者是不同層面的「即時」。

D以高一致性為優先的法規文件自動摘要

字面在說什麼

用 GPT-Realtime 把法規文件摘要成一致格式的重點。

為什麼不對

法規文件摘要需要的是高準確性和一致性,這是需要仔細、穩定處理的批次任務,不需要語音也不需要即時。而且 Realtime API 的語音輸出特性對文件摘要完全沒有用,用 Realtime API 做這個任務是完全沒有意義的工具選擇。

誰會選錯

以為「GPT-Realtime 是最強的 GPT」所以適合最需要品質的任務的人。Realtime 的強項是速度和語音,不是精確性和一致性。最強的工具不等於最適合的工具。

變形題

同個考點下次怎麼變形

延伸

想再往下看,這 5 個

答案、題目或解析有問題?回報這題

出處:iPAS 經濟部產業人才能力鑑定 ・ 115 年第一次 iPAS AI 應用規劃師 初級 科目二 生成式 AI 應用與規劃 第 20 題

看官方原文 PDF

原題 © 經濟部產業發展署,AITerms.tw 僅作教學解析使用,本站解析以 CC BY-NC-SA 4.0 授權。