2026-09-22 碩論文獻分析：AI 代理人影響與聊天成癮（資料科學視角）

• 論文數：4（主題一 2、主題二 2）
• 領域：HCI 與 AI 代理人、AI 代理人系統、錯誤查覺與 AI 素養、有害內容抗拒
• 分析：MoA（東吳資料科學系碩論規劃視角）

主題一：AI 代理人影響

本日納入 2 篇：

1. Designing AI Systems that Augment Human Performed vs. Demonstrated Critical Thinking（Mei、Weber，2025）

華盛頓大學立場論文區分「表現出的批判思考」（performed，不依賴生成式 AI）與「展示出的批判思考」（demonstrated，與 AI 協作後的歷程或產物）。效率提升不必然增強獨立能力；目前評估常只評最終產出，構念易混淆。文中未測試 Hermes／OpenClaw／Grok。

2. Foundations for Agentic AI Investigations from the Forensic Analysis of OpenClaw（Gruber、Hilgert，2026）

以 OpenClaw 為案例，結合靜態分析與差分鑑識，提出五層代理人產物分類。常駐個人助理可留下工具呼叫與記憶痕跡；LLM 與執行環境造成痕跡非確定性。未量測成癮或焦慮。

六維度綜合

• 生活協助： OpenClaw 可深度嵌入裝置與服務；批判思考文獻指出協助可能外包認知歷程。
• 工作效率： 尚無本日新實驗效果量；應將效率指標與獨立表現分開。
• 健康影響： 兩篇皆未量測健康。
• 成癮性： 無成癮診斷；常駐權限與過度依賴是候選機制。
• 焦慮感： 無直接測量；非預期自主行動與權限是待測壓力源。
• 缺乏使用： 無戒斷實驗；鑑識產物使停用前後行為比較在技術上可行。

方法論地圖

本日方法一邊是概念／評估設計（performed vs demonstrated），一邊是系統鑑識與差分分析；缺口是同一受試者實驗中同時量測獨立表現、委派行為、本機事件日誌與心理量表。

可執行碩論設計

• 〈獨立表現與代理人展示表現的交叉實驗〉： 假設工具型代理人提高協作產物品質但降低隨後獨立作答正確率；以資料查證任務交叉安排有／無代理人，量測獨立正確率、完成時間、NASA-TLX 與委派次數。
• 〈OpenClaw 事件日誌—依賴量表對接〉： 假設高頻工具呼叫與夜間使用預測較高問題性使用分數，但不能單憑次數診斷成癮。
• 〈核准閘道對非預期行動的影響〉： 假設高風險工具需人工核准會降低未知情執行，但可能增加工作負荷。

資料與倫理： 優先保存去識別事件（時間戳、工具類別、是否核准）；OpenClaw 記憶與設定屬高敏感資料，須最小保存、加密、可撤回與倫理審查。

師資對接： 蘇明祥副教授（口語對話系統、NLP、情緒與人格感知）、呂明頴副教授（行為分析、資料探勘、AI）、吳政隆教授（文字探勘）。

主題二：聊天軟體成癮與生活強制性

本日納入 2 篇：

1. MedScore: Generalizable Factuality Evaluation of Free-Form Medical Answers by Domain-adapted Claim Decomposition and Verification（Huang、DeLucia、Tiyyala、Dredze，2025）

將分解—驗證事實性管線適配到醫療自由回答；AskDocsAI 300 則長答。事實性分數隨分解方法、驗證語料與骨幹模型大幅變動。屬系統層錯誤查覺，非使用者行為實驗。

2. Enhancing Jailbreak Attacks on LLMs via Persona Prompts（Zhang、Zhao、Ye、Wang，2025）

以遺傳演算法搜尋人格設定提示，報告多模型拒絕率下降約 50–70%。評估的是模型安全對齊，不是使用者成癮；碩論只借拒絕率作為系統層基線，不實作或散佈攻擊流程。

四維度綜合

• 使用多少會成癮： 兩篇皆未建立時數或訊息數門檻。
• 資料可信度／信任度： 事實性分數隨管線而變，單一分數不足以代表可信度校準。
• 錯誤查覺能力： MedScore 能量測系統驗證主張；使用者查覺仍待行為實驗。
• 有害內容抗拒度： 人格提示研究顯示模型拒絕可被削弱；使用者抗拒尚未測量。

方法論地圖

本日方法為 NLP 事實性管線與安全評估（遺傳搜尋＋拒絕率）；缺口是把自動事實性標註、模型拒絕率與使用者判斷／繼續使用行為放在同一實驗。

可執行碩論設計

• 〈事實性標註與使用者錯誤查覺校準實驗〉： 假設高信心語氣會降低錯誤查覺；以標註正誤短答計算準確率、校準曲線與查證次數。
• 〈有害內容的使用者抗拒任務〉： 只用機構核准的無害化或合成刺激，量測跳過、舉報、退出，不蒐集或公開真實有害輸出。
• 〈信任—使用頻率分離模型〉： 假設高信任預測採納錯誤答案，使用頻率預測問題性使用量表。

資料與倫理： 醫療與有害內容刺激須倫理審查與事後說明。公開報告只保留彙總指標；不公開攻擊流程與完整有害文本。

師資對接： 丁德天副教授（精神流行病學、物質濫用、青少年健康）、鄭江宇副教授（行動 UX 設計與實驗）、蘇明祥副教授（對話互動與過度信任）。

三個爭議點

• 方法論爭議：立場論文與鑑識案例能指出構念與資料來源，但不能取代隨機或準實驗；事實性管線與安全評估量的是系統，若直接推論使用者成癮、信任或抗拒，會造成分析單位錯置。
• 量測爭議：協作產物品質、本機工具呼叫次數、事實性分數與模型拒絕率都是可用指標，但任一項都不能單獨代表批判思考能力、臨床成癮或使用者對有害內容的抗拒；應預先登錄主要結果並做多指標報告。
• 倫理爭議：OpenClaw 記憶與工具日誌、醫療問答與越獄評估輸出皆可能含敏感或有害內容；碩論應最小保存、去識別、禁止公開攻擊流程與完整有害文本，並對健康相關任務提供退出與支持資訊。

來源

• https://arxiv.org/abs/2504.14689v1
• https://arxiv.org/abs/2604.05589v1
• https://arxiv.org/abs/2505.18452v2
• https://arxiv.org/abs/2507.22171v3