Inspect

碩論：AI 代理人影響文獻 2026-09-26

資科視角｜代理人2篇｜聊天成癮2篇

發布 2026-09-26 12:30收集 2026-09-26 12:41
原始來源doc.jxdtw.com

碩論文獻分析（資料科學視角）2026-09-26

  • 論文數：4（主題一 2、主題二 2）
  • 分析：MoA（東吳資料科學系碩論規劃視角）

主題一：AI 代理人影響

整體結論

本日選取的兩篇論文探討了AI代理人對社會和心理健康的影響，特別是在心理健康支持與計畫可解釋性方面。研究顯示AI代理人作為心理健康工具具有潛力，但在隱私與專業監管方面仍存在挑戰。同時，計畫可解釋性方法的發展有助於提升使用者對AI系統的信任。

維度綜述

#### 生活協助

AI代理人能在多種情境中提供協助，特別是在心理健康支持領域，為使用者提供即時的情感陪伴。

#### 工作效率

在計畫設計與執行方面，來源追蹤與資訊分析技術能提升計畫的效率與可調整性。

#### 健康影響

AI代理人對心理健康有正面影響，但需要謹慎處理隱私與專業監管等問題。

#### 成癮性

使用者對AI工具的依賴程度需要進一步研究，特別是在心理健康領域的潛在成癮風險。

#### 焦慮感

AI系統的可解釋性對降低使用者焦慮有顯著幫助。

#### 成癮後缺乏使用之影響

雖未明確提及，但計畫的透明度有助於減少使用者的不適應感。

資料科學綜述

#### 方法論地圖

資料科學方法論在AI代理人研究中主要應用於計畫可解釋性與使用者行為分析，透過資料探勘與實證研究方法來驗證AI系統的效能與影響。

#### 資料蒐集策略

研究透過分析大量社交媒體留言與計畫輸出結果來收集資料，具有強大的實證基礎。

#### 師資方向對接

此主題研究與資料科學系在AI系統可解釋性與使用者行為分析的研究方向高度契合，特別是針對AI在心理健康領域的應用。

#### 可執行研究設計

  • 設計基於使用者行為分析的AI心理健康支持系統，結合即時回應與隱私保護機制
  • 開發計畫可解釋性工具，協助使用者理解AI系統的決策過程

本日論文

1. "It Listens Better Than My Therapist": Exploring Social Media Discourse on LLMs as Mental Health Tool

  • 領域：數位健康與 wellbeing
  • 作者：Anna-Carolina Haensch
  • 年份：2025
  • 連結：https://arxiv.org/abs/2504.12337v1

本研究透過分析超過10,000則TikTok留言，探索用戶如何使用大語言模型(LLM)作為心理健康工具。結果顯示近20%的留言反映個人使用，用戶對這些工具表達高度正面態度，主要受益於可及性、情感支持與感知治療價值。然而，隱私、通用回應與缺乏專業監管等問題仍受關注。研究突顯了AI在日常實踐中的日益重要，同時強調了對心理健康支持使用進行臨床與倫理審視的急迫性。

#### 維度分析

  • 生活協助：用戶將LLM視為心理健康工具，提供情感支持和心理陪伴，特別是在傳統心理健康服務不足的地區。
  • 工作效率：在心理健康領域中，LLM的即時回應特性提升了用戶的使用效率，降低了等待時間。
  • 健康影響：研究發現，使用者對LLM的心理健康支持效果有正面評價，但同時也提出隱私與專業監管的問題。
  • 成癮性：用戶對AI工具的高度依賴，特別是當它提供情感支持時，可能導致過度依賴。
  • 焦慮感：使用者在使用過程中感受到一定的壓力，如擔心隱私洩露與回應不專業。
  • 成癮後缺乏使用之影響：研究未明確提及使用者停止使用後的影響，但暗示可能存在對專業協助的缺乏感。

#### 資料科學視角

  • 研究方法：使用自製的分層編碼架構與監督式分類模型進行分析，並採用資料探勘方法對TikTok留言進行主題與態度分析。
  • 資料與樣本：研究使用超過10,000則來自TikTok的留言作為資料來源，針對提及LLM作為心理健康工具的影片。
  • 評估指標：以留言中提及個人使用的情況比例及用戶態度作為衡量指標，並分析主要受益與問題。
  • 碩論可借鑑：本研究提供了關於AI在心理健康領域應用的實證資料，對於設計更適切的AI輔助工具具有參考價值。

2. Provenance-Based Assessment of Plans in Context

  • 領域：HCI 與 AI 代理人
  • 作者：Scott E. Friedman, Robert P. Goldman, Richard G. Freedman, Ugur Kuter, Christopher Geib, Jeffrey Rye
  • 年份：2020
  • 連結：https://arxiv.org/abs/2011.01774v1

本研究提出一種基於來源的計畫評估方法，透過擴展SHOP3 HTN規劃器來產生依賴資訊，並將其轉換為PROV-O表示，使用圖傳播與TMS啟發演算法來支持動態和反事實評估資訊流、信心與支援。研究驗證了其方法在解釋自動化計畫方面的適用性。

#### 維度分析

  • 生活協助：規劃系統能夠透過提供資訊來源追蹤，幫助使用者理解計畫的背景與依據，提升計畫的可解釋性。
  • 工作效率：透過來源追蹤與資訊流分析，可以更有效地進行計畫的風險評估與調整，提升工作效率。
  • 健康影響：在醫療或健康相關領域中，計畫的可信度與資訊來源的透明度對使用者的接受度很重要。
  • 成癮性：研究未直接涉及成癮性問題，但計畫的可解釋性可能有助於減少使用者對AI系統的不信任感。
  • 焦慮感：當使用者無法理解計畫的邏輯時，可能產生焦慮，而此方法可提升透明度以減少這種焦慮。
  • 成癮後缺乏使用之影響：研究未明確提及使用者停止使用後的影響，但計畫的可解釋性可能有助於減少使用者的不適應感。

#### 資料科學視角

  • 研究方法：使用HTN規劃器與PROV-O模型進行計畫的來源分析，結合圖傳播與TMS演算法進行資訊流與信心評估。
  • 資料與樣本：研究使用HTN規劃器的輸出計畫與相關資訊來源作為資料來源。
  • 評估指標：以計畫的可解釋性、信心評估與資訊流的完整性作為衡量指標。
  • 碩論可借鑑：本研究在計畫可解釋性方面提供了重要的技術方法，可應用於提升AI系統的信任度與使用者體驗。

#### 研究缺口

  • 需要進一步研究AI工具在心理健康領域的長期影響與成癮風險
  • 需開發更具針對性的計畫可解釋性技術，以提升使用者信任度

主題二：聊天軟體成癮與生活強制性

整體結論

本日選取的兩篇論文聚焦於AI系統的信任與可解釋性，以及數位權利的保護。研究顯示，解釋設計品質對使用者信任有顯著影響，同時也提出了在不同司法管轄權環境下保護數位權利的架構。這些研究對設計更透明、可信、安全的AI系統具有重要啟發。

維度綜述

#### 使用多少會成癮

雖然論文未明確提出使用程度標準，但指出解釋品質與信任度對使用者行為有影響。

#### 資料可信度與信任度

AI系統的可解釋性與互動性直接影響使用者的信任與參與度。

#### 查覺 AI 錯誤答案能力

透過標準化技術架構可提升對錯誤與有害內容的辨識能力。

#### 對有害內容抗拒度

設計安全的權利通訊機制有助於抵抗有害內容的傳播。

資料科學綜述

#### 方法論地圖

資料科學方法論在信任與可解釋性研究中主要應用於實驗設計與量化分析，透過使用者互動資料來驗證可解釋性設計的效果。

#### 資料蒐集策略

研究使用互動式模擬與使用者互動資料作為主要資料來源，具有良好的實證基礎。

#### 師資方向對接

此主題研究與資料科學系在人機互動與可解釋AI的研究方向相符，特別是針對AI系統的使用者信任與安全設計。

#### 可執行研究設計

  • 設計基於使用者行為分析的AI信任系統，提升解釋品質與互動性
  • 開發標準化的數位權利保護架構

本日論文

1. Preliminary Quantitative Study on Explainability and Trust in AI Systems

  • 領域：信任與可信度
  • 作者：Allen Daniel Sunny
  • 年份：2025
  • 連結：https://arxiv.org/abs/2510.15769v1

本研究透過量化實驗設計探討可解釋性與AI系統信任之間的關係。使用互動式網路貸款批准模擬，比較不同類型的解釋如何影響信任，結果顯示互動性增強了使用者參與與信心，且解釋的清晰度與相關性是信任的關鍵因素。

#### 維度分析

  • 使用多少會成癮：研究未明確提及使用程度的標準，但結果顯示解釋的品質對使用者信任度有直接影響。
  • 資料可信度與信任度：使用者對AI系統的信任度與解釋的清晰度、相關性與互動性相關，互動性越高的解釋越能提升信任。
  • 查覺 AI 錯誤答案能力：研究未直接涉及錯誤識別，但解釋功能有助於使用者理解AI系統可能的錯誤。
  • 對有害內容抗拒度：研究未明確提及對有害內容的抵抗力，但解釋機制可幫助使用者辨識錯誤資訊。

#### 資料科學視角

  • 研究方法：使用量化實驗設計與互動式網路模擬，比較不同解釋類型對信任的影響。
  • 資料與樣本：研究使用互動式貸款批准模擬的使用者互動資料作為資料來源。
  • 評估指標：以使用者對AI系統的信任度與參與度作為衡量指標。
  • 碩論可借鑑：本研究提供了關於可解釋性設計如何影響使用者對AI的信任的重要實證資料。

2. Rights by Architecture: A Human-Compatible Sociotechnical Layer for Digital Protection Across Regulatory Regimes

  • 領域：錯誤查覺與 AI 素養
  • 作者：Soheil Human
  • 年份：2026
  • 連結：https://arxiv.org/abs/2609.02455v1

本研究探討了數位權利在法律中存在但難以行使的問題，並提出一種人本兼容的權利層。透過概念合成與問題化方法，解釋了法律異質性、組織與商業激勵、架構碎片化與權力不對稱等因素如何造成數位權利的落差。並提出一種標準化、機器可讀、雙向且司法管轄權多元的權利通訊機制。

#### 維度分析

  • 使用多少會成癮：研究未明確提及使用程度，但提出數位權利的行使需要標準化的技術架構。
  • 資料可信度與信任度：系統的設計需要考慮使用者對數位權利的信賴，特別是在跨司法管轄權環境中。
  • 查覺 AI 錯誤答案能力：研究提出一種標準化、機器可讀的權利通訊機制，有助於使用者辨識與處理錯誤或不當的權利行使。
  • 對有害內容抗拒度：透過標準化權利通訊機制，可減少有害內容的傳播，提升使用者的安全性。

#### 資料科學視角

  • 研究方法：使用概念合成與問題化方法，分析數位權利行使的障礙，並提出理論模型。
  • 資料與樣本：研究透過對比加州風格的退出信號、歐盟的混合合法基礎制度等進行分析。
  • 評估指標：以數位權利的行使效率與跨司法管轄權的一致性作為衡量指標。
  • 碩論可借鑑：本研究提出了數位權利行使的架構設計概念，對AI系統的使用者保護具有重要參考價值。

#### 研究缺口

  • 需要進一步研究不同解釋設計對使用者信任的影響程度
  • 需發展更完善的安全機制以保護數位權利

三個爭議點

  • AI在心理健康領域的應用是否會導致使用者過度依賴，進而影響其真實的人際關係與專業治療
  • AI系統的信任度提升是否會導致使用者對AI的過度信任，進而忽略其可能的錯誤與偏見
  • 在跨司法管轄權環境下，如何建立標準化的數位權利保護機制