近日,北京大學心理與認知科學學院周廣玉課題組在JMIR Mental Health上發(fā)表題為The Application and Ethical Implication of Generative AI in Mental
Health: Systematic Review的論文。該研究系統(tǒng)性綜述了生成式人工智能(GenAI)在心理健康領域的應用現(xiàn)狀、成效及倫理挑戰(zhàn),并提出了相應的倫理治理框架。
該系統(tǒng)綜述聚焦于生成式人工智能(GenAI)在心理健康中的三大主要應用方向:診斷與評估、治療工具以及臨床支持。文獻顯示,GenAI在通過文本、社交媒體數(shù)據(jù)等手段檢測抑郁、自殺風險等精神健康問題上取得了較好表現(xiàn),同時,基于對話的AI工具也在情感支持、行為干預和臨床輔助等方面展現(xiàn)出潛力,能夠提升心理健康服務的可及性和效率。
然而,研究也發(fā)現(xiàn),GenAI在實際部署過程中面臨數(shù)據(jù)隱私、信息可靠性、公平性及用戶安全等多方面的倫理風險。為促進GenAI的負責任應用,作者提出了“GenAI4MH”倫理框架,從數(shù)據(jù)安全、信息公正、用戶安全和倫理治理四個維度提出具體建議。
該研究呼吁未來研究需關注多元文化和群體、跨模態(tài)數(shù)據(jù)整合以及長期效果評估,并強調(diào)建立完善的倫理監(jiān)管機制的重要性,以確保GenAI在心理健康領域的可持續(xù)和健康發(fā)展。
論文:Wang, X., Zhou, Y., & Zhou, G. (2025). The Application and Ethical Implication of Generative AI in Mental Health: Systematic Review. JMIR Mental Health, 12, e70610.
本文第一作者為實驗室2024級博士生王曦,通訊作者為周廣玉研究員。項目得到國家自然科學基金(32271136);國家社會科學基金項目(21BSH158)的支持。
2025-07-03