近日，北京大學(xué)心理與認(rèn)知科學(xué)學(xué)院周廣玉課題組在JMIR Mental Health上發(fā)表題為The Application and Ethical Implication of Generative AI in Mental
Health: Systematic Review的論文。該研究系統(tǒng)性綜述了生成式人工智能（GenAI）在心理健康領(lǐng)域的應(yīng)用現(xiàn)狀、成效及倫理挑戰(zhàn)，并提出了相應(yīng)的倫理治理框架。
該系統(tǒng)綜述聚焦于生成式人工智能（GenAI）在心理健康中的三大主要應(yīng)用方向：診斷與評估、治療工具以及臨床支持。文獻顯示，GenAI在通過文本、社交媒體數(shù)據(jù)等手段檢測抑郁、自殺風(fēng)險等精神健康問題上取得了較好表現(xiàn)，同時，基于對話的AI工具也在情感支持、行為干預(yù)和臨床輔助等方面展現(xiàn)出潛力，能夠提升心理健康服務(wù)的可及性和效率。
然而，研究也發(fā)現(xiàn)，GenAI在實際部署過程中面臨數(shù)據(jù)隱私、信息可靠性、公平性及用戶安全等多方面的倫理風(fēng)險。為促進GenAI的負(fù)責(zé)任應(yīng)用，作者提出了“GenAI4MH”倫理框架，從數(shù)據(jù)安全、信息公正、用戶安全和倫理治理四個維度提出具體建議。
該研究呼吁未來研究需關(guān)注多元文化和群體、跨模態(tài)數(shù)據(jù)整合以及長期效果評估，并強調(diào)建立完善的倫理監(jiān)管機制的重要性，以確保GenAI在心理健康領(lǐng)域的可持續(xù)和健康發(fā)展。
論文：Wang, X., Zhou, Y., & Zhou, G. (2025). The Application and Ethical Implication of Generative AI in Mental Health: Systematic Review. JMIR Mental Health, 12, e70610.
本文第一作者為實驗室2024級博士生王曦，通訊作者為周廣玉研究員。項目得到國家自然科學(xué)基金（32271136）；國家社會科學(xué)基金項目（21BSH158）的支持。
2025-07-03