使人工智能安全用于心理健康
2025-06-21 20:37:19
最近的一项调查表明,过去一年中,有48.7%的美国受访者使用大型语言模型(LLMS)进行心理支持,主要用于焦虑和抑郁。大多数报告的中性或积极结果;但是,人们对潜在的危险(例如自恋的衍生品和LLMS引起的精神病状态)引起了人们的关注。专家警告说,尽管使用了治疗性,但LLMS仍缺乏监管监督,将其比作没有临床指导的非处方药。安全AI使用的建议包括人类监督,验证和道德设计标准。拟议的框架ASL-MH将特定于心理健康应用的AI安全水平分类,强调了对严格的法规和国际监督的需求。