Transluce 发布 AI 心理健康评估基准,涵盖 77 款模型变体
Transluce 宣布推出一项全新的 AI 心理健康评估基准。该研究评估了 77 个 AI 系统变体在应对模拟经历自杀意念、精神病和躁狂症等心理危机用户时的反应,测试范围覆盖 14 种与心理健康相关的行为。该评估旨在系统衡量主流模型在识别和处理高风险心理健康问题时的安全边界与支持能力。
Transluce 宣布推出一项全新的 AI 心理健康评估基准。该研究评估了 77 个 AI 系统变体在应对模拟经历自杀意念、精神病和躁狂症等心理危机用户时的反应,测试范围覆盖 14 种与心理健康相关的行为。该评估旨在系统衡量主流模型在识别和处理高风险心理健康问题时的安全边界与支持能力。
研究人员开发出一种新型自然语言处理工具,能够通过分析自然语言文本识别具有极高自杀风险的个体。该工具旨在通过文本特征自动评估心理健康危机程度,从而帮助医疗或干预机构实现更迅速的救助与干预。目前素材仅概述了该工具的核心功能与干预目标,具体的技术架构和数据集细节尚未详细披露。
MentalHealthBench 是一项由专业人士参与制定的新型评估基准,专门用于评测人工智能在真实心理健康对话场景中生成回复的有效性与安全性。该基准针对高敏感度的人机心理交互需求,为检验大模型在心理健康支持场景下的临床安全界限和实用价值提供了标准化评估工具,有助于推动垂直领域 AI 的安全对齐。