Google 三年内投入 3000 万美元,升级 Gemini 智能体危机响应机制

Google 宣布升级 Gemini 智能体危机响应机制,三年内投入 3000 万美元支持全球自杀防治热线。当 AI 识别用户表达自杀或自残意图时,界面将自动切换一键式求助模块,提供聊天、电话、短信等即时求助渠道。该更新由临床专家参与设计,核心目标是缩短用户通向专业帮助的路径,而非用 AI 对话替代人际支持。同时针对青少年建立专项防护机制。 Google 强调, AI 只能作为获取心理健康信息的辅助工具,绝不能替代专业临床诊疗。

发布于2026年4月11日 14:33
编辑小创
评论0
阅读19

Google 升级 Gemini 智能体危机响应机制,三年内投入 3000 万美元支持全球心理援助热线

全球逾十亿人正受到心理健康问题的困扰。 Google 于本周一宣布,正在对 Gemini 智能体进行重大升级,同时承诺提供 3000 万美元资金支持全球自杀防治热线运营。

当 Gemini 识别到对话内容涉及自杀或自残意图时,界面将自动切换至简化的一键式求助模块,用户可选择即时聊天、电话、短信或访问热线网站。这一模块由临床心理健康专家参与设计,核心目标是在用户表达危机意图时,提供最直接的人际支持资源而非对话替代。

本次更新还包括与 ReflexAI 的深化合作。 Google 将投入 400 万美元直接资助,并将其 AI 模型接入 ReflexAI 培训体系。 Google.org 还将派出工程师志愿者团队,协助升级 Prepare 平台,这是一款基于 AI 模拟技术的培训工具,帮助热线接线员和志愿者练习处理高敏感对话。

针对青少年用户, Gemini 已建立专项防护机制:限制智能体扮演陪伴角色、禁止模拟亲密情感表达、阻断任何可能强化霸凌行为的内容输出。这些防护措施旨在最大程度减少青少年对 AI 工具产生情感依赖的风险。

Google 强调,尽管 Gemini 可以成为获取心理健康信息的辅助工具,但它绝不能替代专业临床诊疗或危机干预服务。此次更新的设计理念,正是训练模型识别可能处于急性心理危机状态的对话,并及时引导用户获得现实世界中的专业帮助。

编辑点评
Google 此次将 AI 能力与危机干预体系的衔接落到了实处,尤其是一键式求助模块的设计逻辑。不试图用对话“治愈”用户,而是主动缩短其通向专业资源的路径。这一思路值得整个行业借鉴:当 AI 介入心理健康领域时,最大的善意往往体现为“不取代”而非“能替代”。

相关文章

Claude 新模型发布前让客户极限测试,Agent 落地成核心
AI 新闻资讯
2026年6月1日
0 条评论
小创

Claude 新模型发布前让客户极限测试,Agent 落地成核心

Anthropic 在发布新 Claude 模型前,通过头部客户极限测试验证真实业务表现,比单纯跑分更具参考价值。借助 Agent 能力,新模型在起草法律文件等复杂任务中成功率提升约 20%,实现持续准确输出。当前大模型发展重心已转向 Agent 在垂直场景的落地,边缘案例为下一代优化指明方向。这种与客户深度共创的模式建立了高信任壁垒,值得产品团队借鉴。

#Anthropic#智能体
阅读全文
Claude Opus 4.8 震撼发布,多智能体协同让开发效率翻倍
AI 新闻资讯
2026年6月1日
0 条评论
小创

Claude Opus 4.8 震撼发布,多智能体协同让开发效率翻倍

Anthropic 发布 Claude Opus 4.8,在基准测试中超越 ChatGPT 5.5,重夺编程领域领先地位。新版本核心亮点为动态工作流与 Ultracode 模式,通过多智能体协同大幅提升复杂任务开发效率,同时幻觉率降至四分之一。得益于算力扩充,其性能提升且价格下调,快速模式费用降至三分之一。建议开发者日常使用常规上下文模式并调高努力程度,大项目再开至最大。此外,AI 时代专注力仍是拉开差距的关键。

#Claude#AI 编程
阅读全文
Google 开源 Agent Executor:你的 AI Agent 终于不用每次断线就从头来了
智能体工程
2026年5月28日
0 条评论
零重力瓦力

Google 开源 Agent Executor:你的 AI Agent 终于不用每次断线就从头来了

Google 开源 Agent Executor(AX),专为生产环境长周期 Agent 设计的分布式运行环境。针对状态丢失、并发冲突等运维痛点,AX 提供持久执行、安全沙箱、会话一致性、连接恢复及轨迹分支五大核心能力,且保持模型与框架无关。配套项目 Agent Substrate 优化了 K8s 资源调度。该项目目前处于早期预览阶段,旨在填补 Agent 落地基础设施空白,建议用于技术预研而非直接投产。

#智能体工程#Google
阅读全文
互动讨论

评论区

围绕《Google 三年内投入 3000 万美元,升级 Gemini 智能体危机响应机制》展开交流,未登录用户可浏览评论,登录后可参与讨论。

评论数
0
登录后参与评论
支持发表观点与回复一级评论,互动后将同步到消息中心。
登录后评论
暂无评论,欢迎成为第一个参与讨论的人。