场景接入

AI 对话与实时音视频能否在同一设备上使用?

可以组合,但需要区分功能共存与同时运行。先设计麦克风、扬声器及会话切换,再逐步接入 AI 与人工通话。

先回答:可以组合,但不能默认所有功能同时运行

同一设备可以提供 AI 对话、远程查看和人工对讲等功能。是否能够同时使用,要看硬件资源、SDK 与业务设计。比如用户正在和 AI 说话时收到人工来电,产品需要明确继续 AI、拒接来电,还是经用户确认后切换;仅列出支持功能并不能回答这些问题。

实时通信和 AI 各自解决什么?

实时通信把声音、画面与命令在设备和服务之间传递;AI 服务负责理解输入并生成回复。以探鸽 AI 实时对话引擎为例,平台可处理语音识别、模型推理与语音合成,设备负责采集、发送和播放,并处理会话事件。只有实时连接还不等于已经配置好智能体。

能力与分工: AI 实时对话引擎文档

先设计资源和切换规则

建议列出每个功能会占用的麦克风、扬声器、摄像头和连接资源,再定义开始、运行、结束与失败状态。资源受限时,先采用一次只运行一个主要交互的设计更容易验证。例如进入通话前暂停原来的媒体任务,结束后再恢复。是否允许并行,需要单独设计并在目标设备上验证。

开源示例采用什么策略?

Linux C 参考实现提供了统一会话管理示例:前台 AI 或通话占用主要媒体资源时暂停实时流,结束后恢复;冲突来电按明确规则处理。它是一种参考策略,不代表所有设备或所有 SDK 必须如此,也不代表开源固件支持任意功能并发。

实现参考: 设备会话与业务冲突处理

建议先语音,再加入视频与设备动作

第一阶段验证一句话能够被接收并得到可听清的回复;第二阶段测试结束会话和中途打断;第三阶段再加入摄像头输入或设备动作。每新增一种输入,都要检查响应时间、资源占用和失败反馈。涉及执行设备动作时,建议明确允许的动作范围,避免把模型输出直接当作任意控制指令。

从回答到执行:提示词、工具与设备分别负责什么?

提示词定义 AI 的角色、任务和表达方式,工具提供实时数据或执行入口,设备与业务系统完成实际动作并返回结果。把设备设为英语陪练或翻译器,主要改变对话行为;查天气、控制灯光和发起微信联系,还要接入对应服务与权限,不能只靠角色描述获得。

  • 查询天气:先取得所需地点和实时数据,再组织回答;查询失败时说明失败,不能用编造的天气替代。

  • 控制设备:把用户意图映射到已实现且允许的操作,验证参数,等待设备返回结果后再播报完成。

  • 发起微信联系:确认目标联系人及授权,通过已有呼叫流程发起;“请求已提交”和“对方已接听”应分别表达。

能力演示:自然信息问答

能力演示:设备动作调用

能力演示:通过设备发起微信联系

这些视频是公开材料中的演示入口,不代表所有板卡默认具备相同工具。首次实现建议只接一个动作,同时测试成功、拒绝、超时和重复请求,避免回复与设备状态不一致。

继续设计角色与语音体验

希望同一设备提供不同身份与任务:阅读角色提示词指南,从英语陪练和翻译器模板开始。

已经可以对话,希望改善开场、识别与结束:阅读语音交互指南,按问题选择设置并验证。

服务端凭证与设备端不要混为一谈

探鸽 AI 接入流程由业务服务端申请连接凭证并下发给设备,设备使用凭证建连和启动会话。官方文档明确要求设备端不要持有服务端签名密钥。智能体配置、AI 服务开通和设备媒体接入也是独立环节;基础 RTC 流量赠送不应被理解为包含所有 AI 服务费用。

接入顺序: AI 对话总体流程

哪些场景必须在实机上检查?

建议检查 AI 播报时用户再次说话、AI 中途收到来电、网络中断后重连、用户结束后是否仍在录音,以及退出后能否恢复远程查看。对带摄像头的产品,还应让用户能理解何时正在采集或上传。测试记录应同时包含用户看到的状态和设备日志,便于发现界面显示结束但后台仍在运行的问题。

资料核对:2026 年 11 月 7 日。本文提供接入思路;接口、板卡支持与平台条件请以所链接文档的当前版本为准。

继续阅读

给自己的设备接入实时音视频,需要哪些部分?

设备远程查看和双向对讲有什么区别?

设备如何接入微信音视频通话?

多台设备如何加入同一个房间进行语音对讲?

继续实践

正文链接提供对应的参考资料。先选择适合自己的体验或接入路径;具体接口、板卡和平台条件以当前文档为准。