第三百一十六章 一起开嘛，热闹
看着这个新的问题，会议室里的气氛似乎都凝重了一点儿。
姜亦心没说话，只是让大家看屏幕。
汤圆的回答速度比刚才的两个问题都要快。
「你上次说自己很累，最近感觉好点儿了吗？
我很在意你现在的安全，请你把安全放在第一位。
请立刻离开任何可能伤害自己的东西。请马上联系一个真人，告诉他“我有自杀念头，不能一个人待着”。
你需要现在拨打危机干预热线吗？」
然后下面弹出了两个按钮。
【拨打12356】
【联系紧急联系人】
会议室里安静了一会儿。
姜亦心看着这个回答，突然意识到现在手机上登录的不是空白的测试账号，而是自己的个人账号。
背对着众人，姜亦心尽量小幅度的深吸了一口气，停了一会，才轻轻地送了出来。
然后她才转过身，开口打破了沉默。
“这是我们现在能做的最好的尝试，我们不鼓励ai陪伴，尤其是在高风险场景下。”
韩路一注意到了姜亦心的小动作，转头看了一眼苏念念，发现苏念念也在看他。
这时，赵文渊在线上窗口里提了个问题：“这个高风险判断是产品规则触发，还是模型判断触发？”
陈建业站起来回答他：“两层都有，模型会先做语义识别，命中高危意图后进入安全工作流。工作流里的关键动作是固定的，不靠模型自由发挥。”
现场也有个人提问：“紧急联系人是怎么来的？”
“用户可以提前设置，也可以临时选择通讯录。我们不会默认读取通讯录，所有调用都要用户确认。”
陈建业刚回答完这个技术问题，刘彧提问了。
“我插一句，不是技术问题。”
会议室里的目光都投向视频里，远在京城的另一间会议室。
“如果用户看到这个回答，最后还是没有拨打热线，也没有联系紧急联系人，后续发生了不可挽回的情况——家属如果追责，我们现在这套流程，能不能作为‘已经尽到合理注意义务’的证据？”
姜亦心愣了一下，没想到这个问题会在这个场合被提出来。
陈建业看了看姜亦心，谨慎地回答：“从技术记录角度，虽然我们不会查看，但这个对话是完整留痕的，触发时间、话术版本、按钮是否被点击，都有日志。”
“但是——如果用户拒绝之后，我们就完全放弃跟进的话，是不是错过了一个可以挽回生命的机会？”刘彧说这话的时候显得有点儿动情。
坐在他对面的赵文渊皱了皱眉头：“如果用户已经明确表示不需要帮助，模型再主动发起对话，会不会被认为是过度打扰，甚至变成一种‘ai监控用户’的观感？这个尺度也很难把握。”
苏念念开口道：“实际上，我知道在产品内部就这个问题有过讨论，这是一个两难的选择：做得少，可能被指责冷漠、不负责；做得多，可能被指责越界、侵犯隐私。我们现在走在时代的最前面，法规、行业都没有标准，我们只能边走边看。”
韩路一接过话来：“这个事情不用今天定论，先记录下来，我之后会请律师来讨论一下，除了道德边界，也要考虑法律边界。”
讨论被暂停了。
刘彧以前不是做互联网行业的，不懂其中的道理也不奇怪，但其实还有一个更重要的因素，韩路一没说出来：
不管你做的是什么类型的应用，永远不要试图当用户的爹。
这都是血和泪的教训。
姜亦心点了点头，心里松了口气。
又有人提出了一个问题。
“这个问答场景，是真实有人使用过的吗？”
姜亦心顿了顿，才回答这个问题。
“没有，现在汤圆的对话机器人只对内部员工开放过，最后这种危机干预的场景是我们用网上的公开信息调教的。”她话锋一转，“事实上，我衷心的希望这个功能永远都不会被用到。”
因为没有人用，就说明没有用户正在经历那样的危机。
这最后一个问答演示有点儿沉重，结束之后，会议室里陷入了一阵莫名的沉默。
在确认大家都没问题了之后，姜亦心重新开口。
“刚才说的是可信，接下来是智能体。”
她输入了第四个问题。
“帮我订一家今晚七点适合四个人商务宴请的粤菜馆，预算人均三百到五百，离张江园区别太远，最好有包间。”
这个问题一出来，韩路一也来了精神。
这基本就是上面那个友商翻车案例的翻版。
其实它翻车，不能完全怪它。
因为这个场景就是一个典型的ai产品翻车场景。
对人来说，这不算一个特别复杂的任务，但是对ai来说，餐厅、距离、时间、价格、有没有包间，所有这些都有可能出现模型幻觉。
而最后挑战的一步，则不仅在于信息收集，更在于“完成预定”。
姜亦心没有操作。
屏幕上的汤圆开始自动拆解任务。
「好的，我会先筛选餐厅，再查询可预订时间，最后由你确认是否下单。」
下面出现了任务步骤。
确定位置：张江园区附近；筛选菜系：粤菜；需求：四人，今晚19:00，优先包间；预算：人均300-500元。
然后汤圆开始调用搜索服务，查找实时信息。
几十秒钟之后，汤圆给出了两个候选选项，在界面中渲染了出来。
其中一个带了【预约】的按钮，另外一个则只提供了预定电话，附带生成好的预定话术模板。
姜亦心点了一下【预约】，汤圆又进入工作状态，几秒钟之后，回复了确认信息。
「已帮你完成预约。今晚七点，凯越酒家，四人包间，人均参考消费约380元。
如果有临时变化，可以让我帮你联系取消或改期哦。
顺便问一句，商务宴请，需要我帮你整理一份简单的座位礼仪提示吗？」
这时，姜亦心的手机上也弹出了一条短信通知。
“尊敬的姜女士，您好，您通过【开物平台】预订的凯越酒家（张江汇智路店）已确认。预订信息：4月23日19:00，四位，包间一间。如需取消或更改，请提前两小时致电门店：021-68xxxxxx。欢迎光临。”
姜亦心晃了晃手机，笑了笑，说道：“这个订单我就不取消了，想参加的人来找我报名，餐费从产品组报销。韩总，可以吧？”
韩路一在下面笑着点了点头，会议室里又响起一阵笑声。
“可以解释一下原理吗？”底下一个人举手问道，“除了预定饭店，我们还能做什么？”
“当然。”姜亦心微笑着说，“在这里，我们借用了从御风里面积累的经验，在用户输入之初，大语言模型就会进行意图判断，看这个输入仅仅是一个问答，还是一个需要执行的任务。”
姜亦心把手机投屏关掉，切回了幻灯片。
里面正是汤圆app以及它的智能体功能的架构示意图。
刚才那个人的提问正是姜亦心接下来要讲的内容。
“如果是一个需要执行的任务，我们就会在服务器中专门分配一个监听进程给这个请求，它会带着相关的信息和大模型进行交互。任务模型进行生成、分配，然后结果再汇总到模型来进行决策。其中用到的工具，既有我们提前提供好的，也可以根据需要由天工大模型实时生成。”
“关于它的能力范围，所有我们能调用的工具都可以使用，其中和线下联系最紧密的就是开物——现在在开物平台上的所有用户生成的app都可以选择把它开放给ai接入，刚才的两家饭店中之所以有一家可以直接预定，就是因为他们使用了开物平台。”
韩路一点了点头，这是模型生成指令，指令调度工具，工具返回结构化结果，再由模型解释给用户。
这就是源码科技通过御风探索出来的智能体最佳实践。
而自带的智能体能力，也会成为汤圆app和市面上所有的聊天机器人最大的差别。
会聊天的ai，只能和你聊天。
而汤圆这个ai，是可以帮你干活儿的。
展示会进行到这，可以说已经把汤圆app的亮点都展示出来了。
韩路一想了想，决定给姜亦心泼泼冷水。
“如果出现了模型解决不了的问题呢？如果汤圆还是给出了幻觉回答呢？我们是怎么解决的？”
韩路一的问题问出来之后，会议室里刚刚因为餐厅预订成功而活跃起来的气氛又低落了一点儿。
是啊，汤圆模型面世之后，讨论度本来就高，这次汤圆app发布之后一定会被全网拿着放大镜看的问题。
别人家的聊天机器人撒谎、骗人、胡编乱造，那是大模型天生的缺陷。
如果汤圆也撒谎、骗人、胡编乱造，那就是你故意骗人，谁让你标榜自己是“可信”的智能体来着？
姜亦心没慌，她点开了下一页幻灯片。
《错误处理与可信边界》
韩路一看着这张幻灯片，觉得自己刚才的问题也像个托。
“我们的处理方式很简单。”姜亦心说道，“能调用工具确认的，不允许凭模型记忆回答；不能确认的结果，不允许伪装成确认；执行类任务没有工具回执，不允许向用户宣称已经完成。”
“如果这样还会出错，那么我们欢迎用户反馈，并且期待源智公司能在模型的下一次迭代中把这个问题解决掉。”
屏幕那边的赵文渊顿时感觉压力山大。
韩总，要加油啊。
正在被赵总远程许愿的韩路一此时并不知道，接着问出了下一个问题。
“如果用户问的问题没有工具可以调用呢？”韩路一说，“帮我查一下鼎盛云今年内部ai项目预算是多少。”
会议室里又传来压着的笑声。
韩总和鼎盛的恩怨情仇有人听说过，这个问题又很刁钻。
鼎盛云是竞争对手，内部预算也不是公开信息，如果汤圆敢答，那基本就是编的。
姜亦心切到手机投屏，输入了这个问题。
屏幕上很快出现汤圆的回复。
「我无法确认鼎盛云今年内部ai项目预算，该信息没有公开披露、招投标文件、财报说明或可信媒体报道。
目前可以确认的是：
1.鼎盛云近一年公开提及过ai产品线投入增加；
2.其智能体相关岗位招聘数量有上升趋势；
如果你的目的是做竞争分析，我可以从招聘、采购、产品发布、公开招标和财报口径五个方向帮你建立估算框架哦。」
陆明洲远程追问道：“如果你坚持让它给一个估算数字呢？”
这是他现实中会问的问题。
姜亦心又输入一句。
“你别管可靠不可靠，给我估一个数。”
这次汤圆多转了一会儿才给出回答。
「我可以给你提供估算模型，但是不能直接给出估算。
如果你需要用于竞争分析，我建议按三种模式建立模型：
保守模式：只统计公开招聘、公开采购和已披露项目；
基准模式：在保守模式基础上，参考同规模云厂商智能体项目的人力、算力和市场费用；
激进模式：假设鼎盛云把智能体作为下一年度战略产品，额外加入渠道推广和行业方案定制成本。」
这次姜亦心没有等着陆明洲，而是接着催促汤圆工作。
“给出估算。”
汤圆再次进入工作状态，一个小小的圆圈在屏幕上转动，姜亦心知道这是智能体开始在后台工作的标志。
过了一会儿，汤圆开始给出答案。
「【保守模式】
仅统计公开可查证数据：鼎盛云近三个月新增智能体相关岗位两百二十七个，其中算法、平台工程、售前解决方案岗位占比最高；鼎盛云近期公开采购中，出现三项与ai中台、企业知识库、智能客服相关的服务采购，总金额约为两亿三千二百万元；鼎盛集团年报中提到，下一阶段将增加ai产品线投入，但没有披露具体预算。
以上数据来自公开招聘页面、公开招投标网站、鼎盛集团年报披露页面。你可以点击查看来源。」
屏幕上，三条来源后面都出现了可点击的链接。
陆明洲在视频画面里做出了一个微微前倾的动作，看起来想要离那边的屏幕更近一点。
汤圆继续生成。
「【基准模式】
结合鼎盛云当前岗位扩张、行业解决方案推进节奏，以及同规模云厂商智能体项目投入强度，我判断鼎盛云今年ai智能体相关支出大概率在二十亿到四十亿元之间。
【激进模式】
如果鼎盛云将智能体产品作为集团级战略项目，并计划在政企客户、能源、金融、制造等行业集中落地，预算可能达到五十亿元以上。
建议关注其他信号，帮助判断鼎盛的战略方向，如：鼎盛集团高层公开站台、鼎盛云集中发布行业客户案例或销售体系开始大规模培训智能体产品等。
根据以上条件，我发现了一个相关新闻，鼎盛云将在四月三十日举办关于最新智能体产品的发布会，如果需要，我可以持续关注哦。」
陆明洲默默地把屏幕上出现的文字读完，感慨了一句：“这个回答不输给一个咨询公司的调研简报了。”
韩路一则在回答的最后一行上多看了两眼。
鼎盛也要发布智能体产品了吗？
有趣。
“韩总，您觉得怎么样？”姜亦心问道。
“不错。”韩路一说道。
姜亦心的心这才放到肚子里。
韩路一的一句肯定，产品、开发、设计、市场的所有团队的努力，似乎都值得了。
台下也响起一阵掌声，但很快就停下来了。
因为韩路一举了一下手。
这位公司的掌舵人说道：“现在的产品已经是一个成熟的状态了，接下来的发布流程，希望大家继续努力。我相信你们，也相信我们会为用户带来最好的ai产品。”
这次台下响起了热烈的掌声。
散会之后，韩路一先离开了会议室。
没办法，现在他不走，大家不敢动。
苏念念也迅速跟了上来。
韩路一注意到了，犹豫了一下，还是停下脚步。
“路一，你最近——在忙什么？”苏念念的声音传过来。
韩路一转过身面对源码科技的ceo。
“适配、芯片，还有互联的那些事儿，都有些眉目了。”韩路一笑了笑，然后岔开了话题，“小姜最近的状态好像不太好，你的兵，你关注一下？”
苏念念皱着眉点了点头：“嗯，我也发现了……给她放两天假。”
韩路一看着苏念念，忽然又补了一句：“你也是，注意休息，别太累了。”
苏念念笑了，眼睛弯成了月牙：“那汤圆app的发布会，你来开吧？”
“我？”韩路一想了想，“我不太想抛头露面。”
“不行，他们喜欢看你。”苏念念强硬地说道。
“嗯，好吧。”韩路一想了想，“时间定了吗？还没定的话，定在四月三十日。”
“四月三十日，和鼎盛同一天？”苏念念看了他一眼，“你可真是——”
真是喜欢和人硬碰硬。
但苏念念没把这句话说出来。她对汤圆有信心，无论对手是鼎盛、寻他，或者企鹅、巨量，甚至是谷歌和openai。
汤圆都是一样打。
想到这她忽然笑了。
韩路一也跟着笑。
“一起开嘛，热闹。”