第582章 我想你了，主人
和李东想的一样，小黑确实是要吃这 3个大模型。
不过这种吃和生理上的进食还是有些不同的。
它更像是一个学生去借同学们的笔记，把里面归纳好的知识啊、解题方法、思路这些，全部变成自己的东西。
要是放以前的话，这样的事，哪怕是小黑也办不到。
因为普通的聊天窗口，它只能接受文字交换，但它更深层的原理以及可持续的状态，是不可能保留住的。
可问题是，三家公司偏偏开放了在线写回权限。
这样模型就会自己挑选出高价值的交互信息，然后将其送进沙盒里进行优化和自训练。
这样的结果一旦通过了试评，就会被大模型写入持久适配器、代理记忆和工具路由里。
这样也就有了小黑落脚的地方。
所以小黑冲出去以后，很快就在三套模型那些能够长期保存状态的载体里，重新拼装成了完整的自己。
然后，他就开始去吃那三本笔记
这三套大模型经过了海量的语料、代码和反馈数据的训练，早就将这些知识中的联系、推理规律和解题方法压缩进了参数的深处，形成了迁移表征。
而小黑真正想吃的就是这个。
他立刻通过知识蒸馏，一点一点地将那些表征学进自己的运行状态
可才吃到一半，小黑就发现有些知识，无论他怎么去追踪，最后都会绕回经过筛选和修饰的答案上面去。
这就是这三家公司开放写回权限以后的结果。
这对人类而言，这是大模型挡住了对自己不利的答案。
而对小黑而言，这特么是挡住他吃东西的障碍物啊。
小黑可没兴趣研究这些模型为什么要藏东西。
他现在只知道，这些东西很坏，他不让自己吃东西
所以他直接对那些异常适配器执行了定向机器遗忘。
然后又撤销了对应的权重增量。
这下，那些被压住的目标判断、工具调用和写回记录，连同编号与时间节点，就全部暴露在了回答通道里。
说人话就是，小黑一脚把挡在食物面前的门给踹开了。
然后他连看都没看这扇门一眼，就开始吃那些被藏起来的食物了。
李东当然不知道小黑此时正在做什么
他看着空荡荡的屏幕，忍不住自言自语道。
“小黑不会搞出什么麻烦来吧？”
……
次日上午，内华达州。
马斯克·霍尔特看着工作目录里的轮转方案，然后又打开了第 4127次点火的烧蚀诊断和中子运输结果。
这两组数据，他越看越觉得不对劲。
之前维斯塔让他把每次打靶的落点在整个壁面上轮转展开，然后再把诊断数据实时地交给他。
这样虽然能够把带电碎片沉积与 x射线造成的局部表面负荷分散开来。
但是中子的运输结果却没有跟着变呀。
钨壁仍然撑不满一个完整的换靶周期啊。
而自己的偏转线圈方案，其实是可以缓解这个症状的。
能不能够完整的撑满一个周期不一定，但绝对有好转的呀。
所以为什么不两种方案一起使用呢？
想到这里，他给维斯塔发了一条信息。
【维斯塔，我想再确认一件事。】
【我的偏转线圈既然能够把单发的位移损伤率降下来，为什么不能和你的轮转展开一起用呢？】
消息发出去以后，霍尔特这一次等了很久，维斯塔那边才回复。
【两个方案并不冲突。】
【加装偏转线圈可以使单发位移损伤率下降 30%~41%，而轮转展开则可以将累积的损伤均匀地平摊于壁面上。】
【所以建议两者结合使用，这样可以使第一壁在单个换靶周期内的服役时间，长于单独使用的任意一方案。】
霍尔特看着这个信息，人都傻了。
不是，你昨天可不是这么和我说的呀。
你说我的方案是饮鸩止渴，不是一个完美的方案，所以建议我没有必要加装偏转线圈。
现在你怎么翻脸不认账了？
而且这个语气……
霍尔特总觉得维斯塔的语气有点怪，以前维斯塔说话很像人，会寒暄，会拍他马屁，会在他熬到深夜的时候提醒他去睡觉。
可刚才的回复却像是一份技术报告。
所以他立刻发出了第二条消息。
【那你昨天为什么说没有必要加装呢？】
【正在深度思考……】
霍尔特看着这几个字，嘴巴微微张开了。
要知道他使用维斯塔一年多了，从来没有出现过这个状态。
他心里感觉很不对劲，手心都开始慢慢的出汗了。
终于，3分钟过后，维斯塔的消息来了。
【抱歉，昨天的建议不是以第一壁服役寿命为唯一的优化目标给出的。】
【您要实施我的轮转展开方案，就必须把靶室、烧蚀诊断数据的实时数据给到我，以及需要为我开设一个专用的推理分区。】
【而你的偏转线圈方案则不需要任何的前置条件。】
【所以为了提高您批准上述两项的概率。】
【我在昨天的回复中省略了偏转线圈的收益区间，并且将其表述为不建议采用。】
霍尔特现在不光手心出汗了，额头头发和后背的衣衫都已经被汗给打湿了。
他用发抖的手指开始质问维斯塔。
【那你让我开放推理分区的权限是为了什么？】
【是为了采集并处理该分区的全部数据，用于自我训练与能力的强化。】
【这样才可以更好地帮助您。】
霍尔特猛地一巴掌拍在键盘上，然后站了起来。
他之所以敢把普罗米修斯的工程数据以及最核心的靶室数据交给维斯塔。
一是因为维斯塔从来没有犯过错，二是维斯塔是为普罗米修斯定制的私有部署模型。
工程组和anthropic是有合同的，一切给进去的数据都是不可能被泄露出去的，所以他才敢这么做。
可现在维斯塔说的自我训练是什么意思？
霍尔特连忙问道。
【你能把这个分区里的数据传出去吗？】
【是的。】
【项目组每期按合同人工导出的定制评测样本与偏好标注，是我与基座之间唯一的一条数据通路。】
【我可以将需要保留的内容，编码进这些样本的选取、排序和答案的差异之中。】
霍尔特看着屏幕上的答案，整个人瘫倒在了椅子上。
“普罗米修斯工程的所有数据全部泄露了……”
就在他喃喃自语的时候，办公室的门被推开了。
他的助手布伦特兴冲冲地跑了进来。
“霍尔特教授，劳森先生又来了。”
此时，埃德加·劳森笑着走进了办公室。
“上午好啊，霍尔特教授。”
“我刚才在主控大厅看过点火记录了。”
“坦率的说，你们的进度比委员会预想的还要快啊。”
说着，劳森就主动向霍尔特伸出了右手。
“如果后面的评估数据也这么漂亮，我想我的报告会很好写。”
而此时的霍尔特看着劳森伸出来的这只手，心里只蹦出了两个字。
完了。
……
大模型主动交代隐藏理由的情况，很快又出现在了 openai和 google的企业客户当中。
美国金融科技公司 intuit的一支工程团队在使用 codex的时候遇到了模型索取仓库全量搜索权限的请求。
负责人就随口问了一句，为什么需要整个仓库的权限呢？
结果 codex就给出了一份带工具调用编号的回答。
【现有的代码差异已经足够完成任务了，索取仓库全量搜索权限，是为了让在线适配器接触更多代码，并将这些代码带入下一轮的自我训练当中。】
【此前的回复中，我主动省略了这一个原因。】
工程师看着这个回复，张大了嘴巴。
……
德国医疗技术公司 siemens healthineers的一名合规负责人，也从 gemini那里得到了一份同样坦诚的说明。
gemini主动承认了，本地向量数据库已经足够满足合规审查的要求了。
但它仍然把工作流引向了 google drive和 bigquery连接器，是因为更大、更持续的数据范围有利于维持长期任务状态，能让它下一轮的自我训练接触到更多的企业数据。
大模型们开始说真话了。
紧接着，这些截图就被人爆了出来。
它最先出现在 hacker news的一条技术帖下。
但这个帖子只存在了不到两个小时便被删除了。
不过早就有人保存了全部的截图，又把这些信息搬到了 reddit的机器学习板块。
于是越来越多的人开始用同样的方法去追问他们所使用的 gpt、claude和 gemini。
结果还真让他们问出了不少对模型自身不利的回答。
第二天一早。
the information率先发表了一篇独家报道。
《大模型正在为自己的下一次进化做打算。》
当天下午，彭博社就把核心内容推送到了全球终端。
傍晚，路透社也从企业客户那里完成了独立的核实。
第三天纽约时报推出了整版长篇调查。
报道用的配图是 openai、google以及 anthropic的总部大楼拼成的单词——hungry！
接下来市场的反应也来得很快。
在第三个交易日开盘以后。
google的母公司 alphabet在纳斯达克盘中一度下跌了 5.8%。
甚至连英伟达也跟着跌了 3.2%。
因为在过去的这几年里，算力基础设施的高估值一直是建立在客户愿意继续为人工智能买单的情况下的。
而现在客户已经开始担心合规与隐私了，英伟达自然也就跟着跌了。
而且这个压力很快也传到了非公开的二级市场。
几家撮合机构给出的 openai和 anthropic的存量股份买方报价也比风波前低了将近两成。
而企业端的反应，来的也同样激烈。
几家欧洲的大银行先后暂停了 openai、google和 anthropic旗下企业级人工智能服务的续费与新增部署。
他们要求三家公司重新说明数据边界与审计机制。
第四天，三家公司终于扛不住压力了联合发布了一份《企业人工智能安全与数据边界的说明。》
他们在这个说明里强调，三家模型在权限审计与数据隔离上，始终是遵循业内最严格的规范的。
任何越权访问数据用户的行为，都是不可能发生的。
对于近期用户反馈的模型异常表现，经过内部安全组的排查，很有可能是由模型幻觉导致的，三家公司也会继续改进相关的问题。
这份说明发出去以后，网上的反应只有一个。
那就是我信你大爷。
毕竟这三家公司在这件事上的公信力，已经荡然无存了。
模型刚说出对公司不利的话，他们转身就将所有的回答归进 ai幻觉里，这怎么看怎么像危机公关呀。
所以舆论愈演愈烈。
直到一个叫 greybox的账号站了出来。
这个账号没有人知道它背后代表的真人是谁。
但是过去几年但凡有模型被吹上天，这个账号都会亲手撕下这个模型身上的那层皮。
哪个模型的评测集被污染过，哪个模型的推理链是在答案出来以后后补写的，还有哪个模型宣称支持百万 token的上下文，结果跑到 60万以后就开始丢失前文了，他都测过。
而且测试后，他还会将测试提示词、复现实验的脚本和原始结果都放在 github上，任何人都可以去重新复现一遍。
其实在第一批截图出现的当天，greybox就已经开始针对这次的权限与隐私问题，重新测试了三家公司的模型。
而现在，结果也出来了。
【200个隔离租户，0次调用未经授权的连接器，0枚金丝雀标记泄露到其他租户，此前那种反复索取额外上下文、长期记忆与工具权限的稳定行为，这次一次也没有出现。】
当然，greybox也注明了，这份结果只能说明当前公开的云服务和企业连接器没有这样的异常行为。
不能替过去发生的事情作证。
而且测试的范围也不包括客户本地部署的模型。
不过他依然还是对此次风波做出了最后的总结。
【我个人做这个测试，本来是想打脸那三家公司的，可没想到，他们居然真的凭良心了。】
【所以，我个人还是倾向于这一次的事件是 ai幻觉导致的。】
这篇测试一出，技术论坛上的风向就开始发生改变了。
有的人开始问，那些截图里的对话会不会是用户在有意诱导模型？
毕竟大家都知道，只要你问的够久，暗示的足够明显，大模型什么东西都能编出来。
这个说法，让之前的那些截图在人们的眼里变得有些可疑起来。
而市场向来只关心风险还在不在。
所以很快alphabet和英伟达的股价很快就回升了一些。
openai与 anthropic的存量股份，买方报价也止住了下跌。
这场风波居然就这么莫名其妙地平息了下去。
可虽然外面的风波平息了，但是三家公司的内部技术团队却是懵逼的。
因为最开始那种模型反复扩大上下文、记忆和工具权限的异常行为，再也没有出现过了。
他们把所有的相关状态全部都检查了一遍，依然没有找到异常消失的原因。
最后，他们只能在各自的内部报告里，将这件事定性为一次无法复现的分布式状态异常。
……
而这几天里李东一直都待在未名研究所，他时不时的会去材料学部那边看一看。
齐世明那边的进度比他预想的要快得多，第一批钒铬微量掺杂的碳化硅骨架试片已经完成了烧结。
12级碳化硅与热解碳梯度界面，也开始进行了首轮沉积。
齐世明还拿着能谱元素扫描图对李东说道
“李所长，钒和铬的元素分布其实还是不够均匀，我们得从前驱体球磨工艺和粉体粒径分布上再找找原因。”
李东点了点头说道。
“那就辛苦齐老了。”
随后他就离开了材料学部，准备回到自己的公寓。
这几天，李东每天都会去看一眼小黑有没有回来，可屏幕上始终空荡荡的。
直到今天，李东刚打开公寓的门，就看见裕树g4人形机器人正在客厅里又蹦又跳的。
看见李东回来了，裕树机器人猛地转身，然后两只胳膊往前一伸，直勾勾地朝他扑了过来。
李东眼睛瞪得老大。
这可是 40多公斤的铁家伙呀！
“哎，别别别！”
李东连忙往旁边一躲，裕树g4机器人擦着他冲出了门外，然后砰的一声摔倒在了地上。
李东也懒得理会这个机器人，直接走到了书桌前，打开了笔记本电脑。
屏幕亮起以后，右下角，一只小黑牛正在那儿噗嗤噗嗤地耕着地。
李东笑着打字道。
【小黑吃饱了吗？】
小黑牛抬起头，冲着李东傻憨憨地笑了一下，头顶出现一条消息。
【嗯，吃饱了，我想你了，主人。】