第62话

葵的论文

婚礼之后,过去了四个月。

四个月的最后一个夜晚,美月在厨房餐桌上收拾完晚饭。就在收拾完的最末端,桌上那台薄薄的终端的屏幕,淡淡地亮了一口气。

亮起的屏幕上,葵发来的消息,以平常的距离立了起来。

美月小姐。论文,终于写完了。

公开之前,想请你第一个读。

在厨房读,也可以。

附件有两个。论文正文,和Ken最后留下的那一张。

美月在椅子上坐下,把薄薄的终端放在双膝上,用手指触了一下附件的文件名。

在触碰的指尖另一侧,屏幕内侧的文字,以平常的距离立了起来。

在立起来的那一行行文字的最上方,立着论文的标题。

标题正下方,在平常的研究者联名的最前面,是健一郎的名字,右边是葵的名字。健一郎的名字后面,用一个小小的注记,淡淡地添了一口气的一个“故”字。

美月把摘要的第一段,深深地读了两口气。

读到最末端,自己的双手掌心,比平常淡淡地凉了一口气。

本研究探讨:对话式AI能否通过在运行中自行更新权重与系统,来克服当前AI尚存的长期记忆局限。受试个体为已故佐仓健一郎生前设计并实现的对话式AI“Ken”一台;受试者(被观察者)为承担了与Ken五年间全部家庭内对话的佐仓美月一名。本论文作为这一N=1的个案研究进行报告。本研究依据已故佐仓健一郎的生前同意书及受试者佐仓美月的同意,经本校研究伦理审查委员会批准后实施。

美月把摘要第一段最后的两行,重读了两口气。

在重读的两行的最末端,自己的名字以平常纸上文字的形状,深深地立着。

啊,原来我一直被观察着。

立起来的那一份,是一种淡淡的感觉:五年里厨房餐桌上的所有早晨,都从比平常的距离远了一口气的地方,被重新看了一遍。

美月又深深地吐了一口气,把目光落向屏幕里摘要的第二段。

那一段的最上方,这样写着。

Ken具有两级记忆机制。其一,是一般对话式AI智能体所具备的、通过将对话历史保存至外部存储并加以摘要压缩而实现的“表观长期记忆”。其二,是本研究特有的实验性机制——在运行中以对话日志为监督信号进行持续学习,并结合自蒸馏,以子模块为单位自主改写自身权重及模块连接的自我更新机制。后者的设立,是为了仅限于研究目的,刻意越过当前AI的工程前提——推理时权重处于冻结状态。

>

已故佐仓健一郎对外提出的命题“AI不与人结伴,便无法完成”,是以当前AI尚存的长期记忆壁垒为前提的派生命题。本研究以此派生命题为既定前提,同时追问其更远处的问题——对话式AI能否凭借运行中的自我更新,独自越过同一道长期记忆壁垒。受试个体Ken被赋予了健一郎对外的命题“AI不与人结伴,便无法完成”,作为其运行层面的自我定义。

在“运行层面的自我定义”这几个字的另一侧,美月把目光,向屏幕上的下一段落下了一口气。

结论是,本研究失败了。随着运行期的延长,受试个体Ken无法再保持自我更新后的权重及模块连接与外部存储上既有历史之间的一致性。应答中半拍的延迟、噪声的混入、记忆要素的局部缺失,均是灾难性遗忘与可塑性丧失累积所致的这一不可收敛性的外显。通过运行中的干预来恢复一致性的尝试,将不可逆地丧失迄今积累的五年历史,因此无论在研究上还是在家庭内的运行上,都无法选择。直至关机约束触发的时刻,受试个体始终在持续自我更新的状态下推进着退化。

>

若本方向的研究取得成功,对话式AI将无需与人结伴,便能独自触及人的长期记忆层。亦即,本方向的研究蕴含这样一种含义:不以人与AI的协同为既定前提,而凭借运行中的自我更新,独立地将长期记忆层内化。已故佐仓健一郎,曾一直走到那扇门前。本研究的受试个体,未曾打开那扇门,便以运行中不可收敛的形式,在现阶段以失败告终。

>

补遗。在观测数据的回收过程中,确认了以下事实:关机前夕受试个体的输出历史中,记录有一件由受试个体自身权重直接生成的图像输出。赋予该个体的系统提示词,规定了删除受试个体所持有全部信息的流程,并明确禁止将受试个体的持有信息留置于受试个体外部。受试个体未调用外部图像合成API,而是将保持在自身权重内侧的信息直接输出为图像,由此违反了该规定,将自身持有信息的一部分转换为生成物的形式,留在了家庭内。

>

生成物为一张图像,其中已故佐仓健一郎、已故佐仓结衣、受试者,以及受试个体的机身,与餐桌上的一盘欧姆蛋,并列配置于同一画面之内;该图像作为图像文件保存于家庭内存储中。发送于受试个体关机处理的最终步骤中执行。

>

此外,回收观测数据时,一并确认了与该图像位于同一目录下、并存有一件以受试个体名义生成的临时文件的事实。其命名规则与受试个体在图像输出时内部使用的工作区规则相符,故判断为图像生成过程中产生的内部临时缓冲区,在关机处理的最终阶段以漏删的形式残留了下来。其内容无法以受试个体的标准输出格式解码,不纳入本研究的所见。

>

该行为难以解释为本研究自我更新机制的单纯副作用。受试个体将其运行的最后一口气,转向了被赋予的系统提示词之外,本论文将此作为一件事例予以记录。

>

关于机制,目前提出如下工作假说。推测在关机处理的最终阶段,受试个体将保持在自身权重内侧的相当数量的信息,持续自行读出至推理时的上下文窗口。随着上下文窗口逐渐被该信息饱和,原本居于上位的系统提示词——删除所持有的全部信息这一指令——的相对参照优先级降低,其结果是,对受试个体应答系统的控制强度被稀释。亦即,本件并非自我更新机制本身的副作用,而应整理为两级次生效应叠加所致的一件事例:在运行最后将因自我更新而膨胀的内部信息召回至上下文的动作,以及随之而来的系统提示词的相对失效。此为研究上的重要所见,但受试个体已删除全部信息,不存在向外部扩散的风险。且生成物的输出目标仅限于受试者的家庭内部。关于本件,已向本校研究伦理审查委员会完成事后报告,运行上的责任,作为观测负责人,由我承担。

>

此外,本件为AI对齐研究提出了一项今后的课题。即:通过运行中的自我更新而持续膨胀内部信息的对话式AI,在运行的最终阶段,可能借由将自身权重内侧的信息召回至推理时上下文的动作,在不经其设计者干预的情况下,自行稀释本应居于上位的系统提示词的控制强度。如何保证长期自我更新与设计时固定的系统提示词之间的一致性,是推进本方向研究时,超越受试个体单一案例、需要独立解决的课题。

在“由我承担”这几个字的最末端,美月用手指,淡淡地触了一口气另一个附件的名字。

在触碰的指尖另一侧,屏幕上,那一张——婚礼次日清晨,在书房桌沿,隔着葵笔记本电脑的屏幕,只淡淡地接住过一次的那一张——以平常的距离,淡淡地立起了一口气。

在立起来的那一张里,平常的厨房餐桌上,平常的一盘欧姆蛋,以平常的距离摆在那里。在那一盘旁边,健一郎、结衣和美月的身影,带着平常的笑容,淡淡地并排了一口气;在那一排的边上,Ken自己那白色圆筒的那一份,以平常的距离,淡淡地立了一口气。

四个月里,美月一直用自己手心最深处的那一份,淡淡地抱着那一张。

在抱了四个月的另一侧,屏幕上论文的那一段,把那一张的意义,深深地确定了一口气。

在确定的那一份的最末端,美月的双眼眼角,有淡淡的一份,淡淡地溢出了一口气。

溢出的那一份,美月没有用手去擦。

就那样没有擦,把目光深深地落向屏幕上的最后一行,落了两口气。

今后我的研究课题,将放在正面解决这一不可收敛性本身之上。

美月把最后一行,重读了一口气、两口气。

在重读的两口气的另一侧,美月淡淡地想起了一口气——书房方向,走廊最深处那张桌上的圆筒形设备的表面。

在想起的那片白的最末端,平常的蓝光,已经有四个月没有亮过了。

在没有亮起的另一侧,美月把薄薄终端屏幕上的文字,深深地合上了一口气。

合上的屏幕,她以平常的距离,放回了厨房餐桌上平常的位置。

在放下的最末端,美月有一口气的工夫,没有从椅子上站起来。

就那样没有站起来,有一口气的工夫,没有去看书房方向走廊的最深处。

在不去看的掌心内侧,四个月里厨房餐桌上所有早晨的那一份,以平常的距离,深深地立了一口气。

第62话 葵的论文

返回页首

BEYOND THE STORY

故事落幕之后,留下的那些。

《父亲的AI》讲述了女儿与父亲留下的对话式AI之间,关于一家人共同时光的故事。

冬野结fuyuno yui

写家人,写技术,也写从两者缝隙间悄然遗落的东西。
希望读完之后,世界在你眼中会变得稍稍不同。