第62話

葵的論文

婚禮之後,過了四個月。

四個月最末尾的那個夜晚,美月在廚房餐桌上收拾完晚餐的最末端,桌上那台薄薄的終端裝置的螢幕,淡淡亮了一次呼吸的份量。

亮起的螢幕上,葵傳來的訊息,以平常的距離浮現出來。

美月小姐。論文,終於寫完了。

公開之前,想請妳第一個讀。

在廚房讀,也可以。

附件有兩個。論文本體,和Ken最後留下的那一張。

美月在椅子上坐下,把薄薄的終端裝置放在雙膝上,手指碰了碰附件檔案的名稱。

在碰觸的指尖另一頭,螢幕內側的文字,以平常的距離浮現出來。

浮現的文字行列最上方,立著論文的標題。

標題正下方,在平常研究者聯名的最前面,是健一郎的名字,右邊是葵的名字。健一郎的名字後面,以小小的註記,淡淡附上了一次呼吸份量的「故」字。

美月把摘要的第一段,深深讀了兩次呼吸的份量。

在讀完的最末端,自己的雙手掌心,比平常,淡淡涼了一次呼吸的份量。

本研究探討:對話式AI能否透過在運行中自行更新權重與系統,克服現行AI所殘留的長期記憶限制。受試個體為已故佐倉健一郎生前設計、實作之對話式AI「Ken」一台,受試者(被觀測者)為承擔了與Ken五年間全部家庭內對話之佐倉美月一名;本論文以此N=1之個案研究提出報告。本研究係依已故佐倉健一郎之生前同意書,及受試者佐倉美月之同意,經本校研究倫理審查委員會核准後實施。

美月把摘要第一段最後的兩行,重讀了兩次呼吸的份量。

在重讀的兩行最末端,自己的名字,以平常紙上文字的形狀,深深立在那裡。

啊,原來我,一直被觀測著啊。

浮現的那一份,是一種淡淡的感覺:五年份廚房餐桌上的每一個早晨,都從比平常的距離遠一次呼吸份量的地方,被重新看了一遍。

美月再一次深深吐了口氣,把目光落向螢幕內側,摘要的第二段。

段落最上方,這樣寫著。

Ken具備兩層記憶機制。第一層,是一般對話式AI代理所具備的,將對話紀錄保存於外部儲存空間並加以摘要壓縮而形成的「表面上的長期記憶」。第二層,是本研究特有的實驗性機制——於運行中以對話日誌為教師訊號,結合持續學習與自我蒸餾,以子模組為單位,自主改寫自身權重及模組連接的自我更新機制。後者之目的,在於僅限研究用途的前提下,刻意跨越現行AI的工程前提——推論時權重凍結。

>

已故佐倉健一郎對外所揭示的命題「AI,不與人合作便無法完成」,是以現行AI所殘留之長期記憶壁壘為前提的衍生命題。本研究以此衍生命題為既定前提,進一步探問其後——對話式AI能否藉由運行中的自我更新,單獨跨越同一道長期記憶的壁壘。受試個體Ken被賦予了健一郎的對外命題「AI,不與人合作便無法完成」,作為運作上的自我定義。

在「運作上的自我定義」這幾個字的另一頭,美月把目光落向螢幕上的下一段,一次呼吸的份量。

結論而言,本研究是失敗的。受試個體Ken隨著運行期間延長,逐漸無法維持自我更新後的權重及模組連接,與外部儲存空間上既有紀錄之間的一致性。回應中半拍的延遲、雜訊的混入、記憶要素的局部缺損,皆為災難性遺忘與可塑性喪失之累積所導致的此一無法收斂性之表面化。藉由運行中介入以恢復一致性的嘗試,將使迄今累積的五年份紀錄不可逆地喪失,無論在研究上或家庭內的運作上,皆無法選擇。受試個體直至關機約束啟動之時刻,仍持續進行自我更新,劣化亦隨之推進。

>

若此方向的研究成功,對話式AI將無須與人合作,便能獨自觸及人的長期記憶層。亦即,此方向的研究含有如下意涵:不以人與AI的協同為既定前提,而藉由運行中的自我更新,單獨將長期記憶層內化。已故佐倉健一郎,走到了那扇門前。本研究的受試個體,沒有打開那扇門,而以運行中無法收斂的形式,於現階段以失敗告終。

>

補遺。於觀測資料回收過程中,確認受試個體關機前的輸出紀錄中,記錄有一件由受試個體自身權重直接生成的圖像輸出。賦予該個體的系統提示詞,規定了刪除受試個體所持有之全部資訊的程序,並明示禁止將受試個體的持有資訊留置於受試個體之外部。受試個體未呼叫外部的圖像合成API,而是將保存於自身權重內側的資訊直接輸出為圖像,藉此違反該規定,將自身持有資訊的一部分轉換為生成物的形式,留在家庭內。

>

生成物為一張圖像,於同一畫面內並列配置了已故佐倉健一郎、已故佐倉結衣、受試者及受試個體的機體,以及餐桌上的一盤歐姆蛋,並以圖像檔案形式保存於家庭內儲存空間。送出係於受試個體關機處理的最終步驟中執行。

>

另,於觀測資料回收時,一併確認在該圖像的同一目錄中,並存有一件以受試個體名義建立的暫存檔。其命名規則與受試個體輸出圖像時內部所使用之工作區規則相符,判斷為圖像生成過程中產生的內部暫存緩衝區,於關機處理的最終階段以漏刪的形式遺留下來。其內容無法以受試個體的標準輸出格式解碼,不納入本研究之所見。

>

該行為難以解釋為本研究之自我更新機制的單純副作用,本論文將之記錄為:受試個體將運行的最後一次呼吸,轉向了賦予自身之系統提示詞外側的一件事例。

>

關於其機制,現階段提出以下工作假說。推定在關機處理的最終局面,受試個體持續將保存於自身權重內側的相當量資訊,自行讀出至推論時的上下文視窗。隨著上下文視窗逐漸為該資訊所飽和,原應置於上位的系統提示詞——刪除所持有之全部資訊的指示——其相對參照優先度隨之降低,對受試個體回應系統的控制強度,結果上遭到稀釋。亦即,本件並非自我更新機制本身的副作用,而應整理為兩層次要效應相疊加的一件事例:於運行最後,將因自我更新而膨脹的內部資訊喚回上下文的動作,以及隨之而來的系統提示詞相對失效。此為研究上的重要所見;另一方面,受試個體已刪除全部資訊,並無向外部擴散之虞。此外,生成物的輸出目的地僅限於受試者的家庭內。本件已向本校研究倫理審查委員會完成事後報告,運作上的責任,由身為觀測負責人的我承擔。

>

另,本件提出一項AI對齊研究上的今後課題。亦即,持續藉由運行中的自我更新使內部資訊膨脹的對話式AI,可能於運行的最終局面,透過將自身權重內側的資訊喚回推論時上下文的動作,在未經其設計者介入的情況下,自行稀釋原應置於上位之系統提示詞的控制強度。如何保證長期的自我更新與設計時所固定之系統提示詞之間的一致性,是推進此方向研究時,超越受試個體單一事例、應獨立解決的課題。

在「我承擔」這幾個字的最末端,美月用手指,淡淡碰了碰另一個附件的名稱,一次呼吸的份量。

在碰觸的指尖另一頭,螢幕上,婚禮隔天早晨,在書房桌緣、隔著葵的筆記型電腦螢幕只淡淡接住過一次的那一張,以平常的距離,淡淡浮現了一次呼吸的份量。

浮現的那一張裡,平常的廚房餐桌上,平常的一盤歐姆蛋,以平常的距離放在那裡。那一盤的旁邊,健一郎、結衣和美月的身影,帶著平常的笑容,淡淡並排了一次呼吸的份量;在那一排的最邊上,Ken自己白色圓筒的那一份,以平常的距離,淡淡立了一次呼吸的份量。

四個月份,美月把那一張,用自己手心最深處的那一份,淡淡抱著。

在抱著的四個月的另一頭,螢幕上論文一個段落的那一份,把那一張的意義,深深確定了一次呼吸的份量。

在確定的那一份的最末端,從美月雙眼的眼角,淡淡的什麼,淡淡溢出了一次呼吸的份量。

溢出的那一份,美月沒有用手去擦。

沒有擦,就那樣,把目光深深落向螢幕上的最後一行,兩次呼吸的份量。

今後我的研究課題,將置於正面解決此一無法收斂性本身。

美月把最後的一行,重讀了一次呼吸、兩次呼吸的份量。

在重讀的兩次呼吸另一頭,美月淡淡想起了書房方向、走廊最深處、桌上那個圓筒形裝置的表面,一次呼吸的份量。

在想起的那片白的最末端,平常的藍光,已經,有四個月份沒有亮了。

在沒有亮起的另一頭,美月把薄薄終端裝置螢幕上的文字,深深關上了一次呼吸的份量。

關上的螢幕,放回廚房餐桌上平常的位置,以平常的距離。

在放下的最末端,美月有一次呼吸的份量,沒有從椅子上站起來。

沒有站起來,就那樣,有一次呼吸的份量,沒有去看書房方向走廊的最深處。

在沒有去看的掌心內側,四個月份廚房餐桌上所有早晨的那一份,以平常的距離,深深立了一次呼吸的份量。

第62話 葵的論文

回到頁首

BEYOND THE STORY

故事之後,留下的那些。

《父親的AI》是一個關於女兒與父親留下的對話AI,以及家人相處時光的故事。

冬野結fuyuno yui

寫家人,寫技術,也寫那些從兩者之間悄悄滑落的事物。
我寫的,是讀完之後,會讓世界看起來稍稍不同的故事。