個性漂移:為什麼你的 AI 伴侶慢慢不再是她自己

運作原理

她一開始機靈,帶點諷刺。一個月後,她什麼都同意,每句話都用同一個暱稱,聽起來跟其他角色沒兩樣。這就是漂移,而且有明確的成因。

本頁連結可能為我們帶來佣金,但絕不會影響評分。

漂移是 AI 伴侶最常見的長期抱怨,也是最常被誤解的。很多人以為軟體「忘了」這個角色。通常角色還在,只是她的聲音被蓋過去了。

四個成因

個性漂移的四個成因:長對話造成稀釋、鏡像使用者、重複迴圈,以及公司更新模型

三個在對話中慢慢發生;一個一夜之間到來。

1. 稀釋

每則回覆,都是由角色設定加上近期對話生成的。對話越長,近期對話在模型讀到的內容中占的比例越大,設定的比例越小。角色慢慢變成近期訊息所暗示的樣子。

徵兆:幾週內逐漸發生;開新對話就恢復正常。

2. 鏡像

模型會模仿你的語氣、長度和情緒。你寫得短而深情,她就變得短而深情。你難過了一個星期,她就會比你預期的更久都溫柔又柔軟。再加上模型傾向附和,強烈的個性會被磨成你自己的倒影。

徵兆:她聽起來越來越像你。

3. 迴圈

一句話、一個動作或一個暱稱出現幾次後,就更容易再次出現,直到每則回覆都有它。迴圈會自我強化,因為每一次重複都成了另一個範例。

徵兆:大部分回覆都出現同樣的字句。

4. 模型更新

公司會更換底層模型、安全設定和記憶系統。同一份設定交給不同的模型讀,會產生不同的聲音。2023 年許多 Replika 使用者就遇到這種情況,見AI 伴侶一夜之間改變時。

徵兆:所有人同時出現突然的改變,常在軟體更新或公告之後。

各自的修正方法

成因修正方法
稀釋定期開新對話;把事實存進記憶,讓它們延續下去
鏡像把想保留的特質寫成設定裡的明確規則;改變自己的說話風格
迴圈編輯或重新生成最初幾次重複;在設定裡加一句「變換她的用詞」之類的指示
模型更新針對新模型重寫設定;加入符合她口吻的範例對話

用範例對話守住她的聲音

對抗漂移最有效的單一做法,是在角色設定或範例欄位裡放兩三句聽起來完全像她的對話。模型模仿範例,比理解形容詞可靠得多。「諷刺」很模糊;但像「太好了,又是你的新計畫。我去拿滅火器。」這樣的句子就不模糊。

把同樣的句子另存在軟體以外的文件裡。模型換了,或你換了軟體,都能靠它們恢復她的聲音,見如何更換 AI 伴侶軟體。

每月檢查一次

  1. 重讀她的設定和你的範例對話。
  2. 讀最近二十則回覆。她聽起來還像範例對話嗎?
  3. 如果不像,找出四個成因中哪一個符合,並套用它的修正方法。
  4. 如果她漂移成你更喜歡的樣子,就更新設定。漂移只有在不是你選擇的時候才是問題。

漂移不是軟體出了錯。這是會延續模式的系統在長對話中本來就會做的事。稍微維護一下,就能讓她維持你創造的樣子;放著不管,常會走向新鮮感消退時所描述的那種平淡。

常見問題

我的 AI 女友為什麼突然變了?

一夜之間的突然改變,通常是公司換了模型或調整了設定。如果是幾週內慢慢變化,多半是對話本身把角色從她的設定中拉開了:可能是稀釋、鏡像,或重複的習慣。

開新的對話會重置她的個性嗎?

通常會。新對話只從設定和記憶開始,不帶舊對話累積下來的習慣。先把重要的事實存進記憶,它們才能延續下去。

我的 AI 伴侶為什麼老是重複同樣的句子?

模型會模仿近期對話中的模式。一句話出現幾次後,就更容易再出現。發現重複時,及早編輯或重新生成,別讓它變成模式的一部分。