PlanCoach 的 Context

LLM（大型語言模型）是一位房間中的智者，但除了你提供給它的 context 之外，它對你一無所知。

PlanCoach 是一款基於大模型的 App，我們設計了多種 context 機制來讓大模型更好地了解你、服務你、幫助你。

PlanCoach 有諸多 Context 的設計巧思。
本篇文章介紹 PlanCoach 的整個 context 體系設計，從系統角度介紹其原理，相信理解原理後你會更願意，也更能夠用好它。

本篇文章偏硬核，如果沒跟上請不要沮喪。PlanCoach 只需要用好「基礎」檔就已經上手了，可以解決大部分問題，只是個人喜歡為進階玩家提供更廣闊的自由度。

「進階」和「高級」檔是為這部分像我一樣喜歡探索、愛折騰的同學準備，但沒有掌握也不影響日常使用。

當你某天突然感覺 「哎？要是有個什麼什麼功能就好了」 時，可以來看下是不是已經包含在中高級技巧裡。

基礎：任務提示詞

任務提示詞是你在首頁輸入的待拆解任務，會作為主提示詞提供給大模型。

任務提示詞技巧

核心觀念：所有基於 LLM 的應用，不管介面多麼花俏，LLM 看到的都是 token。

你其實可以在這裡寫任意對教練的要求，比如拆解字數長短、步驟多少等。
比如你可以試試在這裡要求「提供的步驟不超過 5 個」「每個步驟結尾要包含一兩個❤️」等奇葩要求試試看。
畢竟…… why not？

基礎：個人畫像

一開始的 PlanCoach 只有任務提示詞，很快有一位叫 @Abby 的同學回饋能否把跨任務重複的個人資訊提煉成「個人畫像」，這樣每次教練都能看到。
PlanCoach 採納了這個建議，事實證明這個功能極大提升了 App 對使用者的幫助。因為它解決了一個大問題：當大模型不了解你的時候，它就無法準確擊中你的痛點。

後來我們基於大家的回饋一路最佳化個人畫像功能，比如提供「個人畫像填寫助手」、「雜貨鋪｜個人畫像擴充包」等，但最核心的是：
個人畫像是你相對不變的部分，可以在每次執行任務的時候被教練看到、參考，從而針對性地提出最適合你的方案。

基礎：教練

在 Agent 領域有個叫「Skill」的概念現在越來越普及：

Skill 的核心可以理解為 Agent 的「技能包」。

每個技能包教它完成一種具體任務，包括該用什麼工具、按什麼步驟做、需要遵守什麼規則。Agent 裝的 Skill 越多，能獨立完成的事情就越多。

在概念上，PlanCoach 的每個「教練」其實就是一門 Skill 的人格化設計。

PlanCoach 內建 4 個教練，也可以下載很多教練，讓 PlanCoach 可以從不同的專業角度幫助你。

教練的本質

如同前面所講的，「不管介面多麼花俏，LLM 看到的都是 token。」Skill 也好，教練也好，對大模型而言只是一段 Token。
舉例而言，大模型的世界知識庫裡包括了人類所有的食譜，也包含了人類記載的所有談判技巧。

但具象化為一個「談判教練」後，引導大模型的一段 token 是：

「使用者現在遇到了溝通難題，我要充分利用我知識庫裡的談判技巧（而不是食譜），來幫助使用者演練談判中可能會遇到的情況，每個步驟要對應一個情況。」

當你在 PlanCoach 中選擇了談判教練，這段行為描述會自動約束和引導大模型，從而得到符合期望的輸出，最終成為了 PlanCoach 介面中的一個個談判模擬步驟。

「教練」的設計凝聚了我們很多心思和精力，也成為了 PlanCoach 一個廣受歡迎的設計。
我們圍繞它花了非常多的時間做了很多開發，比如自捏教練、教練街頭暗號等。
本文章的後續部分也會涵蓋到一部分。

基礎：記憶（搶先版）

記憶很好理解：它是你曾經和教練共同度過的事情。

小知識

• 每個教練只知道他/她和你一起共處的部分，不同教練之間的記憶是隔離的。
• PlanCoach 目前的記憶機制還很簡單，它並不能記住你說的每一句話。隨著時間流逝，早期的記憶教練也會淡忘。
• 如果是需要長期、確定記住的事情，請寫到「個人畫像」或者是後面的「教練微調」。

進階：世界書

世界書（Lorebook）的機制借鑑了酒館（SillyTavern）的 context 管理機制，它讓你的教練既能知道你所提的專屬詞條，又不會因心智負擔過重而分散注意力。

你可以把世界書理解成一本你提供給教練的小辭典，裡面每個詞條（lore）類似：

• 練背：「先熱身，引體向上 3 組，俯身划船 3 組，然後伸展。要帶水壺和鑰匙。」
• 週六上午日程：「8 點 30 起床，早餐，去健身房練背，複習英語」

當你在 任務提示詞 裡提到辭典中的一個詞條時，教練能查到詞條的具體內容。
沒有提及就不在教練的視野裡。
這樣如果你的生活中有 10000 個詞條，如果使用 任務提示詞 或 個人畫像 一次性塞給教練，教練會出現注意力分散而忽略重點。但提到哪條讓教練看哪條就不會有這個問題了。

技巧

• 世界書是可以嵌套的。
  在前面舉的例子裡，週六上午日程 包含了 練背，當你跟教練說你要進行 週六上午日程 時，教練也知道你去練背時需要「帶水壺和鑰匙」。
• 世界書詞條不只可以是名詞，也可以是方法論、長期計劃。
  比如 [給我畫餅]、[駕照學習]（這樣在執行某一小步的時候教練知道一個更大的任務背景）

進階：教練微調

隨著「教練」機制被大家廣泛使用，有一個問題變得越來越尷尬：

你擁有「大臣」和「Miss S」，你希望大臣稱呼你為「武則天」，於是你在個人畫像裡寫道：「我是你的女皇，武則天」。一切都很完美，除了職場白領 Miss S 也受到了影響稱呼你武則天。

解決方法是每個教練可以擁有隔離有關你的個人畫像。針對不同的教練展現不同的部分。

高級：自訂教練

基礎：教練 可以切換現有教練，而透過 Coach Maker App，你可以完完全全自己捏一個教練出來。

點擊這裡檢視詳細。

進階：教練級別世界書

前面介紹了 世界書，介紹了 教練，什麼是 教練級別世界書？

顧名思義，它是隨著 教練 被下載和使用，專屬於 教練 的 世界書。

一些常見的使用場景：

• 創作一個「班長」教練：把課程表做成世界書，這樣以後 任務提示詞 裡可以直接「安排 週五 業餘時間學習計劃」。週五會命中「班長」自帶的世界書，展開成週五當天的課程表，然後結合課程表和空閒時間、你的個人畫像給你安排合理的業餘學習計劃。
• 把你的偶像蒸餾成教練：把 TA 的 100 條名言錄製為世界書，並勾選總是啟用，並讓教練把名言使用在開場白中。這樣每次開場詞都會隨機選擇一條名言。

公式

最終 LLM 看到的 = 記憶 + 任務提示詞 + 個人畫像 + (教練 + 教練微調) x 1 + (教練級別世界書 + App 內世界書) x N