Cross-Session Memory: Suntik Memori Sesi Lepas ke dalam System Prompt | Alpha | PandaiTech

Cross-Session Memory: Suntik Memori Sesi Lepas ke dalam System Prompt

Teknik untuk buat ejen AI korang ingat perbualan dari sesi yang lepas (long-term memory) dengan menyuntik summary sesi lama ke dalam system prompt sesi baru secara dinamik.

Learning Timeline
Key Insights

Tips Penjimatan Token

Jangan masukkan seluruh history perbualan yang mentah. Gunakan AI untuk buat 'Condensed Summary' supaya tidak membazir Token Limit (Context Window) pada sesi baru.

Privacy & Security Warning

Pastikan data yang disimpan dalam database adalah selamat. Jangan suntik maklumat sensitif seperti password atau maklumat peribadi (PII) secara terus ke dalam System Prompt jika agent anda boleh diakses secara terbuka.

Strategi 'Freshness' Memori

Jika user kerap berbual, pastikan anda hanya mengambil 3-5 summary terakhir sahaja untuk mengelakkan 'System Prompt' menjadi terlalu panjang (bloated) yang boleh menyebabkan AI menjadi keliru.
Prompts

Prompt untuk Menjana Ringkasan Sesi (Session Summarizer)

Target: ChatGPT / Claude
Summarize the key points, user preferences, and unresolved tasks from the conversation below. Format the output as a concise internal note for an AI assistant to remember in the next session. Conversation Transcript: [INSERT_TRANSCRIPT_HERE] Summary:

Struktur System Prompt dengan Memori Lepas

Target: System Message / System Prompt
You are a helpful AI assistant. To provide a personalized experience, here is a summary of your previous interactions with this user: <session_memory> {{session_summary}} </session_memory> Use this information to maintain continuity, but prioritize the user's current requests.
Step by Step

Cara Implementasi Cross-Session Memory dalam AI Agent

  1. Buka Dashboard platform AI Agent atau LLM orchestration pilihan anda.
  2. Akses bahagian 'System Prompt' atau 'System Message' dalam konfigurasi agent.
  3. Cipta satu placeholder dinamik di dalam System Prompt dengan nama {{session_summary}}.
  4. Konfigurasikan integrasi database (seperti Supabase atau Pinecone) untuk menyimpan history perbualan.
  5. Setkan satu 'Post-Processing Step' selepas setiap sesi berakhir untuk menjana ringkasan (summary) menggunakan AI.
  6. Simpan summary tersebut ke dalam database yang dipadankan dengan User ID atau Session ID.
  7. Gunakan API Call atau Logic Hook untuk menarik (fetch) summary terakhir daripada database sebelum sesi baru bermula.
  8. Suntik (inject) data summary tersebut ke dalam placeholder {{session_summary}} dalam System Prompt.
  9. Klik 'Save' atau 'Deploy' untuk mengaktifkan fungsi memori jangka panjang.

More from Bina & Deploy Ejen AI

View All