予稿集Proceeding

Timeline Memory: 記憶の重要度評価による大規模言語モデルへの時間感覚付与


Journal: 第31回インタラクティブシステムとソフトウェアに関するワークショップ(WISS2023)予稿集

Source URL:https://www.wiss.org/WISS2023Proceedings/data/1-B09.pdf


Published:


Keywords:LLM / Vector Search / Database / ベクトル検索 / 言語モデル / データベース構造


Abstract

本稿では,LLMベースのエージェントに人間のような時間感覚付与を行う手法の中でも,情報の関連度,経過時間,想起頻度を総合的に考慮した付与を試みた.さらに「タイムライン」構造のデータベースを採用し,より効率的な情報検索を可能にした.これにより,エージェントはユーザとの過去の対話や行動を基に,何を優先的に提供すべきかを判断した回答を行える.具体的に,人間の「エピソード記憶」を基に,会話履歴から日時,キーワード及びトピックなどの要素を含めた情報群を「イベント」として抽出し保存した.これにより,エージェントがユーザとの会話において,「記憶」ーすなわちデータベースから情報を参照する際に,ベクトル検索により類似度の上位イベントを検出することができる.さらに,各イベントにおけるクエリ頻度と経過時間により計算された情報としての「重要度」が最も高いイベントを「想起」する機能を実装した.これにより,記憶が時間経過とと もに薄れたり,また繰り返し想起することで定着したりする過程を再現することができる.このように,外部から人間特有の記憶プロセスを付与されたエージェントは,ユーザが本当に求めている情報の提供や,人間なら当然できるはずの振る舞いができる.