WebSocket メッセージタイプ

すべてのメッセージは JSON テキストフレームです。

クライアント → サーバー

start_session

LLM セッションを初期化します。

{
  "action": "start_session",
  "input_type": "audio",
  "new_session": true
}

stream_data

ユーザー入力（オーディオチャンクまたはテキスト）を送信します。

オーディオ入力:

{
  "action": "stream_data",
  "input_type": "audio",
  "data": "<base64 encoded PCM audio>"
}

テキスト入力:

{
  "action": "stream_data",
  "input_type": "text",
  "data": "Hello, how are you?"
}

画面データ:

{
  "action": "stream_data",
  "input_type": "screen",
  "data": "<base64 encoded screenshot>"
}

end_session

現在のセッションを終了します。

{ "action": "end_session" }

pause_session

接続を閉じずに処理を一時停止します。

{ "action": "pause_session" }

ping

キープアライブハートビート。

{ "action": "ping" }

サーバー → クライアント

text

LLM からのストリーミングテキストレスポンス。

{
  "type": "text",
  "text": "Hi there! How can I help you?"
}

audio

オーディオレスポンス（TTS 出力または直接 LLM オーディオ）。

{
  "type": "audio",
  "audio_data": "<base64 encoded PCM 48kHz>"
}

status

セッション状態に関するステータスメッセージ。

{
  "type": "status",
  "message": "Session started successfully"
}

emotion

モデルの表情を駆動するための感情ラベル。

{
  "type": "emotion",
  "emotion": "happy"
}

catgirl_switched

サーバー側でアクティブなキャラクターが変更された通知。

{
  "type": "catgirl_switched",
  "new_catgirl": "new_character",
  "old_catgirl": "old_character"
}

クライアントは /ws/{new_catgirl} に再接続する必要があります。

reload_page

サーバーがクライアントにページの更新を要求します。

{
  "type": "reload_page",
  "message": "Configuration changed, please refresh"
}

agent_notification

エージェントタスクの更新通知。

{
  "type": "agent_notification",
  "text": "Found relevant information about...",
  "source": "web_search",
  "status": "completed"
}

agent_task_update

エージェントタスクの詳細ステータス。

{
  "type": "agent_task_update",
  "task": {
    "id": "task-uuid",
    "status": "running",
    "progress": 50
  }
}

agent_status_update

エージェントシステムのステータススナップショット。

{
  "type": "agent_status_update",
  "snapshot": {
    "active_tasks": 1,
    "flags": { "agent_enabled": true }
  }
}

pong

ping に対するレスポンス。

{ "type": "pong" }