Search 线程池自动队列帧大小配置

配置项作用 #

thread_pool.search.auto_queue_frame_size 配置项用于控制搜索线程池自动队列调整的帧大小。

这是用于基于 Little’s Law 自动调整队列大小时收集统计信息的任务数量。

配置项属性 #

• 配置路径: thread_pool.search.auto_queue_frame_size
• 数据类型: Integer（整数）
• 默认值: 2000
• 是否可选: 是
• 作用域: NodeScope（节点级别）
• 动态更新: 否（已废弃）
• 废弃状态: 已废弃

配置项详解 #

工作机制 #

自动队列调整机制

Little's Law 实现:
队列大小 = 吞吐量 × 平均响应时间


调整流程:
├── 收集 frame_size 个任务的统计
├── 计算当前吞吐量
├── 计算平均响应时间
├── 与目标响应时间比较
├── 调整队列大小
└-- 在 [min_queue_size, max_queue_size] 范围内


帧大小影响:
├── 帧越大 → 调整频率越低 → 调整越精确
├── 帧越小 → 调整频率越高 → 响应更快
└-- 默认 2000 平衡精度和响应速度

配置建议 #

默认配置 #

thread_pool:
  search:
    auto_queue_frame_size: 2000  # 默认值

注意事项 #

1. 已废弃: 配置项已废弃。

2. 自动调优: 基于 Little’s Law 自动优化队列。

3. 响应时间: 与 target_response_time 配合使用。