3. 随机搜索法：原理、对比与实现

随机搜索法（Random Search）是超参数优化中一种简单而高效的策略。与网格搜索的穷举遍历不同，随机搜索在参数空间中随机采样，以概率覆盖的方式寻找最优参数组合。本节将系统阐述其核心原理、与网格搜索的对比、采样策略，并给出完整的 Python 实现示例。

3.1 随机搜索原理

随机搜索的核心思想是：在参数空间中，按照某种概率分布随机抽取参数组合，评估每个组合的性能，并从中选择最优结果。其数学基础是概率论中的大数定律和集中不等式——当采样次数足够多时，随机搜索能以高概率找到接近全局最优的参数区域。

随机搜索的关键优势在于：它不假设参数空间的结构，对高维、非凸、不连续的目标函数同样适用。与网格搜索相比，随机搜索在相同计算预算下，往往能探索到更广泛的参数区域。

3.2 与网格搜索的对比

网格搜索和随机搜索是两种最基础的参数优化方法，它们在策略、效率和适用场景上存在显著差异。下表从多个维度进行系统对比：

3.3 采样策略

随机搜索的采样策略直接影响搜索效率和结果质量。常见的采样策略包括：

1. 均匀随机采样： 在参数范围内按均匀分布采样，适用于参数重要性未知或均匀分布的场景。
2. 对数均匀采样： 在 log 尺度上均匀采样，适用于学习率、正则化系数等跨度多个数量级的参数。
3. 正态/截断正态采样： 以先验估计为中心，按正态分布采样，适用于已有先验知识的参数。
4. 拉丁超立方采样（LHS）： 将参数空间分层后在各层内随机采样，保证采样点的空间均匀性。
5. 自适应采样： 根据历史采样结果动态调整采样分布，逐步聚焦于高潜力区域。

下表总结了不同采样策略的特点和适用场景：

3.4 Python 实现示例

以下代码展示了随机搜索的完整实现，包括参数空间定义、采样、评估和结果可视化。示例以量化交易策略中的移动平均线参数优化为背景。

import numpy as np
import pandas as pd
from typing import Dict, List, Tuple, Callable
import random

# ==================== 1. 定义参数空间 ====================
param_space = {
    'fast_ma': {'type': 'int', 'range': (5, 50), 'scale': 'linear'},
    'slow_ma': {'type': 'int', 'range': (20, 200), 'scale': 'linear'},
    'stop_loss': {'type': 'float', 'range': (0.01, 0.05), 'scale': 'linear'},
    'take_profit': {'type': 'float', 'range': (0.02, 0.10), 'scale': 'linear'},
    'position_size': {'type': 'float', 'range': (0.1, 1.0), 'scale': 'linear'}
}

# ==================== 2. 采样函数 ====================
def sample_from_space(space: Dict, strategy: str = 'uniform') -> Dict:
    """从参数空间中随机采样一组参数"""
    params = {}
    for name, spec in space.items():
        low, high = spec['range']
        if spec['type'] == 'int':
            if strategy == 'uniform':
                params[name] = random.randint(low, high)
            elif strategy == 'log_uniform':
                log_low, log_high = np.log(low), np.log(high)
                params[name] = int(round(np.exp(random.uniform(log_low, log_high))))
        elif spec['type'] == 'float':
            if strategy == 'uniform':
                params[name] = random.uniform(low, high)
            elif strategy == 'log_uniform':
                log_low, log_high = np.log(low), np.log(high)
                params[name] = np.exp(random.uniform(log_low, log_high))
    return params

# ==================== 3. 目标函数（模拟策略评估） ====================
def evaluate_strategy(params: Dict) -> float:
    """
    模拟策略评估函数。
    实际应用中应替换为回测引擎调用。
    """
    # 模拟：参数组合越接近"黄金比例"，得分越高
    fast_ma = params['fast_ma']
    slow_ma = params['slow_ma']
    stop_loss = params['stop_loss']
    take_profit = params['take_profit']
    
    # 理想参数组合（人为设定）
    ideal_fast, ideal_slow = 12, 26
    ideal_sl, ideal_tp = 0.02, 0.06
    
    # 计算得分（模拟 Sharpe 比率）
    score = 1.0
    score -= 0.3 * abs(fast_ma - ideal_fast) / 50
    score -= 0.3 * abs(slow_ma - ideal_slow) / 200
    score -= 0.2 * abs(stop_loss - ideal_sl) / 0.05
    score -= 0.2 * abs(take_profit - ideal_tp) / 0.10
    
    # 添加随机噪声模拟市场不确定性
    noise = np.random.normal(0, 0.05)
    return score + noise

# ==================== 4. 随机搜索主循环 ====================
def random_search(
    param_space: Dict,
    objective_fn: Callable,
    n_iterations: int = 100,
    sampling_strategy: str = 'uniform',
    verbose: bool = True
) -> Tuple[Dict, float, pd.DataFrame]:
    """
    执行随机搜索优化
    
    参数:
        param_space: 参数空间定义
        objective_fn: 目标函数（最大化）
        n_iterations: 采样次数
        sampling_strategy: 采样策略
        verbose: 是否打印进度
    
    返回:
        best_params: 最优参数组合
        best_score: 最优得分
        history: 所有采样记录
    """
    history = []
    best_score = -np.inf
    best_params = None
    
    for i in range(n_iterations):
        # 采样
        params = sample_from_space(param_space, sampling_strategy)
        
        # 评估
        score = objective_fn(params)
        
        # 记录
        record = params.copy()
        record['score'] = score
        history.append(record)
        
        # 更新最优
        if score > best_score:
            best_score = score
            best_params = params.copy()
        
        if verbose and (i + 1) % 20 == 0:
            print(f"迭代 {i+1}/{n_iterations} | 当前最优得分: {best_score:.4f}")
    
    history_df = pd.DataFrame(history)
    return best_params, best_score, history_df

# ==================== 5. 执行搜索 ====================
print("=" * 60)
print("随机搜索参数优化示例")
print("=" * 60)

# 设置随机种子保证可复现
random.seed(42)
np.random.seed(42)

# 执行搜索
best_params, best_score, history = random_search(
    param_space=param_space,
    objective_fn=evaluate_strategy,
    n_iterations=100,
    sampling_strategy='uniform',
    verbose=True
)

# ==================== 6. 输出结果 ====================
print("\n" + "=" * 60)
print("优化结果")
print("=" * 60)
print(f"最优得分 (模拟 Sharpe): {best_score:.4f}")
print("\n最优参数组合:")
for name, value in best_params.items():
    print(f"  {name}: {value:.4f}")

print("\n前 5 次采样记录:")
print(history.head().to_string(index=False))

# ==================== 7. 结果分析 ====================
print("\n" + "=" * 60)
print("结果分析")
print("=" * 60)
print(f"总采样次数: {len(history)}")
print(f"最优得分: {history['score'].max():.4f}")
print(f"平均得分: {history['score'].mean():.4f}")
print(f"得分标准差: {history['score'].std():.4f}")
print(f"得分中位数: {history['score'].median():.4f}")

# 找出得分最高的前 5 个参数组合
top5 = history.nlargest(5, 'score')
print("\nTop 5 参数组合:")
print(top5.to_string(index=False))

3.5 随机搜索的收敛性分析

随机搜索的收敛性可以通过概率不等式来刻画。假设参数空间 Θ 的测度为 V，最优区域 Θ* 的测度为 v，则单次采样落入最优区域的概率为 p = v/V。经过 N 次独立采样，至少有一次落入最优区域的概率为：

这意味着：即使最优区域只占参数空间的 1%，只需约 300 次随机采样，就有 95% 的概率至少命中一次。相比之下，网格搜索在 10 维参数空间中，每维仅取 3 个网格点就需要 3¹⁰ = 59049 次评估。

3.6 实践建议与注意事项

• 采样次数选择： 建议采样次数为参数个数的 10~50 倍。对于 5 个参数，100~250 次采样通常足够。
• 多次运行取平均： 随机搜索结果具有波动性，建议运行 5~10 次，取最优参数的平均值或众数。
• 参数范围合理设定： 范围过宽会稀释采样密度，过窄可能遗漏最优解。建议基于先验知识或初步实验确定范围。
• 结合交叉验证： 每次采样得到的参数组合，应通过交叉验证评估其稳健性，避免过拟合。
• 渐进式搜索： 先进行粗粒度随机搜索（大范围、少次数），锁定高潜力区域后，再进行细粒度搜索。