6276 字
31 分钟
vectorbt学习_49DMA之九滑窗网格参数优选
本文在上一篇文章(30DMA之八滑窗网格参数优选)基础上。
上一篇文章增加了止盈，止损，跟踪止损等参数，但实际效果看训练集上效果尚可，验证集上效果更差，怀疑过拟合导致。
故本篇文章增加几种避免过拟合的参数优选方法。之前文章方法类似。 差异在于：对本文而言，止损参数，止盈参数也是类似的，不止2个维度了，邻居采用立方体思路（对角点相接的也算作邻居，之前2维时是同边才算邻居，比如(1,3)，邻居是(2,3),(1,2),(1,4),新的规则会新增(2，2),(2，4)）
新增3种参数优选方法，一定程度上降低参数过拟合的可能。
v1<直接>(简单最大值)优选法
选取，测试集合的最优参数作为验证集参数，如果sharp_ratio就最大，回撤就最小类似这样的简单优选策略。
v2<邻近域优选法>
在上一个策略中，实际上是选取，测试集合的最优参数作为验证集参数。而有些情况下，测试集得到参数会突然发生较大变化，这可能偶发事件导致的，
比如：之前的双均线最佳参数一直是，（20，40），本期突然变成（80，160），显然不大合理，为了避免这种突变，让参数的变化也具有一定连贯性（当然，增加连贯性也一定程度降低过拟合风险）
v3<邻居权重优选法-均值>
在评估一组参数是否最佳时，并不单纯观察此参数本身是否最优，而是综合考虑参数本以及参数的邻居表现。
比如：
0.5 0.7 0.5 0.2 0.2
0.8 0.7 0.6 0.9 0.2
0.5 0.7 0.5 0.2 0.2
按照基础的最大值法，则选择0.9，但是0.9的邻居表现均不佳。
定义：新取值=原值 + (邻居的平均值)
则可以综合考虑参数本身和参数邻居点的表现。
v4<邻居权重优选法-中位数>
由于均值受极值影响较大，可以考虑用 median( 多个邻居)，代替上面”邻居的平均值”。
01,基础配置信息
#conda envs:vectorbt_envimport warningsimport vectorbt as vbtimport numpy as npimport pandas as pdfrom datetime import datetime, timedeltaimport pytzfrom dateutil.parser import parseimport ipywidgets as widgetsfrom copy import deepcopyfrom tqdm import tqdmimport imageiofrom IPython import displayimport plotly.graph_objects as goimport itertoolsimport dateparserimport gcimport mathfrom tools import dbtools
warnings.filterwarnings("ignore")
pd.set_option('display.max_rows',500)pd.set_option('display.max_columns',500)pd.set_option('display.width',1000)02,行情获取和可视化
a,时间交易参数配置
# Enter your parameters hereseed = 42symbol = '002594.XSHE'metric = 'total_return'
start_date = datetime(2020, 1, 1, tzinfo=pytz.utc) # time period for analysis, must be timezone-awareend_date = datetime(2023,1,1, tzinfo=pytz.utc)time_buffer = timedelta(days=100) # buffer before to pre-calculate SMA/EMA, best to set to max windowfreq = '1D'
vbt.settings.portfolio['init_cash'] = 10000. # 100$vbt.settings.portfolio['fees'] = 0.0025 # 0.25%vbt.settings.portfolio['slippage'] = 0.0025 # 0.25%b,获取行情和行情mask
# Download data with time buffercols = ['Open', 'High', 'Low', 'Close', 'Volume']# ohlcv_wbuf = vbt.YFData.download(symbol, start=start_date-time_buffer, end=end_date).get(cols)
ohlcv_wbuf=dbtools.MySQLData.download(symbol).get() # 自带工具类查询assert(~ohlcv_wbuf.empty)ohlcv_wbuf = ohlcv_wbuf.astype(np.float64)
print("ohlcv_wbuf.shape:",ohlcv_wbuf.shape)print("ohlcv_wbuf.columns:",ohlcv_wbuf.columns)
# Create a copy of data without time bufferwobuf_mask = (ohlcv_wbuf.index >= start_date) & (ohlcv_wbuf.index <= end_date) # mask without buffer
ohlcv = ohlcv_wbuf.loc[wobuf_mask, :]
print("ohlcv.shape:",ohlcv.shape)
# Plot the OHLC dataohlcv.vbt.ohlcv.plot().show_svg() # 绘制蜡烛图# remove show_svg() to display interactive chart!ohlcv_wbuf.shape: (978, 5)ohlcv_wbuf.columns: Index(['Open', 'High', 'Low', 'Close', 'Volume'], dtype='object')ohlcv.shape: (728, 5)
20,网格参数-指标计算和可视化
仅可视化第一列
fast_windows = np.arange(10, 50,5)slow_multis = np.arange(1.5, 5.5, 0.5)print("fast_windows:",fast_windows)print("slow_multis:",slow_multis)
price_wbuf=ohlcv_wbuf['Close']dualma = vbt.DualMA.run(price_wbuf, fast_window=fast_windows,slow_multi=slow_multis,param_product=True)dualma = dualma[wobuf_mask]# there should be no nans after removing time bufferassert(~dualma.fast_ma.isnull().any().any())assert(~dualma.slow_ma.isnull().any().any())
print()print('dualma.fast_ma.head(3)')print(dualma.fast_ma.head(3))print('dualma.slow_ma.head(3)')print(dualma.slow_ma.head(3))
print()fig = ohlcv['Close'].vbt.plot(trace_kwargs=dict(name='Price'))fig = dualma.fast_ma.iloc[:,0].vbt.plot(trace_kwargs=dict(name="Fast MA col %s"%str(dualma.fast_ma.iloc[:,0].name)), fig=fig)fig = dualma.slow_ma.iloc[:,0].vbt.plot(trace_kwargs=dict(name="Slow MA col %s"%str(dualma.slow_ma.iloc[:,0].name)), fig=fig)fig.show_svg()fast_windows: [10 15 20 25 30 35 40 45]slow_multis: [1.5 2. 2.5 3. 3.5 4. 4.5 5. ]
dualma.fast_ma.head(3)dualma_fast_window 10 15 20 25 30 35 40 45dualma_slow_multi 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0date2020-01-02 00:00:00+00:00 46.665 46.665 46.665 46.665 46.665 46.665 46.665 46.665 45.824667 45.824667 45.824667 45.824667 45.824667 45.824667 45.824667 45.824667 45.3025 45.3025 45.3025 45.3025 45.3025 45.3025 45.3025 45.3025 44.9476 44.9476 44.9476 44.9476 44.9476 44.9476 44.9476 44.9476 44.816667 44.816667 44.816667 44.816667 44.816667 44.816667 44.816667 44.816667 44.594571 44.594571 44.594571 44.594571 44.594571 44.594571 44.594571 44.594571 44.5425 44.5425 44.5425 44.5425 44.5425 44.5425 44.5425 44.5425 44.440222 44.440222 44.440222 44.440222 44.440222 44.440222 44.440222 44.4402222020-01-03 00:00:00+00:00 46.972 46.972 46.972 46.972 46.972 46.972 46.972 46.972 46.128667 46.128667 46.128667 46.128667 46.128667 46.128667 46.128667 46.128667 45.5025 45.5025 45.5025 45.5025 45.5025 45.5025 45.5025 45.5025 45.1420 45.1420 45.1420 45.1420 45.1420 45.1420 45.1420 45.1420 44.964000 44.964000 44.964000 44.964000 44.964000 44.964000 44.964000 44.964000 44.723714 44.723714 44.723714 44.723714 44.723714 44.723714 44.723714 44.723714 44.6265 44.6265 44.6265 44.6265 44.6265 44.6265 44.6265 44.6265 44.555556 44.555556 44.555556 44.555556 44.555556 44.555556 44.555556 44.5555562020-01-06 00:00:00+00:00 47.138 47.138 47.138 47.138 47.138 47.138 47.138 47.138 46.456000 46.456000 46.456000 46.456000 46.456000 46.456000 46.456000 46.456000 45.7310 45.7310 45.7310 45.7310 45.7310 45.7310 45.7310 45.7310 45.3376 45.3376 45.3376 45.3376 45.3376 45.3376 45.3376 45.3376 45.112667 45.112667 45.112667 45.112667 45.112667 45.112667 45.112667 45.112667 44.871143 44.871143 44.871143 44.871143 44.871143 44.871143 44.871143 44.871143 44.7115 44.7115 44.7115 44.7115 44.7115 44.7115 44.7115 44.7115 44.660222 44.660222 44.660222 44.660222 44.660222 44.660222 44.660222 44.660222dualma.slow_ma.head(3)dualma_fast_window 10 15 20 25 30 35 40 45dualma_slow_multi 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0date2020-01-02 00:00:00+00:00 45.824667 45.3025 44.9476 44.816667 44.594571 44.5425 44.440222 44.6384 45.180455 44.816667 44.545676 44.440222 44.717692 45.135167 45.513134 46.025200 44.816667 44.5425 44.6384 45.135167 45.697429 46.307750 46.683111 47.0983 44.545676 44.6384 45.235806 46.025200 46.560460 47.0983 47.997679 48.61136 44.440222 45.135167 46.025200 46.683111 47.425238 48.410917 48.769630 48.8484 44.717692 45.697429 46.560460 47.425238 48.496066 48.803714 48.852357 49.430914 45.135167 46.307750 47.0983 48.410917 48.803714 48.892313 49.622778 50.14240 45.513134 46.683111 47.997679 48.769630 48.852357 49.622778 50.162574 50.3758222020-01-03 00:00:00+00:00 46.128667 45.5025 45.1420 44.964000 44.723714 44.6265 44.555556 44.6660 45.373636 44.964000 44.652162 44.555556 44.741538 45.119167 45.485821 45.984267 44.964000 44.6265 44.6660 45.119167 45.666714 46.291125 46.643333 47.0707 44.652162 44.6660 45.229677 45.984267 46.549080 47.0707 47.936429 48.56848 44.555556 45.119167 45.984267 46.643333 47.349905 48.362083 48.758074 48.8320 44.741538 45.666714 46.549080 47.349905 48.460984 48.784357 48.838471 49.366457 45.119167 46.291125 47.0707 48.362083 48.784357 48.878875 49.584500 50.12260 45.485821 46.643333 47.936429 48.758074 48.838471 49.584500 50.141139 50.3797782020-01-06 00:00:00+00:00 46.456000 45.7310 45.3376 45.112667 44.871143 44.7115 44.660222 44.6908 45.562273 45.112667 44.787297 44.660222 44.773846 45.116667 45.474478 45.950800 45.112667 44.7115 44.6908 45.116667 45.641143 46.267875 46.621889 47.0449 44.787297 44.6908 45.232742 45.950800 46.534598 47.0449 47.864554 48.52880 44.660222 45.116667 45.950800 46.621889 47.278952 48.320667 48.743185 48.8232 44.773846 45.641143 46.534598 47.278952 48.406803 48.770500 48.833885 49.298743 45.116667 46.267875 47.0449 48.320667 48.770500 48.860063 49.552222 50.09115 45.474478 46.621889 47.864554 48.743185 48.833885 49.552222 50.122772 50.388044
21,网格参数-信号计算和可视化
仅可视化第一列
# 信号计算dmac_size=dualma.fast_ma_above(dualma.slow_ma)print('dmac_size.shape:',dmac_size.shape)print()print('dmac_size.iloc[:3,:3]:')print(dmac_size.iloc[:3,:3])
# 行情-指标-信号可视化fig = ohlcv['Close'].vbt.plot(trace_kwargs=dict(name='Price'))fig = dualma.fast_ma.iloc[:,0].vbt.plot(trace_kwargs=dict(name='Fast MA'), fig=fig)fig = dualma.slow_ma.iloc[:,0].vbt.plot(trace_kwargs=dict(name='Slow MA'), fig=fig)fig = dmac_size.iloc[:,0].vbt.signals.plot_as_markers(ohlcv['Close'], fig=fig)fig.show_svg()
# (单独)信号可视化fig = dmac_size.iloc[:,0].vbt.signals.plot(trace_kwargs=dict(name='Entries'))fig.show_svg()
# 信号的统计信息dmac_size.vbt.signals.stats()dmac_size.shape: (728, 64)
dmac_size.iloc[:3,:3]:dualma_fast_window 10dualma_slow_multi 1.5 2.0 2.5date2020-01-02 00:00:00+00:00 True True True2020-01-03 00:00:00+00:00 True True True2020-01-06 00:00:00+00:00 True True True
Start 2020-01-02 00:00:00+00:00End 2022-12-30 00:00:00+00:00Period 728Total 474.03125Rate [%] 65.114183First Index 2020-01-15 16:52:30+00:00Last Index 2022-11-07 20:15:00+00:00Norm Avg Index [-1, 1] -0.159967Distance: Min 1.0Distance: Max 82.734375Distance: Mean 1.464916Distance: Std 5.175417Total Partitions 6.671875Partition Rate [%] 1.510978Partition Length: Min 41.671875Partition Length: Max 211.171875Partition Length: Mean 110.468174Partition Length: Std 78.523847Partition Distance: Min 26.78125Partition Distance: Max 82.734375Partition Distance: Mean 51.365493Partition Distance: Std 28.015768Name: agg_func_mean, dtype: object22,行情,信号的滑窗处理
注意点：
01，训练集和验证集比例3：1，或者2：1，对应：window_len和set_lens为4<1>(或3<1>)，过大了历史包袱沉重，无法及时响应最新行情，过小了则容易参数跳变，形成类似过拟合效果
a,参数设置和效果预览
代码中
#todo 这里是自然日计算的，但后面训练，验证集个数计算都完全正确，哪里应该和预想的不一致合理的。实测bar_days= 60时
print(in_indexes[0][0])print(in_indexes[1][0])print(in_indexes[0][53:55])
2019-01-02 00:00:00+00:002019-03-25 00:00:00+00:00DatetimeIndex(['2019-03-25 00:00:00+00:00', '2019-03-26 00:00:00+00:00'], dtype='datetime64[ns, UTC]', name='split_0', freq=None)可见第二行第一个位于第一行第53个，不足设置的60,就是由于切分优先保证了数据的足量，但是数据间隔方面则可能有所重叠。# 滚动周期参数设置和大致效果可视化start_end_days=ohlcv.shape[0]bar_days= 80 # 训练，验证集时间长度，以此为单位test_bar_num=2 # 训练集时间长度verify_bar_num=1 # 验证集时间长度verify_overlap=0 # 验证集重叠时间长度pre_test_days=0 # 由于测试集一部分时间用于计算指标，导致实际训练时间不足，这个是一定程度补充的days周期# n取值需要满足:确保验证集合收尾相接# => (n-1)*(verify_bar_num-verify_overlap)+(verify_bar_num+test_bar_num)=start_end_days/bar_days# => n=(start_end_days/bar_days-test_bar_num-verify_overlap)/(verify_bar_num-verify_overlap)calc_n=(start_end_days/bar_days-test_bar_num-verify_overlap)/(verify_bar_num-verify_overlap)
split_kwargs = dict( n=int(calc_n), window_len=int(bar_days*(test_bar_num+verify_bar_num)+pre_test_days), set_lens=(int(bar_days*verify_bar_num),), left_to_right=False) # 10 windows, each 2 years long, reserve 180 days for test# 合理设置n，最好确保验证集，连续且无重复pf_kwargs = dict( direction='longonly', # long and short freq='d')print('split_kwargs:',split_kwargs)
def roll_in_and_out_samples(price, **kwargs): return price.vbt.rolling_split(**kwargs)
price=ohlcv['Close']# 验证：单列数据验证，橘黄色验证集连续且无重复roll_in_and_out_samples(price, **split_kwargs, plot=True, trace_names=['in-sample', 'out-sample']).show_svg()split_kwargs: {'n': 7, 'window_len': 240, 'set_lens': (80,), 'left_to_right': False}
b,根据滑窗参数切分行情数据和信号
in_price.shape: (160, 7)out_price.shape: (80, 7)
in_price.index: RangeIndex(start=0, stop=160, step=1)in_price.columns: Int64Index([0, 1, 2, 3, 4, 5, 6], dtype='int64', name='split_idx')
in_price[0:3]:split_idx 0 1 2 3 4 5 60 48.17 59.78 92.59 219.90 146.56 254.11 250.021 48.04 58.88 90.00 216.30 153.73 277.60 246.502 48.28 59.13 94.74 225.04 148.99 275.95 246.30
###############################in_dmac_size.shape: (160, 448)out_dmac_size.shape: (80, 448)
in_dmac_size.iloc[:5,:5]:split_idx 0dualma_fast_window 10dualma_slow_multi 1.5 2.0 2.5 3.0 3.50 True True True True True1 True True True True True2 True True True True True3 True True True True True4 True True True True True23,滑窗的收益数据计算
a,持有参数收益
在此区间，基础标的物表现
def simulate_holding(price, **kwargs): pf = vbt.Portfolio.from_holding(price, **kwargs) return pf.sharpe_ratio()
in_hold_sharpe = simulate_holding(in_price, **pf_kwargs)print(in_hold_sharpe.head(5))
out_hold_sharpe = simulate_holding(out_price, **pf_kwargs)print(out_hold_sharpe.head(5))split_idx0 2.3156781 3.8902612 1.8123023 1.1223104 2.388496Name: sharpe_ratio, dtype: float64split_idx0 4.8855191 -0.5477542 4.5382563 -0.0390854 -0.527252Name: sharpe_ratio, dtype: float64b,网格参数收益(训练集和验证集)
in_sharpe.shape: (1792,)split_idx dualma_fast_window dualma_slow_multi sl_stop0 10 1.5 0.05 2.698831 0.10 2.487661 0.15 2.305821 0.20 2.389847 2.0 0.05 2.344002 ...6 45 4.5 0.20 -1.054460 5.0 0.05 -0.331869 0.10 -1.664299 0.15 -1.487590 0.20 -1.513999Name: sharpe_ratio, Length: 1792, dtype: float64
split_idx 0 1 2 \dualma_fast_window 10 15 20 25 30 35 40 45 10 15 20 25 30 35 40 45 10 15dualma_slow_multi 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.50 True False False False False False False False False False False False True True True True False False True True True True True True False True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True False False False False False False False False False False False1 False False False False False False False True False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False2 False True True True True False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False
split_idx 3 4 \dualma_fast_window 20 25 30 35 40 45 10 15 20 25 30 35 40 45 10 15 20dualma_slow_multi 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.00 False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False True True False False False False False True True True False False True True True True True True False True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True True False False False False False False False False False False False False False False False False False False False False False False1 False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False2 False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False
split_idx 5 6 \dualma_fast_window 25 30 35 40 45 10 15 20 25 30 35 40 45 10 15 20 25 30dualma_slow_multi 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.50 False False False False False True True True True True False False True True True True True True False True True True True True True True False True True True True True True True True True True True True True True True False False False True False True True True False True True True True True True False True True True True False False False False True True True False False False False False True True False False False False False False True False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False True True False False False False True True True True False1 False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False True True True False True False False False True False False False False False False False False False False False True False False False False False False False False False False False False False False False False False False False False True False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False2 False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False True False False False False False True False False False False False True False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False
split_idxdualma_fast_window 35 40 45dualma_slow_multi 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.00 False False True True True True True False False True True True True True True False False True True True True True True False True True True True True True True1 False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False2 False False False False False False False False False False False False False False False False False False False False False False False False False False False False False False Falseout_sharpe.shape: (1792,)# import pandas as pd# import matplotlib.pyplot as plt
# # 根据索引层筛选数据# groups = in_return.groupby(level=['sl_trail','sl_stop'])
# # 计算每个分组的统计数据# # statistics = groups.agg(['mean', 'var', 'max', 'min', 'median'])# statistics = groups.agg([# ('mean', 'mean'),# ('var', 'var'),# ('max', 'max'),# ('min', 'min'),# ('median', 'median'),# ('25%', lambda x: np.percentile(x, 25)),# ('75%', lambda x: np.percentile(x, 75))# ])# print(statistics)
# def compare_true_false_statistics(statistics):# """# 比较 sl_trail 索引层为 True 和 False 时各统计指标的大小。
# :param statistics: 包含 True 和 False 分组的统计数据。# :return: 一个新的 DataFrame，展示 True 是否大于 False。# """# # 确保索引是多重索引，并且第一个索引是 sl_trail# if not isinstance(statistics.index, pd.MultiIndex) or statistics.index.names[0] != 'sl_trail':# raise ValueError("数据的第一个索引必须是 'sl_trail' 并且为多重索引。")
# # 提取 True 和 False 的统计数据# true_stats = statistics.xs(True, level='sl_trail')# false_stats = statistics.xs(False, level='sl_trail')
# # 比较 True 和 False 的每个统计指标# comparison = true_stats > false_stats
# # 将比较结果转换为整数类型（True为1，False为0）# comparison = comparison.astype(int)
# return comparison
# # 示例使用# # 假设 statistics 是上述提供的 DataFrame# comparison_results = compare_true_false_statistics(statistics)# print(comparison_results)c,训练集上的最佳参数用于验证集
大致思路：
01,获取各split_idx的最佳收益(sharp_radio)的参数组合idxmax,也就是fast_window,slow_window,split_idx，三维索引元组
02,按照split_idx进行聚类，取得各split_idx对应的最佳参数。实际含义就是各滑动窗口的最佳参数
v1<简单最大值优选法>
选取，测试集合的最优参数作为验证集参数，如果sharp_ratio就最大，回撤就最小类似这样的简单优选策略。
def get_best_index(performance, higher_better=True): if higher_better: return performance[performance.groupby('split_idx').idxmax()].index return performance[performance.groupby('split_idx').idxmin()].indexin_test_best_index_basic = get_best_index(in_sharpe)
merged_df = pd.concat([in_sharpe, in_return,out_sharpe,out_return], axis=1, keys=['in_sharpe', 'in_return','out_sharpe', 'out_return'])print('merged_df[in_test_best_index_basic]')print(merged_df.loc[in_test_best_index_basic])
# 绘图：参数走势图df_plot_tmp = in_test_best_index_basic.to_frame(index=False)# 将split_idx设置为行索引，并按照split_idx从小到大排序df_plot_tmp.set_index('split_idx', inplace=True)df_plot_tmp.sort_index(inplace=True)df_plot_tmp['dualma_slow_window'] = df_plot_tmp['dualma_fast_window']*df_plot_tmp['dualma_slow_multi']df_plot_tmp[['dualma_fast_window','dualma_slow_window']].vbt.plot().show_svg()merged_df[in_test_best_index_basic] in_sharpe in_return out_sharpe out_returnsplit_idx dualma_fast_window dualma_slow_multi sl_stop0 40 1.5 0.05 3.032440 0.678169 0.204789 0.0040911 20 2.0 0.10 4.264742 1.678727 2.600636 0.2781242 20 1.5 0.10 3.698019 1.458562 2.820473 0.4222923 10 3.5 0.10 2.015480 0.526104 0.451947 0.0230564 40 5.0 0.05 2.835772 0.428931 -1.923102 -0.0624785 15 2.0 0.05 0.717109 0.062730 3.414356 0.3024666 25 2.5 0.05 2.848787 0.414228 0.900054 0.004202
v2<邻近域优选法>
有些情况下，测试集得到参数会突然发生较大变化，这可能偶发事件导致的，
比如：之前的双均线最佳参数一直是，（20，40），本期突然变成（80，160），显然不大合理，为了避免这种突变，让参数的变化也具有一定连贯性（当然，增加连贯性也一定程度降低过拟合风险）
in_test_best_index_nb_coord[:5]MultiIndex([(0, 40, 1.5, 0.05), (1, 30, 1.5, 0.1), (2, 20, 1.5, 0.1), (3, 15, 2.5, 0.1), (4, 10, 3.5, 0.05)], names=['split_idx', 'dualma_fast_window', 'dualma_slow_multi', 'sl_stop'])
v3<邻居权重优选法-均值>
在评估一组参数是否最佳时，并不单纯观察此参数本身是否最优，而是综合考虑参数本以及参数的邻居表现。
比如：
0.5 0.7 0.5 0.2 0.2
0.8 0.7 0.6 0.9 0.2
0.5 0.7 0.5 0.2 0.2
按照基础的最大值法，则选择0.9，但是0.9的邻居表现均不佳。
定义：新取值=原值 + (邻居的平均值)
则可以综合考虑参数本身和参数邻居点的表现。
in_test_best_index_nb_mean[:5]MultiIndex([(0, 25, 2.5, 0.05), (1, 20, 2.0, 0.15), (2, 20, 1.5, 0.15), (3, 10, 3.5, 0.05), (4, 45, 5.0, 0.05)], names=['split_idx', 'dualma_fast_window', 'dualma_slow_multi', 'sl_stop'])
v4<邻居权重优选法-中位数>
由于均值受极值影响较大，可以考虑用 median( 多个邻居)，代替上面”邻居的平均值”。
in_test_best_index_nb_median[:5]MultiIndex([(0, 25, 2.5, 0.05), (1, 25, 2.5, 0.2), (2, 20, 1.5, 0.1), (3, 10, 3.5, 0.05), (4, 45, 5.0, 0.05)], names=['split_idx', 'dualma_fast_window', 'dualma_slow_multi', 'sl_stop'])
将滚动获取的最佳参数用于验证集，统计收益信息
24,sharp ratio的汇总可视化
basic为例的基础分析视图
cv_results_df = pd.DataFrame({ 'in_sample_hold': in_hold_sharpe.values, 'in_sample_median': in_sharpe.groupby('split_idx').median().values, 'in_sample_best': in_test_best_sharpe_basic.values, 'out_sample_hold': out_hold_sharpe.values, 'out_sample_median': out_sharpe.groupby('split_idx').median().values, 'out_sample_test': out_test_sharpe_basic.values})
color_schema = vbt.settings['plotting']['color_schema']
cv_results_df.vbt.plot( trace_kwargs=[ dict(line_color=color_schema['blue']), dict(line_color=color_schema['blue'], line_dash='dash'), dict(line_color=color_schema['blue'], line_dash='dot'), dict(line_color=color_schema['orange']), dict(line_color=color_schema['orange'], line_dash='dash'), dict(line_color=color_schema['orange'], line_dash='dot') ]).show_svg()
关注点：
蓝色部分 正常排序是(从上到下)：点线，实现，线段，
橘色部分
实线对实线
说明测试集和验证集的周期收益情况，二者同时出现0轴同侧较好（同时上涨，同时下跌，保持行情的稳定性or延续性）
线段对线段
二者一方面随着各自颜色的实线趋势变化（受各自实线影响较大），其他应该无必然联系
点线对点线
蓝色点高于橘色点线，蓝色是训练集内最佳，橘色则是训练集得到最优参数用于验证集结果收益，大概率低于验证集。
测试，验证集时间长度差异，引入偏差
由于测试集一般是验证集的2-3倍（或更多），对于单边行情(假如上涨)，则(测试集的)实线收益。蓝色线大概率位于橘色线上方。
如果下跌，则相反。蓝色由于时间长，大概率位于橘色下方。
注意： 01，202406，对于当前case，y周取值为sharp ratio夏普比，而非收益率。所以数据点高低并不反映收益率。 所以，以上结论需要稍斟酌，并不完全准确。
4种优选方法的训练集夏普sharp ratio
cv_results_df = pd.DataFrame({ 'in_sample_hold': in_hold_sharpe.values, 'in_sample_best_basic': in_sharpe[in_test_best_index_basic].values, 'in_sample_best_coord': in_sharpe[in_test_best_index_nb_coord].values, 'in_sample_best_mean': in_sharpe[in_test_best_index_nb_mean].values, 'in_sample_best_median': in_sharpe[in_test_best_index_nb_median].values,})
color_schema = vbt.settings['plotting']['color_schema']
cv_results_df.vbt.plot( trace_kwargs=[ dict(line_color=color_schema['blue']), dict(line_color=color_schema['green']), dict(line_color=color_schema['red']), dict(line_color=color_schema['cyan']), dict(line_color=color_schema['orange']) ]).show_svg()
4种优选方法的验证集夏普sharp ratio
cv_results_df = pd.DataFrame({ 'out_sample_hold': out_hold_sharpe.values, 'out_sample_test_basic': out_test_sharpe_basic.values, 'out_sample_test_coord': out_test_sharpe_coord.values, 'out_sample_test_mean': out_test_sharpe_mean.values, 'out_sample_test_median': out_test_sharpe_median.values})
color_schema = vbt.settings['plotting']['color_schema']
cv_results_df.vbt.plot( trace_kwargs=[ dict(line_color=color_schema['blue']), dict(line_color=color_schema['green']), dict(line_color=color_schema['red']), dict(line_color=color_schema['cyan']), dict(line_color=color_schema['orange']) ]).show_svg()
25,滚动回测收益可视化
# 测试集：原始价格变动in_price_org=in_price.iloc[-1, :]/in_price.iloc[0, :]print('in_price_org shape:',in_price_org.shape)print('in_price_org.head(5)')print(in_price_org.head(5))
cv_results_df = pd.DataFrame({ 'out_price_org': in_price_org.cumprod(), 'in_test_best_return_basic': (in_test_best_return_basic.values+1).cumprod(), 'in_test_best_return_coord': (in_test_best_return_nb_coord.values+1).cumprod(), 'in_test_best_return_mean': (in_test_best_return_nb_mean.values+1).cumprod(), 'in_test_best_return_median': (in_test_best_return_nb_median.values+1).cumprod(),
})
color_dmac_pfschema = vbt.settings['plotting']['color_schema']
cv_results_df.vbt.plot( trace_kwargs=[ dict(line_color=color_schema['blue']), dict(line_color=color_schema['green']), dict(line_color=color_schema['red']), dict(line_color=color_schema['cyan']), dict(line_color=color_schema['orange']) ]).show_svg()
# 验证集：原始价格变动out_price_org=out_price.iloc[-1, :]/out_price.iloc[0, :]print('out_price_org shape:',out_price_org.shape)print('out_price_org.head(5)')print(out_price_org.head(5))
print()print('out_test_return_basic shape:',out_test_return_basic.shape)print('out_test_return_basic.head(5) + 1')print(out_test_return_basic.head(5)+1)
cv_results_df = pd.DataFrame({ 'out_price_org': out_price_org.cumprod(), 'out_test_return_basic': (out_test_return_basic.values+1).cumprod(), 'out_test_return_coord': (out_test_return_coord.values+1).cumprod(), 'out_test_return_mean': (out_test_return_mean.values+1).cumprod(), 'out_test_return_median': (out_test_return_median.values+1).cumprod(),})
color_dmac_pfschema = vbt.settings['plotting']['color_schema']
cv_results_df.vbt.plot( trace_kwargs=[ dict(line_color=color_schema['blue']), dict(line_color=color_schema['green']), dict(line_color=color_schema['red']), dict(line_color=color_schema['cyan']), dict(line_color=color_schema['orange']) ]).show_svg()in_price_org shape: (7,)in_price_org.head(5)split_idx0 1.7726801 2.9876212 1.6200453 1.2822654 1.822666dtype: float64
out_price_org shape: (7,)out_price_org.head(5)split_idx0 2.2109411 0.8760752 2.0017373 0.9711194 0.902879dtype: float64
out_test_return_basic shape: (7,)out_test_return_basic.head(5) + 1split_idx dualma_fast_window dualma_slow_multi sl_stop0 40 1.5 0.05 1.0040911 20 2.0 0.10 1.2781242 20 1.5 0.10 1.4222923 10 3.5 0.10 1.0230564 40 5.0 0.05 0.937522Name: total_return, dtype: float64
上图可见，以上参数优选方法表现基本接近（也符合之前的sharp ratio接近的特征），不论何种参数优选策略，均优于单纯的持有（不过，结论未必通用）。
26,计算正确性验证(略)
a,准备校验数据，数据展示b,行情->指标 计算正确c,指标->信号 计算正确27,回测结果汇总
参数
4种优选方法 训练集夏普sharp ratio
4种优选方法 验证集夏普sharp ratio
4种优选方法 最佳参数测试集回测表现
4种优选方法 最佳参数验证集回测表现
跟踪止损
参数
fast_windows = np.arange(10, 50,5)slow_multis = np.arange(1.5, 5.5, 0.5)sl_stops = [0.05,0.1,0.15,0.20]sl_trails = True无止盈4种优选方法 训练集夏普sharp ratio
4种优选方法 验证集夏普sharp ratio
4种优选方法 最佳参数测试集回测表现
4种优选方法 最佳参数验证集回测表现
非跟踪止损
参数
fast_windows = np.arange(10, 50,5)slow_multis = np.arange(1.5, 5.5, 0.5)sl_stops = [0.05,0.1,0.15,0.20]sl_trails = False无止盈4种优选方法 训练集夏普sharp ratio
4种优选方法 验证集夏普sharp ratio
4种优选方法 最佳参数测试集回测表现
4种优选方法 最佳参数验证集回测表现
跟踪止损+止盈
参数
fast_windows = np.arange(10, 50,5)slow_multis = np.arange(1.5, 5.5, 0.5)sl_stops = [0.05,0.1,0.15,0.20]sl_trails = Truetp_stops = [0.1, 0.2]参数
4种优选方法 训练集夏普sharp ratio
4种优选方法 验证集夏普sharp ratio
4种优选方法 最佳参数测试集回测表现
4种优选方法 最佳参数验证集回测表现
非跟踪止损+止盈
参数
fast_windows = np.arange(10, 50,5)slow_multis = np.arange(1.5, 5.5, 0.5)sl_stops = [0.05,0.1,0.15,0.20]sl_trails = Falsetp_stops = [0.1, 0.2]4种优选方法 训练集夏普sharp ratio
4种优选方法 验证集夏普sharp ratio
4种优选方法 最佳参数测试集回测表现
4种优选方法 最佳参数验证集回测表现
小汇总
跟踪止损 vs 非跟踪止损(买入价固定百分比止损)：一般常规认为跟踪止损更佳，此处并不显著。
跟踪止损+止盈 vs 跟踪止损：趋势策略添加止盈等于给跳蚤加盖测跳高，极度不合适，训练集上效果都上不来。
非跟踪止损+止盈 vs 非跟踪止损：加了止盈不怎么样了。
趋势策略不考虑止盈，可考虑增加买入价固定百分比止损，或跟踪止损。
部分信息可能已经过时
公告
欢迎来到黄金矿工的博客！