openbot
|
83b2572683
|
ci: retrigger on forgejo-runner v7.0.0
smoke / hello (push) Failing after 0s
|
2026-10-27 18:08:51 +08:00 |
|
openbot
|
4948d124f7
|
ci: retrigger on gitea-runner v5.2.3
smoke / hello (push) Failing after 1s
|
2026-10-27 18:03:58 +08:00 |
|
openbot
|
cdd0df3d10
|
ci: retrigger on nightly (docker 29 compat)
smoke / hello (push) Failing after 6s
|
2026-10-27 17:53:32 +08:00 |
|
openbot
|
f13205287a
|
ci: retrigger on 0.2.11
smoke / hello (push) Failing after 6s
|
2026-10-27 17:49:54 +08:00 |
|
openbot
|
12b9d76a69
|
ci: retrigger after network host fix
smoke / hello (push) Failing after 5s
|
2026-10-27 17:45:32 +08:00 |
|
openbot
|
106e2e38f9
|
ci: trigger actions after enabling has_actions
smoke / hello (push) Failing after 1m2s
|
2026-10-27 17:36:36 +08:00 |
|
openbot
|
773ee9d8cc
|
ci: add smoke workflow for actions test
|
2026-10-27 17:35:10 +08:00 |
|
 openbotandopenbot-coder
|
2cf3657f4b
|
fix: get_universe 请求多发 2 字节污染连接(冷启动 12~18s → 1.6s) (#11)
## 根因
GetSecurityListCmd 请求体应为「12 字节命令头 + market(H) + start(H)」= 16 字节,
实现里多塞了一个 H(写死 0),实际发 18 字节。服务端只消费前 16 字节,剩下的
00 00 停在它接收缓冲里,把下一个请求的开头吃掉 —— 同一连接「第一次成功、
第二次起永远无响应」。
对照实验(同一主机、同一命令):
- 18 字节:第 1 次 OK,第 2/3 次全部 ConnectionError
- 16 字节:连发 3 次全部 OK(27 台主机复测,第二次请求 27/27 成功,此前 0/27)
分页器复用连接,等于每页都要先失败重连,冷启动被拖到 12~18s 且常直接报错。
| 场景 | 前 | 后 |
|---|---|---|
| get_universe("sh") 冷(27,534 条/28 页) | 12,267ms | 1,610ms |
| get_universe("sz") 冷(24,460 条/25 页) | 18,260ms | 571ms |
| get_universe() 全市场冷(146,848 条) | 19,085ms | 4,371ms |
| get_universe() 热 | — | 669ms |
## 北交所清单优雅降级
0x053E 对 market=2 在 27 台标准主机上全部无响应(26 台 6s 无回包、1 台立刻拒连),
同市场 0x053D 数量接口正常(389)。原实现重试 2 次×3s 后抛错,连带
get_universe() 整批失败。现直接返回空列表 + WARNING 一次。
北交所标的本身没问题:get_quotes("bj920992")/get_bars/逐笔全正常
(实测 11.79 与日线 close 一致)。
## 优化
- get_universe() 的 EX 全量只取一次(命中缓存也要反序列化 10 万条 ~200ms,
原先十几个 EX 市场各来一次)
- EX 商品列表改并发翻页(110 页,8 并发)
## 文档 / 测试
- get_universe docstring、API_REFERENCE、llms.txt、SKILL.md 写明北交所限制
- 新增 tests/test_universe.py 7 项:请求长度锁 16 字节、无尾部 padding、
北交所返回空且不碰连接池、_ex_all 只取一次
## 已知限制(非本次引入)
EX 全量含非证券条目(人员名录),(market, code) 原始数据里就不唯一,
重复出现在同一页内部;属数据源特性,未去重。
版本 0.6.8 → 0.6.9;测试 354 → 361 全通过。
Co-authored-by: openbot-coder <openbot-coder@users.noreply.github.com>
|
2026-10-23 15:24:17 +08:00 |
|
 openbotandopenbot-coder
|
dc78d81be8
|
fix(cli): 价格按品种小数位显示 + 分时时间列改真实时钟 (0.6.8) (#10)
* fix(cli): price decimals per instrument + minute time column
1) 价格按品种小数位显示:可转债 128.892 原被 %8.2f 截成 128.89;
新增 _price_fmt/_display_dp,宽度随小数位走(%8.2f -> %9.3f)不破坏对齐。
可转债(沪 110/111/113/118、深 123/127/128)解码是 4 位但报价步长 0.001,
显示降到 3 位;ETF 3 位、国债/回购 4 位、股票/指数 2 位沿用 price_decimal_digits。
2) tdx minute 时间列原按序号推算(i//60, i%60)打印成 00:00~03:59,
改用 MinuteBar.hour/minute。
3) cmd_transactions/cmd_minute 改调 get_ticks/get_minutes,消掉 DeprecationWarning。
新增 tests/test_cli_format.py(8 项);全量 354 passed。
* chore: release 0.6.8(CLI 价格小数位 + 分时时间列修复)
- 版本号 0.6.7 -> 0.6.8(pyproject / __init__.py / uv.lock / CHANGELOG 四处对齐)
- CHANGELOG:`[未发布]` -> `[0.6.8] - 2026-10-23`
- docs/cli.md:补「价格小数位按品种适配」对照表 + `tdx minute` 时间列说明
功能改动见 cd8227f(CLI 价格按品种小数位显示、分时时间列改真实时钟、
cmd_transactions/cmd_minute 改调 get_ticks/get_minutes 消 DeprecationWarning)。
实测 `tdx minute sh113708` -> 时间 09:30 起、价格 127.631(3 位);
`tdx transactions sh113708` -> 11:29:47 / 127.141 / 44 手 / 买(4笔)。
测试 354 全通过(310 + 16 + 23 + 5)。
---------
Co-authored-by: openbot-coder <openbot-coder@users.noreply.github.com>
|
2026-10-23 12:18:23 +08:00 |
|
 openbotandopenbot-coder
|
8a78156145
|
perf: 全市场报价改单连接流水线(3.5s → 0.33s)+ 修复基金笔数口径 (#9)
## 性能:get_quotes 全市场 5,227 只 A股 3.5s → 0.33s
协议硬上限 80 只/请求 → 必须切 66 片;老实现是纯串行 for 循环,
每片一次往返(≈60ms),3.5s 全花在等网络上。
发现通达信响应是自描述长度帧且服务器按序应答,因此同一连接可连发
多条请求只付一次往返:实测单连接流水 66 请求 526ms(串行 7,372ms)。
- TdxConnection.execute_pipeline(cmds):一次下发全部 → 按序读回;中途失败强制断连
- _quotes_std 改工作窃取调度(快台多干,避免被最慢节点拖累)
- DynamicPool.warm(n):并发预建连接(acquire 在全局锁内一次一条,22 并发首拉会多花 5~6s)
- CacheManager.get_or_fetch_obj:回源直接返回对象,省掉冷路径 pickle→unpickle 白烧
- pool_max 默认 12 → 24
调优实测 p50/max:每台 1 连接×深度 6 = 455ms;每台 2 连接×深度 3 = 325ms。
端到端(全默认):首次 783ms、稳态 300~343ms、热缓存 67ms。
正确性:用昨收价交叉比对 30 只零错配,流水线与逐片结果集合完全一致。
## 修复:指数 / ETF / LOF 的 trade_count 不再伪装成笔数
通达信对指数和多数场内基金不提供笔数,那 4 字节里塞的是「价格 × 1000」
(指数是「均价 × 1000」)。旧版直接当笔数用,tdx transactions sh510310
会打印出「3994 笔」这种假数据。
- 新增 TransactionRecord.trade_count_available
- 新增 symbols.has_order_count(market, code) 按品种判定
(沪市 501x/502x/506x 实测有真实笔数,不能按「5 开头=基金」一刀切)
- 历史通道 0x013001 无笔数字段,同样标记不可用
## 文档:可转债量纲口径
核查可转债分时/逐笔后确认数据本身无缺陷(16 只当日 + 8 只历史日,
分时末价/现价、Σvol/日线vol、逐笔 VWAP 比值均 1.000000),
但 vol 单位是「手」(=10 张)导致 amount/vol 是均价的 10 倍,对外文档缺失。
- SecurityBar / TransactionRecord / MinuteBar 量纲注释补全
- has_order_count 实测表补沪可转债 110/111/113/118、沪 EB 132、深可转债 123/127/128
- API_REFERENCE 新增跨品种量纲对照表;llms.txt / SKILL.md 同步
## 版本
0.6.7
## 测试
306 → 346 全通过(新增 tests/test_pipeline.py 11 项 + 基金笔数相关回归)
Co-authored-by: openbot-coder <openbot-coder@users.noreply.github.com>
|
2026-10-22 19:41:55 +08:00 |
|
 openbotandopenbot-coder
|
2c07400a3a
|
docs: 修正 0.6.6 发布说明里的前缀数(129 -> 179) (#8)
Co-authored-by: openbot-coder <openbot-coder@users.noreply.github.com>
|
2026-10-22 16:37:19 +08:00 |
|
 openbotandopenbot-coder
|
76644919de
|
feat: 价格小数位改用协议权威值(SecurityInfo.decimal_point) (#7)
0.6.5 用「代码前缀推断 + 全量清单离线校验」修好了债券/回购标度,但同一份证券
清单接口本来就返回 decimal_point,权威值一直没接进取数路径。本次接进来:
- price_decimal_digits:查找顺序改为 权威表 -> 静态前缀规则(兜底)
- decimal_sync(新模块):每日后台同步一次 + 磁盘缓存 + 原子写
- TdxData.sync_decimal_points() / decimal_point_status()
- start() 不阻塞:当日缓存命中直接装表(60ms 零网络),否则挂后台 task
- PYPYTDX_DATA_DISABLE_DECIMAL_SYNC=1 关闭
表按三位前缀归并(全量 5 万只 -> 129 条);若某前缀出现混合小数位则自动退化为
逐代码表,只存例外,mixed_prefixes 可观测。
实测:全量 51,982 条权威表与静态规则零分歧;首次同步 50s(后台),
热缓存 60ms。测试 289 -> 306。
Co-authored-by: openbot-coder <openbot-coder@users.noreply.github.com>
|
2026-10-22 16:25:09 +08:00 |
|
 openbotandopenbot-coder
|
b84a6c8a1b
|
feat: 指数成分成交汇总 + 债券/回购价格标度修复 + 美股分时 hour 修复 (0.6.5) (#6)
* feat: 指数成分成交汇总 + 债券/回购价格标度修复 + 美股分时 hour 修复
新增
- get_index_members / get_index_trade_stats / get_index_trade_stats_multi:
由成分股逐笔累加出指数的每分钟成交量与成交笔数(协议里指数本身没有笔数,
trade_count 实为均价*1000)
- CLI: tdx index-stats
修复
- price_decimal_digits 补齐债券/回购 4 位小数档:沪市少 100 倍、深市少 10 倍,
沪市 B 股 900xxx 改为 3 位。已用全量 51982 只标的的 SecurityInfo.decimal_point
逐条比对,零例外
- MinuteBar.hour 对美股(EX)出现 24~27:改为 hour%=24 + day_offset,
新增 datetime / trading_date 只读属性;A股/港股零行为变化
测试 217 -> 289
* chore: bump version 0.6.5
---------
Co-authored-by: openbot-coder <openbot-coder@users.noreply.github.com>
|
2026-10-22 13:54:35 +08:00 |
|
 openbotandopenbot-coder
|
ca24521d2c
|
chore: bump version 0.6.4 (#5)
Co-authored-by: openbot-coder <openbot-coder@users.noreply.github.com>
|
2026-10-22 09:11:50 +08:00 |
|
 openbotandopenbot-coder
|
8344ed6e6b
|
fix: 修复沪市指数价格少10倍 + 逐笔竞价委托污染(Σvol 虚高/跨主机不稳定) (#3)
核对 sh000016 上证50 与 50 只成分股的 tick 汇总时,发现三个口径
(快照/分时/逐笔)互不一致,追查到 5 个缺陷。
1. 沪市指数价格整体少 10 倍
price_decimal_digits 把沪市 000xxx(上证/上证50/沪深300/科创50)与
8xxxxx(板块指数)判为 3 位小数,实际协议是 2 位。
上证指数 3713 -> 371、上证50 2747 -> 274。
实证 6 只指数 + 2 只板块指数全部 ×10,而 ETF/股票/科创板/深市全类 ×1 正确。
改法:沪市仅 ETF(5开头) 保留 3 位,其余 2 位。
2. get_ticks 把 bs_flag=8 竞价委托当成成交
该记录是 09:15~09:25 / 14:57~15:00 竞价段的撮合委托快照,
vol 是累计值(可被后续覆盖),不是成交增量。
- Σvol 虚高:sh600000 含 b8 = 668,693 vs 快照 462,562(1.4456);
剔 b8 = 462,634(1.000156,精确一致)
- 跨主机不稳定:干净主机 0 条、脏主机 135 条 -> 同一 start 落到不同真实成交
改法:分页后统一剔除 b8。
3. A股逐笔改单连接串行游标(_ticks_cn_serial)
并发分页各页来自不同主机,而 0x122F 的 start 是「从最新往回数」的相对锚点,
主机间 b8 收录差异导致页边界既重叠(冗余 116 条)又漏条(13:03 附近丢 59 条)。
逐笔单日仅 5~6 页,串行开销可忽略。
4. trade_count 有符号解析(前序)、返回列表时间序(前序)保留。
- sh000016 三口径闭合:快照 vol/amount 比值 1.00000061/0.99999997;
指数逐笔 Σvol = 分时 Σvol = 1,045,584,467(完全相等)
- 6 只标的 Σvol/快照 vol 全部回到 1.0001~1.0007
- 跨主机公共时间窗逐条一致(5/5 标的,条数差 0)
- 测试 194 -> 217 passed(+20 小数位、+3 逐笔回归)
- TransactionRecord 类注释 + get_ticks docstring 明示指数语义:
vol 单位「百元」(成交额/100)、trade_count 为「均价×1000」而非笔数
- API_REFERENCE / llms.txt 同步
Co-authored-by: openbot-coder <openbot-coder@users.noreply.github.com>
|
2026-10-22 09:06:40 +08:00 |
|
 openbotandopenbot-coder
|
dfd6fab3af
|
fix: 补齐 v0.6.3 遗漏的版本号(__init__.py / uv.lock) (#4)
## 问题
v0.6.3 的 bump 提交只改了 pyproject.toml 一处,漏掉:
- src/pytdxdata/__init__.py 的 __version__
- uv.lock 的 pytdxdata 条目版本
后果(远端 main 已复现):
- CI 两个 job 全部失败:`uv sync --locked` 报
"The lockfile at `uv.lock` needs to be updated, but `--locked` was provided"
- Docs / Release 同样失败
- v0.6.3 tag 已打,但 PyPI 上 0.6.3 仍是 404(发布没成功)
## 修复
补齐两处版本号,四处对齐:pyproject.toml / __init__.py / uv.lock / CHANGELOG.md
## 验证
- `uv sync --locked` 退出码 0
- `pytdxdata.__version__` = `importlib.metadata.version()` = 0.6.3
Co-authored-by: openbot-coder <openbot-coder@users.noreply.github.com>
|
2026-10-22 08:52:19 +08:00 |
|
openbot
|
0618062e54
|
chore: bump version 0.6.3
|
2026-10-18 16:12:51 +08:00 |
|
openbot
|
9c97fea71b
|
fix(pool): ExPool acquire backpressure + ex_pool_cap (fixes #1)
- acquire(): replace 3x0.05s fast-fail with Condition-based queueing
(default acquire_timeout=30s); timeout error carries pool state
(idle/total/servers/per_server_cap)
- api: expose ex_pool_cap (default 2, aligned with std/mac pool caps);
single-server scenario no longer silently capped at 1 concurrent
|
2026-10-18 16:10:15 +08:00 |
|
 openbotandopenbot-coder
|
b2f899df49
|
fix(models): 修复美股分钟K线 datetime 时区拼接错位,还原为北京时间 (#2)
通达信 EX 通道对美股返回的分钟级 K线把两个时区拼进同一个五元组:日期分量是
美东交易日(zipday),时分分量是北京时间(tminutes)。直拼出的 datetime 会把
同一交易日的下午半场排到上午半场之前——单日 390 根首末颠倒,且全部落在同一个
北京自然日里,导致排序 / count 切片 / 日期区间二分与过滤 / 增量水位线全部不可用。
在 SecurityBar.__post_init__ 统一归一化为北京时间(凌晨段日期 +1 天,含月末与
年末进位),EX 的两条 K线命令路径(_bars_ex 的 0x23FF 与二分所依赖的 MAC 0x122E)
因此共用同一口径,不会出现"取数按一套时间、二分按另一套时间"的错位。
新增两个只读属性:trading_date(归属交易日;美股一个交易日横跨两个北京自然日,
按交易日聚合必须用它,不能用 datetime.date())与 is_us。
实测(安装 wheel 0.6.2,非源码树):10-06 ~ 10-12 五个完整交易日各 390 根、
严格单调,首根 open / 末根 close 与日线逐位相同,成交量差 <= 1;A股 / 港股零回归。
- 版本 0.6.1 -> 0.6.2(pyproject / __init__ / uv.lock)
- tests/test_protocol.py 新增 9 项回归测试(分界点 / 月末年末进位 / 390 根整日单调性 / MAC 路径),全量 191 passed
- CHANGELOG / README / SKILL.md / docs(faq、llms.txt、api/models)同步口径说明
遗留(本版未含,待决策):EX 分时对美股返回的 MinuteBar.hour 是未取模的连续分钟数
(实测可达 27,即次日 03:xx),且 MinuteBar 无日期分量可承载跨日信息。
Co-authored-by: openbot-coder <openbot-coder@users.noreply.github.com>
|
2026-10-13 16:47:57 +08:00 |
|