Files
pytdxdata/SKILL.md
T
openbotandopenbot-coder 2cf3657f4b fix: get_universe 请求多发 2 字节污染连接(冷启动 12~18s → 1.6s) (#11)
## 根因

GetSecurityListCmd 请求体应为「12 字节命令头 + market(H) + start(H)」= 16 字节,
实现里多塞了一个 H(写死 0),实际发 18 字节。服务端只消费前 16 字节,剩下的
00 00 停在它接收缓冲里,把下一个请求的开头吃掉 —— 同一连接「第一次成功、
第二次起永远无响应」。

对照实验(同一主机、同一命令):
- 18 字节:第 1 次 OK,第 2/3 次全部 ConnectionError
- 16 字节:连发 3 次全部 OK(27 台主机复测,第二次请求 27/27 成功,此前 0/27)

分页器复用连接,等于每页都要先失败重连,冷启动被拖到 12~18s 且常直接报错。

| 场景 | 前 | 后 |
|---|---|---|
| get_universe("sh") 冷(27,534 条/28 页) | 12,267ms | 1,610ms |
| get_universe("sz") 冷(24,460 条/25 页) | 18,260ms | 571ms |
| get_universe() 全市场冷(146,848 条) | 19,085ms | 4,371ms |
| get_universe() 热 | — | 669ms |

## 北交所清单优雅降级

0x053E 对 market=2 在 27 台标准主机上全部无响应(26 台 6s 无回包、1 台立刻拒连),
同市场 0x053D 数量接口正常(389)。原实现重试 2 次×3s 后抛错,连带
get_universe() 整批失败。现直接返回空列表 + WARNING 一次。

北交所标的本身没问题:get_quotes("bj920992")/get_bars/逐笔全正常
(实测 11.79 与日线 close 一致)。

## 优化

- get_universe() 的 EX 全量只取一次(命中缓存也要反序列化 10 万条 ~200ms,
  原先十几个 EX 市场各来一次)
- EX 商品列表改并发翻页(110 页,8 并发)

## 文档 / 测试

- get_universe docstring、API_REFERENCE、llms.txt、SKILL.md 写明北交所限制
- 新增 tests/test_universe.py 7 项:请求长度锁 16 字节、无尾部 padding、
  北交所返回空且不碰连接池、_ex_all 只取一次

## 已知限制(非本次引入)

EX 全量含非证券条目(人员名录),(market, code) 原始数据里就不唯一,
重复出现在同一页内部;属数据源特性,未去重。

版本 0.6.8 → 0.6.9;测试 354 → 361 全通过。

Co-authored-by: openbot-coder <openbot-coder@users.noreply.github.com>
2026-10-23 15:24:17 +08:00

13 KiB
Raw Blame History

name, description
name description
pytdxdata 用 pytdxdata 拉取通达信行情数据——A股(沪/深/北)、港股、美股、期货、期权的 K线 / 报价 / 逐笔 / 分时 / 板块 / 除权 / 财报文件。触发词:通达信数据、tdx 行情、A股日线下载、分钟K线、批量拉K线、板块成分股、行业分类、港股美股行情、pytdx、easy-tdx、pytdxdata。

pytdxdata 使用技能

pytdxdata 是通达信公开行情服务器的纯 asyncio 客户端:动态连接池 + 双层 TTL 缓存 + 多连接并发分页,零运行时依赖。 本技能让你一次写对——重点是那三条一眼看不出来的约定,以及一张必须背下来的枚举表。

需要精确签名时查 https://openbot-coder.github.io/pytdxdata/api/tdxdata/(由 docstring 实时生成,不可能过期)。

三条必守约定

1. 唯一入口是 TdxData,且必须 async with

from pytdxdata import TdxData

async with TdxData() as td:      # 自动 start(探测服务器 + 预建连接 + 建缓存)
    bars = await td.get_bars(["sz000001"], KlinePeriod.DAY, count=240)
# 退出即 close

不要直接 await TdxData().get_bars(...)——没 start() 就没有连接池。

2. 标的写法是字符串,不是元组

这是 v0.6 的最重要变化。不要传 (Market.SH, "600000") 元组,用字符串:

# 旧写法(deprecated,会发出 DeprecationWarning):
bars = await td.get_kline(Market.SH, "600000", KlinePeriod.DAY, count=240)

# 新写法(推荐):
bars = await td.get_bars(["sz000001"], KlinePeriod.DAY, count=240)
# 港股/美股/期货也一样:
bars = await td.get_bars(["hk00700", "usAAPL", "cffex:IFL0"], KlinePeriod.DAY, count=240)

3. 返回 list[dataclass],不是 DataFrame

库刻意不依赖 pandas。要 DataFrame 自己转一行:

from dataclasses import asdict
import pandas as pd
df = pd.DataFrame([asdict(b) for b in bars])

安装

pip install pytdxdata        # 或 uv add pytdxdata

可运行模板

import asyncio
from pytdxdata import TdxData
from pytdxdata.models import KlinePeriod, Adjust

async def main():
    async with TdxData() as td:
        # 日K线,240 根(count 超过单页大小会自动多连接并发分页)
        bars = await td.get_bars(["sz000001"], KlinePeriod.DAY, count=240)
        print(bars[-1].close, bars[-1].datetime)

        # 前复权日线(复权自动走 MAC 通道)
        qfq = await td.get_bars(["sz300308"], KlinePeriod.DAY,
                                 count=500, adjust=Adjust.QFQ)

        # 跨市场报价:A股+港股+美股一次拿全
        quotes = await td.get_quotes(["sz000001", "hk00700", "usAAPL"])
        print(quotes[0].price, quotes[1].name, quotes[2].amount)

        # 逐笔成交(MAC 通道,支持历史日期,含 trade_count 成交笔数)
        ticks = await td.get_ticks(["sz000001"], date=20260811)
        print(sum(r.trade_count for r in ticks))

        # 分时(MAC 通道,今日或历史)
        minutes = await td.get_minutes(["sz000001"])

        # 批量 K 线:多股票自动并发,池子会分配到不同服务器
        batch = await td.get_bars(
            ["sz000001", "sh600000"],
            KlinePeriod.DAY, count=240,
        )  # 平铺返回,每条带 .symbol 字段

asyncio.run(main())

枚举取值表(别猜,对照着填)

Market — A 股市场

值 名称 含义
0 SZ 深市
1 SH 沪市
2 BJ 北交所

KlinePeriod — 周期编码,与通达信协议字节一致,不是顺序编号

值 名称 值 名称
0 MIN_5 7 MIN_1
1 MIN_15 8 MIN_3
2 MIN_30 9 YEAR
3 MIN_60 10 SEASON
4 DAY 11 YEAR_ALT
5 WEEK
6 MONTH

⚠️ DAY=4 不是 0,MIN_1=7 也不是 0。凭直觉填 0 会拿到 5 分钟线。

Adjust — 复权方式

值 名称 含义
0 NONE 不复权
1 QFQ 前复权
2 HFQ 后复权

ExMarket — 扩展市场(港股 / 美股 / 期货 / 期权,共 46 个成员,走独立 EX 通道)

v0.6 起统一接口用字符串前缀指定扩展市场,一般不再需要 ExMarket:

await td.get_bars("hk00700", KlinePeriod.DAY, count=700)      # 港股(5 位代码)
await td.get_bars("usAAPL", KlinePeriod.DAY, count=700)       # 美股(ticker)
await td.get_bars("cffex:IFL0", KlinePeriod.DAY, count=700)   # 期货合约

常用前缀:hk / us / cffex / shf / dl / zz / gz;完整表见 https://openbot-coder.github.io/pytdxdata/api/enums/。

想做什么 → 用哪个方法

需求 方法
全市场标的清单(A股+港股+期货…;北交所返回空) get_universe(market=None)
日/周/月/分钟 K 线(任意市场) get_bars(symbols, period, *, count, adjust, start_date, end_date)
K 线 + MACD/KDJ/RSI/BOLL get_indicators(symbols, indicators, ...)
实时五档报价(A股)/ 基础报价(港股/美股/期货) get_quotes(symbols, *, fields=None, pipeline=True)
逐笔成交(任意市场) get_ticks(symbols, *, date)
分时图 / 缩略采样 get_minutes(symbols, *, date, sampling=True)
全市场股票列表(缓存 1 天) get_universe("sz") / get_universe("sh")
北交所全量代码 拿不到:清单命令对 market=2 无响应(27 台全测)。北交所标的仍可直接查 bj920992
除权除息 / 财务快照 get_xdxr(symbols) / get_finance(symbols)
F10 公司资料 get_f10(symbol, section)
板块列表 / 成分股 / 涨跌排行 get_boards / get_board_members / get_board_ranking
指数的成交量 + 成交笔数(每分钟曲线) get_index_trade_stats(index, date) → .cum_trade_count()
指数成分股 get_index_members(index)(裸 000001 按指数语义解析)
个股所属板块 get_board_of(symbols)
集合竞价 / 异动 / 资金流 get_auction / get_unusual / get_capital_flow
个股特征快照 get_snapshot(symbols)
板块成分文件(离线快照) get_block_parsed("block_gn.dat")
行业分类(通达信 + 申万) get_industry_map()
历史专业财报(gpcw 全字段) get_financial_file_infos() + get_financial_records_parsed(fn)
涨跌停价 get_price_limits(symbol, name, pre_close, listed_days)(本地算,无网络)
全市场涨跌家数/成交额 get_market_stat()

通道与数据特性(影响你能拿到什么)

库内部有标准通道和 MAC 通道两条链路,会按命令自动选路,你不用管。但有几件事必须知道:

  • 数据有 15 分钟延时(通达信公开服务器特性)。要实时数据请用券商行情。
  • 复权 K 线与 1 分钟 K 线走 MAC 通道。get_bars(..., adjust=Adjust.QFQ) 自动切换。
  • K 线时间戳统一为北京时间(v0.6.2 起)。美股原始报文里日期是美东交易日、时分是北京时间(两个时区拼在一起),库已自动归一化,bar.datetime 可直接排序 / 比较 / 过滤。但美股一个交易日横跨两个北京自然日,按交易日聚合(分钟线合成日线、日内统计)必须用 bar.trading_date。
  • count 很大时会自动多连接并发分页,无需手动翻页。但标准通道 K 线 count < 100 部分服务器会返回空——内部已强制 min_page=100 规避。
  • get_quotes 一次 >80 只自动切批;走 MAC 字段位通道(fields=)时上限为 80 只/次。
  • 全市场报价用默认参数即可,别自己写循环。get_quotes(全部A股) 内部会切 66 片并走单连接流水线(一条连接连发多个分片、只付一次往返)+ 工作窃取调度,5,227 只实测 p50 325ms(老版本串行 3.5s)。自己 for 循环逐只/逐片调会把流水线优势全部丢掉。
    • 想更保守可 concurrency=11(每台 1 连接),代价 p50 457ms。
    • 个别服务器不支持流水线时自动降级逐片,结果不受影响。
  • 可转债(110/111/113/118/123/127/128)三样都是真的:价格、vol(手=10 张)、trade_count(真实笔数,3631 条切片 / 20443 笔量级)全部可用,Σvol 与日线 vol 1:1 相等。 ⚠️ 唯一要小心的是 日线 amount / vol 不等于均价,而是均价的 10 倍(vol 单位是手=10 张)。算可转债均价用 amount / vol / 10,或直接用 Σ(price×vol) / Σvol——后者跨品种都成立,最稳。 对照:股票/ETF 的 Σ逐笔vol / 日线vol = 0.01(逐笔手、日线股),而 amount/vol 恰好就是均价。
  • 指数本身没有成交笔数。get_ticks("sh000001") 的 trade_count 是「当时均价×1000」、vol 单位是百元(成交额/100)。要笔数只能用 get_index_trade_stats(index)(成分股逐笔累加,2230 只约 36-60 s)。北交所成分无笔数字段,该方法会返回 trade_count_available=False。
  • ETF / LOF 也没有成交笔数。get_ticks("sh510310") 的 trade_count 是「价格×1000」(货币 ETF 恒为 0)。判定用 symbols.has_order_count(market, code),读记录时看 TransactionRecord.trade_count_available——为 False 时 trade_count 已被置 0,不要求和/求均值。注意沪市 501x/502x/506x 实测有真实笔数,不能按「5 开头=基金」一刀切。
  • 历史逐笔有笔数(MAC 0x122F 支持历史日期,实测可回溯最近 5 个交易日;更早返回空)。
  • 小数位表不用手动管,但可以手动刷。start() 会检查当日缓存并后台同步一次(SecurityInfo.decimal_point 权威值);要强制刷新用 await td.sync_decimal_points(),看同步状态用 await td.decimal_point_status()。PYPYTDX_DATA_DISABLE_DECIMAL_SYNC=1 可关闭后台同步。
  • 板块文件(block_*.dat)/ 行业(tdxhy.cfg)/ 财报(gpcw*.zip)是服务器上的静态文件,解析后是普通 dataclass,落 JSON 后完全脱网可用——适合做离线快照。

陷阱清单

坑 后果 正确做法
统一方法(get_quotes/get_bars…)传 (Market.SH, "600000") 元组或市场号 v0.6 起直接报错 用字符串 "sh600000"
旧别名(get_kline/get_transactions…)传 (market, code) 能跑,但发出 DeprecationWarning 迁移到统一方法 + 字符串
忘了 async with / start() 无连接池,运行时报错 一律 async with TdxData() as td:
KlinePeriod.DAY == 0 拿到的是 5 分钟线 DAY=4,对照枚举表
等在返回值上找 .to_dataframe() 不存在 pd.DataFrame([asdict(x) for x in bars])
把 close 当成分 数值差 100 倍 价格单位是元(float)
sh000001 当成平安银行 拿到的是上证指数 代码不唯一:sh000001=上证指数,sz000001=平安银行
用 get_block_info 又自己拆二进制 白写解析器 用 get_block_parsed,已经解析好了
循环里逐个 await get_bars 慢 用列表传多个标的,自动并发
港股/美股五档 bid/ask 没有(协议不支持) fields 字段位通道有 name 但无五档
美股分钟线用 datetime.date() 分组做日聚合 一个交易日被拆成两天(美股跨北京零点) 用 bar.trading_date;bar.datetime 是归一化后的北京时间
拿指数逐笔的 trade_count 当笔数 拿到的是「均价×1000」,数值荒谬 用 get_index_trade_stats(index) 由成分累加
拿 ETF/LOF 逐笔的 trade_count 当笔数 拿到的是「价格×1000」(sh510310 显示 3994 笔) 看 trade_count_available,或 symbols.has_order_count()
拿深市 399xxx 的 amount 校验成分合计 比值 0.43,误以为数据错 深市指数 amount 是全板块口径(sz399001=深市全部 5081 亿),不是样本股
依赖实时性做信号 数据是 15 分钟前的 换券商实时源
手动改包内 servers.json / 写死 IP 容器只读、升级被覆盖、快节点捞不回来 日常靠内置的当日测速缓存自动选路;要强制指定就用 PYPYTDX_DATA_{STANDARD,MAC,EX}_HOSTS 环境变量

深入参考

数据来自通达信公开接口,仅供技术研究与教育用途,不构成投资建议。