

新闻资讯
技术学院Dapper分批处理大量数据需手动实现分页查询或流式读取,避免内存溢出;推荐OFFSET-FETCH分页(小偏移)或游标分页(大偏移),配合IAsyncEnumerable流式处理、参数化批量写入及每批独立事务+断点续跑机制。
用 Dapper 分批处理大量数据,核心是避免一次性加载全部结果到内存,同时保持数据库连接轻量、SQL 高效。关键在于手动分页查询、流式读取(QueryAsync + IAsyncEnumerable)或配合 SQL 的分页/游标机制,而不是依赖 Dapper 自动“分批”——它本身不提供内置的批量分片能力。
适合数据有序、可预估总条数的场景(如按 ID 或时间排序)。每次只查一页,减少单次内存占用和网络传输压力。
Orders WHERE Status = @status ORDER BY Id OFFSET @skip ROWS FETCH NEXT @take ROWS ONLY
@skip(如 0, 1000, 2000…),@take 建议 500–5000,视单行大小和网络延迟调整WHERE Id > @lastId ORDER BY Id LIMIT @take
避免把整张表拉进 List
Dapper 不直接支持批量 INSERT,需自己拼 SQL 或借助扩展(如 Dapper.FastCRUD);但安全高效的做法仍是分组 + 参数化。
INSERT INTO ... VALUES (@p0), (@p1), ...,参数用 DynamicParameters 批量添加SqlBulkCopy(需 DataTable 或 IDataReader),或 PostgreSQL 的 COPY;Dapper 只负责触发ExecuteAsync,哪怕加了事务,网络往返开销也极大长耗时批处理必须考虑失败恢复,不能让整个流程因一条脏数据失败而重来。
BatchLog),记录已处理的最大 ID 或时间戳,程序重启后从断点续跑基本上就这些。Dapper 是轻量 ORM,分批不是它该干的事,而是你用它写出更可控的 SQL 和执行逻辑。重点在设计好分片策略、选对读写模式、管住连接和事务生命周期。