Skip to content

Fix bulk-ingest data loss: serialize inserts on the single native connection - #7

Merged
grenkoff merged 1 commit into
mainfrom
fix/native-insert-serialization
Jun 14, 2026
Merged

grenkoff merged 1 commit into
mainfrom
fix/native-insert-serialization

Conversation

@grenkoff

Copy link
Copy Markdown
Owner

Симптом

После перфо-рефактора при загрузке всей базы в hands оказывалось ~148k раздач вместо 181 408, хотя отчёт сообщал об импорте 181 408, а actions (MergeTree) содержали все 181 408 уникальных hand_id. Терялись строки только в ReplacingMergeTree-таблицах (hands, hand_players).

Причина

Одно соединение asynch не поддерживает конкурентные запросы (ProgrammingError: some records have not been fetched...). Периодический таймер-флаш батчера racing с submit_block вызывал конкурентную вставку на одном соединении → исключение в фоновом таск-флаше тонуло (строки уже удалены из буфера) → тихая потеря. В логах не видно, т.к. это умерший фоновый asyncio-таск.

Фикс

  • make_native_insert_fn: сериализация всех вставок на соединении через asyncio.Lock (одно соединение = один запрос за раз).
  • ClickHouseBatcher._periodic_flush: ловит исключения и не умирает молча (логирует, ретраит на следующем тике).
  • Регрессионный тест test_native.py: insert_fn не допускает перекрытия запросов на одном соединении.

Проверено

  • ruff + mypy --strict чисто, pytest 23/23.
  • Полный single-process прогон 21k файлов: hands=181 408 / players=181 408 / actions=181 408 (раньше расходились).
  • End-to-end через воркеры на живом стеке: счётчики во всех таблицах сходятся (181 408 / 10 697).

@grenkoff
grenkoff merged commit 7211393 into main Jun 14, 2026
3 checks passed
@grenkoff
grenkoff deleted the fix/native-insert-serialization branch June 14, 2026 16:19
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant