Repository navigation
Fix bulk-ingest data loss: serialize inserts on the single native connection - #7
Merged
Merged
Conversation
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Add this suggestion to a batch that can be applied as a single commit.This suggestion is invalid because no changes were made to the code.Suggestions cannot be applied while the pull request is closed.Suggestions cannot be applied while viewing a subset of changes.Only one suggestion per line can be applied in a batch.Add this suggestion to a batch that can be applied as a single commit.Applying suggestions on deleted lines is not supported.You must change the existing code in this line in order to create a valid suggestion.Outdated suggestions cannot be applied.This suggestion has been applied or marked resolved.Suggestions cannot be applied from pending reviews.Suggestions cannot be applied on multi-line comments.Suggestions cannot be applied while the pull request is queued to merge.Suggestion cannot be applied right now. Please check back later.
Симптом
После перфо-рефактора при загрузке всей базы в
handsоказывалось ~148k раздач вместо 181 408, хотя отчёт сообщал об импорте 181 408, аactions(MergeTree) содержали все 181 408 уникальных hand_id. Терялись строки только в ReplacingMergeTree-таблицах (hands,hand_players).Причина
Одно соединение
asynchне поддерживает конкурентные запросы (ProgrammingError: some records have not been fetched...). Периодический таймер-флаш батчера racing сsubmit_blockвызывал конкурентную вставку на одном соединении → исключение в фоновом таск-флаше тонуло (строки уже удалены из буфера) → тихая потеря. В логах не видно, т.к. это умерший фоновый asyncio-таск.Фикс
make_native_insert_fn: сериализация всех вставок на соединении черезasyncio.Lock(одно соединение = один запрос за раз).ClickHouseBatcher._periodic_flush: ловит исключения и не умирает молча (логирует, ретраит на следующем тике).test_native.py: insert_fn не допускает перекрытия запросов на одном соединении.Проверено