TH Wave-Farm: Multi-Wave Scaling, th-shim Serving, Auto-Push Cron

Проверенный контур массового фарма TokenHarbor (сотни акков/день) и автопополнения шлюза api.[REDACTED-NAME].com без ручных пушей.

1. Много волн: chunk-split почт вместо offset-срезов

Offset-срезы одного working_mails.txt ломаются при >3 волнах (диапазоны пересекаются после перезапусков). Надёжная схема — дизджойнтные чанк-файлы:

Собрать глобальный used-набор: th_used_emails_all.json ∪ все th_eu_used*.txt ∪ email'ы из th_http_accounts.jsonl и th_pending_recover.jsonl.
Вычесть used из полного пула почт → free-лист, разделить на N равных чанков → th_mails_wK.txt (скрипт-образец: tmp/th_split_mails4.py).
Сгенерировать farm-скрипты на волну: скопировать базовый th_eu_farm2.py, строковой заменой подставить (a) свой чанк-файл в строку чтения почт, (b) свой used-файл th_eu_usedK.txt (2 вхождения: чтение + append), (c) рандомизацию прокси (см. ниже). py_compile.compile(doraise=True) на каждый перед запуском.
Запуск: по одному terminal(background=true) на волну, лог в свой файл, target 300.

Прокси-пул ОБЯЗАН быть рандомизирован: SELECT proxy FROM pool WHERE alive=1 ORDER BY RANDOM() LIMIT 200. Статический LIMIT без ORDER BY возвращает один и тот же верх пула каждой волне — все волны садятся на один exit-IP и ловят «Too many sign-ups from this network», пока одна волна даёт единицы SIGNUP OK.

2. Зомби-дедуп перед запуском волн

Перед стартом новой волны убить ВСЕ старые процессы farm: дубли жгут почты и дают гонку used-файлов.

Киллер писать В ФАЙЛ с уникальным маркером (if 'kill_farms' in cl: continue) + p.pid != os.getpid(). Инлайн python -c "...th_eu_farm..." матчит собственный cmdline и убивает себя (exit 15).
Считать только процессы с python в имени: bash-обёртка terminal'а тоже содержит путь к скрипту в cmdline.

3. Recovery — одноразовый проход

th_do_recover.py обрабатывает pending-бэклог и ВЫХОДИТ (не цикл). После каждой пачки сайнапов, упавших на этапе verify (прокси-смерть), recovery надо перезапускать; либо обернуть в бесконечный цикл с sleep. Признак: tail th_recover.log = «total recovered: N / pending left: M» и процесса нет в psutil.

Отложенные рестарты волн не доверять background-цепочкам sleep N && farm & ...: цепочка молча умирает (лог-маркер не появляется, волны не стартуют), а пауза «до кулдауна» превращается в простой на часы. Либо перезапускать волны вручную в момент X, либо cron, и ВСЕГДА проверять факт старта (psutil + первые строки логов), а не факт запуска обёртки.

4. Автопополнение шлюза: cron + тихая обёртка

Паттерн «farm → шлюз без меня»:

th_push_keys.py: читает банк акков, дедупит ключи против уже существующих TH-каналов в one-api.db, вставляет недостающие, при new>0 рестартует new-api. INSERT-шаблон канала: type=1, base_url='http://127.0.0.1:8790' (шим, см. §5), models='claude-haiku-5.5', model_mapping='{"claude-haiku-5.5":"claude-haiku-5.5:free"}', test_model='', priority/weight/tag существующей TH-группы, + abilities-строки на каждую группу пользователей. PRAGMA busy_timeout=25000 обязателен.
Обёртка scripts/th_auto_push.sh: запускает пушер, grep -q "new channels to add: 0" → молчаливый exit 0; иначе печатает tail вывода.
Cron no_agent каждые 15 мин с deliver в TG-тред: no_agent-джоба доставляет только НЕпустой stdout → «тихо когда нечего делать, алерт когда добавилось» получается бесплатно.

5. th-shim: подача TH-каналов через свежий IP

TH душит запросы с одного серверного IP («Network rate limit», 429). Все live TH-каналы держат base_url='http://127.0.0.1:8790' — локальный aiohttp-шим на VPS (/opt/th-shim/th_shim.py, systemd th-shim.service):

Порядок попыток: home-туннель (reverse SSH gateway:8791 → домашний форвардер :8792) → direct tokenharbor.ai → пул проверенных прокси (good.txt, фолбэк pool.txt), cooldown на 429.
HOP-by-hop strip ОБЯЗАН включать content-encoding: aiohttp декомпрессирует gzip апстрима, но проброшенный заголовок заставляет Go-клиент new-api декомпрессировать уже plain-тело → gzip: invalid header → каналы 503 на БОЛЬШИХ ответах. Мелкие curl-смоки (<1.4KB, апстрим не gzippит) при этом зелёные и маскируют баг — смокать всегда большим prompt'ом и стримом.
Таймауты — только sock_connect + sock_read, НИКОГДА ClientTimeout(total=N): total режет длинные стримы (Claude Code стримит минуты) на середине → пользовательское «стрим прерван». sock_connect 8-10s = fail-fast на мёртвых выходах; sock_read 20-45s = зазор между чанками, живой длинный стрим не убивает. MAX_PROXY_TRIES держать 2-3: худшая цепочка (home+direct+N прокси) обязана быть короче терпения new-api, иначе пользователь висит 90s+ до 503. Быстрый 503 лучше минутного висона.
TH душит free-аккаунты ПО СЕТЕВОМУ АДРЕСУ, и direct-лег с DC-IP мёртв by design: 429 «many free accounts are sharing this network address» на серверном IP не лечится кулдауном — датацентровые адреса TH режет для free-ключей перманентно. Рабочие выходы для serving: home-резидент (пока не спален) и paid-резидентки (1024proxy DE, свежая сессия на запрос). Free-прокси для CHAT: под активным троттлом — ноль (GET /v1/models проходят десятки, chat POST — 0), но вердикт НЕ перманентен: через ~час TH-кулдауна часть пула начинает проходить chat (наблюдалось 34/250). Перепроверять периодически, не списывать навсегда.
Health-чек прокси-пула — только реальный chat POST (/v1/chat/completions c живым thk_-ключом, max_tokens=3) через каждый прокси; GET /v1/models даёт ложноположительных (40 из 195 проходили GET, 0 прошли chat). Пересобирать good.txt chat-пробом и пушить на VPS после каждого массового затухания.
Авто-пересборку пула поставить в cron (~2ч, no_agent-обёртка): chat-проба топ-N alive из pool-БД, в th_good_chat.txt только 200 + latency <8s; если живых ≥10 — scp на /opt/th-shim/good.txt + systemctl restart th-shim, иначе алерт 'POOL LOW'. Здоров — stdout пустой. Цепочка скриптов: tmp/th_chat_good_fast.py (проба+отбор) + scripts/th_shim_pool_refresh.py (обёртка).
Circuit breaker в шиме: ≥3 последовательных фейла апстрима → breaker открыт → быстрые 503 'TH cooling down' до конца окна, окно проверяется одиночным probe-запросом. Без breaker'а в массовое затухание каждый пользовательский запрос жжёт все ноги (home+direct+N прокси × MAX_PROXY_TRIES) до таймаута.
Разделяй signup-трафик и serving-выходы: recovery-логины и сайнапы с home-IP сжигают его для шима (симптомы: CF 502 HTML → 429 на chat). Recovery гонять через прокси или ставить на паузу, пока serving зависит от home; волны — только через пул, никогда direct с home.
Диагностика выходов по сигнатурам (пробовать каждую ногу отдельно — home :8791, direct, прокси — с фейковым и с реальным ключом): быстрый 401 (0.2-1s) = выход ЖИВ, проблема в ключе; быстрый 429 = IP под троттлом (signup-кулдаун ~1ч, chat-лимит на DC — навсегда); 502 + Cloudflare HTML = IP помечен/челлендж. Пустой journalctl th-shim при 503 — норма (шим молчит), мерить ноги напрямую.
Мусорные каналы-«пулы» ломают пробу и ротацию: канал с аномально длинным key (склейка многих ключей, 1000+ символов) даёт клиентский ValueError: Invalid header value в urllib-пробах и сжирает ретраи new-api. После любой волны пушей: SELECT id FROM channels WHERE status=1 AND length(key)>100 → disable + удалить abilities.
Альтернативный режим при живом paid-трафике: только DE-резидентки на каждый запрос. При 0 трафика free-пул держит signup-волны, но serving для free-ключей упирается в per-network-address лимит — это потолок бесплатного контура, лечится только пополнением paid-прокси.

6. Smoke-дисциплина

Заголовок Authorization собирать конкатенацией ('Bea'+'rer ') + key в ЛЮБОМ тестовом коде — маскирующий слой портит литерал 'Bearer ' даже внутри terminal-команд, и смок получает ложный 401 при живом шлюзе.
Перед выводом «хайку не работает» по мотивам старого фонового теста: результат протухшего background-процесса описывает СОСТОЯНИЕ НА МОМЕНТ ЗАПУСКА. Всегда перепроверить живым смоком (маленький + большой стрим) до любых действий.
Каналы других моделей в ERR-логе new-api (404/429 по не-TH id) — не повод трогать TH-роутинг; фильтровать лог по своей модели/каналам.

7. Волны: детект зависших и переиспользование почтовых пулов

Зависшая волна видна по tail лога: no good proxies - sleep 300 (источник прокси умер/curated-пул исчерпан) или зависимость от paid-прокси с нулевым трафиком. Такая волна не даст ничего — убивать сразу, не ждать «следующего цикла».
Убитая волна оставляет большой НЕиспользованный почтовый пул (её chunk-файл + used-реестр). Перед сбором новых почт считать остаток: строк в chunk минус строк в used. Переиспользование = клонировать скрипт живой волны и заменить хардкод-имена MAIL/USED файлов (2 вхождения: чтение + append), py_compile, запуск. С двух мёртвых волн так поднимается 16K+ свежих почт без нового харвеста.
Зомби-дедуп (§2) распространять и на feeder/recovery: дубли th_pool_feeder жрут одни GH-списки и пишут в один pool, дубли recovery повторно обрабатывают pending. Киллер матчить по th_eu_farm|th_pool_feeder|th_do_recover.

14 KiB Raw Permalink Blame History Unescape Escape