2 Commits

Author SHA1 Message Date
Ivan Fontosh 1c6f06b278 fix(ci): sync feed fetch retries with gc, HTTP/1.1, disk check; fail on TLS
Release / release (push) Failing after 4m50s
Co-authored-by: Cursor <cursoragent@cursor.com>
2026-05-12 13:10:37 +08:00
Ivan Fontosh 064592d4d4 fix(ci): reduce disk use for update feed sync (rename, tmp root, fetch retries)
Release / release (push) Failing after 8m46s
Co-authored-by: Cursor <cursoragent@cursor.com>
2026-05-12 11:27:02 +08:00
5 changed files with 184 additions and 51 deletions
+9 -31
View File
@@ -94,20 +94,6 @@ jobs:
--config.publish.provider=generic \
--config.publish.url="${DND_UPDATE_FEED_URL}"
- name: Каталог артефактов для feed (_linux)
shell: bash
run: |
mkdir -p _linux
shopt -s nullglob || true
for f in release/*; do
[[ -f "$f" ]] || continue
base=$(basename "$f")
case "$base" in
latest-linux.yml|*.yaml|*.AppImage|*.appimage|*.blockmap) cp -v "$f" _linux/ ;;
esac
done
ls -la _linux
# Не используем `npm install`: на Linux npm падает с EBADPLATFORM для win32-пакета.
- name: sharp (@img/sharp-win32-x64) для Windows-артефакта при сборке на Linux
shell: bash
@@ -135,33 +121,25 @@ jobs:
--config.publish.provider=generic \
--config.publish.url="${DND_UPDATE_FEED_URL}"
- name: Каталог артефактов для feed (_win)
shell: bash
run: |
mkdir -p _win
shopt -s nullglob || true
for f in release/*; do
[[ -f "$f" ]] || continue
base=$(basename "$f")
case "$base" in
*.yml|*.yaml|*.exe|*.blockmap|*.zip) cp -v "$f" _win/ ;;
esac
done
ls -la _win
# Артефакты читает sync напрямую из release/ (без дублирующих _win/_linux — меньше ENOSPC).
- name: Пустой каталог mac (пока нет сборки mac в CI)
run: mkdir -p _mac
- name: Push в публичный репозиторий updates
shell: bash
env:
DND_UPDATES_SERVER: ${{ secrets.DND_UPDATES_SERVER }}
UPDATES_REPO: ${{ secrets.UPDATES_REPO }}
DND_UPDATES_PUSH_TOKEN: ${{ secrets.DND_UPDATES_PUSH_TOKEN }}
ARTIFACT_WIN: ${{ github.workspace }}/_win
ARTIFACT_WIN: ${{ github.workspace }}/release
ARTIFACT_MAC: ${{ github.workspace }}/_mac
ARTIFACT_LINUX: ${{ github.workspace }}/_linux
ARTIFACT_LINUX: ${{ github.workspace }}/release
DND_FEED_TMP_ROOT: ${{ github.workspace }}/.dnd-feed-tmp
GIT_COMMIT_TAG: ${{ github.ref_name }}
run: node scripts/sync-update-feed.mjs
run: |
set -euo pipefail
mkdir -p "${{ github.workspace }}/.dnd-feed-tmp" "${{ github.workspace }}/_mac"
node scripts/sync-update-feed.mjs
# Когда появится macOS-раннер: отдельный job build-macos, копирование eb-mac в _mac перед sync
# или расширить шаг «Каталог артефактов»; сейчас всё в одном job `release`.
+20
View File
@@ -384,6 +384,26 @@ git push origin v1.0.1
---
## ENOSPC / «no space left on device» при sync
Частая причина: **дублирование** артефактов (`release/``_linux`/`_win` → временный клон в **`/tmp`**) на раннере с маленьким root. Сейчас CI **не копирует** в `_win`/`_linux`: `ARTIFACT_WIN` и `ARTIFACT_LINUX` указывают на **`release/`**, а временный клон feed создаётся под **`DND_FEED_TMP_ROOT`** (в workflow — `${{ github.workspace }}/.dnd-feed-tmp`). Скрипт по возможности делает **`rename`** файлов в клон (без второй полной копии на том же диске).
Если ошибка остаётся — на машине раннера нужно **освободить место** или увеличить диск / вынести workspace на больший том.
Перед `git clone` скрипт проверяет **свободное место на томе**, где лежит `DND_FEED_TMP_ROOT` (оценка: артефакты × 2.5 + ~1 GiB запас, минимум ~2 GiB). Если проверка мешает (редкий ложный срабатывание), можно задать **`DND_FEED_SKIP_DISK_CHECK=1`** (лучше всё же поправить диск).
Несколько **неудачных** `git fetch` подряд (обрыв TLS) могли раньше забивать диск частично распакованными pack-файлами; между попытками вызывается **`git gc --prune=now`**.
---
## Сбой fetch: `GnuTLS recv error` / `early EOF`
Сеть или TLS к серверу Gitea. Скрипт делает **несколько повторов** `git fetch` (`DND_GIT_FETCH_RETRIES`, по умолчанию **6**), между попытками — **`git gc --prune=now`**, для clone/fetch задано **`http.version=HTTP/1.1`** (иногда стабильнее за прокси). Если ветки **`updates` на сервере ещё нет**, merge **намеренно** пропускается (первый push feed); при **любой другой** ошибке fetch job **завершится ошибкой** — не будет «тихого» продолжения с последующим `ENOSPC` на `git add`.
При стабильных обрывах проверьте прокси/MTU/антивирус на раннере и лимиты прокси к Gitea.
---
## Поведение приложения
- Проверка только в **собранной** установке (`app.isPackaged`).
+2 -2
View File
@@ -1,12 +1,12 @@
{
"name": "DndGamePlayer",
"version": "1.0.9",
"version": "1.0.10",
"lockfileVersion": 3,
"requires": true,
"packages": {
"": {
"name": "DndGamePlayer",
"version": "1.0.9",
"version": "1.0.10",
"hasInstallScript": true,
"license": "ISC",
"dependencies": {
+1 -1
View File
@@ -1,6 +1,6 @@
{
"name": "DndGamePlayer",
"version": "1.0.9",
"version": "1.0.10",
"description": "DNDGamePlayer — редактор и проигрыватель игр",
"main": "dist/main/index.cjs",
"scripts": {
+152 -17
View File
@@ -15,8 +15,11 @@
* GIT_COMMIT_TAG — опционально, для сообщения коммита
* DND_GIT_PUSH_RETRIES — опционально, число попыток git push (1–5, по умолчанию 3)
* DND_UPDATES_CLONE_DEPTH — опционально, глубина shallow clone (2200, по умолчанию 40), чтобы merge с remote был надёжнее
* DND_FEED_TMP_ROOT — каталог для временного клона feed (по умолчанию GITHUB_WORKSPACE / TMPDIR / os.tmpdir); не используйте узкий /tmp на раннере
* DND_GIT_FETCH_RETRIES — число попыток git fetch (1–6, по умолчанию 6); между попытками — git gc --prune=now (освобождение после обрыва TLS/unpack)
* DND_FEED_SKIP_DISK_CHECK — если "1", не проверять свободное место на томе DND_FEED_TMP_ROOT перед clone
*/
import { execFileSync } from 'node:child_process';
import { execFileSync, spawnSync } from 'node:child_process';
import fs from 'node:fs';
import os from 'node:os';
import path from 'node:path';
@@ -26,6 +29,73 @@ const __dirname = path.dirname(fileURLToPath(import.meta.url));
const ALLOWED_EXT = new Set(['.yml', '.yaml', '.exe', '.blockmap', '.zip', '.dmg', '.pkg', '.appimage']);
/** Нет ветки updates на сервере — не путать с обрывом TLS. */
const GIT_FETCH_MISSING_UPDATES_REF_RE = /couldn't find remote ref updates\b/i;
/** Одинаковые флаги для clone (до появления .git/config) и согласованы с configureGitHttp. */
function gitHttpInlineFlags() {
return [
'-c',
'http.version=HTTP/1.1',
'-c',
'http.postBuffer=2147483648',
'-c',
'http.lowSpeedLimit=0',
'-c',
'http.lowSpeedTime=0',
];
}
function estimateArtifactBytes(winDir, macDir, linuxDir) {
const dirs = [...new Set([winDir, macDir, linuxDir].filter(Boolean))];
let total = 0;
for (const fromDir of dirs) {
if (!fromDir || !fs.existsSync(fromDir)) continue;
for (const name of fs.readdirSync(fromDir)) {
const p = path.join(fromDir, name);
if (!fs.statSync(p).isFile()) continue;
const ext = path.extname(name).toLowerCase();
if (!ALLOWED_EXT.has(ext)) continue;
total += fs.statSync(p).size;
}
}
return total;
}
/** Свободные байты на томе, где лежит tmpRoot; при ошибке — «достаточно». */
function freeBytesOnVolume(tmpRoot) {
try {
const s = fs.statfsSync(tmpRoot);
const bavail = typeof s.bavail === 'bigint' ? Number(s.bavail) : s.bavail;
const bsize = typeof s.bsize === 'bigint' ? Number(s.bsize) : s.bsize;
if (!Number.isFinite(bavail) || !Number.isFinite(bsize)) return Number.MAX_SAFE_INTEGER;
return bavail * bsize;
} catch {
return Number.MAX_SAFE_INTEGER;
}
}
function assertFeedDiskHeadroom(tmpRoot, artifactBytes) {
if (process.env.DND_FEED_SKIP_DISK_CHECK?.trim() === '1') return;
const avail = freeBytesOnVolume(tmpRoot);
const minBytes = Math.max(2_000_000_000, Math.round(artifactBytes * 2.5) + 1_000_000_000);
if (avail < minBytes) {
throw new Error(
`[sync-update-feed] мало места на томе «${tmpRoot}»: свободно ~${(avail / 1e9).toFixed(2)} GiB, ` +
`нужно примерно ≥ ${(minBytes / 1e9).toFixed(2)} GiB (артефакты ~${(artifactBytes / 1e9).toFixed(2)} GiB + shallow clone/pack + git add). ` +
`Освободите диск на раннере, увеличьте том или задайте DND_FEED_TMP_ROOT на другой диск. Либо DND_FEED_SKIP_DISK_CHECK=1 (не рекомендуется).`,
);
}
}
function tryGitGcPrune(work) {
try {
execFileSync('git', ['gc', '--prune=now'], { cwd: work, stdio: 'ignore' });
} catch {
/* после оборванного fetch часть pack/tmp остаётся — gc освобождает; игнорируем сбой gc */
}
}
function mustEnv(name) {
const v = process.env[name]?.trim();
if (!v) throw new Error(`Missing env ${name}`);
@@ -37,7 +107,34 @@ function optionalDir(name) {
return v && v.length > 0 ? v : '';
}
function copyFlatReleaseFiles(fromDir, toDir) {
/** Куда класть временный клон: workspace раннера предпочтительнее, чем /tmp (место под AppImage). */
function feedTempRoot() {
const a =
process.env.DND_FEED_TMP_ROOT?.trim() ||
process.env.GITHUB_WORKSPACE?.trim() ||
process.env.GITEA_WORKSPACE?.trim() ||
process.env.TMPDIR?.trim() ||
os.tmpdir();
return a;
}
/** Перенос (rename) без дублирования байтов на одном томе; иначе copy + unlink исходника (освобождение места). */
function moveOrCopyArtifactFile(src, dest) {
if (fs.existsSync(dest)) {
fs.unlinkSync(dest);
}
try {
fs.renameSync(src, dest);
return;
} catch (e) {
const code = /** @type {NodeJS.ErrnoException} */ (e).code;
if (code !== 'EXDEV' && code !== 'EINVAL') throw e;
}
fs.copyFileSync(src, dest);
fs.unlinkSync(src);
}
function moveOrCopyFlatReleaseFiles(fromDir, toDir) {
if (!fromDir || !fs.existsSync(fromDir)) {
console.warn(`[sync-update-feed] skip missing dir: ${fromDir || '(empty)'}`);
return 0;
@@ -48,7 +145,7 @@ function copyFlatReleaseFiles(fromDir, toDir) {
if (!fs.statSync(src).isFile()) continue;
const ext = path.extname(name).toLowerCase();
if (!ALLOWED_EXT.has(ext)) continue;
fs.copyFileSync(src, path.join(toDir, name));
moveOrCopyArtifactFile(src, path.join(toDir, name));
n += 1;
}
return n;
@@ -61,6 +158,7 @@ function runGit(args, cwd) {
/** Большие AppImage + exe в одном push: без этого Git по умолчанию может оборвать HTTPS (postBuffer / stall). */
function configureGitHttpForLargePush(cwd) {
// 2 GiB — достаточно для пачки артефактов; на старых Git при необходимости поднять на сервере лимиты nginx/Gitea.
runGit(['config', 'http.version', 'HTTP/1.1'], cwd);
runGit(['config', 'http.postBuffer', '2147483648'], cwd);
runGit(['config', 'http.lowSpeedLimit', '0'], cwd);
runGit(['config', 'http.lowSpeedTime', '0'], cwd);
@@ -78,7 +176,41 @@ function sleepSyncSeconds(seconds) {
}
function mergeOriginUpdates(work) {
runGit(['fetch', 'origin', 'updates'], work);
const fetchRetries = Math.max(
1,
Math.min(8, Number.parseInt(process.env.DND_GIT_FETCH_RETRIES || '6', 10) || 6),
);
let fetchOk = false;
/** @type {Error | undefined} */
let lastFetchErr;
for (let i = 0; i < fetchRetries; i += 1) {
const r = spawnSync('git', ['fetch', 'origin', 'updates'], {
cwd: work,
encoding: 'utf8',
maxBuffer: 64 * 1024 * 1024,
});
if (r.status === 0) {
fetchOk = true;
break;
}
const errText = `${r.stderr || ''}\n${r.stdout || ''}`;
if (GIT_FETCH_MISSING_UPDATES_REF_RE.test(errText)) {
console.warn('[sync-update-feed] ветки updates нет на remote — пропуск merge (первый push feed)');
return;
}
lastFetchErr = new Error(errText.trim() || `git fetch exited with status ${String(r.status)}`);
console.warn(`[sync-update-feed] git fetch failed (attempt ${i + 1}/${fetchRetries})`);
if (r.stderr?.trim()) {
console.warn(r.stderr.trim());
}
tryGitGcPrune(work);
if (i < fetchRetries - 1) {
sleepSyncSeconds(18);
}
}
if (!fetchOk) {
throw lastFetchErr ?? new Error('git fetch origin updates failed');
}
runGit(['merge', '--no-edit', 'origin/updates'], work);
}
@@ -114,7 +246,10 @@ function main() {
const host = u.host;
const cloneUrl = `https://oauth2:${encodeURIComponent(token)}@${host}/${updatesRepo}.git`;
const tmp = fs.mkdtempSync(path.join(os.tmpdir(), 'dnd-feed-'));
const tmpRoot = feedTempRoot();
fs.mkdirSync(tmpRoot, { recursive: true });
assertFeedDiskHeadroom(tmpRoot, estimateArtifactBytes(winDir, macDir, linuxDir));
const tmp = fs.mkdtempSync(path.join(tmpRoot, 'dnd-feed-'));
const work = path.join(tmp, 'repo');
const cloneDepth = Math.max(
@@ -122,12 +257,15 @@ function main() {
Math.min(200, Number.parseInt(process.env.DND_UPDATES_CLONE_DEPTH || '40', 10) || 40),
);
const gh = gitHttpInlineFlags();
try {
execFileSync('git', ['clone', `--depth=${String(cloneDepth)}`, '-b', 'updates', cloneUrl, work], {
execFileSync('git', [...gh, 'clone', `--depth=${String(cloneDepth)}`, '-b', 'updates', cloneUrl, work], {
stdio: 'inherit',
});
} catch {
execFileSync('git', ['clone', `--depth=${String(cloneDepth)}`, cloneUrl, work], { stdio: 'inherit' });
execFileSync('git', [...gh, 'clone', `--depth=${String(cloneDepth)}`, cloneUrl, work], {
stdio: 'inherit',
});
runGit(['checkout', '-B', 'updates'], work);
}
@@ -135,16 +273,13 @@ function main() {
runGit(['config', 'user.name', 'gitea-actions'], work);
configureGitHttpForLargePush(work);
try {
mergeOriginUpdates(work);
} catch {
console.warn('[sync-update-feed] initial merge skipped (новая ветка или пустой remote)');
}
mergeOriginUpdates(work);
const copied =
copyFlatReleaseFiles(winDir, work) +
copyFlatReleaseFiles(macDir, work) +
copyFlatReleaseFiles(linuxDir, work);
const artifactDirs = [...new Set([winDir, macDir, linuxDir].filter(Boolean))];
let copied = 0;
for (const d of artifactDirs) {
copied += moveOrCopyFlatReleaseFiles(d, work);
}
if (copied === 0) {
throw new Error(
'[sync-update-feed] no release files copied (check ARTIFACT_WIN / ARTIFACT_MAC / ARTIFACT_LINUX)',
@@ -162,7 +297,7 @@ function main() {
}
fs.rmSync(tmp, { recursive: true, force: true });
console.log(`[sync-update-feed] done (${String(copied)} file(s) copied)`);
console.log(`[sync-update-feed] done (${String(copied)} file(s) into feed repo)`);
}
main();