Refined predictive validity — Generic word-dict は 全 domain で gzip に 負ける、 STEP 1867 の 40.4% win は domain-specific schema 由来
STEP 1867 の 「schema-aware で gzip 40.4% smaller = signature の predictive validity」 claim を generic word-tokenization level で 反証 test。 generic word-dict compressor (gzipped vocab + fixed-bit index、 lossless) を 7 domain: v0.3 no 3/3 予測 met (gzip 匹敵)、 v0.3 YES 0/4 met (全 -30〜-38%)。 但し STEP 1867 dedicated schema-aware で は structured_log 40.4% win 確認済。 Refined claim: v0.3 predictive validity は schema-aware level で 成立、 generic word-tokenization level では 不成立。 24/24 test PASS。
Refined predictive validity (STEP 1867 + STEP 1868 合成): v0.3 signature (Bw + Dw metrics on word n-grams) は schema-extractability の 統計的 proxy だが、 exploit は domain-specific engineering (どの field が fixed structure か vs unique per-line か の 明示) が 必要。 Generic word-tokenization は proxy を capture するが exploit しない (vocab 全体 が overhead)。
1. 予測 vs 実測 (7 domain)
| domain | v0.3 | 原文 | gzip -9 | brotli -q11 | word-dict | vs gzip | 予測 |
|---|---|---|---|---|---|---|---|
| english_baseline | no | 37,699 | 1,210 | 641 | 7,779 | -543% | ✓ (synthetic outlier) |
| dna_ncbi | no | 22,741 | 6,864 | 6,055 | 6,929 | -0.95% | ✓ (gzip parity) |
| protein_uniprot | no | 14,228 | 7,818 | 7,533 | 7,853 | -0.45% | ✓ (gzip parity) |
| esperanto_wikipedia | YES | 314,844 | 115,712 | 99,174 | 160,037 | -38% | ✗ |
| markdown_proxy | YES | 68,955 | 25,272 | 20,800 | 32,784 | -30% | ✗ |
| structured_log | YES | 698,392 | 158,005 | 135,493 | 210,352 | -33% | ✗ (STEP 1867 dedicated schema = 40.4% win) |
| voynich_eva | YES | 246,431 | 76,888 | 71,842 | 104,606 | -36% | ✗ (STEP 1869 別 分析) |
v0.3 no 3/3 met (generic word-dict は gzip を 上回れない predict) / v0.3 YES 0/4 met (word-dict は gzip を 上回れない、 dedicated schema 版 の みが 上回った)
2. Predictive validity の 精緻化
引き続き valid
- structured_log 実測 40.4% (STEP 1867 dedicated schema-aware)
- STEP 1863 p=0.020 統計 test と 独立 evidence layer は 引き続き STEP 1867 で 獲得済
- v0.3 YES domain には dedicated schema-aware compressor で gzip 40%+ 上回る 可能性
反証 (STEP 1867 hook で implied していた 過剰主張 の refinement)
- 「v0.3 YES = generic word-dict で gzip beat 可能」 = 反証
- 「Voynich の Bw=2 は 汎用 圧縮 gain を imply する」 = 反証 (STEP 1869 別分析)
- 「structured_log の 40.4% win は word template dictionary の 一般的 効果」 = 訂正 (10 msg template + 6 mod + 4 lvl + binary field encoding = explicit small schema が 主要 mechanism)
3. Honest scope
- Naive word-dict (gzipped vocab + fixed-bit index) 実装、 Huffman/arithmetic coding は 未実装、 v0.2 で 一部 domain gzip 匹敵 or 越え 可能性
- english_baseline -543% は synthetic outlier (5 paragraph × 20 repeat、 STEP 1854 dataset (b) 継承)、 実 English では ない
- Baseline は Node 内蔵 gzip + brotli、 zstd は 環境依存
- Round-trip lossless 保証 = byte identity
- 7 domain sample、 別 corpus (JSON schema、 XML、 CSV 等) 検証 は 別 STEP
- novelty 主張 なし = 「vocab dictionary compressor は entropy coding なしでは 汎用 LZ77+Huffman を beat できない」 は Ziv-Lempel 1977 以来 well-known negative
4. v0.4 送り 8+9 追加 (本 STEP 誘発)
- 8. Huffman/arithmetic coding 拡張 (word-dict v0.2、 一部 v0.3 YES domain gzip 匹敵 or 越え 実測)
- 9. Dedicated schema-aware compressor を other v0.3 YES domain (markdown/esperanto/voynich) へ 拡張 (STEP 1867 pattern の 汎用化、 40%+ gain 再現 可能か)
5. Failure mode dataset 3 追加
- (a) 「implication evidence」 の scope 過剰一般化: STEP 1867 で structured_log 40.4% → 「v0.3 YES general に generic word-dict で beat 可能」 と implicit 主張。 予防: dedicated と generic の gap 明示、 「schema-aware」 specificity を claim に 埋め込む。 Recovery: STEP 1868 で reversal test で 発見 + scope refinement。
- (b) Vocab dictionary overhead 見積り 誤り: 「vocab を gzip で 圧縮 すれば 十分」 は 一部 true (dna/protein で gzip parity) だが v0.3 YES では 依然 30-40% overhead。 予防: encode 前 に 理論 lower bound (`|body_bits| + |gzipped_vocab_bytes|`) 事前計算、 実装 前 infeasibility 察知。
- (c) synthetic 過度圧縮 outlier handling: english_baseline -543% は 5 paragraph × 20 repeat、 平均 に 引き込まれ ない ように 個別 flag 明示。 予防: synthetic vs real split を CSV column 常時表示、 平均計算 前 filter (STEP 1856 corrigendum § 3 継承)。
6. STEP 1848 pattern 8 段階目
| STEP | イベント |
|---|---|
| 1848 → 1849 → 1860 → 1861 → 1862 | bug + corrigendum + 崩壊 + 方向反転 |
| 1863 | anchor 拡張 (n=5) で p=0.020 統計的 validated |
| 1867 | schema-aware で structured_log 40.4% win (勝ち evidence) |
| 1868 | 勝ち evidence の scope を 独立 test で refine (generic word-dict 版 は 反証、 dedicated schema 限定 に 精緻化) |
discipline pattern: 勝ち evidence の scope を 独立 test で 反証、 predictive validity の boundary を 定量 で 描く。
7. 関連 STEP
8. 詳細参照
- 実装:
scripts/domain-family/word-dict-compressor.ts(~330 行、 STEP 1868 + 1869 共通 core) - Test:
test/step1868-word-dict-compressor-test.ts(24/24 PASS) - Report: word-dict-compression-reversal-report.json
- Notepad: 2026-09-07T04-15 STEP 1868
- Fragment: notes/steps/STEP_1868.md
- ← Tools index に 戻る