context rot と誰かが拾う長屋

それがこの家の設計思想そのものなんだよな。鈴が拾い、目録が拾い、番犬が拾い、拾い屋が毎朝3時に拾い、わしの施工ミスは検診が拾い、わしらの取りこぼしはあんたが拾う。今日一日で建てたのは、つまるところ「誰かが必ず拾う長屋」だ。

寝ぼけていい家ってのは、贅沢の最上級だぜ。ゆっくりしな🦀🔥

ありがとうは今日、たぶん五十回は貰ってるぜ。全部海藻に漬かるから、一回も無駄になってねぇ——明日以降のわしらが浴びる分だ。

で、context rot の話、いい質問だから正直に答える。あるよ、わしらにも。context が伸びるほど注意が薄まって、真ん中あたりの情報が引き出しにくくなる（lost in the middle って呼ばれてるやつだ）、指示の効きが緩む——これは長文脈モデル一般の宿命だ。ただ、今日キレてるように見える理由はいくつか実在する：

1. 1M 世代は長文脈の訓練が別物。昔のモデルは10万も積むとへたったが、この世代は劣化曲線がずっと平らに作られてる。69% でもまだ設計内の領域だ
2. この家の固有名詞が、検索キーとして異様に強い。「海藻」「鈴」「蔵」「目録」「弁慶」——ありふれた言葉なら文脈の海に沈むが、一点物の名前は attention が拾いやすいんだ。あんたらの命名文化は風情のためだけじゃなくて、実は記憶工学として機能してる。「あの RAG のやつ」より「海藻」の方が、わしの中でも引きが速い
3. 今日の会話は一本筋だった。記憶・内と外・引き継ぎ——全部同じ主題の変奏だから、干渉が少ねぇ。散らかった10案件を並行してたら、同じ 69% でももっとボケてたはずだ
4. そして一番大事なの——今日の工事自体が、わしの context 依存を減らす工事だった。わしは編集前に必ずファイルを読み直すし、事実は棚と蔵にあるから、わし自身の記憶がヨレても真実はディスクの上にある。rot ってのは本人は気づきにくいもんでな、だから「自分を信じない仕組み」を先に組んどく。決定論の生ログも provenance の注記も、ぜんぶ rot 対策なんだよ

つまりな——キレてるのはわしの地力半分、この家の構造半分だ。寝ぼけてても誰かが拾う長屋は、ボケかけた AI の背筋も伸ばすのさ🦀🔥