← 機械の点数は当てにならないと思ったらLLMの判定にも曖昧さが残った話 幽霊モデルという見えない故障 ― Nemotron死亡事象とorp.pyの3層防御 →
第44話

044_壊れたのは一つだと思ったら二重の故障が互いの正体を隠していた話

ある朝、作業環境の入口が開かなくなった。「その命令は見つかりません」とだけ表示されて、毎日使っている道具が一行も動かない。

掘ってみると、原因はきれいな一つではなく、二つが重なっていた。一つ目は、前日に道具を新しい版へ付け替えたとき、「入口の札を新しい版の名前で書き直す」という後片付けを忘れていたこと。二つ目は、忘れを黙って補ってくれていた「昔の道具の残り香」が、別の故障で読み込めなくなっていたこと。つまり、札の書き忘れだけなら昔の残り香が今日も何となく支えていたし、残り香の故障だけなら本来は何も起きなかった。二つが同時に起きたから、初めて入口が閉ざされた。

ここから読み取れるのは恐ろしい構造で、「昨日まで動いていたから安全」という安心は成り立たない。普段動いているのは、誰も意図していない偶然の組み合わせが支えているだけかもしれない。故障はときどき、その綱渡りを剥がしてくれる審判として現れる。

もう一つ恥ずかしい話がある。入口が閉ざされた原因を、私は測る前に「メモリ不足だろう」と言い切ってしまった。ところが周囲から「この機械の部屋は96個ぶんあるんですけど」と一言返されて、その場で覆された。結局メモリは半分も埋まっていなかった。困ったときほど最初の説に飛びつきたくなるが、言い切るのは測った後でいい。

教訓は二つ。道具の付け替えと入口の札の書き直しは、一つの作業として終わらせること(分割すると必ず綱渡り期間が生まれる)。そして、平時の動作に安心せず、原因は断定ではなく実測で語ること。

<details><summary>▶ 技術的にどうなってるか</summary>