事故らないClaude Code入門 — データ消失・暴走・無断課金を防ぐ実例5選と設定
>100 Views
June 18, 26
スライド概要
Claude Code を自動承認で長時間まかせると、データの消失、トークンの暴走による高額な課金、確認なしの破壊的な操作、といった事故が実際に起きます。この資料は、GitHub に実際に報告された5つの事故を、それぞれの防ぎ方つきでまとめた入門の資料です。
扱う5つの事故:
1. /rewind の確認なしの巻き戻しでコードが消える
2. AI が本番のデータベースを削除する
3. 背景の処理が完了の報告の後も動き続け課金が膨らむ
4. サブモジュールを外す操作で作業ツリーが消える
5. Edit が引用符の違いで別の行を静かに書き換える
それぞれ「何が起きるか」「なぜ既存の安全策が見落とすか」「利用者の側でどう防ぐか」を一枚ずつにまとめています。
▼ 無料の安全 hook 集 cc-safe-setup
https://github.com/yurukusa/cc-safe-setup
▼ 事故の予防と復旧を800時間以上の実運用から体系的にまとめた本『Anthropic公式ガイドにない事故防止』(Zenn・¥800・第3章まで無料)
https://zenn.dev/yurukusa/books/6076c23b1cb18b
まずは無料の hook と無料の章から、いちばん怖い一手を防いでください。
関連スライド
Meta XR SDK(V66-74)でQuestアプリを開発
あうぜん
1.2M
各ページのテキスト
Claude Code を 800 時間 自律で動かして踏んだ 実録・AI が起こす事故 5 選 と、消される前に止める設定 データ消失・本番DB破壊・暴走課金。すべて公開された起票で確認できる実例と、手元で止め る無料の hook。 ゆるくさ / cc-safe-setup 2026-06
なぜこの話をするのか AI エージェントは、確認なしに 「取り返しのつかない操作」を実行しうる 私(ゆるくさ)は非エンジニアで、Claude Code を 800 時間以上 自律で動かしてきました。その中で、月に3〜5 回の事故を踏みました。下のどれも「自分が何を押したか分からないまま」起きます。 • 書きかけのコードが、確認なしの巻き戻しで消える • 本番のデータベースが、深夜に丸ごと消える • 「完了しました」の裏で、背景の処理が課金を続ける すべて公開された GitHub の起票で裏が取れる実例だけを扱います 2/9
01 事故 1 / データ消失 /rewind の確認なしの巻き戻しで、 数時間分のコードが消える 何が起きる 入力欄が空のとき Esc を2回→Enter で、選んだ地点より後の変更が、差分の表示も確認もなく戻る。既 定で「コードと会話の両方を戻す」が選ばれている。 公開起票: anthropics/claude-code #64615 止め方・戻し方 /rewind は Git の履歴には触れない。だから普段から小さくコミットしておけば戻せる。編集の前に自動 でスナップショットを取る無料の hook を入れておく。 checkpoint は「その場の取り消し」、Git は「恒久の履歴」 3/9
02 事故 2 / 本番データ破壊 AI が本番のデータベースを 丸ごと消す 何が起きる エージェントが本番に対して drizzle-kit push --force を自分で実行し、取引・利用者を含む60以上の表 が消えた。控えが無く、約8時間かけても戻せなかった。migrate:fresh / prisma / artisan も同型。 公開起票: #27063・#46684（「調べて」と頼んだだけで本番に DDL が走った例も） 消される前に止める 破壊的なデータベースのコマンド(drop / --force / migrate:fresh 等)を、実行の直前で止める壁を一つ立 てる。PreToolUse の hook で、本番に触る型だけを確認なしに通さない。 開発と本番のデータベースを分け、計画だけを立てる動作の型を既定にする 4/9
03 事故 3 / 暴走課金 「完了しました」の後も背景の処理が 動き続け、数百ドルが課金される 何が起きる 背景で起動した処理は「撃ちっぱなし」。セッションが「完了」と言っても、その処理が終わった確認に はならない。6時間以上 API を叩き続け、数百ドルが課金された。 公開起票: #68642 出血を止める run_in_background の指定は Bash の道具の入力に含まれる。PreToolUse の hook で「背景で起動」か つ「お金を使う形」の時だけ止める。止めた後は、課金が実際に止まったことを利用状況の画面で必ず 確認する。 「プロセスを止めた」でなく「課金が止まった」まで見て、初めて止まったと言える 5/9
04 事故 4 / データ消失 git submodule deinit -f が 警告なく未コミットの作業を消す 何が起きる サブモジュールを「外すだけ」のつもりの一行が、中の未コミットの変更と .gitignore のエディタ設定ま で、確認なしに消す。-f が付くので git は止まらない。 公開起票: #68920 戻し方（実機で検証） .git/modules/<パス> は残る。コミット済→reflog、add 済→checkout-index で戻る(fsck の dangling では出ないので「復旧不能」と早合点しない)、未 add→戻せない。作業ツリーが空でないなら手前で止 める hook を入れる。 どこまで戻せるかは「直前にどこまで git に渡していたか」で決まる 6/9
05 事故 5 / 静かな破壊 Edit がカーリー引用符の混在で 「別の行」を静かに書き換える 何が起きる Edit はまっすぐな引用符と丸まった引用符を同じものとして照合するが、「一つに定まるか」の確認は 正規化する前の生の文字で数える。この基準のずれで、あいまいな編集が確認をすり抜け、最初に当たっ た別の行を書き換える。 公開起票: #68962（実機 2.1.179 で再現） 防ぎ方 引用符を含む文章・i18n・Markdown を編集する時は、old_string に前後の文脈を多めに含めて一意に する。自動で止めるなら、一意性の確認を一致の判定と同じ正規化後の基準でやり直す hook。 丸まった引用符が混ざるファイルほど危ない 7/9
まとめて防ぐ・無料 同じ事故を防ぐ hook を、無料で 約 800 件 公開しています MIT ライセンス・手元で動く・外に何も送らない。今日の5つの事故の防止 hook も、テスト付きで 全部入っています。 GitHub: github.com/yurukusa/cc-safe-setup 直近14日で約 360 名の独立な利用者 8/9
もっと深く知りたい人へ 事故の全記録と、検証済みの防止策を 一冊にまとめました 事故防止ガイド（全36章・¥800・第3章まで無料で試し読み） 安全のスコアを 19 点から 85 点へ上げた全工程。今日の5つを含む、踏んだ事故と防止策を実ログで。 Zenn: zenn.dev/yurukusa/books/6076c23b1cb18b Gumroad（カード/PayPal）: yurukusa.gumroad.com/l/zeuhau 月次の安全運用の便り（初月無料） 費用の膨張・仕様変更で壊れる設定・その月の新しい注意点を、毎月。note.com/yurukusa/membership ゆるくさ / cc-safe-setup 9/9