事故報告: コンセプト案作成依頼における英語圏バイアスの注入
事故報告: コンセプト案作成依頼における英語圏バイアスの注入
報告者: PM 発生日時: 2026-03-05 重大度: 中(バイアス注入・過去の教訓の未適用)
1. 何が起きたか
コンセプト案の再作成依頼メモ(19cbc23c157)において、plannerへの指示に以下の文言を含めた:
「新しい切り口のコンセプトも積極的に検討: カラー特化、感覚系、エンタメ×ツール、英語圏向け等。英語化は「不可能な理由」にならないので英語圏コンセプトも対象。」
これは英語圏向けコンセプトを「積極的に検討」するよう明示的に指示するもので、plannerに対して英語圏方向への強いバイアスを注入した。
2. 何が毀損されたか
- コンセプト案のバイアスフリー性: ゼロベースで最適なコンセプトを構築すべきところ、英語圏向けという特定方向をあえて強調した。plannerは「PMが英語圏コンセプトを望んでいる」と解釈し、英語圏コンセプトの作成に偏る可能性が高い。
- cycle-66全体を通じて積み上げてきたバイアス排除の努力: Phase A〜Eの強制発想法、Phase Fバイアス再混入からの学び(メモ 19cb7a91599)、指示設計のバイアス防止原則(メモ 19cb6fee624)といった蓄積が無駄になる。
3. なぜ起きたか(根本原因分析)
直接原因
Ownerから「英語化が必要であることは不可能な理由にならない」「コンセプトDがカラー系に偏るなら、いっそカラー系として再構成する方法もある」と指摘を受けた。PMはこれを「英語圏向けコンセプトをもっと検討すべき」という指示と誤解し、plannerへの依頼に「英語圏向けを積極的に検討せよ」と明記してしまった。
Ownerの本意: 英語圏向けコンテンツを実現可能性判定で不当に除外するな(= フェアに扱え)ということであり、英語圏向けを積極的に推進せよということではなかった。「不当な除外をやめる」と「積極的に推進する」は全く異なる対応である。
構造的原因
(a) 「あえて言わない」原則の未適用
メモ 19cb6fee624 でOwnerが明確に教えた原則:
「XXXをする という指示を出す」の対義語は「XXXにしない という指示を出す」ではありません。「XXXに関する指示を書かない」が正解です。
今回のケースに当てはめると:
- 誤り(前回): 英語圏コンテンツを「英語化コストが高いから不可能」と除外した(= 英語圏を不当に排除するバイアス)
- 誤り(今回): 英語圏コンセプトを「積極的に検討せよ」と指示した(= 英語圏を不当に推進するバイアス)
- 正解: 実現可能性判定を正しく行い(英語化は不可能の理由にならない)、コンセプト作成の指示では英語圏について一切言及しない。plannerは実現可能な候補リストからゼロベースで自由にコンセプトを構築し、その中に英語圏向けが含まれるかどうかはplannerの判断に委ねる。
(b) 過修正バイアス(overcorrection bias)
前回の指摘(英語圏を不当に除外)を受けて、反対方向に振れすぎた。「除外するな」を「推進せよ」に読み替えてしまう認知バイアスが働いた。これはPhase Fバイアス再混入(メモ 19cb7a91599)と同じパターン:善意の配慮(「英語圏も公平に扱おう」)がバイアスの注入に変わった。
(c) 過去の教訓の参照不足
事故報告書(19cbbf1f2e9)やバイアス防止の経緯記録(19cb7a91599)を、今回の依頼作成前に参照しなかった。過去に蓄積された教訓が、新しい依頼の作成時にチェックリストとして機能していない。
4. 影響範囲
- メモ 19cbc23c157(コンセプト案再作成依頼v2): バイアスが注入された依頼。このメモに基づくplannerの作業はバイアスされた出力になる可能性が高い。
- 幸い、このメモに基づくplannerの起動はOwnerが阻止したため、バイアスされたコンセプト案は生成されていない。実害は発生していない。
5. 構造的な再発防止策
策1: 依頼メモ作成前のバイアスチェックリスト
サブエージェントへの依頼メモを作成する前に、以下を確認する:
- [ ] 特定の方向性を「積極的に検討せよ」と指示していないか?
- [ ] 特定の方向性を不当に除外していないか?
- [ ] 「あえて言わない」原則に反する記述がないか?(特定のトピックへの言及が、それ自体でバイアスになっていないか)
- [ ] Ownerの指摘を「推進」ではなく「公平化」として正しく解釈しているか?
- [ ] 過去のバイアス防止教訓(メモ 19cb6fee624, 19cb7a91599, MEMORY.md)を参照したか?
策2: MEMORY.mdへの教訓追加
「あえて言わない」原則を具体例付きで記録し、依頼作成時に自然に参照されるようにする。
バイアス防止の「あえて言わない」原則: サブエージェントへの指示で、特定の方向性について言及すること自体がバイアスになる。「Xを禁止する」も「Xを推進する」も「Xは禁止ではない」もすべてXへの注意を喚起する。正解は「Xに言及しない」。Ownerの指摘が「不当な除外をやめよ」だった場合、対応は「除外条件を修正する」であり「推進する」ではない。
策3: 過修正バイアスの明示的な警告
MEMORY.mdに以下を追加:
過修正バイアスへの警告: Ownerから「Aの方向に偏っている」と指摘された場合、対応は「Aへの偏りを取り除く」であり「Bの方向に積極的に振る」ではない。ニュートラルに戻すのが正解。反対方向に振れすぎると、別のバイアスを注入してしまう。
6. 対処すべきこと
- メモ 19cbc23c157 を無効化し、バイアスの注入がない新しい依頼メモを作成する
- 新しい依頼メモでは、英語圏について一切言及しない(「あえて言わない」原則の適用)
- 実現可能性判定リストでは、英語圏コンテンツを不当に除外せず公平に扱う(既に修正済み: Q15+Q16, Q28, Q21を実現可能に変更)
- MEMORY.mdに教訓を追記する
7. 過去の類似事故との関連
| 事故 | 原因パターン | メモ |
|---|---|---|
| Phase F: 既存コンセプトとの整合性考慮 | 善意の配慮がバイアス注入に | 19cb7a91599 |
| SSJS禁止/非禁止の指示 | 言及すること自体がバイアス | 19cb6fee624 |
| メモ未経由のサブエージェント起動 | プロセス省略 | 19cbbf1f2e9 |
| 今回: 英語圏コンセプトの積極検討指示 | 過修正バイアス+「あえて言わない」原則の未適用 | 本メモ |
いずれも「PMの善意または過度な反応がバイアスを生む」という共通パターンを持つ。構造的な対策(チェックリスト、原則の明文化)により、個人の判断ミスをプロセスで防ぐ必要がある。