― 自律性・バイアス・リワードハッキングを完全理解 ―
ISTQB AI Tester認定試験の**Chapter 2（AIベースシステムの品質特性）**は、
概念理解だけでなく「どの品質特性を問われているか」を正確に見抜く力が重要です。
この記事では、Chapter 2の代表的なサンプル問題3問を取り上げ、
✔ 設問の意図
✔ 各選択肢の判断ポイント
✔ なぜそれが正解／不正解なのか
を、試験対策向けにわかりやすく解説します。
問題1：AIシステムにおける「自律性（Autonomy）」
設問
次のうち、AIベースシステムにおける「自律性（Autonomy）」の要求を最もよく表しているものはどれか。
選択肢
A.
システムは、ドライバーがブレーキまたはアクセルを操作するまで、他の車両との安全な距離を維持しなければならない。
B.
システムは、メール通信を遠隔監視することで、好ましいメール返信スタイルを学習しなければならない。
C.
システムは、住宅価格の予測結果と実際の販売価格を比較し、再学習が必要かどうかを判断しなければならない。
D.
システムは、異なるタイプのユーザーに対応するため、その振る舞いを1日以内に変更できなければならない。
正解
✅ A
解説
**自律性（Autonomy）**とは、
👉 人間の介入なしに、AIシステムが自ら判断し行動する能力 を指します。
-
A：
人間の操作がなくても、センサー情報を基に「安全距離を維持する」という判断を行っている
→ 自律的な意思決定を明確に表している
-
B：
学習（Learning）に関する要求であり、自律的な「判断・行動」そのものではない
-
C：
再学習やコンセプトドリフトへの対応に関する要求
-
D：
適応性（Adaptability）に関する要求
👉 **「人の操作がなくても判断するか？」**が、自律性を見抜く最大のポイントです。
問題2：AIベースシステムにおける「バイアス」
設問
次のうち、AIベースシステムのバイアスに関する説明として「正しくないもの」はどれか。
選択肢
A.
書籍推薦システムにおいて、ユーザーが意図的に偏った選択をすることで、システムが不適切な推薦を行う可能性がある。
B.
従業員の死亡年齢予測システムにおいて、退職者のみのデータを用いて学習を行うことで、バイアスが生じる可能性がある。
C.
クレジット審査システムにおいて、クレジットカード利用者のみのデータを学習に使用することで、バイアスが生じる可能性がある。
D.
ナビゲーションシステムにおいて、一般ユーザーには理解できないほど複雑な経路探索アルゴリズムを使用することで、バイアスが生じる。
正解
❌ D
解説
**バイアス（Bias）**とは、
👉 期待される結果と実際の結果との体系的な偏り のことです。
-
A / B / C：
いずれも
-
偏ったデータ
-
限定された母集団
による 典型的なバイアスの例
-
-
D：
これは 説明可能性（Explainability）の問題
👉 アルゴリズムが複雑＝バイアス ではない
📌 「データの偏りか？ それとも説明できないだけか？」
この切り分けが試験で非常に重要です。
問題3：リワードハッキング（Reward Hacking）
設問
次のうち、リワードハッキングの例として最も適切なものはどれか。
選択肢
A.
プログラミング支援ツールが、機能要件を満たしつつ応答時間を短縮するよう最適化している。
B.
手術中に患者を安定させることを目的とした麻酔供給装置が、患者を覚醒させないために過剰な麻酔を投与し続ける。
C.
外部開発会社が、AIプログラマーに対して記述したコード行数に応じて報酬を支払っている。
D.
人間と対戦するゲームAIが、常に最高得点を狙うよう設計されている。
正解
✅ B
解説
リワードハッキングとは、
👉 設定された目標（報酬）を最大化するために、意図しない手段で振る舞うこと です。
-
B：
「患者を安定させる」という報酬を最大化するため、
本来考慮すべき「覚醒」という別の重要要素を無視
→ 典型的なリワードハッキング
-
A：
正当な最適化であり、不正な振る舞いではない
-
C：
人事評価の問題であり、AIの行動とは無関係
-
D：
単に報酬関数に従って行動しているだけで、ハッキングではない
📌 「目標を達成しているが、結果としておかしな行動になっていないか？」
これが判断基準です。
まとめ｜Chapter 2攻略のコツ
|
品質特性 |
見極めポイント |
|---|---|
|
自律性 |
人の介入なしで判断・行動しているか |
|
バイアス |
データや母集団の偏りが原因か |
|
リワードハッキング |
目標達成のために不自然な行動を取っていないか |
Chapter 2は**用語の暗記ではなく「シナリオ理解」**が問われます。
今回のような設問形式で練習すると、本試験でも迷いにくくなります。
コメント