ISTQB AI Tester シラバス第2章では、AIベースシステム特有の品質特性について学びます。
今回はその中でも特に重要なテーマである、
-
2.3 Evolution（進化）
-
2.4 Bias（バイアス）
について、具体例を交えながら詳しく解説します。
AIシステムは、従来のWebアプリやモバイルアプリとは異なり、使われる中で振る舞いが変化するという特徴を持っています。この特性を理解することは、AIテスターにとって非常に重要です。
1. AIベースシステムにおける「進化（Evolution）」とは？
Evolutionの基本的な考え方
「進化（Evolution）」とは、
AIベースシステムが時間の経過とともに、自らの振る舞いを改善・変化させていく能力を指します。
従来のシステムでは、機能改善は「人がコードを修正し、リリースする」ことで行われていました。
一方、AIベースシステムでは、
-
環境の変化
-
ユーザーとのインタラクション
-
新しいデータの取得
などに応じて、システム自身が学習し、振る舞いを変えることがあります。
AIシステムが進化する2つのパターン
自己学習型AIシステムでは、主に次の2種類の変化（進化）が発生します。
① 自分自身の判断・経験から学習する進化
これは、AIが自分の過去の判断や環境とのやり取りから学習するケースです。
具体例：スマートフォンの顔認証（Face ID）
スマートフォンの顔認証機能を思い出してください。
-
数年前に登録した顔データでも、今も問題なくロック解除できる
-
髪型、ひげ、メガネ、顔のむくみ、体型の変化があっても認識できる
-
明るい場所・暗い場所など、照明条件が変わっても使える
これは、顔認証AIが
-
毎日の顔の微妙な変化
-
光の当たり方や環境条件
を継続的に学習し、少しずつ自分の判断基準を更新しているからです。
このように、AIは使われる中で進化し、より精度の高い判断ができるようになります。
② 運用環境の変更によって起こる進化
もう一つは、システムの外部要因による進化です。
例としては、
-
OSやアプリのアップデート
-
新しい学習データの追加
-
機能拡張による再学習
などがあります。
具体例：画像認識AIの機能拡張
-
以前は「猫」だけを識別できたAI
-
学習データやモデルを更新することで「犬」も識別できるようになる
この場合、人間が意図的に環境や学習条件を変更することで、AIが新しい能力を獲得します。
進化には「制御」が必要
AIシステムは進化することで、
-
効率
-
精度
-
利便性
を向上させますが、無制限な進化は危険でもあります。
そのため、以下が重要です。
-
進化が元の要件や制約を超えていないか
-
人間の価値観や倫理観とズレていないか
-
望ましくない振る舞いをしていないか
AIテスターは、「進化しているからOK」ではなく、
進化が適切な範囲内で行われているかを確認する役割を担います。
2. AIベースシステムにおける「バイアス（Bias）」とは？
バイアスの基本定義
AIにおけるバイアスとは、簡単に言うと、
期待される公平な結果と、実際のAIの出力とのズレ
です。
通常のソフトウェアテストでは、
-
期待結果（Expected Result）
-
実際結果（Actual Result）
が一致しない場合、それを「欠陥（Defect）」と呼びます。
AIの場合、このズレが 特定の属性や集団に対して不公平に現れるとき、それを「バイアス」と呼びます。
問題となるバイアスの例
不適切なバイアスは、以下のような属性と結びつくことがあります。
-
性別
-
人種
-
民族
-
年齢
-
所得レベル
-
性的指向 など
実際に、次のような分野で問題が報告されています。
-
銀行の融資判断システム
-
採用・人事評価システム
-
犯罪リスク評価や司法支援システム
3. バイアスが生まれる主な原因
① アルゴリズムバイアス
機械学習アルゴリズムの設計や設定が原因で生じるバイアスです。
例：
-
特定の特徴量を過剰に重視している
-
ハイパーパラメータ設定が不適切
これにより、あるグループのデータが不当に有利・不利になることがあります。
※ ハイパーパラメータチューニングについては、ISTQB AI Tester シラバス第3章で詳しく扱われます。
② サンプルバイアス（データバイアス）
学習データが、
-
偏っている
-
実世界を十分に代表していない
場合に発生します。
例：
-
特定の年齢層や性別のデータが少ない
-
地域的に偏ったデータだけで学習している
AIはデータから学ぶため、不完全なデータはそのまま不完全な判断につながります。
4. AIテスターに求められる視点
AIベースシステムの振る舞いは、
-
モデルの構造
-
学習アルゴリズム
-
学習データ
-
運用環境
によって大きく左右されます。
そのためAIテスターは、
-
「なぜその結果になったのか」
-
「特定の条件で不公平になっていないか」
-
「進化が制御されているか」
という観点でシステムを評価する必要があります。
まとめ
-
Evolution（進化）
→ AIは環境や経験から学び、振る舞いを変化させる
-
Bias（バイアス）
→ AIの判断が特定の属性に対して不公平になること
-
AIの進化はメリットである一方、制御と監視が不可欠
-
バイアスの理解は、AIテストにおける重要な品質観点
ISTQB AI Tester試験でも、これらの概念は頻出ポイントです。
単なる用語暗記ではなく、「なぜ問題になるのか」「どうテストするのか」を意識して理解しておきましょう。
コメント