説明可能な人工知能
文A 2言語
This article is an todo. It will be expanded only with confirmed details.
説明可能AI（Explainable Artificial Intelligence、XAI）は、人工知能や機械学習モデルが行った予測・判断について、人間が理解可能な形で根拠を示すための技術・研究分野である。
山崎康が関心を持つ研究分野の一つであり、特にグラフニューラルネットワークとの組み合わせに関心を持つ。
背景[編集]
機械学習モデルは複雑化するほど高い表現能力を持つ一方、その内部でどのような判断が行われたかを人間が直接理解することが難しくなる場合がある。
例えば画像分類モデルが「猫」と判断したとしても、その判断が耳の形によるものなのか、背景によるものなのかを出力ラベルだけから理解することはできない。
この問題に対し、予測へ大きな影響を与えた特徴や入力部分を提示することなどによってモデルの判断を説明しようとするのがXAIである。
For the main biographical article, see 山崎 康.
グラフにおける説明[編集]
グラフニューラルネットワークの場合、説明対象は単純な特徴量だけではない。
あるノードの予測について、どの隣接ノードが重要だったのか、どのエッジが重要だったのか、あるいはどの部分グラフが予測に寄与したのかを考える必要がある。
このため、GNNの説明可能性は、構造そのものを説明対象とする点で特徴的である。
山崎康との関係[編集]
山崎は機械学習について、単に高い精度を得ることだけでなく、そのモデルが何を学習しているのかを理解することにも関心を持つ。
学部研究で構造データを扱った経験から、グラフ上のどの構造が予測に寄与しているかを説明する問題にも興味を持つようになった。
大学院での研究テーマは今後具体化される予定であるが、GNNとXAIの組み合わせは継続的な関心領域の一つとなっている。
