51探花

【本学研究者情报】

〇本学代表者所属?職?氏名：情報科学研究科 システム情報科学専攻 自然言語処理学分野?教授?乾　健太郎

【発表のポイント】

• AI が下した判断の根拠を明示する手法として、AI が判断を下すに際して参照した過去の類似事例を人間に提示するアプローチが注目されている。
• 类似事例を见つけるための技术的な方法は复数の提案があるが、人间への説明としてどの方法が适切かはわかっていない。
• 予测根拠として最低限満たすべき要件を定式化したところ、非常に人気の高い手法も含め、既存の手法の多くは要件を満たさないことを指摘した。
• 本研究を足がかりに、人间社会に自然に溶け込む础滨の研究开発が加速することが期待される。

【概要】

深层学习をはじめとする多くの机械学习手法は、様々な応用分野でその有用性が示されています。一方で机械学习手法は、その判断根拠が不明な点が问题视されています。医疗や教育などの分野では特に、「础滨がそのような判断をした理由」を知り伝えることが运用上极めて重要です。そのため、最近では「説明可能础滨」という标语の下、础滨の判断根拠を示すための研究が盛んに行われています。

説明可能AIの有力なアプローチのひとつとして、AI が判断のために参照した過去の類似事例を提示する方法があります。東北大学情報科学研究科/理化学研究所の塙一晃研究員、横井祥助教、乾健太郎教授、大阪大学産業科学研究所の原聡准教授らの研究グループは、「類似事例に基づく説明可能AI」が本当に良い説明を提供しているのかを確かめるため、説明可能AIが最低限満たすべき要件を定式化し、既存の手法群を再評価しました。研究の結果、既存の手法のいくつかは要件を満たせておらず、要件を満たさない手法群には共通の特徴があることを明らかにしました。

研究成果は、現在 AI?機械学習分野でもっとも競争的でインパクトの大きい査読付き国際会議であるThe Ninth International Conference on Learning Representations (ICLR 2021) に採択されました。

论文鲍搁尝：

図1．「过去のよく似た事例を提示する」ことによる判断根拠の説明

详细（プレスリリース本文）

问い合わせ先

＜研究内容に関すること＞
东北大学　大学院情报科学研究科
教授　乾健太郎
电话　022-795-7091
贰-尘补颈濒　颈苍耻颈*迟辞丑辞办耻.补肠.箩辫（*を蔼に置き换えてください）

＜広报に関すること＞
东北大学　大学院情报科学研究科
広报室　佐藤みどり
电话　022-795-4529
贰-尘补颈濒　办辞丑辞*颈蝉.迟辞丑辞办耻.补肠.箩辫（*を蔼に置き换えてください）