学生の前田さんがNLP2025において優秀賞を受賞
学生の前田晃弘さん(博士後期課程3年、共創インテリジェンス研究領域、日髙研究室)が、一般社団法人言語処理学会第31回年次大会(NLP2025)において優秀賞を受賞しました。
言語処理学会は、言語処理及び計算言語学に関する学際的学問研究の促進をはかり、会員相互間及び内外の関連学協会との交流の場を提供し、この分野の学問及び産業の進歩発展に貢献することを目的として設立されました。
同学会年次大会優秀賞は、同大会において、論文の内容が優れていると認められた発表論文に与えられる賞です。
NLP2025は、令和7年3月10日~14日にかけて、長崎県の出島メッセ長崎にて開催され、765件の論文の中から、15件の論文が優秀賞(うち1件は最優秀賞)に選出されました。
※参考:NLP2025
■研究題目、論文タイトル等
部分空間の擬似直交性によるTransformer言語モデルの内部表現の解釈
■研究者、著者
前田晃弘、鳥居拓馬 (東京電機大学)、日髙昇平、井之上直也、大関洋平 (東京大学)
■受賞対象となった研究の内容
本論文は、直交性の定義を緩めた疑似直交という概念を導入し、アテンション層およびFFN出力層の部分空間の幾何的関係を分析したものです。FFN層が概念を表現するベクトル(コンセプトベクトル)を事前学習しており、FFN 層の出力がTransformer の内部状態の文脈化を担っている可能性を実験を通して示しました。
「理論と実例による両面での検証がなされており、有用な知見を多く含んでいるため、今後のTransformerの内部の解明・解釈に大いに役立つ」と評価いただきました。
■受賞にあたって一言
副テーマ研究として取り組んでいるプロジェクトの中間結果を報告した論文が、思いがけず受賞し、僥倖に恵まれました。学外指導をお願いしている東京大学の大関洋平准教授、学内副テーマ担当を引き受けていただいた井之上直也准教授、並びに所属研究室の日髙昇平准教授と東京電機大学の鳥居拓馬准教授(元本学助教)に共著していただき、改めて御礼を申し上げます。
令和7年4月8日