知識を使って推論し
言葉の行間を読むマシンをつくる

井之上研究室　INOUE Laboratory
准教授：井之上 直也（INOUE Naoya）

E-mail：
［研究分野］
自然言語処理、自然言語理解、常識推論
［キーワード］
言語モデル、深層学習、人工知能、説明可能性、データサイエンス、推論、論述理解

研究を始めるのに必要な知識・能力

言葉を理解できる計算機を作りたいという熱い気持ちをもっていることが必須条件です。線形代数、確率統計、アルゴリズム、プログラミング、英語での文献調査、文章執筆スキルがあると望ましいですが、入学後でも学べます。

この研究で身につく能力

日々の研究室活動では、言葉を計算機処理するために、世界で誰も試したことのない新しいアイデアを仲間とともに磨き、これを計算機上に実装し、そのアイデアの有効性を検証していきます。面白い発見があれば、積極的に国内・国際学会に投稿し、外部の研究者とやり取りしながら、アイデアをさらに磨いていきます。こうした活動を通して、自然言語処理と周辺分野の専門知識はもちろんのこと、どこでも役立つ一生モノのスキルが身につきます。メタ思考力（常にナゼを問う意識）、仮説を立て、それを検証・整理し議論を組み立てる力、文献調査力、プログラミング力、データ分析力、といったものがその一例です。アイデアを磨く過程で、自分の考えを他者に分かりやすくプレゼンするためのコツ、チームワーク、文章執筆力も育っていきます。

【就職先企業・職種】 研究開発職、情報通信業

研究内容

人々が日常生活で用いる言葉を計算機で処理する方法論を研究しています(自然言語処理)。特に、推論能力、すなわち明示的に書かれていない内容を既存の知識から推測し行間を読む力を計算機に与える方法を研究しています。以下に、研究テーマの例を挙げます。

1. 自己認知ができる言語処理モデル

大規模言語モデル(LLM) に、訓練データから答えられない質問を投げかけたとき、LLMは自身の知識不足を認知できるでしょうか？
我々は、LLMに自己認知機構を組み込むことでLLMの高度化を図る研究を進めています。業績1では、LLMが無知を自覚した場合に熟考回路を発動させ、より高精度な質問応答の実現に成功しました。

図1: 自ら無知を自覚し熟考する質問応答モデル[1]

2. 画像に対する高度な推論ができる言語処理モデル

画像と言語を統合的に扱うことができるLLM (VLLM) は、画像に関する複雑な質問に解答できるでしょうか？我々は、VLLMに高度な推論能力を与える研究を進めています。業績2では、複数の画像間での共通パターンを特定することを課題とするデータセットを開発し、最先端のVLLMの性能を評価し、現状の課題を明らかにしました。

図2: 画像に対する帰納推論問題のデータセット[2]

3. 文脈内学習の研究

LLMは、入力プロンプトを通じて新たなタスクを学ぶ、いわゆる文脈内学習の能力があることが知られていますが、これは具体的にどのようなメカニズムで実現されているのでしょうか？これまでの研究では、LLMが入出力の形式を文脈内学習する際の振る舞いを多角的に検証しました。

4. 論述文の妥当性の検証と説明

ディベートや小論文などの論述的なテキストにおける論理的構造を解析し、その論理の妥当性を分析するとともに、学習者に対してその弱点や改善策を提案できる計算モデルの研究に取り組んでいます。業績3では、このようなモデルの性能を評価するためのデータセットを構築しました。
上記テーマのほか、行動計画の推論等、様々な研究分野において「推論」を徹底的に研究します。本研究室は、2022年度から始まった生まれたての研究室。ぜひ一緒に研究室を創り上げていきましょう！　博士後期課程に進学し、推論を深く追求したい人も大歓迎です。

主な研究業績

1. 井之上ら. 自己認知は LM as KB の信頼性を高めるか. 言語処理学会第30回年次大会論文集, 4 pages, 2024.
2. Shi et al. Find-the-Common: Benchmarking Inductive Reasoning Ability on Vision-Language Models. 言語処理学会第30回年次大会論文集, 4 pages, 2024.
3. Robbani et al. Templates for Fallacious Arguments Towards Deeper Logical Error Comprehension. 言語処理学会第30回年次大会論文集, 4 pages, 2024.

使用装置

超並列計算機 (CPU/GPUクラスタマシン)