Research ▸ Publication

💡 See here for past publication record before 4/1/2022.

International conferences/workshops

1. Huu-Tien Dang, Tin Pham, Hoang Thanh-Tung, and Naoya Inoue. On Effects of Steering Latent Representation for Large Language Model Unlearning. To appear in Proceedings of the 39th AAAI Conference on Artificial Intelligence (AAAI), February 2025.
2. Hakaze Cho, Yoshihiro Sakai, Kenshiro Tanaka, Mariko Kato and Naoya Inoue. Understanding Token Probability Encoding in Output Embeddings. To appear in Proceedings of the 31st International Conference on Computational Linguistics (COLING), January 2025.
3. Trong Khang Mai, Razvan Beuran and Naoya Inoue. CyLLM-DAP: Cybersecurity Domain-Adaptive Pre-training Framework of Large Language Models. To appear in Proceedings of the International Conference on Information Systems Security and Privacy (ICISSP), February 2025.
4. Jinghong Li, Naoya Inoue and Shinobu Hasegawa. A Viewpoints Embedded Diff-table System For Cross-sectional Insight Survey In a Research Task. In Proceedings of the 38th Pacific Asia Conference on Language, Information and Computation (PACLIC38), December 2024.
5. Irfan Robbani, Paul Reisert, Surawat Pothong, Naoya Inoue, Camélia Guerraoui, Wenzhi Wang, Shoichi Naito, Jungmin Choi, Kentaro Inui. Flee the Flaw: Annotating the Underlying Logic of Fallacious Arguments Through Templates and Slot-filling. In Proceedings of the 2024 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 20524–20540, November 2024.
6. Shoichi Naito, Wenzhi Wang, Paul Reisert, Naoya Inoue, Camélia Guerraoui, Kenshi Yamaguchi, Jungmin Choi, Irfan Robbani, Surawat Pothong, Kentaro Inui. Designing Logic Pattern Templates for Counter-Argument Logical Structure Analysis. In Findings of the 2024 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 11313–11331, November 2024.
7. Ai Ishii, Naoya Inoue, Hisami Suzuki and Satoshi Sekine. Analysis of LLM’s “Spurious” Correct Answers Using Evidence Information of Multi-hop QA Datasets. In Proceedings of the First Workshop on Knowledge Graphs and Large Language Models (KALLM), pp. 24–34, August 2024.
8. Yuting Shi, Naoya Inoue, Houjing Wei, Yufeng Zhao and Tao JIN. Find-the-Common: A Benchmark for Explaining Visual Patterns from Images. In Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC-COLING2024), pp. 7307-7313, May 2024.
9. Ai Ishii, Naoya Inoue, Hisami Suzuki and Satoshi Sekine. JEMHopQA: Dataset for Japanese Explainable Multi-Hop Question Answering. In Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC-COLING2024), pp. 9515-9525, May 2024.
10. Daichi Haraguchi, Kiyoaki Shirai, Naoya Inoue and Natthawut Kertkeidkachorn. Discovering Highly Influential Shortcut Reasoning: An Automated Template-Free Approach. In Findings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP2023), pp. 6401-6407, December 2023. paper
11. Camélia Guerraoui, Paul Reisert, Naoya Inoue, Farjana Sultana Mim, Shoichi Naito, Jungmin Choi, Irfan Robbani, Wenzhi Wang and Kentaro Inui. Teach Me How to Argue: A Survey on NLP Feedback Systems in Argumentation. In Proceedings of the 10th Workshop on Argumentation Mining (ArgMining2023), pp. 19-34, December 2023. paper
12. Hoai Linh Luu and Naoya Inoue. Counterfactual Adversarial Training for Improving Robustness of Pre-trained Language Models. In Proceedings of Pacific Asia Conference on Language, Information and Computation (PACLIC37), pp. 881-888, December 2023. paper
13. Vasudha Varadarajan, Nikita Soni, Weixi Wang, Christian Luhmann, H. Andrew Schwartz and Naoya Inoue. Detecting Dissonant Stance in Social Media: The Role of Topic Exposure. In Proceedings of the Fifth Workshop on Natural Language Processing and Computational Social Science (NLP+CSS), pp.151-156, November 2022. paper
14. Keshav Singh, Naoya Inoue, Farjana Sultana Mim, Shoichi Naito and Kentaro Inui. IRAC: A Domain-specific Annotated Corpus of Implicit Reasoning in Arguments. In Proceedings of the 13th Language Resources and Evaluation Conference (LREC2022), pp. 4674-4683, June 2022. paper
15. Farjana Sultana Mim, Naoya Inoue, Shoichi Naito, Keshav Singh and Kentaro Inui. LPAttack: A Feasible Annotation Scheme for Capturing Logic Pattern of Attacks in Arguments. In Proceedings of the 13th Language Resources and Evaluation Conference (LREC2022), pp. 2446-2459, June 2022. paper
16. Shoichi Naito, Shintaro Sawada, Chihiro Nakagawa, Naoya Inoue, Kenshi Yamaguchi, Iori Shimizu, Farjana Sultana Mim, Keshav Singh and Kentaro Inui. TYPIC: A Corpus of Template-Based Diagnostic Comments on Argumentation. In Proceedings of the 13th Language Resources and Evaluation Conference (LREC2022), pp. 5916-5928, June 2022. paper
17. Naoya Inoue, Charuta Pethe, Allen Kim and Steve Skiena. Learning and Evaluating Character Representations in Novels. In Findings of the Association for Computational Linguistics: ACL2022, May 2022. paper

Awards

1. JSAI Annual Conference Award 2024/人工知能学会全国大会優秀賞2024 (2024/11/1)
• 尾崎大晟, 中川智皓, 内藤昭一, 井之上直也, 山口健史, 天野祥太朗
• LLMによる前提生成ステップを用いた反論の攻撃力向上手法
2. 情報処理学会 第260回 自然言語処理研究会 若手奨励賞 (2024/6/29)
• 趙羽風, 坂井吉弘.
• In-Context Learningにおけるトークンベース較正手法の用いる決定境界は最適でない
3. 言語処理学会 第30回年次大会 優秀賞 (2024/3/14)
• 井之上直也, 原口大地, 田中健史朗, 白井清昭, Natthawut Kertkeidkachorn
• 自己認知は LM as KB の信頼性を高めるか
4. 言語処理学会 第30回年次大会 委員特別賞 (2024/3/14)
• 関根聡, 安藤まや, 後藤美知子, 鈴木久美, 河原大輔, 井之上直也, 乾健太郎
• ichikara-instruction: LLMのための日本語インストラクションデータの作成
5. 言語処理学会 第30回年次大会 スポンサー賞 (SB Intuitions 株式会社) (2024/3/14)
• 坂井吉弘, 趙羽風, 井之上直也
• In-context Learning においてLLMはフォーマットを学べるか
6. JSAI Annual Conference Award 2023/人工知能学会全国大会優秀賞2023 (2023/11/1)
• 尾崎大晟, 中川智皓, 内藤昭一, 井之上直也, 山口健史
• 大規模言語モデルが生成した反論文の品質評価

Review Articles

1. 乾 健太郎, 石井 雄隆, 松林 優一郞, 井之上 直也, 内藤 昭一, 磯部 順子, 舟山 弘晃, 菊地 正弥. 自然言語処理×教育における説明能力 -説明できるライティング評価技術への新しい展開-. 2023 年 16 巻 4 号 p. 289-300. 電子情報通信学会 基礎・境界ソサイエティ Fundamentals Review, 2023. paper

Domestic conferences

1. 尾崎大晟, 市野敬介, 松田拓, 久保健治, 内藤昭一, 山口健史, 天野祥太郎, 井之上直也, 中川智皓, 新谷篤彦. LLM as a Debate Judge: 学習者ディベーターへの自動フィードバック生成. To appear in 言語処理学会第31回年次大会論文集, 4 pages, March 2025.
2. 趙 羽風, 加藤 万理子, 坂井 吉弘, 井之上 直也. 大規模言語モデルにおけるIn-context Learningの推論回路. To appear in 言語処理学会第31回年次大会論文集, 4 pages, March 2025.
3. Wenzhi Wang, Paul Reisert, Shoichi Naito, Naoya Inoue, Machi Shimmei, Surawat Pothong, Jungmin Choi and Kentaro Inui. Investigating Implicit Reasoning in Counter-Argument Logical Structure Analysis. To appear in 言語処理学会第31回年次大会論文集, 4 pages, March 2025.
4. 井之上直也, 安藤まや, 後藤美智子, 関根聡, 中山功太, 宮尾祐介. 日本語を対象としたLLMの大規模人手評価. To appear in 言語処理学会第31回年次大会論文集, 4 pages, March 2025.
5. 趙 羽風, 井之上 直也. Beyond the Induction Circuit: A Mechanistic Prototype for Out-of-domain In-context Learning. To appear in 言語処理学会第31回年次大会論文集, 4 pages, March 2025.
6. 手塚陽大, 井之上直也. 多言語モデルには言語非依存の処理系統が存在するか. To appear in 言語処理学会第31回年次大会論文集, 4 pages, March 2025.
7. 加藤 万理子, 趙 羽風, 坂井 吉弘, 井之上 直也. 文脈内学習におけるデモの親和性と多様性の提案. To appear in 言語処理学会第31回年次大会論文集, 4 pages, March 2025.
8. 石井愛, 井之上直也, 鈴木久美, 関根聡. 構造化知識 RAG・文書ベース RAG を段階的に利用したマルチホップ QA に対する LLM の精度向上. To appear in 言語処理学会第31回年次大会論文集, 4 pages, March 2025.
9. 前田晃弘, 鳥居拓馬, 日髙昇平, 井之上直也, 大関洋平. 部分空間の擬似直交性によるTransformer言語モデルの内部表現の解釈. To appear in 言語処理学会第31回年次大会論文集, 4 pages, March 2025.
10. Surawat Pothong, Paul Reisert, Naoya Inoue, Machi Shimmei, Wenzhi Wang, Shoichi Naito, Jungmin Choi and Kentaro Inui. Towards Formalizing Socratic Questions for Explainable Socratic Question Generation. To appear in 言語処理学会第31回年次大会論文集, 4 pages, March 2025.
11. Houjing Wei, Hakaze Cho, Yuting Shi and Naoya Inoue. A Study on Multi-modal Interaction in Vision Large Language Models. To appear in 言語処理学会第31回年次大会論文集, 4 pages, March 2025.
12. 加藤 万理子, 趙 羽風, 閻 真竺, 石 钰婷, 井之上 直也. 画像特徴ベクトルは重みを固定した言語モデルで情報豊かなトークンである. 第19回YANSシンポジウム, September 2024.
13. WEI Houjing, SHI Yuting, Cho Hakaze, YAN Zhenzhu, Naoya Inoue. Phase Diagram of Vision Large Language Models Inference: A Perspective from Interaction across Image and Instruction. 第19回YANSシンポジウム, September 2024.
14. 趙 羽風, 坂井 吉弘, 加藤 万理子, 井之上 直也. StaICC: 文脈内学習における分類タスクの標準的なベンチマーク. 第19回YANSシンポジウム, September 2024.
15. 趙 羽風, 坂井 吉弘, 加藤 万理子, 田中 健史朗, 石井 晶, 井之上 直也. In-Context Learningにおけるトークンベース較正手法の用いる決定境界は最適でない. 研究報告自然言語処理 (NL), Vol. 2024-NL-260, No. 14, 17 pages, June 2024.
16. Surawat Pothong, Paul Reisert, Naoya Inoue, Irfan Robbani, Camélia Guerraoui, Wenzhi Wang, Shoichi Naito, Jungmin Choi, and Kentaro Inui. Towards a Benchmark Dataset for Stress-testing Fallacy Detection Models. 研究報告自然言語処理 (NL), Vol. 2024-NL-260, No. 18, 6 pages, June 2024.
17. 天野祥太郎, 中川智皓, 内藤昭一, 井之上直也, 山口健史, 尾崎大晟, 新谷篤彦. 大規模言語モデルの生成反論文のテンプレート追従性. 人工知能学会全国大会 (第38回) 論文集, 4 pages, June 2024.
18. 尾崎大晟, 中川智皓, 内藤昭一, 井之上直也, 山口健史, 天野祥太郎, 新谷篤彦. LLM による前提生成ステップを用いた反論の攻撃力向上. 人工知能学会全国大会 (第38回) 論文集, 4 pages, June 2024. (全国大会優秀賞)
19. 趙羽風, 坂井吉弘, 井之上直也. NoisyICL: A Little Noise in Model Parameters Can Calibrate In-context Learning. 言語処理学会第30回年次大会論文集, 4 pages, March 2024.
20. Yuting Shi, Houjing Wei, Jin Tao, Yufeng Zhao, and Naoya Inoue. Find-the-Common: Benchmarking Inductive Reasoning Ability on Vision-Language Models. 言語処理学会第30回年次大会論文集, 4 pages, March 2024.
21. Bowen Gao, Shotaro Kitamura, and Naoya Inoue. Exploring the Challenges of Multi-Step Logical Reasoning with Language Models: A Few-Shot Approach to Explainable Entailment Trees. 言語処理学会第30回年次大会論文集, 4 pages, March 2024.
22. Irfan Robbani, Paul Reisert, Naoya Inoue, Surawat Pothong, Camélia Guerraoui, Wenzhi Wang, Shoichi Naito, Jungmin Choi, and Kentaro Inui. Templates for Fallacious Arguments Towards Deeper Logical Error Comprehension. 言語処理学会第30回年次大会論文集, 4 pages, March 2024.
23. 坂井吉弘, 趙羽風, 井之上直也. In-context Learning においてLLMはフォーマットを学べるか. 言語処理学会第30回年次大会論文集, 4 pages, March 2024. (スポンサー賞)
24. 井之上直也, 原口大地, 田中健史朗, 白井清昭, Natthawut Kertkeidkachorn. 自己認知は LM as KB の信頼性を高めるか. 言語処理学会第30回年次大会論文集, 4 pages, March 2024. (優秀賞)
25. Wenzhi Wang, Shoichi Naito, Paul Reisert, Naoya Inoue, Camélia Guerraoui, Jungmin Choi, Irfan Robbani, and Kentaro Inui. Exploring Task Decomposition for Assisting Large Language Models in Counter-argument Logical Structure Analysis. 言語処理学会第30回年次大会論文集, 4 pages, March 2024.
26. Camélia Guerraoui, Paul Reisert, Naoya Inoue, Wenzhi Wang, Shoichi Naito, Jungmin Choi, Irfan Robbani, and Kentaro Inui. ArgVantage: the New Pedagogical System to Learn Argumentation. 言語処理学会第30回年次大会論文集, 4 pages, March 2024.
27. 内藤昭一, 王文質, Paul Reisert, 井之上直也, Camélia Guerraoui, 山口健史, Jungmin Choi, Irfan Robbani, 乾健太郎. 反論の論理パターン解析: データセット構築と実現性検証. 言語処理学会第30回年次大会論文集, 4 pages, March 2024.
28. 石井愛, 井之上直也, 鈴木久美, 関根聡. JEMHopQA:日本語マルチホップQAデータセットの改良. 言語処理学会第30回年次大会論文集, 4 pages, March 2024.
29. 石井愛, 井之上直也, 鈴木久美, 関根聡. マルチホップQAの根拠情報を用いたLLMの``偽''正解の分析. 言語処理学会第30回年次大会論文集, 4 pages, March 2024.
30. 関根聡, 安藤まや, 後藤美知子, 鈴木久美, 河原大輔, 井之上直也, 乾健太郎. ichikara-instruction: LLMのための日本語インストラクションデータの作成. 言語処理学会第30回年次大会論文集, 4 pages, March 2024. (委員特別賞)
31. 尾崎大晟, 中川智皓, 井之上直也, 内藤昭一, 山口健史, 天野祥太朗, 新谷篤彦. 大規模言語モデルを用いた有効反論箇所としての前提生成. 言語処理学会第30回年次大会論文集, 4 pages, March 2024.
32. 前田雄之介, 岡田将吾, 井之上 直也. 就職面接訓練においてPREP話法が面接評価に与える影響の分析. 第100回 言語・音声理解と対話処理研究会（SLUD）, 6 pages, February 2024.
33. 田中 健史朗, 戸次 大介, 井之上 直也. 論理的に同値なデータ拡張による言語モデルの頑健性向上. 研究報告自然言語処理 (NL), Vol. 2024-NL-259, No. 22, 7 pages, March 2024.
34. 尾崎大晟, 中川智皓, 内藤昭一, 井之上直也, 山口健史. 大規模言語モデルが生成した反論文の品質評価. 人工知能学会全国大会 (第37回) 論文集, 4 pages, June 2023. paper. (全国大会優秀賞)
35. 前田雄之介, 井之上直也, 岡田将吾. 就職面接における発話内容のPREPアノテーション分析. 人工知能学会全国大会 (第37回) 論文集, 4 pages, June 2023. paper
36. 原口大地, 白井清昭, 井之上直也. 一般性を考慮した言語処理モデルのShortcut Reasoningの自動検出. 言語処理学会第29回年次大会論文集, 4 pages, March 2023. paper
37. 石井愛, 井之上直也, 関根聡. 根拠を説明可能な質問応答システムのための日本語マルチホップQAデータセット構築. 言語処理学会第29回年次大会論文集, 4 pages, March 2023. paper github
38. 大内啓樹, 進藤裕之, 若宮翔子, 松田裕貴, 井之上直也, 東山翔平, 中村哲, 渡辺太郎. 地球の歩き方旅行記データセット. 言語処理学会第29回年次大会論文集, 4 pages, March 2023.
39. Camélia Guerraoui, Paul Reisert, Keshav Singh, Farjana Sultana Mim, Naoya Inoue, Shoichi Naito, Wenzhi Wang, Kentaro Inui. Explain to Me What Is Wrong With My Arguments: A Survey about Explanations in Argumentation. 言語処理学会第29回年次大会論文集, 4 pages, March 2023. paper
40. Keshav Singh, Naoya Inoue, Paul Reisert, Farjana Sultana Mim, Shoichi Naito, Camélia Guerraoui, Wenzhi Wang, Kentaro Inui. Improving Evidence Detection with Domain-specific Implicit Reasonings. 言語処理学会第29回年次大会論文集, 4 pages, March 2023. paper
41. Wenzhi Wang, Paul Reisert, Naoya Inoue, Shoichi Naito, Camélia Guerraoui, Keshav Singh, Kentaro Inui. Towards Creating Analytic Dimensions for Evaluating the Quality of Debate Counter-Arguments. 言語処理学会第29回年次大会論文集, 4 pages, March 2023. paper
42. Keshav Singh, Naoya Inoue, Farjana Sultana Mim, Shoichi Naito and Kentaro Inui. Towards Explicating Implicit Reasoning in Arguments. NLP若手の会 第17回シンポジウム, August 2022.
43. 王文質, Farjana Sultana Mim, 内藤昭一, Keshav Singh, 井之上直也, 乾健太郎. 論述文の深い論理構造の自動解析に向けて. NLP若手の会 第17回シンポジウム, August 2022.
44. 原口大地, 白井清昭, 井之上直也. 論理的根拠に基づく頑健な機械読解に向けて. NLP若手の会 第17回シンポジウム, August 2022.

Invited Talks

1. Naoya Inoue. Panelist at LLMs and Linguistic Competence. LLMs and Philosophy. September 2024.
2. 井之上直也. 推論の上にも十五年. みちのく情報伝達学セミナー. March 2024.
3. 井之上直也. 大規模言語モデルは”考える”ことができるのか. JAIST産学官共創フォーラム 令和5年度 第3回定期講演会, January 2024. slides
4. Naoya Inoue. Towards Complex Reasoning with Large Language Models. JAIST Interpretable AI Center International Workshop on Interpretable AI, September 2023.
5. 井之上直也. 説明生成NLPの最前線 〜Lang&Roboとの接点を添えて〜. 第11回 Language and Robotics研究会, January 2023.
6. 井之上直也. パネリスト at パネルディスカッション「構造化知識を使った言語処理応用」. 森羅2022最終報告会, January 2023.
7. 井之上直也. 説明可能で合理的な推論ができる自然言語処理へのいざない. 名古屋地区NLPセミナー, December 2022.
8. Naoya Inoue. Beyond Performance Benchmarking: Towards Explainable and Rationalized NLP Systems. Advanced AI Autumn School at Thai Binh Duong University, October 2022. slides
9. 井之上直也. 知識に根ざした機械読解に向けて. 森羅2022 キックオフミーティング, May 2022.
10. 井之上直也. Summarize-then-Answer: Generating Concise Explanations for Multi-hop Reading Comprehension 〜論文にまとめるまでの経緯を添えて〜. NLPコロキウム, May 2022.

Media

1. 井之上直也. 【Hokuriku Innovators】批判的思考力を備えた次世代人工知能の開発を目指して/コンピューティング科学研究領域 井之上直也 准教授. 2024/12 掲載. video
2. 井之上直也. JAIST変人ラジオ #09. 行間を読む、賢いアシスタント. 2024/08 掲載. webpage
3. 井之上直也. TohokuNLP MY DECISION. 2024/03 掲載. webpage
4. 井之上直也. JAIST 教員インタビュー（この人に聞く）, 2023/11 掲載. webpage
5. 井之上直也. 北陸放送 (MRO) Atta 特集「チャットGPT 期待と懸念は」, 2023/4/19 放送. webpage