こんにちは！シェルパ・アンド・カンパニー株式会社のAI事業部でソフトウェアエンジニアをしている楢木悠士です。 機械学習のトップカンファレンスであるICLR 2026に現地参加し、論文発表してきました。この記事では、現地参加の感想と、私の論文発表、それから現地で見たポスター発表を以下の3つの軸で整理し、紹介します。
- LLMのモデル編集：学習済みモデルの振る舞いを書き換える
- VLMの細部認識：表、UI、小さな文字を読む
- AI Agentの評価：根拠、引用、リスクを追跡する
この記事は、LLM、VLM、AI Agentの研究者や実務応用に関心のあるソフトウェアエンジニアを主な読者として想定しています。
全体として感じたのは、研究の関心が「より賢いモデルを作る」ことだけでなく、「構築したモデルを壊さずに直す」「画像や画面の細部を読ませる」「Agentの判断根拠を追えるようにする」といった、実運用に近い問いへ広がっていることです。これは、実際にモデルを作り、実務応用を考える立場から見ても重要な流れです。
現地参加の感想
研究の紹介に入る前に簡単に現地参加の感想を書いておきます。
ICLR 2026はブラジルで開催されました。ブラジルは黄熱のワクチン接種が推奨されている地域でもあるため、念のため接種してから参加しました。移動手段はタクシーとICLR公式シャトルバスを利用し、特に危ない場面に遭遇することはなく過ごすことができました。 現地では、サンバ、コーヒー、シュラスコなど、ブラジルの文化や食事を楽しみつつ、世界中から集まった研究者と交流することができました。公式が用意するスマートフォンアプリを通じて参加者同士も交流ができましたし、非公式の交流イベントも多く開催されており、参加者同士のネットワーキングが活発に行われていました。現地参加の醍醐味は、研究という共通のバックグラウンドを持ちつつ、各国の文化や生活についても話せることだと思います。対面では会ったことのなかった共著者の方と初めて会うことができたのも嬉しかったです。 また、聴講の下調べはAIを使うことで以前よりも格段に楽になりました。ICLRの論文は全てOpenReview上で閲覧可能なので、AIに下調べさせた上でポスター発表を聞きに行くというサイクルを毎日行っていました。また、ポスター発表は近くの発表は似たテーマであることが多いので、マークしていなかったけれども面白そうな論文にも出会うことができました。現地参加の価値は、こうした偶発的な出会いにもあると思います。
論文発表の感想
現地で見たポスター発表の紹介の前に、私の論文発表について紹介します。こちらは弊社Cierpaに所属する前に携わっていた研究で、私は独立研究者として論文に名前が載っています。
DisTaC: Conditioning Task Vectors via Distillation for Robust Model Merging
Yoshida et al., ICLR 2026 Poster. OpenReview (accessed 2026-06-03)
この研究では、複数のモデルが持つ能力を一つのモデルに統合するModel Merge手法について、その頑健性の分析と改善に取り組みました。Model Mergeは、学習データを集約せずに低コストで複数の能力を組み合わせたモデルを作成できる点から、実用化への期待が高まっています。一方で、多くの既存研究ではMerge対象のモデル（Source Modelと呼びます）が同一の条件下で学習されることを前提としており、実際の開発現場で起こりうる条件での性能検証は十分にされてませんでした。 我々は、現実的な条件下でModel Mergeの性能が大幅に低下する主な要因を2つ特定しました。1つはSource ModelのTask Vectorのノルムのばらつきが大きい場合、もう1つはSource Modelの予測確信度が低い場合です。我々はこれらの課題に対してDisTaCという手法を提案しています。DisTaCはSource Modelに対して少量のラベルなしデータで蒸留を行い、ノルムのばらつきが小さく、且つ予測確信度を高くしてからMergeを行う手法です。これにより、Merge時の性能低下を抑制し、より頑健なModel Mergeを実現できます。 発表は初日最初のポスターセッションでしたが、2時間半のセッションで25名ほどの方にお越しいただき、非常に楽しく議論することができました。聴講に来てくださった皆さまに、心より感謝申し上げます。
研究紹介
1. LLMのモデル編集：学習済みモデルの振る舞いを書き換える
LLMの開発には、優秀な研究者や技術者と豊富な計算資源が必要です。そのため、参入できる主体は限られます。ICLRでは、より取り組みやすい方向として、学習済みのLLMを基に、その振る舞いを目的に応じて変える研究が多く見られました。プロンプトを工夫したり、Instruction Tuningをしたり、Adapterを足したり、モデルをMergeしたりと、特定の挙動を効率的に編集するさまざまな手法が既存研究で提案されています。しかし、その再現性の低さが実運用において課題となっています。今年のICLRでは、モデルのどこに介入すれば、目的の振る舞いだけを変えられるのかに着目した研究が見られました。
GenCtrl - A Formal Controllability Toolkit for Generative Models
Cheng et al., ICLR 2026 Poster. OpenReview (accessed 2026-06-03)
この論文は、テキストや画像の生成モデルとユーザの対話プロセスに制御理論を導入し、モデルの制御可能性の理論的理解を試みたものです。生成モデルを「制御できる」とはどういうことかを、形式的に定義しようとする論文です。 普段、私たちはプロンプトや条件付き生成を使って、モデルの出力をある方向に寄せようとします。しかし、それが本当に制御できているのか、どの条件なら制御できるのかは、意外と曖昧です。 この論文は、その曖昧さを整理するための道具立てを提案していると捉えられます。モデルを事業で使うとき、「だいたい動く」では足りません。特定の条件ではこう振る舞ってほしい、逆にこういう出力は避けてほしい、という要求が出ます。そうした場面で、制御可能性を考えるための基礎になる研究だと思いました。 彼らの実験では、モデルの制御手法はプロンプトベースの入力に限定されており、Activation Steeringなどの他の制御手法での検証は行われていませんが、生成モデルの制御可能性を考えるための道具立てとして古典的制御理論を導入している点が重要だと思います。
Reforming the Mechanism: Editing Reasoning Patterns in LLMs with Circuit Reshaping
Lei et al., ICLR 2026 Poster, OpenReview (accessed 2026-06-03)
この論文は、LLMにおける推論パターンの編集手法を提案しています。 モデル編集はGenerality-Locality Trade-offの問題に直面します。特定の推論パターンを編集したいとき、そのパターンに対応する回路を見つけて編集すれば、他のパターンには影響を与えずに済むかもしれません。しかし、モデルの推論パターンPに対応する回路が、別の推論パターンQの回路と重なっていると、Pを編集するとQも変わってしまう可能性があります。ここでPに対する編集効果を大きくするとQに対する副作用が出てしまい(Generality)、他の推論パターンに影響を与えないようにするとPに対する編集効果が小さくなってしまう(Locality)というトレードオフが生じます。 提案手法では、回路のオーバーラップを事前に減らしてから編集を行うことで、推論パターンにおけるGenerality-Locality Trade-offを改善しようとしています。 モデルの出力だけを直すのではなく、なぜそのような推論をするのかという内部の仕組みに踏み込もうとしている点が面白いと感じました。
RAIN-Merging: A Gradient-Free Method to Enhance Instruction Following in Large Reasoning Models with Preserved Thinking Format
Huang et al., ICLR 2026 Oral, OpenReview (accessed 2026-06-03)
この論文は、Model Mergeの中でも、Large Reasoning Model (LRM)とInstruction-tuned Model (ITM)のMergeに焦点を置き、指示に従うLRMを追加学習なしで実現する方法を提案しています。手法の筋の良さと幅広い実験による効果検証が評価され、Oralに選ばれています。 彼らの分析では、LRMのTask VectorとITMのTask Vectorは直交しており、MergeしてもTask Vector間の干渉が小さく、問題なさそうに見えます。しかし彼らは、LRMとITMでは出力形式が異なる点、特にLRMの<think>トークンを含む出力フォーマットとITMの出力フォーマットの違いが問題になることを指摘しました。そこで提案手法のRAIN-Mergingでは、ITM由来の指示追従能力を取り込みつつ、LRMの推論過程のフォーマットを壊さないように、<think>トークン間の出力生成に対してITMのTask Vectorの影響を抑える形でマージを行います。 この点が本論文の面白いところだと感じました。Task Vectorを用いるModel Mergeでは、ベクトル同士の直交性に注目して干渉の有無を議論することが多いですが、この論文はそれだけでは捉えにくい「出力構造の違い」による干渉に注目しています。その分析に基づいて、ITMの能力を取り込みながらLRMの推論形式を保つようにマージ方法を設計している点が、自然で説得力のあるアプローチだと思いました。
2. VLMの細部認識：表、UI、小さな文字を読む
VLM関連では、画像の細かい領域を正確に認識するための研究が多かった印象です。 かつてVLMは画像キャプション生成タスクなどの画像全体の理解ができることに注目されていましたが、現在はVLMが様々なタスクに応用され、実務で使える視覚理解が求められてきています。実務では、表のセルを読む、UIの部品を見分ける、小さな数字やラベルを拾うといった能力が必要になります。VLMをプロダクトに入れるなら、この「構造と細部を読む力」が重要になります。
TABLET: A large-scale dataset for robust visual table understanding
Alonso et al., ICLR 2026 Poster. OpenReview (accessed 2026-06-03)
表の構造的情報だけでなく視覚的情報を含んだ大規模なデータセットを提案した論文です。 表データは、MarkdownやCSVのような構造化された形式で軽量に扱われることが多いですが、構造化形式に変換すると、実際の描画に含まれる情報が欠落してしまう場合があります。たとえば、セルの結合、見出しの位置、注釈、レイアウトの崩れなどは、構造化されたデータでは表現できないことがあります。実際の業務文書や画面では、こうした視覚的な情報が重要になることが多いです。 提案のデータセットは、Wikipediaで描画される本来の表の状態を保持しており、これは視覚的な多様性にもつながるため、VLMを実用に近づけるために必要なデータセットになると感じました。
Catching the details: self-distilled ROI predictors for fine-grained MLLM perception
Shi et al., ICLR 2026 Poster. OpenReview (accessed 2026-06-03)
この研究は、画像の中でどこを細かく見るべきかを扱う研究です。 VLMに入力される画像は解像度が低くなりがちで、画像全体をざっくり理解できても、細部を見落とすことがあります。たとえば、書類の小さな数字、UIの一部、図のラベル、表の特定セルなどです。実務では、こうした細部の見落としが文書理解の大きなボトルネックになります。 この論文は、Region of Interest (ROI)、つまり注目すべき領域を予測することで、Fine-grainedな認識を改善しようとしています。VLMを業務で使うなら、「画像全体を見た感じ」ではなく、「必要な場所を見に行ける」ことが重要です。 一方、提案手法では、1箇所のみをROIとして選ぶため、複数の細部を同時に見る必要がある場合には対応できない可能性があります。実務では、複数の細部を同時に見る必要があるケースも多いと思うので、その点は今後の課題になりそうです。
Visual symbolic mechanism: emergent symbol processing in vision language models
Assouel et al., ICLR 2026 Oral. OpenReview (accessed 2026-06-03)
この論文は、VLMが画像内の「どの特徴がどの物体に属するか」をどう結びつけているのかを調べた論文です。Oralに選ばれています。 例えば、ある画像の左上に「赤い四角」、右下に「青い丸」があるとき、四角は赤く左上に、丸は青く右下にあるという対応づけをする必要があります。 この論文の主張は、物体ごとに呼び名をつけるように、VLMは物体の位置を元にPosition IDを作り、それを使って特徴を取り出している、というものです。この仕組みは単純な図形だけでなく、自然画像にもある程度一般化するとされており、Position IDに介入することでモデルの応答を操作できたと報告されています。論文では、Position IDと対応付けのエラーの関係を調べており、やはり複数物体が似た色や形を共有する場合はPosition IDの表現が弱くなり、モデル性能が低下することが示されています。 モデルへの介入には様々な手法が提案されていますが、内部表現の中でも物体を捉える位置に関する表現に着目している点が面白いと感じました。また、Position IDの観点からの分析が、VLM の物体対応付け能力の改善に役立つ可能性があることも興味深いです。
3. AI Agentの評価：根拠、引用、リスクを追跡する
最後はAgentです。ワークフローを明確に定義しづらい、状況に応じた判断が必要なタスクにAgentは適していると考えられています。今年のICLRでは、そのような複雑さを持つタスクへの効果を検証した研究が非常に多く見られました。 Agentの処理の中には曖昧な判断が含まれるため、「答えが合っているか」だけの品質評価では不十分だと感じています。特に研究や金融などの領域では、どの情報を見たのか、どの証拠に基づいたのか、失敗したときにどこが原因なのか、リスクの高い行動をどう止めるのかが重要になります。
BED-LLM: Intelligent Information Gathering with LLMs and Bayesian Experimental Design
Choudhury et al., ICLR 2026 Poster. OpenReview (accessed 2026-06-03)
LLMに「次に何を聞くべきか」を情報理論的に選ばせる方法の論文です。LLMと対話する時、ユーザはどのような情報をLLMに与えれば良いかあまりわかっていないことがあります。この論文ではLLMがユーザや環境からどう情報を集めるべきかという問題に取り組んでいます。必要な情報を効率よく集め、判断に効く証拠を選ぶことは、Agentの動作の正確性や安定性に直結する重要な問題です。 提案手法は、LLMの予測分布を元に、「この質問をしたら、どれだけ情報が増えるか」を推定し、次にする質問を選択します。 Agentの情報収集をより計画的にする方向の研究として、ベイズにおけるInformation Gainを導入している点で面白いです。
DeepTrace: auditing deep research AI systems for tracking liability across citations and evidence
Venkit et al., ICLR 2026 Poster. OpenReview (accessed 2026-06-03)
Deep Researchシステムの証拠や引用を追跡し、責任の所在を監査するための研究です。 Research Agentは、複数の情報源を読み、要約し、結論を出します。しかし、最終的な文章だけを見ると、どの主張がどの証拠に基づいているのか分かりにくくなります。引用が間違っていたり、証拠と主張がずれていたりすると、利用者は誤った判断をしてしまいます。 この論文は、Agentの出力を信頼するには、答えだけでなく根拠を追跡できる必要があることを示しています。業務でAgentを使うなら、これはかなり重要な観点です。特に、調査、法務、金融、医療、セキュリティのような領域では、なぜその結論に至ったのかを追える必要があります。 この論文では、信頼性の評価フレームワークを提案しており、既存のResearch Agentの評価もしています。Web SearchモードよりもDeep Researchモードの方が過信は減るものの、賛否のどちらかしか含まれなかったり、根拠のないことを述べていることが多いシステムもあるようです。
Evaluating Frontier Agents on End-to-End Investment Banking Workflows
Lau et al., ICLR 2026 Workshop DATA-FM. OpenReview (accessed 2026-06-03)
この論文では、投資銀行のジュニアバンカーの業務をどこまでEnd-to-Endに遂行できるかを測るベンチマークを作成しています。 文書資料やマーケットデータを参照し、ExcelやPowerPoint形式のレポートを作成するような、実務に近い長いワークフローを評価対象にしています。また、複雑なファイル成果物を自動採点するVerifierも作成しています。Verifierとバンカーの採点との一致率は高く、人間同士の一致率と同程度と報告されています。 様々なモデルをこのベンチマークで評価していますが、最良モデルのGPT-5.4でもクライアントや上司に出せる品質とは評価されなかったようです。 投資銀行における複雑な業務を定義し、評価観点も細かく設定している点で、非常に有意義なベンチマークだと感じました。ベンチマークもVerifierも公開されているので、今後のAgentの評価に役立つと思います。
まとめ
今回紹介した9本の論文をはじめ、ICLR 2026では、モデルの性能が劇的に向上し幅広い用途で使われるようになったことにより、あらゆる応用領域で様々な問題が出てきていると感じました。モデルの論理推論やInstruction Followingなどの基礎能力から、細部の視覚理解、Agentの根拠とリスクの追跡など、実運用に近いテーマまで、幅広い研究が行われていました。 自然言語で AIに指示できるようになり、汎用的な能力も一部のタスクでは人間に迫るレベルまで向上したことで、モデルを活用できる場面は大きく広がりました。特にAgentの研究は、解くべきResearch Questionが多く、世界中の研究者が様々なアプローチで取り組んでいる印象でした。 その中でResearch Questionを定義し、幅広いモデルで検証し、理論的な裏付けを与えている論文は採択されているように思いました。こうした基本を丁寧に押さえた研究は、実際のプロダクトや業務でモデルを使うときの設計や運用に役立つ知見をもたらしていく意義のあるものだと思います。
おわりに
この記事では、ICLR 2026で私が気になった論文を、LLMのモデル編集、VLMの細部認識、AI Agentの評価、という3つの観点で紹介しました。 私の興味に近いものを選んでいるため網羅的な紹介ではありませんが、実際にモデルを作り、プロダクトや業務への応用可能性を考える立場から見ると、どれも重要なテーマです。今後は、モデルの性能だけでなく、そのモデルをどう扱い、どう信頼し、どう責任を持って運用するかが、ますます大きな研究開発テーマになると思います。 また、現地参加の価値は、人や研究どちらに対しても偶発的な出会いがあることだと感じました。AIの研究は、様々なバックグラウンドを持つ人が、様々なテーマで、様々なアプローチで取り組んでいます。そうした多様な人や研究に偶然出会えることは、現地参加の大きな価値だと思います。
シェルパ・アンド・カンパニー株式会社では、ソフトウェアエンジニアおよびエンジニアリングインターンを募集しています。現在弊社ではNLP領域に加え、今回ご紹介したような文書解析やVLM技術にも注力しています。興味ある方の応募をお待ちしております。
