ICLR2025 参加レポート #4

自己紹介

皆様、こんにちは。Elithのエンジニアの管聡（かんそう）と申します。先日終了した4月に、私はElith株式会社の同僚たちとICLR2025に参加してまいりました。会議では、発表者の方々と知識の交換や最新情報の共有を行い、大変充実した経験となりました。貴重な機会でしたので、このブログを通じて私の個人的な見聞をご共有させていただきたいと思います。

なぜ基礎となるモデルについて語る必要があるのか？

ICLR（International Conference on Learning Representations）は、現在のディープラーニング分野で最も重要な国際会議の一つであり、Representation Learning、すなわち、機械が生のデータから意味のある特徴を自動的に抽出できるようにすることに焦点を当てている。
Representation Learningは、分類、予測、生成などのコアタスクを支える基盤技術として、近年特に注目を集めている。
ファウンデーションモデルは、現在の表現学習の代表的な成果である。ファウンデーションモデルは通常、自己教師あり学習法を用いて、ラベル付けされていない、あるいはラベル付けが弱い、膨大で多様なデータに対して学習され、最終的に高度に汎化された特徴表現を形成する。下流のタスクに広く移行することができる。
2025年4月、ICLR2025のイベントに参加するため、エリスのメンバーとしてシンガポールに行きました。現地での経験から、イベントへの熱気はかつてないもので、初日はパスを手に入れるために2時間の行列ができた。データから見ると、このカンファレンスには過去最高の約11,500件の応募があり、最終的な採択率は約32％だった。これは、AIに対する世界の研究者の継続的な関心を反映しているだけでなく、AIGC（Generative Artificial Intelligence）が技術と応用の両面でホットスポットになりつつあることを反映している。
論文の内容から見ると、今年のICLRはますます重要な傾向を示している：

基礎となるモデルは、産業界に大きな影響を与えるだけでなく、科学研究課題の設計ロジックを再構築している。

多くの研究が、「タスクに特化したモデルのトレーニング」から「強力なベースモデルの適合とフィッティング」へとシフトし始めている。こうした取り組みは単純なだけでなく、しばしば驚くほど効果的である。例えば、LoRA-Xは「ゼロコスト」の知識移転メカニズムを提案している：モデルAは、追加のトレーニングなしにモデルBの能力を継承することができる。この「ケイパビリティ・マイグレーション（能力移行）」という考え方は、モデルのトレーニングやデプロイメントに対するこれまでの理解を変えつつある。
そこで

本レポートでは、「ベースモデル」という切り口から現在の研究動向を俯瞰し、ICLR 2025の主な事例を踏まえながら、PM、SDE、研究者、さらには一般ユーザーとして何ができるかを議論する。

ビッグモデル開発の3つのタイプ：どの方法を選ぶべきか？

具体的な話に入る前に、ベースモデルの適用に具体的にどのように取り組むべきか、という実践的な問いに触れたい。
開発の難易度やリソース消費の観点から、現在のビッグモデル開発には大きく分けて3つの方法があると思う：

1. ベースモデルをゼロからトレーニングする
2. 1. GoogleやOpenAIなどの大手メーカーが行っているように、データの取得、前処理、モデルアーキテクチャの設計、分散学習、セキュリティ評価など、大規模モデルの構築の全プロセスを行うことです。この経路は、技術的障壁が極めて高く、リソースを大量に消費するため、ほとんどの組織やスタートアップチームには適していない。
2. 基本モデルAPIのみを使用する
3. 1. OpenAI API、Claude API、Bard、Ali Tongyiなどのプラットフォームが提供するインターフェースを呼び出してアプリケーションを構築する。開発の敷居が低く、高速なイテレーションが可能なため、多くのPM、エンジニア、スタートアップ企業にとって最初の選択肢となる。
3. オープンソースのベースモデルで軽いカスタマイズを行う
4. 1. LoRA、Adapter、PEFT、その他のテクノロジーを使って、既存のベースモデルを特定のビジネスに合うように微調整、最適化、カスタマイズする。これは、オープン性と制御性を維持しながらパフォーマンスを向上させる最も費用対効果の高い方法の1つである。

個人的には、3つ目のタイプのアプローチを好む。データ、構造、インタラクションの設計やその他の手段を通じて、オープンソースの基本モデルの能力を組み合わせ、独自の差別化された製品を作るのだ。こうすることで、リソースのコストをコントロールすることができ、垂直シナリオにおいて有利な障壁を形成する可能性が高くなる。

ベースモデルとは何か？

ベース・モデルとは、特定のモデルの代理ではなく、あるクラスのモデルの総称である。それらに共通するのは

• 十分に大規模：パラメータサイズは通常数十億を超え、中には数千億以上に達するものもある；
• 広いデータカバレッジ：学習データは言語、画像、音声、表など複数のモダリティにまたがる；
• 強力なタスク汎化能力：モデルは、単一の用途に限定されることなく、複数のタスクを実行できる；
• 高度な学習方法：そのほとんどが、自己教師あり学習を使用するか、RLHFのような人間のフィードバック最適化技術を組み込んでいる。

例えば

• 画像生成の分野では、基本モデルとして、Stable Diffusion、DALL-E 3、FLUXなどがある；
• 言語分野では、GPT-4、Gemini、Claude、LLaMA、DeepSeekなどが基本モデルとして挙げられる；
• 構造化データの分野では、CTSynのような構造的生成モデルが登場し始めている。

これらのモデルは、広範な訓練を受けた後、強力な移行能力と組み合わせ能力を持ち、様々なニッチタスクに適用できる「ジェネラリストAI学生」のようなものである。

ベースモデルの「知識構造」：何を学習したのか？

例えば言語モデルは、事実を一つ一つ記憶するように訓練されているのではなく、言語の「連想センス」を発達させるように訓練されている：

• めまいがするほど本を読む "スーパー学生 "のように、LLMは大量のデータから文脈と知的な関連性を構築する；
• 暗黙の「知識マップ」と「言語スタイル分布」を内部に形成する；
• 答えを暗記するのではなく、熟練した作家が原稿を読む代わりに文章を組み立てるように、最も可能性の高い答えを「即興で」導き出す。

したがって、LLMの知識は単なる「内容」ではなく、「言語能力そのもの」なのである。だからこそ、文章を書く、翻訳する、要約する、会話するなどのタスクに、タスクごとに訓練し直さなくても使えるのだ。

なぜベースモデルの学習が難しいのか？

理由は簡単で、非常に高いリソースを必要とするからだ。

• 計算リソース：GPT-4レベルのモデルをトレーニングするには、数千のGPU/TPUが必要で、数週間から数ヶ月かかる。
• データ処理：トレーニングセットは、ノイズ除去、バイアス除去、重複除去が必要で、品質管理要件は非常に高い。
• 人的投資：モデリングからエンジニアリング、評価に至るまで、各ステップには多数の専門家の関与が必要である。

したがって、大半のチームにとって、基本モデルをゼロから直接トレーニングすることは実現不可能であり、より現実的な戦略は、既存のモデルの助けを借りてカスタマイズ開発やシーンランディングを行うことである**。**

基本モデルはどのように私たちの実業務に入ってくるのだろうか？

今年のICLR2025では、基本モデルが「研究可能なもの」から「実装可能なもの」へと移行しつつあるという強いシグナルが観測された。より多くの論文が、現実世界における断片的で、きめ細かく、多様なタスクに基本モデルを適用する方法を強調している。
私たちはもはや「最強のモデル」を追い求めるのではなく、その問いに答えようとしている：

• という問いに答えようとしている。
• どのようにドメインデータを使って微調整するか？
• 私たちの言語、プロセス、コンテキスト、ユーザーを理解させるには？

基礎となるモデル自体が「認知プラットフォーム」を提供し、より低い閾値でインテリジェントなシステムを構築することを可能にする。例えば

• オペレーション・チームは、レポートを素早く作成したり、顧客からのフィードバックを要約したりできる；
• データアナリストは、対話を通じてグラフを作成し、モデルを解釈することができる；
• エンジニアは、キュー・ワードを使って製品のプロトタイプを素早く作ることができる。

ある参加者はサイトでこう述べている：

「ベースモデルそのものは80％完成されたエンジニアのようなもので、それをどのように扱い、適切なシナリオに導くかが重要なのです。

以下の章では、ICLRでの代表的なケーススタディ（例：SAM 2、CTSyn、Draw-and-Understand）を通して、ベースモデルの価値とその導入方法を、構築、使用、強化の3つの観点から分析する。

ケース1：SAM 2 - ビデオシーンに「Split Everything」を押し込む

キーワード：メタ、ビジュアルキュー、ビデオ理解、ゼロサンプルセグメンテーション。
ICLR 2025で最も話題になったビジュアルモデルの1つが、Metaチームがリリースした SAM 2（SegmentAnything Model 2）である。第一世代のSAMを進化させたSAM 2は、画像上での "ポイント＆スプリット "を実現するだけでなく、 ビデオ理解、クロスフレームトラッキング、長い時系列オブジェクトの一貫したセグメンテーションにまで機能を拡張している。
論文 "SAM-Track: Unified Promptable Tracking and Segmentation in Video "において、研究者達は、クロスフレーム時間モデリングモジュール（ConvNeXt + RAAと同様）を追加することで、ビデオにおける "プロンプト可能なオブジェクトトラッキング "のタスクをSAMに統合しました。クロスフレーム時間モデリングモジュール（ConvNeXt + RAFTの組み合わせに似ている）を追加することで、ユーザーはビデオの特定のフレームで特定のオブジェクトをクリックするだけで、モデルがビデオ全体でそのオブジェクトのマスクを自動的に生成し、更新する。
この技術は、様々な方面で非常に便利です：

• ビデオ編集：編集者はキャラクターの顔をクリックするだけで、システムは特殊効果、置き換え、ぼかしのためにキャラクター領域を抽出する；
• 医療用画像処理：超音波画像や内視鏡画像において、医師が病変組織を丸で囲むと、そのモデルはシーケンス全体を通して自動的に正確にラベル付けされる；
• 品質保証のトレーサビリティ：工業用組立ラインのビデオでは、ワンクリックで不良部品にラベルを付けてトレースできるため、品質保証の効率が大幅に向上します。

ベースモデルの構築という点では、どのような新しい設計がなされたのでしょうか？

• ビデオエンコーディングとトラッキングモジュールを追加し、オリジナルの画像モデルに基づいて時間次元の知覚を構築する；
• 超大規模なクロスドメインデータトレーニング （数千万の画像＋動画）を使用し、強力なゼロサンプル能力を構築；
• 人間との自然なインタラクション（クリック、ボクシング、ペイントなど）のための プロンプト可能なインタフェースを提供する。

これを使って何ができるか？

• 様々なインテリジェント・システムにおける セグメンテーション・エンジンとして ：例えば、医療画像注釈プラットフォーム、産業用ビジュアライゼーション・プラットフォーム；
• データエンハンスメントおよびアノテーションツールとして：トレーニングデータ構築のコストと時間を大幅に削減；
• マルチモーダル協調モデルへの関与：言語モデルと組み合わせることで、ユーザーは「単語を言う＋領域を丸で囲む」ことができ、モデルは自動的に構造化タスクを完了する。

手っ取り早く強化する簡単な方法は？

• 数ショットの領域適応」のために、ローカルの小さなサンプル動画を提供する；
• マルチクリック、マルチフレームでの領域指定など、統一された「ビデオキューテンプレート」を設計し、シーンでの安定性を向上させる；
• 言語モデルや業務システムと連携して「結果レビュー＋微調整フィードバック」を行い、自動QAフィードバックの閉ループを形成する。

事例2：CTSyn - 構造化データのための「シミュレータ・ファクトリー

キーワード：構造化生成、テーブルモデリング、データ拡張、AIGC for Tables
構造化データは、画像やテキストに比べ、生成AIが最も手を出しにくい分野の一つであった。しかし、ICLR 2025でスタンフォード大学とGoogle Brainの共同チームは、構造化タスク専用のベースモデルを構築するCTSyn（Cross-Table Synthetic Data Generator）という新しいアイデアを発表した。
この研究は、数行の実データだけを使って、一貫したスタイル、妥当な値、一致した構造を持つ何万行もの「シミュレートされたテーブル」を生成するという、核となる目標を中心に進められている。このモデルは、ヘッダー・フィールドと分布関係を理解するだけでなく、ユーザーの記述（例えば、「故障率が上昇したときには、より多くのメンテナンス記録が表示されるようにする」など）に基づいて生成ロジックを制御する柔軟性も備えている。
論文 "CTSyn: Generative Pretraining for Heterogeneous Tabular Data "において、著者らは、異なるソースとフォーマットからのデータテーブルをモデルによって理解可能な標準入力に変換するための "Unified Tabular Language "を提案している。これは、フィールド補完、行予測、外れ値生成などを含むマルチタスク事前学習のためのTransformerアーキテクチャと組み合わされる。
このモデルはまた、医療記録、財務ログ、サプライチェーンシステムなどの幅広いドメインデータに適応し、より少ないサンプルで高速な汎化を達成することを可能にするドメイン適応メカニズムを採用している。これにより、CTSynは複数のシナリオで優れたパフォーマンスを発揮することができます：

• データ拡張：リスク制御モデル、診断モデル、推薦モデルの学習に使用する場合、サンプル空間を自動的に拡張します；
• データの非感化と共有：一貫した配布を維持しながら、オープンな共有のためにプライベートデータを合成データに置き換える；
• システムテスト：特定のパターンのデータ「スクリプト」を生成し、極端なシナリオやエッジシナリオにおけるビジネスシステムの堅牢性をテストする；
• マルチテーブル・アラインメントとデータ・フュージョン：異なるビジネス・システム間のデータをシームレスにスプライスし、クロス分析できるよう、フォーマットと配信を統一する。

ベースモデル構築の観点から、どのような新しい設計を行ったのか。

• 異種構造データの入力を橋渡しする 統一テーブル表現（UTL）の提案；
• 圃場関係予測、数値サンプリングモデリング、異常パターン注入の目的を組み込んだマルチタスク事前学習設計；
• 制御可能なデータ生成メカニズムの構築。ヒント言語やパラメータによって生成ストラテジーを指定できる。

これを利用することで何ができるのか？

• 構造化データ生成エンジンとして機能し、データ量の少ないモデルをトレーニングするために何万行もの「シミュレーション・テーブル」を提供する；
• データガバナンスとリスクコントロールシステムに組み込む：例えば、データベースプレッシャーテスト、ビジネスレポートQA、メトリクスの極値テストなど；
• 金融、ヘルスケア、IoT、その他の分野におけるデータ駆動型システムのための自動合成＋自動テストの閉ループを構築する；
• AI時代の新しいテーブルモデリングインターフェースを提供し、非エンジニアリングバックグラウンドのユーザーも「テーブルヘッダに文章を言う」ことでテーブルコンテンツを生成できるようにする。

手っ取り早く強化する簡単な方法は？

• フィールドAが増加したらフィールドBはドロップしなければならない」といったルール駆動型のプロンプト（プロンプト＋制約）を追加する；
• 軽いフィールド適応のための少量のローカルデータを提供する（保険、製造、CRMなど）；
• LLMとの連携により、ユーザが自然言語記述により要求を生成し、CTSynが自動的に構造化データに変換；
• コールドスタートコストを削減するために、既存システムの履歴データを使用して、ドメイン固有の事前学習済みサブモデルを構築する。

事例3：Draw-and-Understand--描いた円をAIに理解させる

キーワード：マルチモーダル理解、イメージキュー、ユーザーインタラクション、SPHINX-V
ICLR 2025のマルチモーダルインタラクションのテーマにおいて、最も革新的な研究のひとつはCMUとMITのチームによるもので、彼らは「視覚的な手がかりによる入力」をサポートする基本的なモデルアーキテクチャ、SPHINX-Vを提案した。"Draw-and-Understand "とも呼ばれる。その主な特徴は

ユーザが絵の中の対象を正確な言葉で説明することを要求する代わりに、ユーザは「丸とタップ」で意図を表現することができ、モデルは言語と画像の手がかりを組み合わせて理解し応答することができる。

従来の視覚的質問応答（VQA）モデルは、「写真全体＋1文」の質問入力しか扱えないため、ユーザーが興味を持っている写真の部分を正確に識別することが難しく、SPHINX-Vの提案は、クリックやボックスなどのジェスチャーを理解できるAIの「ジェスチャーを見る」ための1対の目を追加することに等しい。SPHINX-Vは、AIに「あなたのジェスチャーを見る」一対の目を追加し、クリック、ボックス、アンダーラインなどの視覚的動作を理解し、意味コンテキストの一部に変えることができる。
論文「Visual Grounding via Draw-and-Ask: Multi-modal Prompt Learning with Spatial Cues」は、グラフ、言語、空間的ガイドライン（ジェスチャー）を融合した学習メカニズムを提案し、モデルが以下の入力を処理できるようにしている：

• 画像：生の視覚コンテンツ；
• 手がかり：グラフ上にユーザーが描いた領域、タップの位置；
• 質問：例えば、「この部分のどこが悪いと思いますか？例えば、"この部分のどこが悪いと思いますか？"、"この部分とその隣の構造の違いは何ですか？"

そして最終的には、構造化された多層的な答えを返す。

基礎となるモデルを構築するという点で、デザインのどこが新しいのでしょうか？

• 空間的な手がかりを支配的なモダリティの1つとして導入し、円を描く操作を注意マスクの一部としてエンコードする；
• グラフィック情報とジェスチャー情報を共同で学習させ、「グラフ-音声-ジェスチャー」の3モードエンコーダを形成する；
• インタラクションロジックとモデル構造を統一するために、"Draw-and-Ask "インタフェースをエンドツーエンドでサポートする。

これで何ができるか？

• インタラクティブなグラフィカルQ&Aシステムの構築：例えば、医療画像の診察、建築図面のレビュー、産業システムのチューニング提案など；
• デザインワークフローへの組み込み：UI/UXレビュー会議において、参加者がデザイン領域を丸で囲み、AIがその領域のレイアウト、配色、インタラクションの妥当性を自動分析する；
• 教育への応用：教師がグラフィック教材上の知識エリアを指摘すると、AIが自動的に説明を補完し、練習問題を生成する。

手っ取り早く強化する簡単な方法は？

• 対象となるビジネス画像データ上のユーザーの丸付けサンプルを収集し、微調整用の軽量キューデータセットを形成する；
• モデルの安定性を向上させるために、標準化されたサークリングパラダイム（例えば「エッジ内の10pxの領域がデフォルトの関心領域」）を作成する；
• 更なる「質問ガイダンス」のための言語モデルとの連携：例えば、「私が丸で囲んだ領域の構造を分析してください。

TOVEの事例 - 「視覚の専門家」からの知識移転のための効率的な視覚言語学習。

視覚言語（VL）モデルは、画像のきめ細かな認識と空間認識の両方を必要とし、従来のアプローチでは、これらの能力をゼロから学習するために、膨大な画像とテキストのペア（数億ペア）と非常に大規模なモデルに頼ることが多い。しかし、医療や産業などの特殊な分野では、大規模なラベル付きデータへのアクセスは現実的でないことが多い。本論文では、 TOVE（Transfer from a hub of Vision Experts）を提案する。これは、既存の様々な事前訓練された「視覚エキスパート」モデルを利用し、「小さなデータ」と「小さなモデル」を実現することで、彼らの視覚知識を軽量VLモデルに効率的に移行することを目的とする。既存の様々な事前学習済み「視覚エキスパート」モデルを利用して、彼らの視覚知識を効率的に軽量VLモデルに移行し、「小さなデータ」「小さなモデル」で強い知覚能力を実現することを目指す。

基本モデル構築の観点から、どのような新しい設計がなされたのか。

1. 専門家モデル倉庫＋インテリジェント・トリアージ
2. • 奥行きを見るのが得意な人（Depth）、エッジを重視する人（Edge）、よく訓練された一般的な視覚モデル（DINO、EVAなど）など、それぞれが得意分野を持つ「視覚のエキスパート」集団を用意する。モデルが画像を処理するときは、同じように画像を処理する。
   • モデルが画像を処理するとき、画像を多くの小さな「画像フラグメント」（トークン）に分割し、「インテリジェント・シャント」を通じて、各フラグメントに対してどの専門家が最も必要かを決定し、対応する専門家の知識を「呼び出す」。対応する専門家の知識を「召喚」する。
2. 「スパイク」知識融合
3. • 各画像断片に対して、モデルはCLIP自身の能力を使用して初期理解を得、次に専門家からの追加情報を "味付け "として重ね合わせる。
   • こうすることで、CLIPは学習した一般的な視覚能力を保持しつつ、奥行きやエッジなどの細部の知覚をさらに強化します。
3. プラグイン可能なエキスパート・モジュール
4. • モデルが学習された後、全体的な効果に対する各エキスパートの貢献度が評価される。貢献度の低い専門家は、計算量を減らすために「アンプラグド」することができる。
   • オーケストラのように、貢献度の低い音楽家は休ませることができる。
4. 統合と合理化、軽装備の導入
5. • 最後に、「知識の蒸留」の最終段階がある。専門家の知恵を「凝縮」して、CLIPモデルの簡略版に戻すのだ。
   • このようにして、専門家モジュールをリアルタイムで呼び出す必要のない軽量なモデルで、同じように強力な視覚言語的理解を展開することができる。

これで何ができるのか？

• "ゼロから外挿を生成するアーティストが見たことのない風景を想像する：TOVEは想像力豊かな批評家のようなもので、ほんの一握りの例（300万組の画像）があれば、何も考えずに全く新しい写真やイラストを「語る」ことができる。NoCapsやCOCOのようなテストでは、すでに同じサイズのモデルを数段上回っています。
• 空間と常識の二重把握"写真に写っている2つの建物のうち、どちらが近いですか？"と尋ねると、"この箱はテーブルの上にあります"。写真に写っている2つの建物のどちらが近いですか」と尋ねると、「この箱はテーブルの上にありますか、それともテーブルの下にありますか」と答える。写真ではどちらの建物が近いですか」、「この箱はテーブルの上にありますか、それともテーブルの下にありますか」と尋ねると、もはや単なる推測ではなく、写真内の奥行きと位置関係を本当に把握し、その答えはより強固で信頼できるものになる。VSR、POPE、VQAv2など、常識と空間理解をテストする課題では、「錯覚」が激減し、遠近法と常識を知っている観察者のようになる。まるで遠近感と常識の両方を理解している観察者のようだ。
• 小さな専門知識のサンプルでも大きな知恵に花開く医療画像や工業検査のように、専門家のラベリングが乏しく高価になりがちな分野では、たとえ数十枚や数百枚の専門的な図しかなくても、それらの一般的な「視覚の専門家」の知識の助けを借りて、限られたサンプルをあたかも数枚の顕微鏡写真から作られるような強力な知覚システムの集合に拡大することができるところに、TOVEの魔法があります。数枚の顕微鏡写真から、組織全体や欠陥部品について瞬時に洞察することができる。

それを素早く強化する簡単な方法とは？

1. ダイナミックなストーリーを語るために時間の次元を統合する モデルに短いビデオを与えることは、小説に年表を加えるようなものだ。スマート・シャント」にフレームからフレームへの記憶を保持するよう学習させ、物体の動きや形状の変化を「ひも付け」して首尾一貫した物語にする。こうすることで、監視画面の中の歩行者であろうと、医療ビデオの中の臓器であろうと、それをセグメント化して首尾一貫した形で描写することができる。
2. **さまざまな専門家を目覚めさせる「対話」**オーケストラの指揮者にジェスチャーをしているところを想像してほしい。画面のある領域を丸で囲むと、「バイオリニストにここのメロディに集中するように」と合図をしているようなものだ。特定のタスクに正確に対応できるように、「深度のスペシャリストをここに配置」「エッジのスペシャリストをここに配置」といったように、モデルに同様のキューテンプレートをデザインする。-指揮者が音楽家を派遣するように、エレガントかつ効率的に、与えられたタスクを正確にこなすようにする。
3. モデルに "自己反省 "する力を与える大規模な言語モデルを "人間と機械の対話 "に参加させる：ユーザーはモデルに対して自然言語で「このひび割れの深さに注目したい」「このひび割れの深さだけを見たい」「このひび割れの深さだけを見たい」と言うことができる。ユーザーは自然言語で「このひび割れの深さに注目したい」「図のエッジの質感にしか興味がない」とモデルに言うことができ、モデルはそれに応じてルーティングを調整する。"思考プロセス "を、ちょうど学術ゼミの質疑応答のように制御可能なステップとして公開することで、結果はより解釈可能で信頼できるものになる。
4. 知識ベース」の絶え間ない充実エキスパートモデルライブラリを生きた百科事典と想像してください：最新の自己教師付きモデルやドメイン固有の検出器を定期的に導入することは、本棚に新しい本を追加するようなもので、TOVEの視覚的な一般知識を最新の状態に保ちます。このようにして、システムは、新しいタイプの顕微鏡画像であろうと、未来のドローンが捉えた都市景観であろうと、追加された「正典」の知恵を素早く引き出すことができるようになる。

まとめと傾向

ICLR 2025における3種類の代表的な基盤モデル-映像理解のためのSAM 2、構造化データ生成のためのCTSyn、空間インタラクションのためのDraw-and-Understand-を振り返ってみると、次のことがわかる。基盤モデルが以下の方向に進化していることがよくわかる。 1：

1.モデリング能力 "から "インタラクティビティ "へ。

閉じたシステムである代わりに、基礎モデルは、クリックや丸囲み、自然言語などを通じて、ユーザーの意図を能動的に感知する。SAM 2の視覚的な合図であれ、SPHINX-Vの空間的なジェスチャー入力であれ、これは次世代のモデル・インターフェースの重要な特徴である**「人々が何をしているか」「なぜそれをするのか」を理解する**ことを明らかにしています。
これは、未来のモデルが単に「物事を成し遂げるための道具」ではなく、意思決定、対話、適応に参加する協調的なオブジェクトになることを意味する。

2. "タスク固有 "から "ドメイン一般化 "への移行

CTSynのようなモデルは、構造化データのための基本モデルの可能性を示している。それはもはや単一のテーブル、固定フィールド、定義済みのルールに依存するものではなく、モデリング言語と意味表現を統一することによって、真の意味での "領域横断的な移行 "を可能にするものである。
これらのモデルは、財務、人材、生産ライン、その他のデータをつなぎ、システムの境界を取り払い、包括的なインテリジェンスのためのインフラを提供する、企業内の「構造的理解脳」とみなすことができる。

3. "汎用モデル "から "シナリオ統合 "へ

基本モデルが "何ができるか "が焦点であったとすれば、今は "ビジネス環境とうまく統合できるか "がより重要である。自動化されたQAプロセスに組み込まれたSAM 2であれ、テストプラットフォームにリンクされたCTSynであれ、UIレビュー会議で仲介役として機能するSPHINX-Vであれ、基本モデルは企業のデジタルワークフローの不可欠な一部となっている。

まとめ：次に何をするか？

企業、研究者、製品チームにとって、インフラストラクチャー・モデルに関しては、「トレーナー」から「システム・デザイナー」になるべきである：

• ベースモデルとどのように連携し、プロンプト、インターフェース、微調整を通じて、どのように独自のビジネスインテリジェンスを構築するかを考える；
• ベースモデル＋ERP」、「ベースモデル＋教育システム」など、「ベースモデル＋X」のイノベーションの道を探る；
• 新しいインテリジェントなインタラクションパラダイムを創造し、より多くの非技術系ユーザーがAIを自然に利用できるようにする。

サッカークラブの社長が必ずしもサッカー選手ではなく、戦術アナリスト、スポーツ心理学者、ファンコミュニティ運営者でもあるように、あらゆるベースモデルの背後に潜在的な役割を見出すべきである。
未来は "最強のモデル "のものではなく、"最強の使い方を知る人々 "のものなのだ。

• Kirillov, A., Mintun, E., Ravi, N., Mao, H., Rolland, P., Gustafson, L., ... & Girshick, R. (2025). “Segment Anything Model 2: Unified Promptable Tracking and Segmentation in Video”
• Qin, Z., Zhang, X., Li, Y., & Sun, J. (2025). “CTSyn: Generative Pretraining for Heterogeneous Tabular Data”
• Yu, L., Johnson, J., & Fei-Fei, L. (2025). “Visual Grounding via Draw-and-Ask: Multi-modal Prompt Learning with Spatial Cues”
• Zhang, Y., Chen, H., & Wang, S. (2025). “TOVE: Efficient Vision-Language Learning via Knowledge Transfer from Vision Experts”
• Hu, E., Shen, Y., Wallis, P., Allen-Zhu, Z., Li, Y., Wang, S., ... & Chen, W. (2023). “LoRA: Low-Rank Adaptation of Large Language Models”
• Radford, A., Kim, J. W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., ... & Sutskever, I. (2021). “Learning Transferable Visual Models From Natural Language Supervision” (CLIP)

※こちらの記事の情報は2025/05/13時点での情報となります。