🤗 モデル | 📄 テクニカルレポート | 📊 データ | 💻 コード | 🌎 埋め込みエクスプローラー (Embeddings Explorer) | 🗺️ インタラクティブストーリー
本日、衛星画像向け埋め込み(embedding)モデルとして業界最高水準(SOTA)を誇る「OlmoEarth v1.3」を正式にリリースします。OlmoEarth v1.3 のリリースに伴い、全世界をカバーする年間事前計算済み埋め込みデータ(解像度 10m、64 次元および 128 次元)を公開するとともに、これらの埋め込みをもとに生成された地図を探索・カスタマイズできる新しいブラウザベースのツール「OlmoEarth 埋め込みエクスプローラー (OlmoEarth Embeddings Explorer)」も提供します。これにより、地表の経時変化の追跡から類似した地形の検索まで、ログイン不要かつ高度な専門知識も必要とせず、誰でも今すぐ OlmoEarth v1.3 を活用できるようになります。
これまで OlmoEarth を利用する主な方法は、OlmoEarth Studio でのファインチューニング(fine-tuning)でした。具体的には、特定タスク向けにモデルを学習させ、衛星画像に対して推論を実行して地図を生成する手法です。この方法では GPU の計算リソースに加え、衛星画像のダウンロードや保存を行える環境が必要でした。それに対し、埋め込みモデルは衛星データをそのまま使える特徴量へと圧縮できるため、極めて低いコストで多様なタスクに再利用することが可能になります。
OlmoEarth v1.3 を通じて、地球規模のデータプロダクトを探索・活用するための新たなアプローチを提供し、誰もがそれぞれのニーズに最も適した方法で作業を進められるようになることを楽しみにしています。
一度計算すれば、どこでも再利用可能 (Compute once, reuse everywhere)
埋め込みベクトルは、モデルが数百万枚もの画像から獲得した表現知識を表しています。OlmoEarth v1.3 は、丸 1 年分のレーダー(Sentinel-1)およびマルチスペクトル(Sentinel-2、Landsat)衛星の時系列データを読み込み、地球上の 10m 解像度の各ピクセルに対して 128 次元のベクトルを生成します。そのうち上位 64 次元のみを抽出して、より軽量な埋め込みとして利用することも可能です。
基底モデル(ファウンデーションモデル)の開発や地球規模の埋め込みデータの作成には、莫大なコストがかかります。すべての人がこの恩恵を享受できるよう、私たちは全世界分の埋め込みデータをあらかじめ事前計算し、Source Cooperative にてコミュニティ向けに完全公開しました。これらのデータを使えば、作物のマッピング、土地被覆分類、地表変化の分析といった処理が軽量なモデリングタスクへと変わり、埋め込み特徴量の上で小さな分類器をトレーニングするだけで、ローカル環境でも実行できるようになります。
OlmoEarth v1.3 における埋め込み生成プロセス:Vision Transformer が衛星データを読み込み、Attention Pooler が各区画ユニットのデータを単一のベクトルに集約し、最後に線形層によって 128 個の数値へと射影・次元削減します。
最高水準の埋め込み性能 (State-of-the-art embeddings)
6 大陸および多様なタスクを網羅する 27 のベンチマークにおいて、OlmoEarth v1.3 の埋め込み性能を AlphaEarth Foundations (AEF) および Tessera v2 と比較評価しました。OlmoEarth の 128 次元埋め込みは 27 項目中 20 項目で最高スコアを獲得し、総合 1 位となりました。サイズが半分の 64 次元版でも、27 項目中 18 項目で依然として首位を維持しています。今回の評価の一環として、私たちは熱帯農業向けの新たな作物種別ベンチマーク「PLANTEUR」を公開しましたが、この埋め込みは分類器が一度も学習していない未知の地域に対しても極めて高い汎化性能を示しました(PLANTEUR のテクニカルレポートはこちら)。これらを支える全コンポーネント(モデルの重み、事前学習データ、事前学習コード)は完全にオープンソースとして公開されています。
実際のユースケースにおいて、これは OlmoEarth の埋め込み上で小規模な分類器を学習させるだけで、地表の状況を高精度にマッピングできることを意味します。例えば、ケニアの小規模農家における作物の分類、ダッカ西部のレンガ窯の分布検出、インドネシアにおける火災被害の評価、ペルー・アマゾン流域での違法な金採掘の追跡などが挙げられます。
これまでの OlmoEarth モデルと比較して、OlmoEarth v1.3 は学習コストも最小限に抑えられています。計算時間は前バージョン(v1.2)の 53%、初代(v1)の 18% にすぎず、炭素排出量もそれぞれ 50% と 22% にまで削減されました。同時に、ファインチューニング用のベースモデルとしても依然として強力であり、各種研究やパートナーのアノテーション済みデータセットにおいて v1.2 に匹敵するパフォーマンスを発揮します。この最新モデルは初期の OlmoEarth バージョンの基礎アーキテクチャを踏襲しつつ、ターゲットを絞ったチューニングを施すことで、埋め込みの軽量性を維持しながらタスクの精度を犠牲にしない設計を実現しており、この高効率な最適化成果は今後のバージョンにも引き継がれます。
完全な結果および

