7月10日、Michal Sutterが「Google Research Introduces SensorFM: A Wearable Health Foundation Model Pretrained on One Trillion Minutes of Sensor Data」と題した記事を公開した。Google Researchが開発したウェアラブル健康基盤モデル「SensorFM」は、教師あり特徴エンジニアリングベースラインを35タスク中34タスクで上回り、モデル・データのスケールアップとともに性能がいまだ飽和していないスケール則を示す——そんな注目すべき知見が報告されている。

1兆分間のデータで学習した健康基盤モデル

ウェアラブルデバイスを使った健康モデルの開発では、これまで「予測したいアウトカムごとにモデルを1つ作る」アプローチが主流だった。しかしアウトカムが35種類に増えると、ラベル付けのコストと回顧的なアノテーションの困難さが壁になる。

Google Researchが発表したSensorFMは、その問題に正面から取り組む基盤モデル（Foundation Model）だ。500万人の同意取得済み参加者から得た1兆分間（minutes）超のセンサーデータで事前学習されており、2024年9月〜2025年9月にサンプリングされた。データは100カ国以上、米国全50州をカバーし、FitbitおよびPixel Watchの20以上のモデルに対応する。総計では20億時間以上となる。

アーキテクチャ

SensorFMは、PPG（光電脈波：指や手首に光を当てて血流変化を測定するセンサー）、加速度計、EDA（皮膚電気活動：発汗による皮膚の電気抵抗変化）、皮膚温度、高度計の5種類のセンサーから得た34個の1分単位集計特徴量を入力とする。これら特徴量は7カテゴリに整理され、24時間のコンテキストウィンドウで処理される。

バックボーンはViT-1D（Vision Transformerの時系列データ向け1次元変形版）エンコーダで、MAE（マスク付きオートエンコーダ：入力の一部を隠して復元するタスクで表現を学習する自己教師あり手法）目標で学習する。モデルサイズは4つのバリアントが存在し、データ量もそれぞれ比例して設定されている。

評価には、IRB（Institutional Review Board：各研究機関に設置された倫理審査委員会）承認済みの3つの前向き研究から得た13,985人分の独立データを使用。心血管、代謝、メンタルヘルス、睡眠、デモグラフィクス、ライフスタイルにまたがる35タスクで検証されている。

スケールは効くのか

最大モデルのSensorFM-Bは、5M corpus上で最小のXXSと比較して再構成バリデーションロスを31%削減する。下流タスクでは分類でΔAUC = 0.09、回帰でΔr = 0.21の改善。35タスク中33タスクでBがトップ、XXSが33タスクで最下位という結果だ。

興味深いのは失敗ケースで、SensorFM-Bを5,000人分のデータのみで学習させると、同データ量の小型モデルより性能が落ちる。モデル容量とデータ量を比例させて初めてスケール則が成立する。

モデルとデータを同時にスケールアップした場合、平均ROC AUCは .664 → .681 → .710 → .752、平均Pearson rは .386 → .435 → .536 → .612 と推移し、論文では「まだ飽和していない」と記されている。

欠損データをAIMで扱う

実際のウェアラブルデータは充電中やオフリスト時間、省電力モードでデータが途切れる。従来手法はギャップを補完（インピュテーション）するかウィンドウを捨てるかの二択だったが、SensorFMはAIM（Adaptive and Inherited Masking）を採用する。

実際の欠損マスクと学習用の人工マスクの和集合を適用し、人工マスク部分のみにロスを計算する設計だ。これにより、デコーダが欠損補完と予測を自然に学習する。

再構成MSE（低いほど良い）

ベストベースライン比で、ランダム補完は74.8%改善、センサー信号補完は83.7%改善となる。

実装：エンコーダを凍結して使う

論文が示す標準的な使い方は、エンコーダを凍結したまま線形プローブを乗せる方法だ。参加者ごとに複数日分の埋め込みを平均・標準偏差で集約し、50次元のPCAに落としてから線形分類器を訓練する。

import numpy as np
from sklearn.decomposition import PCA
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import StratifiedKFold
from sklearn.metrics import roc_auc_score

def person_level(emb, pid):
    """日レベルの埋め込みを参加者1人1ベクトルに集約する"""
    people = np.unique(pid)
    feats = []
    for p in people:
        e = emb[pid == p]                    # (n_days, d)
        feats.append(np.concatenate([e.mean(axis=0), e.std(axis=0)]))
    return np.nan_to_num(np.stack(feats)), people

X, people = person_level(emb, pid)
y = labels[people]

aucs = []
for tr, te in StratifiedKFold(5, shuffle=True, random_state=0).split(X, y):
    pca = PCA(n_components=50).fit(X[tr])
    clf = LogisticRegression(max_iter=400)
    clf.fit(pca.transform(X[tr]), y[tr])
    p = clf.predict_proba(pca.transform(X[te]))[:, 1]
    aucs.append(roc_auc_score(y[te], p))

print(np.mean(aucs))

この線形プローブは、教師あり特徴エンジニアリングベースラインを35タスク中34タスクで上回る。

PHQ-8とはうつ病の重症度を8項目の質問で定量化するスクリーニング尺度で、メンタルヘルス研究で広く用いられる。Framingham 30年リスクスコアは、フラミンガム心臓研究に基づいて算出される長期心血管リスクの指標だ。これらデモグラフィクスから算出される指標ではデモグラフィクスのみのモデルが勝る場合もある一方、デモグラフィクス変数は30タスク中22タスクでSensorFMの精度をさらに引き上げる。

LLMエージェントによる自動ヘッド探索

線形プローブでもタスクごとの調整は必要になる。研究チームはこれを自動化するため、Gemini 2.5 Flash、Gemini 2.5 Pro、Gemini 3 Flash、Gemini 3 Pro、Gemini 3.1 Pro Previewの5つのLLMエージェントで構成する「クラスルーム」を実験した。なお、これらのモデル名は元記事の記載に基づくものであり、各モデルの公開状況についてはGoogle DeepMindの公式ブログで確認されたい。

エージェントは20サイクルにわたってPythonの予測ヘッドを生成・実行・採点・改善し、計30,516回の実験を実施。分類タスク20件中16件、回帰タスク15件中12件でエージェントが発見したヘッドが線形プローブを超えた。勝利解の大半は埋め込み次元を50〜100に削減した線形モデルで、非線形モデルは少数派だった。

個人健康エージェントへの統合

最後の実験では、Gemini 3 Flashが31人の実参加者プロファイルに対して健康サマリーを生成し、SensorFMの予測を加えたケースとそうでないケースを4人の認定医が盲検評価した。SensorFMの予測を追加した条件はベースラインを有意に上回り（W = 10110, p < 0.001）、グラウンドトゥルース（実測値）との差は統計的に有意ではなかった（p = 0.396）。

詳細はGoogle Research Introduces SensorFM: A Wearable Health Foundation Model Pretrained on One Trillion Minutes of Sensor Dataを参照していただきたい。