PDF

問題

  • 高次元のニューラルデータは低次元の潜在状態の時間変化で記述することができる
  • 観測されたニューラルデータから潜在状態の時間変化を推定するタスクに取り組む

既存手法

  • 既存手法は2つのカテゴリに分けられる
  • 1つ目は潜在状態の時間発展をマルコフモデルで記述する手法
    • 線形力学系, 確率的深層学習, 遷移行列のノンパラ推定を含む
    • これらの手法は学習に時間がかかる
  • 2つ目は潜在状態を直接確率過程でモデル化する手法
    • 主成分分析をガウス過程に拡張したGaussian-process factor analysis (GPFA)など
    • 観測値と潜在変数との非線形な関係を捉える
    • GPベースの手法は効率的な学習が可能&uncertaintyを解析的に計算できる
    • ただしスムーズな状態の変化しか記述できない

提案手法

  • \(N\)次元の観測データ \({\bf y}(t)\)が \(T\)つの時刻 \(t\)ごとに与えられている
  • GPFAでは観測データが\(M\)次元の潜在状態の軌跡から生成されていると仮定
    • 各々の軌跡をGPで記述
    • 潜在状態の独立性を仮定しているため, 潜在状態間の関係 (時差相関など)を捉えることができない
  • 時間的に不可逆なflow fieldに従う状態空間軌跡を出力する潜在状態 \({\bf x}(t) = \{ x_1(t),...,x_M(t) \}\)間の共分散関数 \(k_{ij}(\tau)=\mathbb{E}[x_i(t),x_j(t+\tau)]\)を構築
  • ニューラルデータの潜在状態は時間的に不可逆であること, すなわち \(k_{ij}(\tau)=k_{ij}(-\tau)\)となることが望ましい
  • 非可逆性を定量化するための尺度 \(\zeta\)を導入し, この尺度を利用して共分散関数の非可逆成分を判別
    • 付録Bに示す通り, 任意の共分散行列は式(7)右の条件の下で 式(7)左のように分解することができる
    • 先ほど導入した非可逆性の尺度 \(\zeta\)は各分解要素の重みパラメータを用いて(8)式で書き換えられる
  • 抽出した非可逆成分を用いてヒルベルト変換に基づいて非可逆共分散関数を構築する
    • 共分散行列を偶関数である共分散行列とカーネルをヒルベルト変換した奇関数の和で書き下す
    • この定式化の元で先ほど定義した \(\zeta\)を計算すると(10)式が導出できる
    • この\(\zeta\)が0から1の値を取る限り, 任意の程度の非可逆性が保証される

実験

  • 潜在状態が既知な2つのデータを用いて提案手法が正しく潜在状態の軌跡を推定できることを確かめた
    • 一つ目は半導体の製造に用いられるプレーナー・プロセスのデータ
    • 標準的な振動子とダフィング振動子による軌跡をシミュレーション
    • 図2Aは学習に用いた5つの軌跡
    • 二つ目は2次元力学系であるファン・デル・ポール振動子
  • 一次運動野で記録されたデータを用い, 潜在空間の回転軌道を自動で推定できることを示した