電子情報通信学会のサイトも合わせてご参照ください。
11月5日 15:10 – 18:10
T-01: 熱浴法の幾何学的描像 
発表者: 後藤振一郎（京大）・日野英逸（統計数理研）
概要: あるクラスの熱力学において、緩和過程が接触幾何学で記述されるという先行研究を踏まえ、本研究では熱浴法による系の時間発展を記述する力学系を接触多様体で記述する。特に熱浴法による緩和過程（非平衡から平衡状態への遷移）を接触幾何学による理解を与える。接触多様体上の点がLegendre部分多様体に漸近する流れを有する力学系と、熱浴法による系の時間発展を記述する力学系を対応付け、非平衡状態から平衡状態への緩和過程の幾何学的描像を与える。接触多様体はあるクラスの関数と共にLegendre部分多様体を誘導し、この部分多様体は双対平坦空間という情報幾何学で用いられる多様体と同一視される。さらに、温度パラメタの時間発展に対応する力学系も導出し、温度と熱力学的状態変数が交互に時間発展する、拡張モンテカルロ法の一種の微分幾何的な記述も行った。
T-02: カーネル密度関数推定を用いたパラメータ密度の継承によるCNNの学習効率化 
発表者: 堀内圭佑・亀山啓輔（筑波大）
概要: CNNは、学習の過程で認識に有効な特徴を自動で学習でき、高い識別性能を示すため、近年様々な問題に対して用いられている。しかしながら、訓練によって調整すべきパラメータが多いことなどから、適切な初期値を用いてネットワークの学習を行う必要がある。本研究では、学習済みネットワークを活用し、カーネル密度推定を用いた初期値の設定手法を提案する。これにより、CNNの学習の効率化を行う。
T-03: k-近傍交叉カーネルを用いたNadaraya-Watson回帰の高速近似計算法
発表者: 伊東利雄・濱田直希・大堀耕太郎・樋口博之（富士通研）
概要: Nadaraya-Watosonモデルの一手法として、k-近傍交叉カーネル回帰法があり、精度高く推定することが可能である。しかし推定計算を行う際に、すべてのサンプル点から作られたカーネル関数を使用するため、計算時間が長くなるという問題がある。そこで今回、推定計算の高速化を行うため、近似計算による推定方法を提案する。本方法により、近似計算を行なわない従来の推定方法に対し、推定精度を落とすことなく高速に計算することが可能となり、計算時間が短縮されることを示す。
T-04: MR画像再構成における複数の画像事前分布を組み合わせた事後平均近似解
発表者: 久保田菜々子・原田 賢（早大）・藤本晃司・岡田知久（京大）・井上真郷（早大）
概要: MR画像再構成においては、画像事前分布を複数組み合わせることが良いとされているが、最適な重みの組み合わせを交差検証法により求めることは組み合わせ数が指数的に増加することから大変であった。本研究では、アンサンブル学習によりこの問題を解決する。さらに、推定解に事後平均の近似解という意味づけを行う。結果、計算量のオーダーを増加させることなく再構成画像の精度（平均二乗誤差）向上を達成した。
T-05: 局所変分近似による混合ロジスティック回帰の推定と変分自由エネルギーの考察
発表者: 中村文士・小西亮介（ゼネリックソリューション）・清木 康（慶大）
概要: 混合ロジスティック回帰は、ロジスティック回帰が混合したモデルであり、表現力の高いモデルであり、心理学や社会学、マーケティングなどで用いられている。従来法では、EMアルゴリズムがその推定にしばしば用いられてきた。しかしながら、EMアルゴリズムは局所最尤推定量を求める手法であり、混合分布に対する推定がベイズ的な推定手法に比べ精度が悪くなることが知られている。本論文ではベイズ的な推定手法の1つである局所変分近似により混合ロジスティック回帰を推定する方法を提案し、EMアルゴリズムに比べ精度良く推定できることを実験的に示す。また、その精度評価指標の1つである変分自由エネルギーの漸近挙動について考察を行う。
T-06: 独立低ランクテンソル分析：非負値性・低ランク性・独立性に基づくブラインド音源分離の統一理論
発表者: 吉井和佳（京大/理研）・佐藤寛之（京大）・坂東宜昭（京大/産総研）・中村栄太・河原達也（京大）
概要: 本稿では、非負値性・低ランク性・独立性に基づくテンソル分解技法である独立低ランクテンソル分析 (ILRTA) を提案し、単一チャネルブラインド音源分離への応用について述べる。ILRTAは、任意階数のテンソルの各軸を同時無相関化すると同時に、非負値テンソル分解 (NTF) を行う汎用的な枠組みであり、時間軸・周波数軸・チャネル軸からなる複数チャネル音源分離への応用もできる。ILRTAは、テンソル中のすべての要素間の相関を考慮できるNTFの究極的な拡張である相関テンソル分解 (CTF) に対して、各軸の共分散行列群が同時対角化できると仮定したモデルに相当し、これまで独立に提案されてきた単一・複数チャネルBSS手法であるNMF, NTF, PSDTF, ICA, IVA, MNMF, ILRMA, FastFCA, IPSDTAなどが、CTFあるいはILRTAの特殊形として統一的に説明できることを示す。
T-07: f平均によるディリクレ過程平均法の一般化と影響関数の解析
発表者: 小林真佐大・渡辺一帆（豊橋技科大）
概要: ディリクレ過程平均法（DP-means法）はクラスタリングの代表的手法であるK-means法を拡張した手法であり、クラスタ数をデータから推定することができる。しかし、クラスタの最大半径を最小にできないという欠点やデータ中に混入した外れ値の影響を受けやすいという欠点がある。本研究では、DP-means法における目的関数をf平均により一般化し、関数fの選択に対応して、前述の課題を克服するアルゴリズムを考案する。さらに、影響関数を導出し、外れ値に対する頑健性の評価を行う。また、実データを用いた実験によりアルゴリズムの有効性を確認する。
T-08: 非負値行列分解における変分近似精度の理論解析
発表者: 林 直輝（数理システム）
概要: 非負値行列分解について、変分自由エネルギーすなわち変分推測精度の漸近挙動が解明されているが、変分事後分布のベイズ事後分布に対する近似精度は明らかにされていない。本研究では、変分事後分布とベイズ事後分布とのKL情報量の挙動を代数幾何学的な方法を用いて解明し、変分近似精度を理論的に評価する。
T-09: マルコフネットワーク構造変化検出におけるスパースKLIEPモデルのセーフスクリーニング
発表者: 佐藤浩基（岐阜大）・志賀元紀（岐阜大/JST/理研）・山田 誠（京大/JST/理研）
概要: 遺伝子ネットワークの解析において、疾病の発症前後におけるネットワーク構造の差異の解析は、疾病メカニズムの解明に役立つ。この問題のモデル化には、ノード数の２乗のパラメータ数を扱う必要があり計算コストが問題になる。本研究では、ネットワーク構造変化のKLIEPモデル学習のセーフスクリーニングを導出した。これにより、学習前に不要な特徴量を安全に取り除くことができ計算コストが削減されることを示す。
T-10: Learning Hierarchical Structure via Nearest Neighbor Search and Formal Concept Analysis
発表者: Yuka Yoneda（ISIR）・Mahito Sugiyama（NII）・Takashi Washio（ISIR）
概要: We propose to learn a hierarchical structure of clusters from continuous data via two-step procedure: We first binarize data points based on nearest neighbor search, followed by applying formal concept analysis (FCA) to the binarized data. FCA constructs a hierarchy of clusters, called a concept lattice, which reveals the hierarchical relationship between data points based on the algebraic closedness property. We empirically show that our method can effectively extract hierarchical structure of clusters, which allows visualization and interpretation of multivariate data.
T-11: Layer Normalizationを用いた単層パーセプトロンの統計力学的解析
発表者: 髙木志郎・吉田雄紀・岡田真人（東大）
概要: ニューラルネットワークの各層の入力を同じ層の中での統計量で正規化して学習をするLayer Normalizationという手法がBaらによって提唱され、バッチサイズに依存せず容易に実装できる正規化手法として注目を集めている。しかしLayer Normalizationがニューラルネットの大域的な挙動に与える影響の理論的な理解は依然として不十分である。本研究では、Saadらが定式化した統計力学的手法を用いて、Layer Normalizationを適用したニューラルネットの学習ダイナミクスの解析を行う。
T-12: カーネル密度関数の局所変形に基づくトポロジー保存可能なイメージアライメント手法の開発
発表者: 綿島正剛（九工大）・久下小百合・石原 健（九大）・飯野雄一（東大）・吉田 亮（統計数理研）・徳永旭将（九工大）
概要: イメージアライメントとは、異なる環境で計測された複数画像を共通座標系に変換するプロセスである。本研究では、カーネル密度関数の局所的空間変形とEMアルゴリズムのアイディアに基づき、血管や神経突起等の形状自由度の高い線状構造物に対し実用的なアライメント手法の開発を目指している。提案手法ではマルコフ確率場に基づく変形モデルをpriorに用いるが、ハイパーパラメータを適応的に制御することで、アライメント対象のトポロジー変化を回避できる。講演では、既存のアライメントツールに対する提案手法の優位性を、補正精度とトポロジー保存という観点から実験的に示す。
T-13: CNNの大規模データセットでのラベルノイズ耐性について
発表者: 幡谷龍一郎・中山英樹（東大）
概要: ニューラルネットワークは高い汎化性能を持つ一方で、データセットを暗記することも知られている。そのため実データのラベルに誤りが含まれている場合は性能が低下する虞がある。本研究では大規模画像データのラベルに対して、概念間の距離を利用し概念が近いラベルを一部入れ替えることにより実際のラベルノイズをモデル化した。この人工的なラベルノイズの加わったデータセットを用いてCNNのラベルノイズへの頑健性、およびラベルノイズがある際に学習される特徴表現を調査した。従来の研究で得られている知見と異なり、現実的なラベルノイズに対してはCNNが頑健である可能性を示した。
T-14: ベイズ的最適化を用いた最適集団誘導探索
発表者: 清水 仁・大塚琢馬・岩田具治・澤田 宏・納谷 太・上田修功（NTT）
概要: 大勢の人が集まる大規模イベントでは、安全に来場者を誘導するための計画を事前に準備するために、人流シミュレータを用いて誘導策の評価をすることが行われてきた。しかし、人流の誘導策のパターンが多い場合には、シミュレーションのために多大な計算時間がかかるという問題がある。そこで我々は、網羅的に探索するのではなく、ベイズ的最適化を用いて限られた数のシミュレーションを実行し、そこからより良い誘導策を探索する手法を提案する。本研究では、我々の提案手法を疑似人流データに適用して、シミュレーション上で評価した。その結果、提案手法がランダムな探索よりも効率的に誘導策を探索できることを示した。
T-15: 適応Thouless-Anderson-Palmer近似による勾配法を用いた制限ボルツマンマシンの学習
発表者: 高橋茶子（東北大）・安田宗樹（山形大）・田中和之（東北大）
概要: 制限ボルツマンマシンは、可視変数と隠れ変数からなる完全二部グラフ構造のボルツマンマシンであり、深層学習の基礎モデルの構成要素として知られている。制限ボルツマンマシンの学習における問題は、パラメータ更新のための勾配計算に指数時間を要する項 (negative phase) が含まれていることである。本研究では、適応TAP近似を用いてこの項を近似する勾配法を定式化し、尤度最大化、勾配収束の観点などでの優位性を示す。
T-16: 多目的最適化と多点探索のためのベイズ最適化
発表者: 和田 尭（神戸製鋼所）・日野英逸（統計数理研）
概要: ベイズ最適化は評価コストが高い未知関数を効率的に最適化する有効な手法である。最もシンプルなベイズ最適化は、1つの未知関数の最適化を対象にして、1点ずつ探索を行っていくのに対して、近年、複数の未知関数の最適化を考える多目的最適化を扱えるベイズ最適化や、一度に複数点探索する多点探索のベイズ最適化が提案されている。しかし、それらを同時に扱うことが可能なベイズ最適化は現状知られていない。そこで、本研究では多目的最適化と多点探索を同時に扱うことが可能なベイズ最適化を提案する。まず、多目的最適化と多点探索を同時に扱うための獲得関数を定義する。この獲得関数を解析的に解くことは困難であり、サンプリング近似などの近似計算を行ったとしても、獲得関数の最適化の計算コストが高くなる。そこで、効率的な最適化を可能にするために、獲得関数の勾配の低計算コストで高精度な近似計算手法を提案する。最後に、テスト関数により提案手法が効率的に最適解を探索できることを示す。
T-17: 批評器の複雑度はWGANの性能にどのように影響を与えるか？
発表者: 庵原明洋・田中利幸（京大）
概要: WGAN is a generative model that learns by minimizing the Wasserstein distance between the generator distribution and the real-data distribution, evaluated via the Monge-Kantorovich dual formulation, a maximization problem with respect to the critic. Since the critic is typically implemented as a neural network, its complexity may affect accuracy of evaluated Wasserstein distances, and consequently, performance of WGAN. In this paper, we experimentally study the relationship between complexity of the critic and performance of WGAN by using empirical Wasserstein distance and GAN evaluation metrics.
T-18: ミニマックス戦略による変動ベルヌーイ過程のオンライン予測
発表者: 小永吉健太・渡辺一帆（豊橋技科大）
概要: 事象の有無を表す二値系列からベルヌーイ分布のパラメ―タの変動を予測することは神経科学や通信工学において必要とされている。近年、オンライン予測で用いられるリグレットの概念に予測系列の滑らかさを考慮に入れたオンライン予測手法が提案された。しかし、その手法の導出過程は二乗誤差関数に強く依存しており、他の誤差関数を用いることは困難とされていた。そこで本研究では二値データに対する誤差関数を変分近似することで変動ベルヌーイ過程のオンライン予測を行う手法を提案する。
T-19: 非定常多腕バンディットアルゴリズムを用いたハイパーパラメータ最適化フレームワークの提案
発表者: 阿部拳之・野村将寛（CA）
概要: ハイパーパラメータ最適化問題は機械学習などの分野で現れる重要な問題である。本研究では、質的変数に連続変数を紐付かせた上で、連続変数の最適化手法を問題に応じて差し替えられるハイパーパラメータ最適化フレームワークを提案する。一方で、フレームワーク化した場合には、質的変数の性能は連続変数の探索状況に依存して変化するため、どの質的変数とそれに紐付く連続変数に対して最適化を進めるか決定することが困難となる。本研究では、上記の問題が評価値の分布の非定常性に起因すると考え、非定常Thompson Samplingを用いたフレームワークHOTSを提案することで解決を試みる。
T-20: パラメータの指数的重み付けによる深層学習モデルへの電子透かし埋め込み
発表者: 南波涼太（筑波大）・佐久間 淳（筑波大/理研）
概要: 深層学習は、多くのタスクで高いパフォーマンスを達成している。深層学習モデルの学習には多大なコストが必要なため、ニューラルネットワークモデルは価値ある知的財産として扱う必要がある。このような状況では、一部の悪意のあるユーザがモデルを再配布したり、モデルを使用した予測サービスを許可なく提供したりする可能性がある。1つの有望な解決策は、モデルの所有者がモデルの所有権を外部から検証できるようなメカニズム、つまり、電子透かしをモデルに埋め込むことである。本研究では、モデルの変更とクエリの変更の両方に対して頑健な新しい透かし埋め込み方法を提案する。また、我々の手法が、モデル改変やクエリ変更などの不正なユーザの悪意のある攻撃に対して、高い検証性能を達成することを実験的に示した。
T-21: 部分グラフに基づくグラフ間の距離学習
発表者: 吉田知貴（名工大）・竹内一郎（名工大/物質・材料研究機構/理研）・烏山昌幸（名工大/物質・材料研究機構/JST）
概要: 部分グラフに基づいて得られる特徴ベクトルから、教師あり学習の枠組みで、グラフ間の距離尺度を獲得する方法を提案する。Naiveには現実的に計算困難な部分グラフに基づく距離学習をPruning Ruleを作ることで、計算できることを計算機実験で実証する。
T-22: Discovery of Governing Equations in Reproducing Kernel Hilbert Space
発表者: Yosuke Otsubo（Nikon）・Shinichi Nakajima（TUB/RIKEN）
概要: 物理、化学、生物分野では、これまで多くの支配方程式が提案されてきた。支配方程式の多くは微分方程式で記述され、現象を理解する上で重要である。これまでの研究の多くは、支配方程式の係数推定を高精度に行おうとするものであったが、本研究は、支配方程式を変数選択を含めて推定するアルゴリズムを提案する。最後にシミュレーションによって、従来の手法よりも高精度な推定精度を得ることを示す。
T-23: 海底水圧データを用いた津波高予測手法の比較
発表者: 柏原健之朗（東大）・五十嵐康彦（東大/物質・材料研究機構/JST）・吉川真史（東大）・馬場俊孝（徳島大）・堀 高峰（海洋研究開発機構）・岡田真人（東大/物質・材料研究機構）
概要: 事前に準備された津波データベースを用いて沿岸に到達する津波を予測する手法は、大きく分けて2つの枠組みが存在する。1つは、海底水圧データからその津波の原因となった地震のシナリオを特定し、津波高を予測するアプローチである。もう1つは、海底水圧データと沿岸津波高の相関を用いて機械学習によって津波高を予測するアプローチである。この2つの津波高予測の枠組みによる性能の違いは明らかではない。そこで本研究では、南海トラフ地震を想定した沿岸の津波高を予測する問題について、予測性能の比較・検討を行った。
T-24: 再生核ヒルベルト空間上のPerron-Frobenius作用素を用いた力学系間の比較について
発表者: 石川 勲（理研/慶大）・藤井慶輔（理研）・池田正弘（理研/慶大）・橋本悠香（慶大）・河原吉伸（理研/阪大）
概要: データの構造に即したデータ間の”距離”を定める関数の構成は機械学習を始めとする広い分野で重要な問題である。本研究の目的は時系列データの定量的に比較する手法の開発である。時系列データがある離散力学系から生成されるというモデルを仮定し、2つの力学系を定量的に比較する枠組みを再生核ヒルベルト空間上のPerron-Frobenius作用素を用いて構築した。さらに、この枠組みにおいて、力学系から生成される時系列データ間の遠近を計量する正定値カーネルを定義した。この不変量はカーネルトリックを用いた計算が可能であり、既存の力学系モデルを用いた手法より優れた性能を有する。
T-25: 劣モジュラ関数最大化問題に対する効率的な分枝限定法
発表者: 植松直哉・梅谷俊治・河原吉伸（阪大/理研）
概要: 劣モジュラ最大化問題では、貪欲法により短時間で良い近似解が得られることが知られている。しかし、特徴抽出やセンサ配置問題など厳密な最適解もしくはより良い近似解が必要となる応用事例も少なくない。本研究では、多数の制約式をともなう整数計画問題の定式化に基づく分枝限定法を提案する。代表的なベンチマーク問題例に対する数値実験により、提案手法が従来手法より良い性能を示すことを確認した。
T-26: ガウスマルコフ確率場モデルを用いた格子モデル選択
発表者: 伊藤浩理・坂本浩隆・片上 舜・岡田真人（東大）
概要: 本研究では画像から背景にある格子モデルを推定する問題を扱う。そこで、人工的に生成した画像の真の格子モデルの推定を行った。二種類の格子モデルに従う画像を用意しそれぞれをモデルk=1,2とした。また、格子モデルの推定に用いるガウスマルコフ確率場モデルにおいても、同様のk=1,2のモデルを用いた。このkの画像に対する事後確率を求めると、画像生成のモデルと推定のモデルが一致の場合に事後確率は大きくなり、モデル選択が可能であると示された。
T-27: 階層型クラスタリングに基づく特徴選択のためのSelective Inference
発表者: 鈴木健太・井上茂乗・梅津佑太（名工大）・竹内一郎（名工大/物質・材料研究機構/理研）
概要: 様々なソースから収集されたデータは不均一であることが多く、そのようなデータを分析する際には、前処理としてクラスタリングによってデータを複数のサブグループに分割し、各サブグループで異なる値を持つ特徴の選択が行われる。しかしながら、選択された特徴の評価を適切に行うためには、クラスタリングの過程で生じるバイアスを適切に補正しなくてはならない。本研究では、Selective Inferenceの枠組を利用することで、階層型クラスタリングによって分割されたサブグループにおける特徴選択における統計的推論を行うアプローチを提案する。
T-28: 非周期的データに対するスパース基底表現の推定
発表者: 片上 舜・坂本浩隆・五十嵐康彦・岡田真人（東大）
概要: 本研究では、周期的でないデータに対するスパースな基底表現を推定する手法を提案する。周期的なデータに対してはデータの生成空間がFourier空間だと仮定し、Lassoによるスパースな基底表現の推定が行われきた。しかし、Fourier空間での基底は、周期的でないデータに対して境界条件の影響により有効に働かない。そこで、離散COS空間でのLassoを用いることにより、周期的境界条件の影響を取り除いた、非周期的かつスパースな基底表現の推定手法を提案する。また、数値実験により本手法の有効性を確認する。
T-29: 移動系列データにおける特徴的なパターンを抽出するための統計的検定
発表者: 佐久間拓人（名工大）・竹内一郎（名工大/物質・材料研究機構/理研）
概要: 時系列データから特徴的な部分系列を抜き出すタスクはこれまでも数多く取り組まれてきた重要なタスクである。我々は特に、データに付随するラベル（性別、異常の有無など）に対して特徴的な部分系列を抽出する手法を提案する。具体的には対象となる部分系列の出現の有無とラベルに相関があるかどうかを統計的検定によって調べ、有意に相関がある部分系列をラベルに特徴的な部分系列として抽出する。本稿では特に動物などの移動系列を対象として解析を行い、手法の有効性を解釈可能性の面からも調べた。
T-30: 反復識別法による臨床サンプルのミスラベル探索
発表者: 藤田雄一郎・野田 陽（島津製作所）・吉村健太郎・竹田 扇（山梨大）・梶原茂樹（島津製作所）
概要: 識別モデルの性能を下げるミスラベルサンプルを特定する反復識別 (ID; Iterative Discrimination) 法を開発した。ID法は、SVMやRandom Forestなどの識別モデルの構築と検証データへの適用を繰り返し、誤識別率が高いサンプルをミスラベルと評価する。本研究では (1) シミュレーションデータ (2) ヒト肝臓がん組織の質量分析スペクトルデータを使ってID法を評価した。
T-31: 行列分解問題の変分ベイズ解のダイナミクス解析
発表者: 玉井智貴・竹田晃人（茨城大）
概要: 行列分解問題は既知の観測行列から積の形をとる2つの低ランク行列を推定する情報科学上の重要な問題である。この問題を解く方法のひとつに変分ベイズ法があり、例えば事前分布がガウス分布のときには行列分解の変分ベイズ解が解析的に求まることが知られている。本研究では変分ベイズ解を行列分解アルゴリズムとして捉えた際のダイナミクス解析について、ニューラルネットワークに対する信号雑音分離法を援用する手法を提案する。得られたダイナミクスの解析式と行列分解の数値実験を比較すると、ノイズ分散が小さいときには両者は近い挙動を示す。
T-32: Cost-Sensitive MedLDAによるトラウマ患者の転帰予測
発表者: 石塚治也・石垣 司・小林直也・工藤大介・中川敦寛（東北大）
概要: 集中治療室（ICU）では、集中治療医の判断を補助する手段として、患者の転帰予測に基づく意思決定支援システムが注目されている。近年では、テキストを用いた転帰予測手法が開発されている。テキストを用いた予測手法として教師有りトピックモデル(STM)が知られるが、従来のSTMでは正例と負例の誤判別に等しくペナルティを与えて学習が行われる。患者のICU内死亡率は一般に10%程度であり不均衡データの一例である為、従来のSTMでは死亡例の検知制度が低下する恐れがある。この問題に対処する為、マージン最大化原理、コスト考慮型学習を行う教師有りトピックモデルであるCost-Sensitive MedLDAを提案する。
T-33: Integrated Gradientsの補正による脳波識別に貢献する特徴の可視化
発表者: 立川和樹・河合祐司・朴 志勲・浅田 稔（阪大）
概要: 深層学習による識別に寄与する特徴の可視化法であるintegrated gradients (IG) は、不適切な参照点の設定による信頼性の低下の問題がある。本研究では、不適切な参照点によるIGを、一例のみのShapley sampling value (SSV) を用いて補正する手法を提案する。提案手法の信頼性が従来のIG法より高く、その計算量がSSVによる可視化法よりも極めて少ないことを、脳波識別課題によって示す。
T-34: 確率モデルの統合による大規模なモデルの実現 ～VAE, GMM, HMM, MLDAの統合モデルの実装と評価～
発表者: 國安 瞭・中村友昭・青木達哉（電通大）・谷口 彰・尾崎 僚・伊志嶺朝良（立命館大）・横山裕樹（玉川大）・小椋忠志（総研大）・長井隆行（電通大）・谷口忠大（立命館大）
概要: 人間のような知能を人工的に実現するためには、ロボットに搭載されている様々なセンサから得られるマルチモーダルな情報から、環境を理解するためのモデルが必要である。我々は、小規模で基礎的なモデルであるモジュールをプログラムの独立性を維持しながら階層的に接続することにより、大規模な認知モデルを構築し、そのパラメータ推定を容易に行うことができるフレームワークSerketを提案した。本稿では、Variational Autoencoder、Gaussian Mixture Model、Markov Modelなどのモジュールを新たに実装し、Serketを用いることで容易にそれらを統合したモデルを構築できることを示す。
T-35: Bayesian LARS-OLSによるコヒーレントフォノンの固有振動モード選択
発表者: 坂田逸志・長野祥大（東大）・五十嵐康彦（JSTさきがけ）・村田 伸（東大）・溝口幸司（阪府大）・赤井一郎（熊本大）・岡田真人（東大）
概要: コヒーレントフォノン (CP) 信号には物質の性質を表す固有振動モードと実験的アーティファクトが混合して含まれており、時系列データを減衰振動の重ね合わせとして分解する動的モード分解 (DMD) によって各成分を分離することができる。物質の性質を知るために分解された成分から信号のみ抽出する（モード選択）必要があり、近年、データの実験ノイズの大きさを既知とした手法が提案されている。本研究では、計測が困難な場合がある実験ノイズを用いずにモード選択を行う枠組みを提案する。候補となる振動モードを推定した後、ベイズ的自由エネルギー最小化の枠組みで候補の中の組み合わせを選択する。
T-36: 交換モンテカルロ法を用いた二値画像に対するハイパーパラメータ分布推定
発表者: 大日方孝輝・片上 舜・楽 詠?・岡田真人（東大）
概要: 本研究では観測ノイズを含むイジング型の二値画像から画素間の結合定数及びノイズ強度に対応するハイパーパラメータの分布推定を行う。従来、二値画像のハイパーパラメータ推定には平均場近似やBethe近似等を用いる点推定手法が用いられてきた。ハイパーパラメータはしばしば興味のある物理量と対応するため、点推定するだけでなく、信頼度も含めて評価したい。そこで、近似を用いず、ベイズ推論およびモンテカルロ法により統計的に不偏な方法でハイパーパラメータの分布推定を行う手法を提案し、数値実験により信頼度評価が可能となることを示す。本手法は、二値画像修復や格子ガス模型といったイジングモデルに帰着される種々の問題に適用可能である。
T-37: ブレグマン単調作用素分解とその応用事例
発表者: 丹羽健太（NTT）・バスティアン クライン（VUW）
概要: 複数の凸関数の和で構成されたコスト関数に対する変数最適化アルゴリズムとして、単調作用素分解が研究されている。筆者らは、ブレグマンダイバージェンスを使って変数空間の計量を汎化し、高速化を実現するための計量設計について提案する。提案するアルゴリズムを利用した応用事例についても簡易に述べる。
T-38: 動的計画法を用いた系列セグメンテーションにおけるSelective Inference
発表者: 戸田博己・梅津佑太・佐久間拓人（名工大）・竹内一郎（名工大/物質・材料研究機構/理研）
概要: 近年、センサーデバイスの普及により様々な系列データが容易に取得可能となっている。系列データのセグメンテーションは観測対象の状態変化を検知する上で重要であり、動的計画法を用いたものなど様々なアプローチが提案されている。しかしながら、検出された変化点の統計的有意性を定量化するには選択バイアスの補正が必要となるため、適切な方法が整備されていない。本研究では、Selective Inferenceの枠組を導入することで、動的計画法を用いた系列セグメンテーション結果の信頼性を適切に評価する方法を提案する。
T-39: 混合正規分布モデルにおけるベイズ推定と変分ベイズ推定の比較
発表者: 中山智文・藤井直樹（東大）・永田賢二（産総研/JSTさきがけ）・岡田真人（東大）
概要: 混合正規分布モデルでは、推定法の一つとしてベイズ推定があげられるが、解析計算が困難であり、近似である変分ベイズ推定が提案される。先行研究において、行列分解モデルでは、変分ベイズ推定がベイズ推定よりランク数を少なく推定する状況が起こることが示された。本研究では、混合正規分布モデルにおいてMCMC法を用いることでベイズ推定を行い、構成される事後分布の形状をみることで、変分ベイズ推定と比較する。
T-40: 多段階学習Echo State Networkによる非線形時系列予測
発表者: 秋山貴則・田中剛平（東大）
概要: Echo state network (ESN) は、高速学習可能なRNNモデルであり、カオス時系列予測に対して適用されている。しかしながら、ESNによる非線形時系列予測には、予測性能がリザバーサイズに対して頭打ちになり、かつハイパーパラメータに予測性能 が強く依存する、という問題点がある。そこで本研究では、これらの問題点を解決する、多段階学習ESNを提案し、予測性能の改善を実証する。
T-41: 一般化ラベルノイズの下での分類に関する漸近評価
発表者: 安田豪毅・須子統太・小林 学・松嶋敏泰（早大）
概要: 分類問題において、正しいラベルが観測されずにノイズを含むラベルが観測される場合の学習は、ラベルノイズを含むデータからの学習と呼ばれ、近年広く研究が行われている。さらに、ラベルノイズに関するモデルを一般化することにより、半教師付き学習や正例とラベルなしデータからの学習なども含めて統一的に扱う研究が行われている。本研究では、一般化されたラベルノイズの下での分類について漸近的な性能評価を行う。
T-42: Disentangledな特徴表現を用いた意図的クラスタリングによる未知ラベルの検出
発表者: 福馬智生・鳥海不二夫（東大）
概要: クラスタリングは元来不良設定問題であり、同じデータセットに対しユーザが何に着目するかにより妥当なクラスタリング結果が複数考えられる場合がある。本研究ではそのようなデータセットに対し、一部のデータにラべル付けを行うことにより、その意思を反映したクラスタリングを行う手法を提案し検証する。ラべル数が既定の多クラス分類としてでなく、クラスタリングとして扱うことの優位性を確認するため、あらかじめ用意したラべルセットのいずれにも属すべきでないデータに対しても、元々の意図に基づき未知と判定できるか、またそれらの中でも個々に同じクラスタに属すべきか否かの判定を行うことにより、未知データに対してのクラスタリングの可能性を検証した。また特徴抽出の過程で解釈可能な独立した特徴表現を用いることが上記問題設定に対し有用であることを実験的に示した。
T-43: 尤度比検定における差分プライバシーの保証
発表者: 蓜島 嵐（筑波大）・佐久間 淳（筑波大/理研）
概要: ロジスティック回帰において、交絡因子の影響を差し引いた上でなお、データのある属性が別の属性に有意に影響しているか否かを検定によって調査する場合、その属性を含むモデルとそうでないモデルについて尤度比検定を行う。データの属性に個人に関する情報が含まれている場合、尤度比検定の検定統計量の公開がプライバシーの侵害にあたる可能性がある。本研究では、ロジスティック回帰の尤度比検定において、差分プライバシーを実現する方法を示すとともに、その有意水準を適切に制御する方法を提案する。
T-44: 最大次数が未知の多項式回帰モデルに対するスパース推定に関する一考察
発表者: 井上一磨・清水良太郎・須子統太・後藤正幸（早大）
概要: 最大次数が未知の多項式回帰モデルに対してパラメータのスパース推定を行う学習アルゴリズムは、無限に考え得る各項に関する有効なパラメータを推定することができる。しかし、対象データによっては学習が収束しないことがある。そこで、本研究ではこの問題を解決する新たな学習アルゴリズムを提案する。さらに、人工データを用いたシミュレーション実験を行い、提案学習アルゴリズムの挙動と予測精度の観点から有効性を示す。
T-45: 反復再重み付け最小二乗法による正則化モード回帰
発表者: 山崎遼也・田中利幸（京大）
概要: モード回帰では、モーダルEM（modal EM; MEM）もしくは反復再重み付け最小二乗法（iteratively reweighted least-squares; IRLS）に基づく反復解法がパラメータ推定に用いられている。MEMの収束性の理論的な保証はIRLSのそれと比較してより一般的であるため、多くの既存研究がMEMを使用している。しかし、MEMは目的関数にガウスカーネルを使用する場合にのみ明示的なパラメータ更新式を与え、そうでなければ非効率になりうる。また、正則化モード回帰に対しては、MEMとIRLSに基づく方法の両方とも、アルゴリズムの収束を保証する理論上の結果を持たない。本稿では、下界最大化アルゴリズムの観点から、明示的な更新式を提供し、非ガウスカーネルを用いた正則化モード回帰に対しても収束が保証されるIRLSを再構築する。さらに、Epanechnikovカーネルとl2正則化を用いたとき、IRLSが有限回の反復で収束することを証明する。
T-46: X線光電子分光におけるベイズ推論によるハミルトニアン選択
発表者: 本武陽一（東大）・水牧仁一朗（高輝度光科学研究センター）・赤井一郎（熊本大）・岡田真人（東大）
概要: 内殻を用いたX線光電子分光(XPS)スペクトルは、強相関電子系の電子状態を調べる有用な手段であり、XPSの遷移過程における複雑な電子間多体相互作用を説明する物理モデルの構築によって、スペクトルから対象情報を抽出することが可能となる。 本研究では、3d内殻準位を用いたXPSのクラスタモデルを生成モデルに組み込んだベイズ推論を、交換モンテカルロ法によって実現した。その結果、Ce化合物とLa化合物のスペクトルデータに対して、従来物理的考察によって得られていた結果とコンシステントな結果が得られることが確認された。
T-47: テンソル分解を用いた教師無し学習による変数選択のバイオインフォマティクスへの応用
発表者: 田口善弘（中大）
概要: 現在、深層学習を始めとする教師あり学習や、強化学習が大規模データの解析で広範に使用されて大きな成果を上げているが、バイオインフォマティクス（ゲノム科学）のデータは高次元少数標本データ（いわゆるlarge p small n問題、変数（例えば遺伝子数）に比べてサンプル数（例えば、被験者の数）が圧倒的に少ない）であるために、この様な方法を効果的に使うことができない。この様な高次元少数標本データの解析に我々はテンソル分解を用いた教師無し学習による変数選択法を提案して広範な問題に適応してきた。同手法はテンソルが最初から実験的に得られている場合と行列からテンソルを作成する場合にいずれにも適用できるため応用範囲が広い。我々はこの手法を「心的外傷後ストレス障害由来の心臓病の原因遺伝子の推定」「26種類の非小細胞肺がんのマルチオミックスデータの解析」「社会性昆虫のカースト固有フェノタイプとエピゲノム関係」「miRNAトランスフェクションが引き起こす配列非特異的な副作用の効果」「既知化合物が無い場合の疾患・プロテインに対する遺伝子発現プロファイルからのAI創薬手法の提案」などの広範なテーマに応用し、原著論文として発表してきた。この方法の原理と有効性、応用例について発表したい。
T-48: 非対称性を利用した悪腕存在チェックアルゴリズム
発表者: 田畑公次・中村篤祥・小松崎民樹（北大）
概要: 損失版の多腕バンディット問題設定において、与えられた二つの閾値θL, θU (> θL)と許容誤識別率δに対し、平均損失がθUよりも大きな腕が一つでもあれば「正」、全ての腕の平均損失がθLよりも小さければ「負」と少なくとも確率1 – δで出力する悪腕存在チェック問題を考える。できるだけ少ない試行回数で停止するアルゴリズムの検討を行い、「正」と「負」を出力する条件の非対称性を考慮したアルゴリズムを提案する。提案アルゴリズムは、各時刻においてどの腕を選択するかを決める腕選択方策と解を出力して停止するかどうかを決める停止条件で構成される。本研究では停止時刻に関する理論的な解析を行い、また人工データを用いたシミュレーション実験により腕選択方策と停止条件の組み合わせによる平均停止時刻の分析を行う 。
T-49: パラメータ未知の一般化ラベルノイズモデルにおける分類法について
発表者: 須子統太・安田豪毅・堀井俊佑・小林 学（早大）
概要: 近年、ラベルにノイズが含まれる場合の分類アルゴリズムに関する研究が行われている。本研究では、半教師学習、正例とラベルなしデータによる学習、外れ値を含むデータに対する分類問題、など様々な学習問題を統一的に記述可能な一般化ラベルノイズモデルに対し、ノイズモデルのパラメータが未知の場合の分類アルゴリズムを提案し数値実験による性能評価を行う。
T-50: 3パラメータGroup Lassoモデルにおける経験ベイズ解の解析
発表者: 吉田 司・渡辺一帆（豊橋技科大）
概要: 回帰モデルの正則化学習では、正則化の度合いを定める正則化パラメータを適切に決定することが重要となる。本研究ではGroup Lassoに対して、経験ベイズ法による正則化パラメータの推定法について議論する。単位行列を計画行列として持つ線形回帰モデルのパラメータが3次元のモデルに対して、その経験ベイズ推定解の特性を示す。
T-51: ガウス過程の導関数に基づく極小点の同定のための能動学習
発表者: 稲津 佑（理研）・椙田大輔（名工大）・豊浦和明（京大）・竹内一郎（名工大/理研/物質・材料研究機構）
概要: 材料科学等の多くの分野において、未知関数の極小点を知ることが複雑な物理化学現象を理解する上で重要となる。近年、機械学習理論に基づいた未知関数の効率的な評価のための能動学習が、様々な応用分野で行われている。しかしながら、多くの場合、その目的は未知関数の最大（最小）点の探索であった。本研究では、未知関数に対する事前分布にガウス過程(GP)を仮定し、更に、GPの導関数が再びGPとなる性質を用いて、未知関数の極小点を効率的に同定するための能動学習法を提案する。
T-52: Selective Inferenceに基づくスパース線形回帰モデルにおける能動学習
発表者: 梅津佑太（名工大）・竹内一郎（名工大/物質・材料研究機構/理研）
概要: 興味のあるパラメータを効率よく推定するために、適当な最適性の基準を定めることで、あらかじめサンプリングするデータについて計画をたてる問題は能動学習や実験計画法としてよく知られている。一方で、観測される変数が多い場合、パラメータ推定を行う前にモデル選択を行うことで、より効率的にパラメータ推定を行えることが期待される。ところが、モデル選択と能動学習を同時に考える場合、パラメータの推定量がモデル選択の結果に依存するため、選択バイアスの問題が生じる。本研究では、Selective Inferenceのアイデアを適用することで、モデル選択後に得られるスパース線形回帰モデルにおいて、回帰係数を効率よく推定するための能動学習について提案する。
T-53: 非負値行列因子分解とMDL規準によるマーケットプレイスにおける商品推薦手法
発表者: 荒野洋輔（九大）・三宅悠介（GMOペパボ）・川喜田雅則・竹内純一（九大）
概要: 非負値行列因子分解とMDL規準によるモデル選択を組み合わせたデータ解析によりマーケットプレイスの実データを解析し、その解析結果が商品の推薦に関して有用であることを示す。
T-54: 統計的決定理論に基づいた因果効果の推定法に関する一考察
発表者: 堀井俊佑・須子統太（早大）
概要: 本研究では因果ダイアグラム・構造方程式モデルを用いた統計的因果分析における介入効果の推定問題を扱う。一般的に、介入効果の推定は、構造方程式モデルを推定し、確率分布のパラメータ推定を行い、介入効果を計算するというステップからなるが、決定理論に基づいた定式化を行うと、この手順で推定することが必ずしも最適とはならない。本研究では、介入効果を決定の対象として、介入効果推定問題を決定理論に基づいて定式化し、ベイズ基準のもとで最適な決定法を導出し、従来の手法と比較を行う。
T-55: EXAFS（広域X線吸収微細構造）のベイズ的LARS-OLSを用いたスパースモデリング
発表者: 五十嵐康彦（JST）・岩満一功（熊本大）・岡島敏浩（九州シンクロトロン）・赤井一郎（熊本大）・岡田真人（東大）
概要: 物質中原子の近距離構造解析に用いられる広域X線吸収微細構造(EXAFS)の解析に対して、近接構造における離散性(スパース性)を事前知識としてスパースモデリング (SpM) を行う。本研究では、L1正則化パラメータの最適化をベイズ自由エネルギーで行った結果について報告する。SpMをこのL1正則化パラメータを交差検証誤差の最小化により行うと、基底関数を実際の物理モデルよりも多く抽出される。そこで本研究では、LARS-OLSをベイズ的に拡張し、最適化を行うことで、EXAFSスペクトルからの物理モデル抽出を行った。
T-56: 3D-Skeleton-Based Human Action Recognition with a Combination of Random Convolutional Networks and Echo State Networks
発表者: Zhiqiang Tong・Gouhei Tanaka（Univ.Tokyo）
概要: Recognition of human action patterns from sequential data is demanded in many applications. In this study, we present a method with fast learning process for pattern classi?cation from 3D skeleton-based human action dataset. Our method consists of three parts, including the preprocessing part for reducing the dimension of the input data, the untrained convolutional neural network part for extracting features, and the echo state network part for classifying the patterns. We demonstrate the results of numerical experiments, showing the classification ability of the presented method.
T-57: 自己テストにより高次素子を追加し学習する自己組織化モデル
発表者: 伊達 章・花井俊介（宮崎大）
概要: Geman-Davisの自己組織化モデルを用いた計算機実験を紹介する。このモデルは、学習にしたがい必要に応じて高次の特徴を捉えた素子が新たに追加される、欠測値を自然に扱えるなど、ほかの神経回路モデルにはないおもしろい特徴がある。本モデルが提案された直後に、ボルツマン・マシン、マルコフ確率場という使い勝手のよい手法が生まれた。このためか、本モデルの特性はほとんど研究されていない。素子を追加するタイミング、高次ボルツマンマシンとの関係などについても議論したい。
T-58: Transfer Learning Among Time Series Data
発表者: Hao Niu・Kei Yonekawa・Mori Kurokawa・Arei Kobayashi（KDDI Research, Inc.）
概要: Time series data are widely used in various fields, and the machine learning on the time series data attracts much research attention recently. However, most existing studies focus on the single time series dataset. The transfer learning among time series datasets, which can effectively perform the machine learning on the dataset with limited labeled data by reusing the knowledge gained from other datasets, is less studied. This article proposes a scheme realizing the transfer learning among time series data. Specifically, the target time series datasets are integrated first by utilizing some common information, and then the dataset-invariant embedding on the integrated result is performed. The transfer learning is finally realized based on the embedded vectors in the latent space. The effectiveness of the proposed scheme is evaluated on the real EC data.
T-59: アンサンブル学習における弱学習器間の相互性指標に基づく学習法の修正に関する一検討
発表者: 内海翔太・亀山啓輔（筑波大）
概要: アンサンブル学習においては、各弱学習器の分類精度や弱学習器間の相補性が統合学習器の分類精度に影響を与える。本研究では相補性と統合学習器の分類精度の組み合わせに着目し、それらに応じた学習法への修正を行うことで統合学習器の性能を改善できると考えた。弱学習器間の相補性の指標としてKW値を用いた場合について、いくつかの分類問題におけるKW値と統合学習器の分類精度の組を求め、その組み合わせパターンごとの学習法の修正を行った場合の統合学習器の分類精度の改善を観察し、動的な学習法の修正の効果を評価した。
T-60: ドメイン敵対的訓練を用いた半教師あり異種転移可能表現学習におけるmixupの効果
発表者: 米川 慧・牛 コウ・黒川茂莉・小林亜令（KDDI総合研究所）
概要: 機械学習の事業応用において障壁となる教師データの不足に対処する方法として、既存データや外部データの異質性を克服して取り入れる転移学習がある。転移学習において重要となるドメイン不変な特徴表現すなわち転移可能表現を獲得する方法として、ある事例の特徴表現がどのドメイン由来であるかを識別不能とするドメイン敵対的訓練が知られているが、ドメイン不変性を高めるにはドメイン識別器の精度向上が必要だと考えられる。本論文では、ドメイン敵対的訓練を用いた転移可能表現学習において汎用性の高いデータ強化手法であるmixupを適用するdomain mixupを提案するとともに、ドメイン間で入力が異なる異種転移学習におけるドメイン横断的な汎化性能を評価する。
T-61: DNNの捉えた多様体構造からの保存量推定 ～多様体の対称性抽出とネーターの定理を介した保存量推定～
発表者: 本武陽一（東大）
概要: 本研究は、力学系の時系列データを対象として、Deep Neural Networksで抽出された多様体構造から物理的な情報を抽出することを目的とする。本研究では、力学形のハミルトニアンの対称性と、その時系列データが位相空間に構成する多様体構造の対称性が関係すると考え、多様体の対称性からネーターの定理を介して保存量を推定することを試みた。その結果、中心力ポテンシャル中の運動をする系から、いくつかの保存量が推定されることが確認された。