IBISML研究会では、一年間の研究会発表論文の中から優れたものを数件選び，IBISML研究会賞 (IEICE TC-IBISML Research Award) およびIBISML研究会賞ファイナリスト (IEICE TC-IBISML Research Award Finalist) を授与しています。

受賞候補者に特別な条件は課さず（年齢制限や、会員・非会員の区別）、IBISML研究会に投稿され、信学技報として出版されたものが審査の対象となります。

本研究会賞の受賞者は「情報論的学習理論と機械学習 (IBISML) 研究会賞選奨規程」に従い選出されます。

2023年度

有限時間収束性による分散学習のための通信効率に優れたネットワーク構造

• 竹澤祐貴（京大/沖縄科技大）
• 佐藤竜馬（京大/沖縄科技大）
• 包　含（京大/沖縄科技大）
• 丹羽健太（NTT）
• 山田　誠（沖縄科技大）

本論文では、分散学習を行う計算ノードのネットワーク構造に対して、consensus rateが高く、最大次数が小さい手法を提案した。理論的にもレベルが高く、幅広い応用も期待される研究であり、研究会賞に値する。

研究会賞ファイナリスト

• 深層学習によるSaliency Mapに対する選択的推論
  三輪 大貴(名工大)・Vo Nguyen Le Duy(理研)・白石 智洸(名大)・竹内 一郎(名大/理研)
• 階層的空間グラフデータの因果効果推定
  竹内 孝(京大)・西田 遼(産総研)・鹿島 久嗣(京大)・大西 正輝(産総研)

2022年度

バンディット問題におけるFollow-The-Perturbated-Leader方策の確率的・敵対的最適性について

• 本多淳也（京大/理研）
• 伊藤伸志（NEC）
• 土屋　平（京大/理研）

本論文では、確率的設定および敵対的設定のバンディット問題について、Follow-The-Perturbated-Leader (FTPL) とよばれる方策が、最適性を達成することを示した。理論的にもレベルが高く、幅広い応用も期待される研究であり、研究会賞に値する。

研究会賞ファイナリスト

• 射影法を用いて系の第一積分を発見し保存するNeural ODE
  松原　崇（阪大）・谷口隆晴（神戸大）
• Multifidelity能動学習を用いた段階的ドメイン適応
  佐川正悟（総研大）・日野英逸（統計数理研/理研）
• 乱択GP-UCBアルゴリズムのリグレット解析
  竹野思温・稲津　佑・烏山昌幸（名工大）
• 正例とラベルなしデータからの学習を用いた音響信号の強調
  伊藤信貴・杉山　将（東大）

2021年度

変数の拡張に対する最適輸送を用いたドメイン適応

• 有竹 俊光（統数研）
• 日野 英逸（統数研／理研）

本論文では、テストサンプルが、訓練サンプルに含まれる説明変数に加えて、付加的な説明変数を持つ場合の推論を考えている。訓練サンプルからテストサンプルへの対応を最適輸送問題として定式化することで、新たなアルゴリズムを提案し、その汎化誤差の上界を導出した。理論的にもレベルが高く、幅広い応用も期待される研究であり、研究会賞に値する。

研究会賞ファイナリスト

• Nonparametric Bayesian Deep Visualization
  石塚 治也（ブリヂストン）持橋 大地 (統数研）
• 分布的ロバストな機会制約付き最適化問題に対する能動学習
  稲津 佑（名工大）竹野 思温（名工大）烏山 昌幸（名工大）竹内 一郎（名工大／理研）

2020年度

多次元系列データの変化点検出のための選択的推論

• 杉山諒太（名工大）
• 戸田博己（名工大）
• Vo Nguyen Le Duy（名工大）
• 稲津　佑（名工大）
• 竹内一郎（名工大/理研）

研究会賞ファイナリスト

• Learning from Noisy Complementary Labels with Robust Loss Functions
  Hiroki Ishiguro（UTokyo）, Takashi Ishida（UTokyo/RIKEN）, Masashi Sugiyama（RIKEN/UTokyo）
• 深層学習における不適切なコンセプトによる説明の抑制
  宗政友洋（筑波大）, 福地一斗（筑波大/理研）, 秋本洋平（筑波大/理研）, 佐久間　淳（筑波大/理研）

2019年度

Approximation Ratios of Graph Neural Networks for Combinatorial Problems

• 佐藤竜馬（京大）
• 山田誠（京大）
• 鹿島 久嗣（京大）

本論文では，様々な種類のグラフニューラルネットワーク（GNN）が持つ表現力を解析することで，GNNの族がなす階層構造を明らかにするとともに，既存のGNNよりも表現力が高い新規GNNの導出を可能とした．さらに，種々の組合せ最適化問題に対するGNNの近似精度を理論的に解析し，分散局所アルゴリズムを利用するというアイデアによって近似度の導出に成功した．これらの成果は，今後のGNNの発展にとって欠かせない結果であり，GNNの適用範囲を本質的に広げるための基礎となりうる重要な貢献である．新規性，重要性ともに優れた研究であり，研究会賞に値する．

研究会賞ファイナリスト

• 適応的空間分割に基づく連続値時系列データのためのPredictive Sequence Mining 
  • 柴原芳和・佐久間拓人（名工大）・竹内一郎（名工大/理研/物質・材料研究機構）・烏山昌幸（名工大/物質・材料研究機構）
• 局所的変分法による非補償型時系列IRT
  • 玉野浩嗣（NEC/総研大）・持橋大地（統計数理研）
• 最頻値推定量を用いた主成分分析の提案
  • 三戸圭史（筑波大）・日野英逸（統計数理研/理研）
• Factorization Machineにおけるスパース正則化を用いた組合せ特徴選択
  • 新　恭兵（北大）・小山聡（北大/理研）・栗原正仁（北大）

2018年度

可変次数無限隠れマルコフモデル

• 内海 慶（Denso ITLab）
• 持橋 大地（統数研）

本論文では各時刻の次数が可変な隠れマルコフモデル（HMM）を提案している。提案法は、階層ディリクレ過程を用いてデータスパースネスの問題を対処し、また効率的な学習法によって、これまで扱うことが困難であった高次の依存性の利用を可能にした。品詞推定と運転データ分析という異なる応用でその有効性を示している。様々な分野で利用されているHMMの性能向上を可能にする重要な研究であり、研究会賞に値する。

再生核ヒルベルト空間における変数選択を伴う支配方程式の推定

• 大坪 洋介（ニコン）
• 中島 伸一（ベルリン工科大/理研）

現実世界の物理現象や社会現象の多くが常微分方程式によってうまくモデル化されることが知られている。よく知られている常微分方程式の多くは研究者の知識や経験に基づいて発見されたものであるが，時系列データから常微分方程式を推定する試みもなされている。常微分方程式をデータから推定するタスクは，パラメータ推定問題と構造（関数のクラス）発見問題にわかれるが，前者の問題に関しては多くのアプローチが提案されている一方，後者の問題に対して有効なアプローチが少ない。本論文では，再生核ヒルベルト空間におけるgradient matching methodと呼ばれる常微分方程式のパラメータ推定のための方法とスパース推定のアプローチを組み合わせることで，常微分方程式の構造発見を行う手法が提案されている。時系列データの背後に潜む支配方程式の構造を発見する問題は様々な科学・工学分野にとって重要な課題であるにもかかわらず，有用な機械学習法は未だ十分に整備されていない。本研究成果はそのような現状を打破できる可能性を有しており，研究会賞に値する。

研究会賞ファイナリスト

• 説明可能な能動的サンプル選択
  • 田口 優介・亀山 啓輔（筑波大）・日野 英逸（統計数理研）
• Batch-normalizationがResNetのフィッシャー情報行列に与える影響の理論解析
  • 古庄 泰隆・池田 和司（奈良先端大）

2017年度

t指数型分布族に対する期待値伝播法

• 二見 太
• 佐藤 一誠（東大/理研）
• 杉山 将（理研/東大）

確率モデリングにはガウス分布が広く利用されているが、外れ値に対する頑健性を向上させるには、裾の重いt分布の利用が有効である。ガウス分布が属する指数型分布族に対しては、自然母数の推定を統一的に記述することができる。最近、t分布を含むt指数型分布族という拡張クラスとその推定法が提案されているが、その性質についてはまだ十分に調査されていなかった。本研究では、統計物理に利用されるq代数に着目し、確率分布の準加法性を導入することで、通常の指数型分布族と同様に、t指数型分布族に対しても、自然母数に対する計算が可能になること、事後分布の近似のための期待値伝播法 (EP) が導出できることを示した。こうした本研究は理論面・応用面での貢献が大きく、研究会賞に値する。

Binary Classification from Positive-Confidence Data

• Takashi Ishida（SMAM/UTokyo/RIKEN）
• Gang Niu（UTokyo/RIKEN）
• Masashi Sugiyama（RIKEN/UTokyo）

この論文では、典型的な正例/負例の二値分類の教師データではなく、正例度という教師データ形式に着目し、そのような教師データを活用するための枠組みを提案している。これは、たとえば適切な負例を収集・定義することが難しいデータセット(自社(正例)と他社(負例)の顧客データなど)が対象となる。このようなデータセットは確かにその存在が認識されていたが、これらは1クラス識別問題、あるいは正例＋教師なしデータのようにして取り扱われてきた。本研究は、正例度データのみから正しく二値分類学習を実施する枠組みを提案した。
今後、ますますデータセット、特に教師ありデータセットの収集は様々な機械学習プロダクトの性能を分ける重要な観点となりうる。そのなかで、負例を直接取得しないことでラベル付きデータ収集のコストを下げた正例度データに着目し、新しい機械学習の問題の枠組みとして位置付けたことは高く評価でき、研究会賞に値する。

劣モジュラ最大化に対する高速な最良優先探索

• 坂上 晋作（NTT）
• 石畠 正和（北大）

この論文では、ナップサック制約付き単調劣モジュラ最大化問題に対して、alpha-近似を保証するBest First Searchの高速な探索手法を提案している。同問題は、貪欲法で1 – 1/e近似まで達成できることが有名だが、実際にはより高精度なalpha近似を与えるBFSが必要となる。提案法は、alpha近似解の判定に必要な上界値の計算方法と終了条件を工夫することで、既存法を大幅に上回る高速化を実現した。
離散データに対する最適化問題は、現在の深層学習・連続最適化の潮流から外れるため研究としても注目が集まりにくくなっている。離散構造を持っているために組み合わせ爆発が起こりやすく、巨大な計算資源があってもナイーブには太刀打ちできない問題領域であり、高い計算力・技術力をもった研究者による革新が求められる。本論文は、若い著者二名の高い技術力・計算力が発揮されて良い研究成果につながった顕著な例であること、離散データに対する機械学習技術は実応用の範囲も広く、社会へのインパクトも大きいことから、研究会賞に値する。

研究会賞ファイナリスト

• Quantum-Inspired Regression Forest
  • Zeke Xie・Issei Sato（UTokyo）
• 音楽音響信号解析のためのガンマ過程に基づく無限相関テンソル分解
  • 吉井 和佳（京大/理研）

2016年度

Doubly Accelerated Stochastic Variance Reduced Gradient Method for Regularized Empirical Risk Minimization

• Tomoya Murata（東工大）
• Taiji Suzuki（東工大）

機械学習の基本的な問題である正則化学習は, 有限個の関数の和で表される目的関数を最小化することで実現されるが, 大規模データの学習においてはその数が膨大になり, 計算上のボトルネックとなる. 本研究では凸関数の有限和で書ける目的関数を効率的に最小化する, 新しい確率的最適化手法を提案している. 提案法は確率的最適化の定番技法であるミニバッチ法において, ミニバッチサイズに対する計算効率性を改善した加速確率的勾配法である. さらにバッチサイズの選択にメモリ容量など他の要因を考慮でき, ミニバッチ法という広く用いられている方法を改善し機械学習の基本的問題を高速化させたという点で, 実用的にも理論的にも評価に値する重要な貢献である.

ガウス過程と動的計画法を用いたプロトン伝導体の伝導度推定

• 金森 研太（名工大）
• 豊浦 和明（京大）
• 中島 伸一（ベルリン工科大）
• 世古 敦人（京大）
• 烏山 昌幸（名工大）
• 桑原 彰秀（JFCC）
• 本多 淳也（東大）
• 設楽 和希（JFCC）
• 志賀 元紀（岐阜大）
• 竹内 一郎（名工大）

近年, 材料科学の課題を機械学習によって解決する材料情報学の研究が精力的に行われており, ベイズ最適化を初めとする様々なアプローチが有望視されている. 本研究では, イオン伝導物質の伝導度を推定するために, 従来のベイズ最適化のアプローチに加えてモンテカルロサンプリングと経路探索のための離散アルゴリズムを有機的に組み合わせ, 以前より大幅に効率的な方法を提案している. イオン伝導度の効率的推定は次世代蓄電池の開発に不可欠であり, 本研究の成果は同分野の進展に大きなインパクトを 与えることが期待できる. 単に機械学習の単純な応用に留まらず対象の問題に合わせた手法の開発を行っている点など, 機械学習の実世界応用として非常に質の高い研究であると高く評価できる.

研究会賞ファイナリスト

• 適応的劣モジュラ最大化によるストリーム型能動学習
  • 藤井 海斗（京大） 鹿島 久嗣（京大）
• 滑らかなテンソル分解
  • 今泉 允聡（東大） 林 浩平（産総研）
• 可変ビン幅ヒストグラム密度推定法を組み込んだ確率的トピックモデルの提案
  • 金 秀明（NTT） 岩田 具治（NTT） 澤田 宏（NTT）
• 劣モジュラ正則化の自由度
  • 南 賢太郎（東大） 駒木 文保（東大）

2015年度

比較バンディット問題における最適なアルゴリズム　～ ランキング手法比較や選好情報学習を目的として ～

• 小宮山 純平(東大)
• 本多 淳也（東大）
• 鹿島 久嗣（京大）
• 中川 裕志（東大）

比較バンディット問題において，比較対象数をKとしたとき，従来手法ではO(K^2)のRegretであるのに対して，O(K)を達成する漸近最適なアルゴリズムを提案したという点で受賞に値する研究である．検索エンジンランキングの実データにおいても既存手法に比べて優れた性能を示しており，理論および実データ解析の観点でバランスの取れた研究であり，研究会賞にふさわしい．

差分プライバシと擬ベイズ事後分布

• 南 賢太郎(東大)
• 荒井 ひろみ（東大）
• 佐藤 一誠（東大）
• 中川 裕志（東大）

差分プライバシは，理論・実用の両面から注目されているプライバシ保護技術である．この差分プライバシを，ベイズ事後確率から単純にサンプリングするだけで実現できるというWangらの報告があったが，その適用範囲には強い制限があった．本研究は，擬ベイズ事後分布からのサンプリングを考えることで，この手法の適用範囲を広げるもので，理論・応用の両面に対し重要な貢献であり，研究会賞にふさわしい．

ガウス過程を用いた選択的サンプリングとその材料分野への応用

• 平野 大輔（名工大）
• 豊浦 和明（名大）
• 世古 敦人（京大）
• 志賀 元紀（岐阜大）
• 桑原 彰秀（JFCC）
• 烏山 昌幸（名工大）
• 設楽 一希（京大）
• 竹内 一郎（名工大）

材料科学は科学分野における機械学習の応用先として極めて有望であり，本研究は，この分野におけるベイズ最適化の成功例としてインパクトのあるものである．今後，この問題に限らず様々な問題に対しての発展を大いに期待させる結果であり，研究会賞にふさわしい．

研究会賞ファイナリスト

• ガウシアンプロセスカーネル法による非線形テンソル学習およびマルチタスク学習への応用
  • 金川 平志郎・鈴木 大慈（東工大）
• ランダムウォークグラフカーネルの停止に関する解析
  • 杉山 麿人（阪大）・Karsten Borgwardt（ETHZ）

2014年度

マーク付き点過程の距離計算手法と判別への応用

• 高野 健（早大）
• 小林 芽依（早大）
• 日野 英逸（筑波大）
• 村田 昇（早大）

機械学習分野ではまだ十分に認知されていないマーク付き点過程モデルに対して，新たなアイディアを加えることでその応用可能性ををさらに広げた研究であり，IBISML研究会のスコープが含むモデルから応用までの広い視点と合致しており研究会賞にふさわしい．マーク付き点過程モデル空間への距離導入方法のサーベイとしても有用である．

公正配慮型分類器の公正性に関する分析

• 神嶌 敏弘（産総研）
• 赤穂 昭太郎（産総研）
• 麻生 英樹（産総研）
• 佐久間 淳（筑波大）

機械学習は，その社会的役割がますます大きくなってきており，近い将来さまざまな倫理的・社会的問題と無縁でなくなってくるだろう．本研究は，その流れを見越した先駆的な試みであり，倫理的問題と密接に関わる公正性という概念に対する取り組みである．この課題に対し，著者らは，既存手法の理論的解析を行うと同時に，その知見に基づき実公正分解という汎用性の高い手法を開発しており，研究会賞にふさわしい．

研究会賞ファイナリスト

• 密度微分推定とKLダイバージェンス近似への応用
  • 佐々木 博昭（東大）Yung-Kyun Noh (KAIST) 杉山 将（東大）
• 無限交換長方形分割
  • 中野 允裕 (NTT) 石黒 勝彦 (NTT) 木村 昭悟 (NTT) 山田 武士 (NTT) 上田 修功 (NTT)
• Robust Estimation under Heavy Contamination using Unnormalized Models
  • Takafumi Kanamori (Nagoya Univ.) Hironori Fujisawa (ISM)
• Wolfeの最小ノルム点アルゴリズムによるSVM学習
  • 北村 昌士（東大）武田 朗子（東大）岩田 覚（東大）

2013年度

ヒンジ損失最小化におけるセーフサンプルスクリーニングルール

• 小川 晃平（名工大）
• 川本 大和（名工大）
• 鈴木 良規（名工大）
• 竹内 一郎（名工大）

サポートベクトルマシンの学習において，取り除いても学習結果が変わらないデータを事前に取り除く新しいタイプのアルゴリズムを理論的に導き，その有効性を実験的にも示している ．

カーネル平均埋め込みによる分布統計量の計算　～ 密度関数，信頼区間，モーメント推定への応用 ～

• 金川 元信（総研大）
• 福水 健次（統数研）

確率分布のヒルベルト空間への埋め込みの理論を発展させるものであり，理論的に豊かな結果が得られている．あたらしいカーネル法の方向性を推し進めるという点でも意義深い内容である．

研究会賞ファイナリスト

• 音楽音響信号解析のためのガンマ過程に基づく無限半正定値テンソル分解
  • 吉井 和佳（産総研）富岡 亮太（東大）持橋 大地（統計数理研）後藤 真孝（産総研）
• Consideration of Correlation between Users’ Evaluating Values and Their Dropouts in Missing Value Prediction
  • 西村健太（京大）田中利幸（京大）

2012年度

双対平均化法および近接勾配法によるオンラインAlternating Direction Multiplier Method

• 鈴木 大慈（東京大学）

授賞理由：group lassoなどを含む構造のある正則化問題でのオンラインアルゴリズムという守備範囲の広い問題に解を与えた ．またソリッドな結果に加えて，当日の発表における理論的背景説明が分かり易かった．

情報理論によるシングルフレーム超解像の限界性能評価

• 川喜田 雅則（九州大学）
• 山口 耕太郎（九州大学）
• 高橋 規一（九州大学）
• 竹内 純一（九州大学）

授賞理由：超解像問題と通信路符号化問題の問題領域を接続したのは面白い．今後の解析にとって大きなアイディアとなるかもしれない．

2011年度

論理制約付きトピックモデルのためのディリクレ森事前分布構成法

• 小林 隼人（東芝）
• 若木 裕美（東芝）
• 山崎 智弘（東芝）
• 鈴木 優（東芝）

授賞理由：機械学習アルゴリズムの予測精度を高めるためには，学習タスクに関する事前知識をモデルにうまく反映させることが重要である．本論文では，ディリクレ森事前分布を用いた単語間制約付き潜在ディリクレ配分法(LDA-DF)の枠組みにおいて，論理式で表される複雑な単語間制約を事前分布に組み込むための手法を提案している．こうした単語間制約の導入によりトピッククラスタリングの精度が向上するとともに，モデルを系統的に簡略化することも可能となり，提案法は実用的に優れた性質を有している．また，論理的知識と統計的学習の融合の事例としても大変興味深い研究である．

研究会賞ファイナリスト

• Relative Density-Ratio Estimation for Robust Distribution Comparison
  • 山田 誠（東京工業大学）鈴木 大慈（東京大学）金森 敬文（名古屋大学）八谷 大岳（東京工業大学）杉山 将（東京工業大学）
• 非対称で個体差がある関係データ分析のための機会調整型無限関係モデル
  • 大濱 郁（北海道大学）飯田 裕美（パナソニック）喜田 拓也（北海道大学）有村 博紀（北海道大学）
• 部分観測マルコフ決定過程ベルマン方程式のカーネル化
  • 西山 悠（統計数理研究所）Abdeslam Boularias（マックスプランク研）Arthur Gretton（University Colledge London）福水健次（統計数理研究所）

2010年度

オンライン予測におけるプライバシ保護

• 佐久間 淳（筑波大学／科学技術振興機構）
• 荒井 ひろみ（筑波大学）

授賞理由：プライバシ保護は，機械学習やデータマイニング分野における重要な研究課題の一つである．本論文では，複数のエキスパートから得られる忠告（予測）をもとに学習者が次の時刻の系列を予測するオンライン予測のモデルについて，エキスパートの忠告を他のエキスパートや学習者に開示できないプライバシ保護環境に対応したアルゴリズムを提案している．そして，提案アルゴリズムは，プライバシ保護環境においても，情報が開示できる通常の場合の最適アルゴリズムとregret最小化の意味で同等の予測精度が達成できることを理論的に示している．これは，本論文で取り上げたモデルにおいてはプライバシの保護はオンライン予測の妨げにはならないということを示した革新的な成果である．

局所型パターン認識器の高次元特徴選択パス追跡に関する一考察

• 竹内 一郎（名古屋工業大学）

授賞理由：近年，最近傍識別器などの局所的なパターン認識器が様々な実問題において優れた性能を示し，注目を集めている．このような局所的パターン認識器の性能を更に向上させるためには，距離構造の学習および特徴の選択が重要である．本論文では，最近傍識別器に対する新たな特徴重み学習アルゴリズムを提案している．このアルゴリズムは，最近傍識別器の標的近傍と特徴重みを矛盾なく更新できるという優れた理論的特徴を有するとともに，正則化パス追跡の技術を応用することにより計算効率の良い実用的なものになっている．

研究会賞ファイナリスト

• 多値判別ブースティングの損失関数
  • 金森 敬文（名古屋大学）
• 産業連関表の情報幾何
  • 森岡 涼子（産業技術総合研究所）津田 宏治（産業技術総合研究所／科学技術振興機構）