招待講演
Recent Advances in Deep Learning: Learning Structured, Robust, and Multimodal Models
Ruslan Salakhutdinov (University of Toronto)
11/12 (火), 13:30 – 14:30
Building intelligent systems that are capable of extracting meaningful representations from high-dimensional data lies at the core of solving many Artificial Intelligence tasks, including visual object recognition, information retrieval, speech perception, and language understanding.
In this talk I will first introduce a broad class of hierarchical probabilistic models called Deep Boltzmann Machines (DBMs) and show that DBMs can learn useful hierarchical representations from high-dimensional data with applications in information retrieval, object recognition, speech perception, and collaborative filtering. I will then introduce several new models that allow us to learn more structured representations. In particular, I will present a novel Robust Boltzmann Machine model that allows DBMs to deal with corrupted, noisy, or missing data. I will then describe a new class of more complex models that combine Deep Boltzmann Machines with structured hierarchical Bayesian models and show how these models can learn a deep hierarchical structure for sharing knowledge across hundreds of visual categories, which allows accurate learning of novel visual concepts from few examples. Finally, I will introduce deep models that are capable of extracting a unified representation that fuses together multiple data modalities. I will show that on several tasks, including modeling images and text, video and sound, these models significantly improve upon many of the existing techniques.
デザインのためのインタフェース
五十嵐 健夫 (東京大学)
11/12 (火), 14:30 – 15:30
現代は大量生産・大量消費社会であり、一部の専門家によってデザインされた製品が世界中の大勢の人々によって使われるようになっている。しかし、このようなやり方では個々人の個別のニーズを完全に満たすことは難しく、また、自分で自分の生活を作り上げてくという創造の喜びを実感することが難しい。このような問題意識のもと、我々のプロジェクトでは、高度に発達した計算機技術を活用し、自分の使うものを自分でデザインできるようにすることを目指して研究開発を行っている。具体的には、プロでない普通のユーザが、３次元ＣＧやアニメーションなどの映像表現を実現したり、自分が使う衣服や家具などの道具をデザインしたり、ロボットの行動を自分用にデザインしたりすることを可能にするためのインタラクション技術の研究開発を行っている。本講演では、本プロジェクトの研究成果についてデモやビデオを織り交ぜながら紹介する。
参考：
http://www-ui.is.s.u-tokyo.ac.jp/~takeo
http://www.designinterface.jp/
企画セッション：ビッグデータ時代の機械学習研究
趣旨説明
杉山 将 (東京工業大学)
11/11 (月), 13:30 – 13:35
ビッグデータ時代における機械学習研究の光と影
上田 修功 (NTTコミュニケーション科学基礎研究所)
11/11 (月), 13:35 – 13:55
ビッグデータへの同床異夢
樋口 知之 (統計数理研究所)
11/11 (月), 13:55 – 14:15
岐路に立つ機械学習・データマイニング ー新しい展開に向けてー
鷲尾 隆 (大阪大学)
11/11 (月), 14:15 – 14:35
ビッグデータ時代を迎えつつあるなか、機械学習・データマイニング研究の現状を振り返り、現在の研究テーマを例示しながらこれから向かうべき方向性を展望する。
非機械学習屋から見たビッグデータ
喜連川 優 (国立情報学研究所・東京大学)
11/11 (月), 14:50 – 15:10
２００４年に情報爆発（文科省）、２００７年に情報大航海（経済省）、２００９年に超巨大データベース時代（内閣府最先端）と唱えてきた地味なデータベース研究者からみたビッグデータとは。
マルチエージェントシミュレーションの力
中島 秀之 (はこだて未来大学)
11/11 (月), 15:10 – 15:30
大量のデータを処理し，未来を予測する技術の一つとしてのマルチエージェントシミュレーションによる社会デザインの話題をスマートシティはこだての実践から紹介する．
システム制御と機械学習，そしてエネルギーマネジメントへ
藤田 政之 (東京工業大学)
11/11 (月), 15:30 – 15:50
本講演では，システム制御分野における機械学習関連の主要な動向，および昨年設定されたJST CREST研究領域「分散協調型エネルギー管理システム構築のための理論及び基盤技術の創出と融合展開」における機械学習分野からの貢献を紹介する．
パネルディスカッション
11/11 (月), 16:05 – 16:45
特別講演
東京とシカゴを往復しながら考えていること
古井 貞熙 (Toyota Technological Institute at Chicago 学長，東京工業大学グローバルリーダー教育院特任教授)
11/11 (月), 17:00 – 17:30
今年の4月から、米国のシカゴ大学のキャンパスにある、Toyota Technological Institute at Chicago (TTIC)の学長に就任し、東工大でのグローバルリーダー教育院での教育と両立させるため、毎月、シカゴと東京を往復しております。TTICは機械学習を中心とするcomputer scienceの博士課程教育に特化した大学院大学です。両方での教育を進めながら、考えていること、特にこれからの日本の大学院教育の在り方についての考えをお話しし、皆様と意見交換ができればと思います。
企画セッション：ディープラーニング
画像認識分野でのディープラーニングの研究動向
岡谷 貴之 (東北大学)
11/12 (火), 10:00 – 12:00 [発表資料]
画像認識の分野では、多層のニューラルネットを用いた方法がその高い性能ゆえに大きな関心を集めている。画像認識の成功の鍵は、画像からどのような特徴量を取り出すかにかかっている。従来は、研究者が取り出すべき特徴を手で設計し決定していたのに対し、ディープラーニングはこれを学習によって、データから自動的に決めることができる。この点で、画像認識の研究は大きなパラダイムの変化を経験しつつある。多層のニューラルネットにこのようなことが可能なのは、階層的な表現方法と適切な学習のメカニズムによって、高次元空間にあって複雑な構造を持つ（自然）画像集合に内在する構造を、活用し効率よく扱えるからだと考えられる。この辺りの概要を説明し、応用例を紹介する。
音声認識分野における深層学習技術の研究動向
久保 陽太郎 (NTT コミュニケーション科学基礎研究所)
11/12 (火), 10:00 – 12:00 [発表資料]
音声認識は時系列パターンを異なる長さの系列ラベルに識別する時系列パターン識別問題である。現在の音声認識技術は様々な系列モデルの集合体として成り立っており、その中には統計モデルで表わされるもの (例えば文法) やルールベースのモデルで表わされるもの (例えば発音辞書)、信号に対する処理や記号に対する処理などが含まれている。これまでの多層パーセプトロンではこのような複雑な構造や制約を持った変数を扱うのが困難であったが、近年では識別精度の高い深層学習による多層パーセプトロンをこうした問題に適用するため、様々な手法が提案され注目を集めている。本講演では、音声認識技術に関係する諸問題の基本的な定式化を紹介するとともに、そうした問題における深層学習技術の適用法について解説する。
自然言語処理分野におけるディープラーニングの現状
渡邉 陽太郎 (東北大学)
11/12 (火), 10:00 – 12:00 [発表資料]
自然言語処理分野では、多層ニューラルネットワーク、再帰的ニューラルネットワークなどの枠組が言語モデルの学習、複数タスク間の依存関係を考慮したマルチタスク学習、構成性を考慮した言語解析などで一定の成果を収めてきている。一方で、特徴空間が高次元となる自然言語の性質から、条件付確率場などの既存の識別モデルと比較して多層ニューラルネットが必ずしも優れた性能を発揮しないという結果も報告されており、他分野と比較してその有効性は限定的であるというのが現状である。本発表では、自然言語処理分野のディープラーニングに関する研究成果を俯瞰・整理し、残された問題について議論する。
企画セッション：脳・画像・ロボットと機械学習
大規模データを用いた画像の識別と言語記述
原田 達也 (東京大学)
11/13 (水), 10:00 – 12:00 [発表資料]
近年のインターネットの発達により大量の画像とそれに付随するタグなどの付加的情報が容易に入手可能となり，この大規模な情報を用いて一般的な画像の認識と言語記述を構築する試みが盛んになってきている．本講演では，大規模画像データセットを用いた一般画像の識別と言語記述の潮流を紹介する．また，大規模データを用いた画像認識を行うには画像特徴が鍵となる．そこでDeep Learningを含めた近年の画像特徴抽出手法に関して解説を行う．
人と環境の理解に基づくロボットの自律知能
加賀美 聡 (産業技術総合研究所)
11/13 (水), 10:00 – 12:00 [発表資料]
本発表では環境のＳＬＡＭによる三次元地図作成と六自由度の位置認識を利用した移動ロボットの自律機能について紹介すると共に，音環境理解，人の人体寸法推定や移動軌跡検出，自律物体操作のための事前計算などの人と環境の理解と利用のための機能について紹介する．
機械学習を使って脳から夢の内容を解読する
神谷 之康 (ATR 脳情報研究所)
11/13 (水), 10:00 – 12:00 [発表資料]
機械学習を用いた脳イメージングデータの解析は近年急速に普及し，ブレイン・デコーディング やmultivoxel pattern analysis (MVPA) と呼ばれる新しい分野を形成している．この方法は，脳画像の多数の画素パターンから心理状態を予測したり，脳・精神疾患のバイオマーカーを作成するために用いられ，単変量解析を各画素で繰り返す従来の手法（mass univariate analysis）からの大きなパラダイムシフトをもたらした．脳イメージング研究は，これまでの脳マッピングや確認分析的な方法論から，予測的な科学に脱皮しようとしているのである．私のグループでは，詳細な心の状態の解読を目指して，機械学習モデルを用いたデコーディング手法の開発を行っている．本講演では，睡眠中の脳活動パターンから夢の内容を解読した研究とその背景となる方法を紹介しながら，脳イメージングにおける機械学習の利用の現状と展望を議論する．
企画セッション：学習理論
趣旨説明
畑埜 晃平 (九州大学)
11/13 (水), 13:30 – 13:35
変分ベイズ学習理論の研究動向
中島 伸一 (ニコン光技術研究所)
11/13 (水), 13:35 – 14:10 [発表資料]
変分ベイズ学習はベイズ学習の近似法のひとつであり，多くのアプリケーションにおいてその有用性が示されてきた．近年，いくつかの確率モデルにお いて変分ベイズ学習の振る舞いが理論的に解明されつつある．行列分解モデルにおいては，変分ベイズ法の大域解が解析的に得られており，スパース性誘起のメカニズムや厳密なベイズ法との相違点などの多くの興味深い性質が解明さ れた．混合分布や隠れマルコフモデルなどにおいては，自由エネルギーの漸近挙動が解析され，事前分布の選び方が変分ベイズ解に強く影響する場合が あることなどが明らかになった．本講演では，これらの変分ベイズ学習理論を紹介する．
確率と計算
来嶋 秀治 (九州大学)
11/13 (水), 14:10 – 14:45 [発表資料]
近年の高度に発達した計算環境において，「乱数」は様々な局面で陰に陽に用いられる．「乱択アルゴリズムにおいて，乱数に真に求める性質は何であろうか？」本講演ではアルゴリズム設計の視点からこのテーマを眺め，MCMCやその脱乱択化に関する講演者の研究について紹介する．
離散構造のオンライン予測
畑埜 晃平 (九州大学)
11/13 (水), 14:45 – 15:20 [発表資料]
離散構造のオンライン予測問題は最短経路選択，スケジューリング，資源割当，推薦など様々な分野に現れる．離散構造の例としては，s-t パス，順列，全域木，集合被覆などが挙げられる．近年のオンライン予測研究の流れの１つは，すでに確立された連続なベクトルの予測手法を離散構造の予測手 法に拡張する事である．本講演では，離散構造の幾何学的構造を活かした効率的な予測手法や，対応するオフライン離散最適化アルゴリズムをオンライ ン予測手法に変換するアプローチ（オフライン－オンライン変換）等について紹介する．