企画セッション

Pocket

最終更新時刻:2020/11/24 07:26
※ ウェビナー・プレゼン動画・発表資料のパスワードは 11/23 に参加登録者にメールされます。
※ 公開予定の動画・資料は準備が出来次第の公開となります。

K1 学習理論 : 2020/11/24 14:30 – 16:30 @ [ウェビナー]

オーガナイザー: 二反田 篤史 (東大/AIP/さきがけ)・唐木田 亮 (産総研)

K1-1 鈴木 大慈 (東京大学/理研AIP)

無限次元勾配ランジュバン動力学による深層学習の最適化と汎化誤差解析 [動画, 資料]

これまで統計的学習理論の枠組みにおいて深層学習の優位性が様々な研究によって解明されてきたが,それらの多くはモデルの非凸性に起因している.その意味で,深層学習の統計的な「良さ」を引き出すためには,非凸最適化問題を避けることは難しいと考えられる.本講演では,無限次元勾配ランジュバン動力学を用いて深層学習の非凸最適化問題を解く手法を考察し,その汎化誤差を評価するための枠組みを提案する.既存の平均場理論やニューラルタンジェントカーネル (NTK) といった典型的な枠組みでは,大域的最適性を示すために横幅をサンプルサイズに合わせて無限大まで漸近させる必要があった.そのため,有限の横幅のニューラルネットワークの最適化を直接扱うことが難しく,最適化アルゴリズムによって得られる解の汎化誤差解析も一般論を展開しにくかった.本講演では,より自然な解析を実現するために深層学習の最適化を無限次元ランジュバン動力学の観点から解析し,その大域的最適性および汎化性能の解析を行う.本枠組みを用いることで,横幅が有限の場合も無限の場合も統一的に扱え,さらに解がベイズ推定量に対応し汎化誤差のバウンド及び余剰誤差の速い収束レートが示せる.また,本手法によって得られた推定量の予測誤差が任意の線形推定量を優越するような例が作れることも示し,深層学習の有用性を最適化可能な推定量について示す.

K1-2 金川 元信 (Eurecom)

機械学習におけるカーネル法とガウス過程の等価性・関係性について [動画非公開, 資料]

本講演では、機械学習におけるカーネル法とガウス過程の等価性と関連性について論じる。カーネル法は再生核ヒルベルト空間を学習問題における仮説空間の構築にもちいる方法論であり、サポートベクターマシンやカーネル平均埋め込み等の幅広い応用を持つ。一方、ガウス過程はベイズ的な機械学習における事前分布の構築に用いられ、非線形回帰やベイズ的最適化といった幅広い応用で使われている。双方とも正定値カーネルを用いたノンパラメトリックな方法論であるという共通点があり、様々な等価性・関連性が存在する。一方で、ガウス過程のサンプルパスは対応する再生核ヒルベルト空間に確率1で属さない、と言った例に見られるように、(表層的には)相違点も存在する。本講演では、学習理論の文脈において、これら2つの方法論の間にどのような等価性・関連性が存在するかを議論する。これにより、2つの方法論にはより深い、本質的な等価性が存在することを示す。

K1-3 園田 翔 (理研AIP)

積分幾何学に基づくニューラルネットのパラメータ分布再考 [動画公開予定, 資料]

ニューラルネットの理論解析には積分表現が有効である。積分表現理論は90年代に発達した調和解析の一種だが,Nitanda and Suzuki (2017) が先駆けとなって,過剰にパラメータをもつ(over-parametrized)深層学習の理論解析にも用いられるようになってきた。積分表現の強みの一つとして,逆作用素(リッジレット変換)が陽に書けることがあげられる。Kurkova (2012) の一般的なBarron型近似理論により,有限ニューラルネットは対応する積分表現を効率的に近似できることが分かっている。また ,Sonoda-Ishikawa-Ikeda (2020) により,適当な制約のもとで有限ニューラルネットの正則化付き経験リスク最小化パラメータは,過剰パラメトライズ極限でリッジレット変換に収束することも示されている。従って,リッジレット変換を通じて有限ニューラルネットの帰納バイアスが調べられる。ただし,リッジレット変換のような逆作用素が知られている積分表現は僅かであり,現状では積分表現のみを用いて解析することも多い。リッジレット解析のように強力な理論が成立する背景には,積分表現がラドン変換の構造をもつことが関係している。本講演では,講演者が最近発見した一連の新しい再構成公式(リッジレット変換)を紹介しつつ,背景にある積分幾何学的な構造を説明する。


K2 機械学習応用のフロンティア : 2020/11/25 09:30 – 11:30 @ [ウェビナー]

オーガナイザー: 牛久 祥孝 (オムロンサイニックエックス/Ridge-i)・上田 隼也 (Mercari)

K2-1 梅谷 信行 (東京大学)

機械学習を使ったデジタル・ファブリケーションのためのデザイン支援 [動画公開予定, 資料非公開]

近年、3Dプリンタなどのコンピュータで制御される工作機械が家庭にも普及し、個人が簡単に複雑な形状をした物を作れるようになりました。しかしながら、多くの人にとって高度な機能をもった物を設計するのは難しいのが現状です。機械学習を用いれば、計算時間のかかる三次元の物理シミュレーションを大幅に高速化することができます。本講演ではインタラクティブな形状モデリングに、機械学習を用いたリアルタイムのシミュレーションを組みわせることで、誰でも物理的に正しく動く物を設計できるようなシステムについて我々の取り組みを紹介します。具体的には空気の流れや、それによって発生する力を機械学習することで可能になった、インタラクティブな車体の設計システム、紙飛行機の設計システムや、凧の設計システムなどについて発表します。

K2-2 峰野 博史 (静岡大学)

マルチモーダルデータを用いた革新的情報協働栽培への期待 [動画公開予定, 資料]

社会構造の変化や人材不足に伴い,IoTやAIを活用した様々な分野における生産性向上への取り組みが注目されている.国内農業分野は,近年の気象変動による周年生産の不安定化によって収益性は低下し,労働の厳しさから後継者不足の深刻化も進み,植物栽培管理技術の高度自動化による持続可能な未来創出が期待されている.本講演では,多様な農産物と多岐に渡る農作業の中で,まずは中玉トマトの低段密植養液栽培向けの水やりに関してのみだが,植物生理学の知見を得ながら情報科学的アプローチで研究開発してきた植物の『しおれ』に基づくAI灌水制御技術について紹介する.比較的計測の容易な非破壊データである草姿画像と環境データ(温湿度,光量)のみを入力することで,培地の種類や量,品種の違いに大きな影響を受けないで,蒸散過多に基づく適切なタイミングで自動灌水制御可能なクラウド型・エッジ型システムを構築できるようになる.人工知能を含めた情報科学の知見や最新技術を農業分野に適用することで,現実的な量と質のマルチモーダルデータでも,熟練農家(いわゆる篤農家)の持つ暗黙知である「匠の技」をさらに洗練させることができ,革新的な情報協働栽培技術の創出に寄与できると実感する.

K2-3 宮本 崇 (山梨大学)

土木工学分野におけるデータ科学手法への期待と応用事例 [動画公開予定, 資料]

少子高齢化とインフラの老朽化が進む我が国においては,様々な社会的課題による生活の質の低下が今後進行するものとして懸念されている.生活の基盤の設計・構築・維持を担う土木工学分野では,このような状況の中でも効率的に社会を運用し生活の質を維持するため,都市の将来ビジョンや具体的な工学技術に関する検討を行ってきており,そうしたビジョンや技術の実現の上で,機械学習を含むデータ科学手法はキーテクノロジーの1つとなることが期待されている.本発表では,土木工学分野の視点から見た我が国の課題とデータ科学手法の関係,具体的な開発技術の事例,今後の展望に関する発表者の私見を順に紹介する.


K3 機械学習の信頼性 : 2020/11/26 09:30 – 11:30 @ [ウェビナー]

オーガナイザー: 原 聡 (阪大)

K3-1 山下 隆義 (中部大学)

深層学習における判断根拠の視覚的説明と活用 [動画, 資料]

深層学習は画像認識分野において高い性能を達成し,認識する際の判断根拠の説明性について注目が集まっている.そして,判断根拠を視覚的説明として可視化する研究が進んでいる.視覚的説明は,人が深層学習の判断根拠を理解しやすいような形で可視化できるだけでなく,認識精度を向上させたり,人の知見を深層学習に導入したりできる.本講演では,Attention Branch Networkによる判断根拠の視覚的説明について紹介し,人の知見を取り入れる仕組みも合わせて紹介する.また,Attention Branch NetworkのアイデアをGraph Convolutional Networksに導入したグラフにおける判断根拠に関する研究についても紹介する.

K3-2 都竹 雄介 (Preferred Networks, Inc.)

Adversarial attack / defenseの紹介とその近年の展開 [動画, 資料]

機械学習システムの入力に変化を加えることで、そのシステムに誤認識を起こさせることができることが知られている。特に人などに知覚され辛いような、微小、あるいは自然な変化のみでシステムに意図した誤動作を起こさせたり、機能を低下させたりできる場合があることが明らかになっている。このような攻撃はadversarial attackと呼ばれ、その悪用などが危惧されており、近年活発に研究されている。最近では幅広いアプリケーションでの攻撃手法の評価、より実世界に近い環境での攻撃手法の開発、防衛手法の解釈や理論解析など、幅広い観点から研究が行われている。本講演では、そうしたadversarial attackやそのdefenseの中で、特にdeep learningを対象としたものについて、その基本となる攻撃/防衛手法や、近年の研究動向について紹介する。

K3-3 山岸 順一 (国立情報学研究所)

深層生成モデルによるメディア生成とフェイク検知 [動画非公開, 資料非公開]

高度な深層生成モデルによるメディア生成が悪用された場合、人間には真贋判定が難しく、あたかも本物の様な映像・音声・文章、つまり「フェイクメディア」が自動で生成され、社会に混乱を及ぼす可能性がある。政府の戦略目標に謳われている様に、信頼されるAIの実現には、これらのフェイクメディアに対処する技術開発が必要である。そこで、本講演では、GPT-2により生成された口コミを検出する技術、Seq2seq+Wavenet等により生成された音声を検出する技術、Deepfakeと呼ばれる顔の偽造動画を検出する技術を紹介する。


K4 グラフとアルゴリズム : 2020/11/26 13:00 – 15:00 @ [ウェビナー]

オーガナイザー: 河瀬 康志 (東大)

K4-1 山口 勇太郎 (九州大学)

グラフにおける組合せ最適化 ―マッチング・最短経路― [動画非公開, 資料非公開]

現実世界の意思決定の状況を単純化して,数理モデルとして定式化すると,様々な組合せ最適化問題が現れる.どのような問題が,どの程度の計算量で(現実的にどの程度の規模まで)解けるのかを追究することは,理論的にも応用上も興味が尽きない.本講演では,グラフ・ネットワークにおける組合せ最適化,とりわけ,マッチングや最短経路に関する話題を扱う.基礎的な事項から始め,設定を少し変えるだけで問題の難しさが大きく変わることを示し,講演者の最近の研究成果に至る背景とその概要を紹介する.

K4-2 宮内 敦史 (東京大学)

密グラフ抽出に対する最適化モデルとアルゴリズム [動画非公開, 資料非公開]

密グラフ抽出とは,グラフから密な部分構造を取り出すことを指し,グラフマイニングにおける基本的な操作の一つとして知られている.たとえば,ウェブページを頂点,ハイパーリンクを枝として構成されるウェブグラフでは,関連するトピックを扱ったウェブページの集合やスパムリンクファームが密グラフを成している.このような構造を取り出すことで,検索エンジンの精度の改善に寄与することができる.密グラフ抽出に対しては,これまでに様々な最適化モデルやアルゴリズムが提案されてきた.本発表では,基本的なモデルである最密部分グラフ問題に焦点を当てながら,関連するモデルやアルゴリズムを概観する.

K4-3 白髪 丈晴 (中央大学)

グラフ上の確率的局所多数決モデル [動画非公開, 資料]

本講演では投票者モデル(voter model, pull-voting)を中心に, グラフ上のシンプルな確率的モデルとその応用について発表する. 投票者モデルは相互作用粒子系の一つとして古くから知られているモデルであり, 理論計算機科学においては, その単純さ, 局所性, また耐故障性から, 合意問題や多数決, 誤り訂正といった分散計算における重要な諸問題に対するシンプルなアプローチとして研究が為されている. 本講演では特に, 近年活発に研究が進められ, コミュニティ検知への応用も持つ, Best-of-twoと呼ばれるvoter modelの拡張モデルを通し, 局所操作の変化がもたらす興味深い大域的性質について発表する.