チュートリアル

場所:メインホール(1階)

チュートリアル1 [10月29日(日) 10:30 – 12:00]
稲葉通将(電気通信大学)

大規模言語モデル活用技術の最前線

近年,国内外の企業および研究機関において大規模言語モデルの開発競争が激化している.それに伴い,大規模言語モデルの性能を最大限に引き出すための研究も活発に行われており,大きな発展を見せている.本チュートリアルでは,自身の研究や業務で大規模言語モデルを使いたいと考えている初学者を主な対象とし,Chain of ThoughtやReActを始めとする大規模言語モデルを使うために役立つ技術や知見を最新の研究成果に基づいて紹介する.

チュートリアル2 [10月29日(日) 13:30 – 15:00]
田中佑典(NTT)

物理シミュレーションのための機械学習入門

機械学習技術の発展は目覚ましく,様々な分野において成功を収めている.では,機械学習を用いて,流体現象のような複雑な物理現象をシミュレーションすることも可能だろうか.このような課題に対して,近年,情報科学と数理科学の融合による学術横断的な研究が盛んになってきている.本チュートリアルでは,本研究分野にこれから挑戦しようとしている方々や,本研究分野の技術を活用しようと検討している方々などを主な対象とし,いくつかの問題設定(入出力データは何か)について整理をし,それぞれに対する代表的な手法(physics-informed neural network, Hamiltonian neural network, neural operatorなど)を紹介する.特に,近年注目を集めている「物理学に由来する事前知識を学習のための帰納バイアスとして活用する方法」に焦点を当て,最新の研究例や今後の研究課題について解説する.

チュートリアル3 [10月29日(日) 15:15 – 16:45]
今泉允聡(東京大学/理化学研究所)

ゼロから作る深層学習理論

本チュートリアルでは,深層学習理論の重要な成果をゼロから導出するための数学的演習を行う.深層学習の理論は近似・汎化・最適化といった多くの側面を扱っており,各理論の成果を網羅的に知ることはできても,それらの導出過程を確認して理解することは容易ではない.加えて,理論研究はその主張するところだけでなく,成果を導出する過程でモデルやアーキテクチャの性質を理解するということも同様に重要である.本公演では,聴衆にこういった知識を提供することを目的とし,基盤的な理論的成果を1〜2個選択した上で導出過程を丁寧に追う.数式を用いた議論を主とするが,適宜図を用いた直感的理解も重要視する.

チュートリアル4 [10月29日(日) 17:00 – 18:30]
伊藤伸志(NEC)

逐次的意思決定におけるリグレット解析と適応的アルゴリズム

リグレット解析は,オンライン凸最適化や多腕バンディット問題を含むさまざまな逐次的意思決定問題に対するアルゴリズムと複雑性の評価に用いる基本的な概念である.リグレット解析に関連する研究領域では,従来から確率的モデルや敵対的モデルなどのさまざまな環境モデルが考察され,各モデルに適した個別の手法が提案されているが,これらの手法の応用においては,適切な手法の選定がむずかしいという課題が残っていた.この課題に対応するため,近年,さまざまな環境モデルに自動的に適応して効果的に動作する「適応的アルゴリズム」の研究が盛んに行われている.本チュートリアルでは,リグレット解析に関する基本的な枠組みと方法論を紹介したのち,近年発展している適応的アルゴリズムについても紹介する.