Skip to content

Latest commit

 

History

History
169 lines (98 loc) · 9.6 KB

File metadata and controls

169 lines (98 loc) · 9.6 KB

JTPA みんなでやろうDL オンライン勉強会 - 2nd Season

"みんなでやろうDL"勉強会がパワーアップして帰ってきた!

  • 全6回 毎週木曜日開催 各回は1-1.5時間程度
  • 1st Season からの豪華な講師陣がそのままに、今回は講師の著書や著論文に沿ったトピックを伺います。
  • 全体的には中級者向きですが、初心者にも配慮した内容です。特にMLの先端領域での応用にフォーカスを当てています。
  • 質問などもしやすい雰囲気で交流用の会も準備しています。初心者大歓迎!
  • 講師による講義回が2回続いたのち、演習+LTの回を一回挟みます。こちらは初心者から上級者まで自由に質問して頂いたり、ネットワーキングや復習用に使って頂く時間です。

参加者管理 / 参加申請

Meetup: https://www.meetup.com/JTPA-Japanese-Technology-Professionals-Association/

connpass: https://jtpa.connpass.com/


Day1 飯塚 修平 氏: "ベイズ最適化入門"

日時: 米国時間(PST) 6/17日 8PM(日本時間 6/18 12PM)

時間: 1 - 1.5時間

講師: 飯塚 修平 氏

2017年 東京大学大学院博士課程修了。現在は UX エンジニア / クリエィティブテクノロジストとして、機械学習を駆使したウェブサイト制作や展示作品に取り組んでおられます。ポートフォリオ: tushuhei.com

題材: オライリー出版 『ウェブ最適化ではじめる機械学習』

アジェンダ:

ベイズ最適化は最小の評価回数で未知の関数(ブラックボックス関数)の最大点を求めようとする枠組みです。人間の感性そのものをブラックボックス関数と捉えることで、グラフィックアート、インターネット広告、ウェブサイトの UI など、人間と機械の対話から人工物をデザインする手法として広く応用され始めています。今回の勉強会ではベイズ統計の基礎からはじめ、バンディットアルゴリズム、ベイズ最適化と発展させることでその理論と実装を学びます。なお、内容の多くは著書『ウェブ最適化ではじめる機械学習』(オライリー・ジャパン, 2020)に基づいています。


Day2 山下 力也 氏: "DLのComputational Pathologyへの応用"

日時: 米国時間(PST) 6/24日 8PM(日本時間 6/25 12PM)

時間: 1.5時間

講師: 山下 力也 氏 (スタンフォード大 Department of Biomedical Data Science ポスドク)

京都大学医学部卒、京都大学大学院医学研究科博士課程終了。Ex-画像診断医。現在はスタンフォード大学にて機械学習などを用いることでBiomedical Dataからどのように知識を学ぶことができるかに興味をもって研究されています。

題材1: "Deep learning model for the prediction of microsatellite instability in colorectal cancer: a diagnostic study"

題材2: "Learning domain-agnostic visual representation for computational pathology using medically-irrelevant style transfer augmentation"

題材3: "Data valuation for medical imaging using Shapley value and application to a large-scale chest X-ray dataset"

アジェンダ:

  • 簡単な自己紹介
  • そもそもComputational Pathologyとは
  • 自著論文の紹介
    • 詳細に紹介
      • 大腸がんのGenetic Subtype分類: 題材1
      • Computational PathologyにおけるStyle Transfer Data AugmentationによるDomain Generalization: 題材2
    • 簡単に紹介
      • Data ShapleyによるData Qualityの評価とChest X-rayへの応用: 題材3
  • まとめ
    • Computational PathologyにおけるChallenges
    • 最近の動向や個人的な興味
    • などなど

Day3 第一回 演習&LT会

日時: 米国時間(PST) 7/1日 8PM(日本時間 7/2 12PM)

時間: 1.5時間

  • LT希望者がいれば 6名まで1人2-3分程度で自分の興味や作ってみた物、作ってみたい物を自由にLTタイム 〜15分
  • 演習ではColabやJupiterノートでの題材や気になる記事・論文などを参加者から上げてもらい、皆で動かしてみたり討論します。 〜45分
  • 自己紹介・雑談・自由質問・ネットワーキングタイム 〜15-30分

Day4 数原 良彦 氏: "ニューラル要約技術の最新動向 (教師なし複数文書要約技術を中心に)"

日時: 米国時間(PST) 7/8日 8PM(日本時間 7/9 12PM)

時間: 1.5時間

講師: 数原 良彦 氏 (Megagon Labs リサーチサイエンティスト)

2008年 慶應義塾大学大学院前期博士課程修了。2008年-2014年日本電信電話株式会社研究員、2014年-2016年株式会社リクルートホールディングス研究員およびMIT Media Lab Visiting Scientistを経て2017年より現職。博士(工学)。Megagon Labsでは自然言語処理とデータマネジメントに関わる研究開発をされています。

題材1:"OpinionDigest: A Simple Framework for Opinion Summarization"

題材2:"Convex Aggregation for Opinion Summarization"

アジェンダ

  • 導入 & 文書要約技術の分類
    • 抽出型 vs 抽象型
    • 単一文書要約 vs 複数文書要約
    • クエリ指向 vs 非クエリ指向
  • 教師ありの要約技術
    • seq2seq モデルのおさらい
    • 参照要約を用いたニューラル要約技術
  • 教師データは必要としない教師なし文書要約技術+自著論文紹介
    • Auto-Encoderと平均ベクトルを用いた教師なし文書要約
    • 意見フレーズを用いた教師なし複数文書要約 (OpinionDigest)
    • 潜在ベクトル最適化を用いた複数文書要約 (Coop)
    • その他の手法、テキスト以外の要約技術
  • まとめ: 最新動向と今後の展望
    • 事前学習言語モデルを用いた要約技術
    • コントロールコードを用いた要約技術
    • など  

関連論文

  • 詳細に説明予定
    • (OpinionDigest) Yoshihiko Suhara(*), Xiaolan Wang(*), Stefanos Angelidis, Wang-Chiew Tan, "OpinionDigest: A Simple Framework for Opinion Summarization", ACL 2020. ((*) Contributed equally) PDF
    • (Coop) Hayate Iso, Xiaolan Wang, Yoshihiko Suhara, Stefanos Angelidis, Wang-Chiew Tan, "Convex Aggregation for Opinion Summarization", arXiv, 2021. PDF
  • 概要だけ説明予定
    • S Angelidis, RK Amplayo, Y Suhara, X Wang, M Lapata, "Extractive Opinion Summarization in Quantized Transformer Spaces", TACL 2021.
    • Nofar Carmeli, Xiaolan Wang, Yoshihiko Suhara, Stefanos Angelidis, Yuliang Li, Jinfeng Li, Wang-Chiew Tan, "Constructing Explainable Opinion Graphs from Reviews" WWW 2021. PDF
    • Xiaolan Wang, Yoshihiko Suhara, Natalie Nuno, Yuliang Li, Jinfeng Li, Nofar Carmeli, Stefanos Angelidis, Eser Kindogan, Wang-Chiew Tan, "ExtremeReader: An Interactive Explorer For Customizable And Explainable Review Summarization" WWW 2020 (demo) PDF

Day5 林 鋭志 氏: "RadarNet: Efficient Gesture Recognition Technique Utilizing a Miniature Radar Sensor"

日時: 米国時間(PST) 7/15日 8PM(日本時間 7/16 12PM)

時間: 1.5時間

講師: 林 鋭志 氏 (Google Advanced Technology and Projects)

京都大学修士課程(メカトロニクス)修了後、三菱電機株式会社にて主任研究員を経て、Carnegie Mellon University Human-Computer Interaction InstituteでPh.D取得。2016年よりGoogleのインキュベーションセクションであるAdvanced Technologies and Projectsにてセンサを用いたインタラクション技術の研究開発に従事されています。

題材: "RadarNet: Efficient Gesture Recognition Technique Utilizing a Miniature Radar Sensor"

アジェンダ:

画像、テキスト以外のDLのアプリケーションとして、レーダー信号を用いたジェスチャ認識に関する主著論文を紹介頂きます。


Day6 第二回 演習&LT会

日時: 米国時間(PST) 7/22日 8PM(日本時間 7/23 12PM)

時間: 1.5時間

  • LT希望者がいれば 6名まで1人2-3分程度で自分の興味や作ってみた物、作ってみたい物を自由にLTタイム 〜15分
  • 演習ではColabやJupiterノートでの題材や気になる記事・論文などを参加者から上げてもらい、皆で動かしてみたり討論します。 〜45分
  • 自己紹介・雑談・自由質問・ネットワーキングタイム 〜15-30分