News

【論文掲載のお知らせ】2021年7月にMedical Imaging with Deep Learning(MIDL)学会で発表した論文がProceedings of Machine Learning Researchにて掲載されました ~転移学習(Transfer Learning)の基盤技術の創出の成功~

7月に開催されたMedical Imaging with Deep Learning (MIDL)学会で発表した論文が、
Proceedings of Machine Learning Researchにて正式に掲載されました。

本論文は、Deep Learningの高速化技術に関連する研究です。 勾配消失による学習停滞を防ぐ手法として、Batch Normalizationには、学習高速化、過学習抑制、初期値の影響抑制など様々な利点が報告されています。われわれは、医用画像を効率的にDeep Learningさせる手段としてTransfer Learningに着目しており、Batch Normalizationおよびパラメータ調整の重要性について基礎的な技術開発研究を進めてまいりました。 その結果、Batch Normalization Layerのうち、学習可能なweightの「ScaleとCenter」のみを微調整することで、すべてのweightを微調整した時と同様の精度が得られることを明らかにしました。 本研究を継続し、より効率的かつ革新的なDeep Learningの基盤技術の研究開発を展開していく予定です。

※本研究の内容は、2021年7月9日に、国際学会であるMedical Imaging
with Deep Learning(MIDL2021)(https://2021.midl.io/ )において、
「Transfer Learning and Domain Adaptation」のセッションで口頭発表しております。
(弊社プレスリリース:https://prtimes.jp/main/html/rd/p/000000015.000034505.html

▼論文タイトル:
Partial transfusion: on the expressive influence of trainable batch norm
parameters for transfer learning (https://proceedings.mlr.press/v143/kanavati21a.html)
▼日本語訳:
転移学習(Transfer Learning)におけるBatch Normalizationの理解と技術開発

■著者・所属
<メドメイン株式会社>
常木 雅之、Fahdi Kanavati