AD-TECH
Lab BLOG
RCO アドテクLab ブログ

NIPS・ICDM 2016論文輪読会を開催しました。

2017/02/24tkm2261

このエントリーをはてなブックマークに追加

こんにちは。 エンジニアと分析官の間に生息する佐藤貴海です。

2月11日にNIPS・ICDM 2016論文輪読会なる勉強会を主催したので、その模様をお送りしたいと思います。

そもそものきっかけ

特に深淵な目的があったわけではなく、

  • 会社の金で国際会議行ったので、色々報告しないとアカン
  • ついでにPFNさんの勉強会で発表しようと思ってたが、ポスター発表で断念
  • もう自分たちでやれば良くね?

こんな適当な感じのノリで始まり、自社(RCO)だけでなく、リクルートホールディングスさんの支援も貰えることになり大々的にやることに。

なんやかんだで、参加無料の勉強会ながら、ビール・ピザ・お菓子・飲み物も用意して懇親会の場も設けることになりました。

会社でやる以上、面倒くさい調整があるのかなと思ってましたが、

  • ぼく『人事的な告知いれますか?』
  • 人事『エンジニアの方ってそういうの嫌がるでしょう?』

という、よく出来た嫁みたいなやり取りがあり、自由勝手にやらせて頂きました。

外部スピーカー枠もすぐ埋まり、勉強会と懇親会ともに凄く盛り上がったので大成功だったと思ってます。

本当に突発的な勉強会だったので、もしフィードバックとか次回これやって的なのを
Twitterなどで頂けると、次回企画する糧になるので助かります。

勉強会の模様

私の前フリはここまでにして、当日の模様をお送りします。

開演

今回はグラントウキョウサウスタワーの33階の超眺めの良い会場でした。
ちょっと入り口から遠い所でしたが運営スタッフの助けもあり、すんなり入場頂きました。

総勢で50名ほどの勉強会となりました。

招待講演:神嶌先生

TwitterでNIPSとICDMの両方に参加されていたのを知ったので、お誘いした所、快く引き受けて頂きました。

資料については残念ながら公開出来ないとのことでしたが、

NIPSとICDMの紹介と、チュートリアル講演の内容をサマリして頂きました。
最新の事情を多く共有頂き、勉強になる講演でした。

興味のある方は神嶌先生にお問い合わせすれば、お話聞けるかもしれません。

発表者①:k*-Nearest Neighbors: From Global to Local by 中谷さん

k*-Nearest Neighbors (NIPS & ICDM輪読会発表資料) from Michiaki Nakaya

中谷さんからは、k-NN法を拡張したk*-NN法なるものを紹介頂きました。
アイデアとしては、データの分布でデータ点の重みを学習してk-NNを改善するものです。
理論解析のアイデアがシンプルですが、カッコイイ感じでDNN全盛のなか清涼剤的な論文でした。

発表者②:Data Programming: Creating Large Training Sets, Quickly by 棚橋さん

NIPS Paper Reading, Data Programing from Kotaro Tanahashi

棚橋さんからは「人が作った、簡単なラベル関数を用いてモデル精度上げようぜ」という論文を紹介頂きました。
ラベルが毎回とれる必要はなく、生成モデルに仕上げている。
「普通にラベルを特徴に突っ込んだのと、精度どうなの?」という質問が出ていたが、気になる所

発表者③:Learning Kernels with Random Features by 狩野さん

狩野さんからは「RFFをカーネル学習に拡張したぜ」という論文を紹介頂きました。
通常のカーネルはグラム行列の計算が必要で、計算コスト的にツラい所を近似して対応している。
近年の大規模データでは下火ですが、ニューラルネットの復活の次はカーネル法の復活だと予言している方もおり、注目です。

発表者④:Fractality of Massive Graphs: Scalable Analysis with Sketch-Based Box-Covering Algorithm by 中村さん

Fractality of Massive Graphs: Scalable Analysis with Sketch-Based Box-Covering Algorithm from Kenko Nakamura

中村さんからは、ご自分でICDMで発表された「グラフのフラクタル性を高速に求めるぜ」という論文を紹介頂きました。
論文の内容もさることながら、グラフのフラクタル性に関する話をして頂き、活発な議論となりました。

発表者⑤:Dynamic Filter Networks by 白川さん

Dynamic filter networks from Tatsuya Shirakawa

白川さんからは、「画像認識の前に、物体の向きとか補正するフィルタを学習しようぜ」という論文を紹介頂きました。
アイデアは面白く良さげで、Moving MNISTのデモがシュールで会場が沸きました。

発表者⑥:Bayesian Nonparametric Motor-skill Representation for Efficient Learning of Robotic Clothing Assistance (Workshop on Practical Bayesian Nonparametrics) by Nishanthさん

Bayesian Nonparametric Motor-skill Representations for Efficient Learning of Robotic Clothing Assistance from Nishanth Koganti

Nishanthさんには、ご自分でNIPSのWorkshopで発表された、「新しい次元縮約法を適用して、服着せロボットの精度をあげたぜ」という論文を紹介頂きました。
論文として服着せタスクに特化しているものの、手法としては様々なタスクに拡張できるとのことでした。
英語で発表頂き、質疑も英語という新しい取り組みでしたが、会場が良い緊張感で良かったです。

発表者⑦:Supervised Word Mover’s Distance by 田村さん

NIPS2016 Supervised Word Mover's Distance from Recruit Lifestyle Co., Ltd.

田村さんからは、「WMDを距離学習して、より良い文書間距離を求めたぜ」という論文を紹介頂きました。
WMDの説明から丁寧に発表頂いたので、前提知識なく聞く事の出来る良い発表でした。

発表者⑧:Prefix and Suffix Invariant Dynamic Time Warping by 大友さん

大友さんからは「時系列の類似度DTWを改善したぜ」という論文を紹介頂きました。
NIPS論文が多い中、ICDM論文を紹介頂き助かりました。 PrefixとSuffixを加えるシンプルな手法で、理論解析もほぼそのまま応用出来ており、実務的な手法の印象を受けました。

発表者⑨:Binarized Neural Network by 佐野さん

Binarized Neural Networks from Shotaro Sano

佐野さんからは「DNNをバイナリ化してメモリも演算も改善してやるぜ」という論文を紹介頂きました。
流行りド真ん中ということで、楽しみにされていた方も多い様子でした。
バイナリ化するために活性化関数をsign関数にして、諸々都合が合うように誤差逆伝播を構築していました。
精度としては既存手法に同じか劣る程度で、収束が遅いのが難点のようですが、個人的に好きな筋の論文なのでウォッチしていきたいです。

懇親会

ビール・ピザの助けもあってか、会話も弾み、かなり盛り上がりました。

勉強会は懇親会が本番説もあるほど、懇親会は良いもんです。
特に、他社の分析系の人には、こういった機会でないとお会いできないので貴重です。

最後に

休みの土曜日に皆さん参加・議論頂きありがとうございました!

こういう機会をまた作っていければと思います。

私としては社外勉強会を主催する方々の凄さがわかったのが収穫でした。司会ってこんなに大変な仕事だったんですね。。。

広告

RCOアドテク部では勉強会で発表・主催してくれるエンジニアも募集しています。 採用ページ

TAGS :

#勉強会