NLP2021 スポンサー賞選考の報告｜Denso IT Laboratory researcher's blog sites

ホーム　>　技術ブログ　>　 NLP2021 スポンサー賞選考の報告

欅惇志欅惇志

研究開発グループ

20213/26

雑談

NLP2021 スポンサー賞選考の報告

こんにちは,デンソーアイティーラボラトリの言語処理チームリーダーの欅 (けやき) と申します．弊社は言語処理学会第27回年次大会 (NLP2021) にてプラチナスポンサーを務めました．また，今年度より始まったスポンサー賞にも参加させて頂き，デンソーアイティーラボラトリ賞は「A7-3 単語埋め込みの決定的縮約: 仲村祐希 (東北大), 鈴木潤, 高橋諒, 乾健太郎 (東北大/理研) 」に授与させて頂きました．本大会はレベルの高い研究が多く 1 本に絞り込むのに大変苦労しました．本記事では選考に残った論文も紹介しつつ弊社内の選考プロセスについて紹介させて頂きます．なお，実際の選考に関わったメンバーは，内海，太刀岡，河内，欅の 4 名で，いずれも専門は NLP もしくはその関連領域 (音声処理や情報検索) の研究者です．

選考方針の相談

弊社から学会スポンサー賞を授与するのは初めての機会で，選考方針について特にルールがなかったため，まずは関係者で集まって議論しました．その結果，

基礎的なテーマであること
新規性・有用性の高い研究であること
プレゼンが分かりやすいこと

を評価の軸として選考することになりました．また，選考プロセスとしては，

一次選考 (選考候補の論文のリストアップ@NLP 開始前)
二次選考 (選考候補の論文を評価@NLP 会期中)
最終選考 (各選考メンバーが持ち寄った推薦論文から受賞論文決定@表彰日の昼休み)

という流れとなりました．このときに副賞についても議論がありましたが…本題から逸れるので末尾で紹介したいと思います！

一次選考

この作業は主に内海・欅で担当しました．NLP2021 では全 361 本の研究発表があり，全件のタイトルに目を通すだけでも一苦労です．なので私 (欅) はタイトルを見て気になった論文に目を通して選考候補に挙げました．ところが，なんと内海は全論文に目を通すという荒行を敢行．内海のハードワークの甲斐もあって素晴らしい論文のラインナップが出揃いました (ちなみに COI 的に微妙な論文は論文のクオリティに関わらず除外しました)．

A1-4 極座標を用いた階層構造埋め込み: 岩本蘭 (慶應大), 小比田涼介, 和地瞭良 (日本IBM)
A5-4 オープンドメイン質問応答における解答可能性判別の役割: 鈴木正敏 (東北大/理研), 松田耕史, 大内啓樹 (理研/東北大), 鈴木潤, 乾健太郎 (東北大/理研)
A6-3 単語埋め込みによる論理演算: 内藤雅博 (京大), 横井祥 (東北大), 下平英寿 (京大)
A7-1 単語埋め込みの確率的等方化: 横井祥 (東北大/理研), 下平英寿 (京大/理研)
A7-3 単語埋め込みの決定的縮約: 仲村祐希 (東北大), 鈴木潤, 高橋諒, 乾健太郎 (東北大/理研)
A8-3 教師なし同期的句構造を用いた機械翻訳: 原田慎太朗, 渡辺太郎 (NAIST)
A9-3 Fine-Tuninng と混成的な逆翻訳サンプリングに基づく NMT の双方向反復的教師なし適応の改善: 森田知熙, 秋葉友良, 塚田元 (豊橋技科大)
B5-4 潜在変数の投機的サンプリングに基づく多様な雑談応答生成: 佐藤翔悦, 喜連川優 (東大)
B6-3 トピック文生成による教師なし意見要約: 磯沼大, 森純一郎 (東大), ダヌシカボレガラ (リヴァプール大), 坂田一郎 (東大)
B7-1 Hie-BART : 階層型BART による文書要約: 秋山和輝 (愛媛大), 田村晃裕 (同志社大), 二宮崇 (愛媛大)
C1-2 ラベル間の意味の違いを考慮したFew-shotテキスト分類: 大橋空, 高山隼矢 (阪大), 梶原智之 (愛媛大), 荒瀬由紀 (阪大)
C2-4 再帰的ニューラルネットワーク文法による人間の文処理のモデリング: 吉田遼 (東大), 能地宏 (産総研), 大関洋平 (東大)
C9-3 マスクされた単語の埋め込みと2段階クラスタリングを用いた動詞の意味フレーム推定: 山田康輔 (名大), 笹野遼平 (名大/理研), 武田浩一 (名大)
C9-4 事前学習とfinetuningの類似性に基づくゼロ照応解析: 今野颯人 (東北大), 清野舜 (理研/東北大), 松林優一郎 (東北大/理研), 大内啓樹 (理研), 乾健太郎 (東北大/理研)
D1-4 文脈化埋め込み表現を用いた対照学習による病名正規化: 氏家翔吾, 磯颯, 荒牧英治 (NAIST)
D3-4 事例ベース依存構造解析のための依存関係表現学習: 大内啓樹 (理研), 鈴木潤 (東北大), 小林颯介 (PFN), 横井祥, 栗林樹生, 吉川将司, 乾健太郎 (東北大)
D8-1 画像と単語の不一致を考慮した疑似教師ありキャプション生成: 本多右京 (NAIST), 牛久祥孝, 橋本敦史 (オムロンサイニックエックス), 渡辺太郎 (NAIST), 松本裕治 (理研)
P2-17 ラベルの不均衡を考慮したEnd-to-End情報抽出モデルの学習: 山口泰弘, 進藤裕之, 渡辺太郎 (NAIST)
P3-18 BERT を用いた文書分類タスクへの Mix-Up 手法の適用: 菊田尚樹, 新納浩幸 (茨大)
P4-13 単語属性変換による自然言語推論データの拡張: 石橋陽一 (NAIST), 須藤克仁 (NAIST/さきがけ), 中村哲 (NAIST)
P5-2 Recurrent neural network grammar の並列化: 能地宏 (産総研), 大関洋平 (東大)
P6-14 半教師あり文書分類のための仮想敵対的学習による注意機構の頑健性および解釈性の向上: 北田俊輔, 彌冨仁 (法政大)
P7-12 知識グラフ埋め込みを用いたニューラル機械翻訳におけるエンティティ表現の改良: 坂井優介, 渡辺太郎 (NAIST), 藤田篤 (NICT)

二次選考

二次選考では，選考メンバー 4 名各自が上記の論文の中から興味を持った論文を評価しました．結果的にはほとんどの論文に対して最低 2 名は評価が集まりました．私は可能な限り全ての論文の発表を見ようとしたので，一番忙しいときはセッション中に 3 回移動していました (オンライン開催だからこそ実現できたことですね)

図1: NLP 本会議期間のカレンダー

表彰のための評価という緊張感があるためいずれの発表も集中して聞けて，普段聞かないトピックの発表を聞く機会もあり，結果として大変充実した NLP となりました！また，他の選考メンバーの評価のメモを見ると自分とは異なる視点で評価していることも多く，とても興味深かったです．

最終選考

個々の論文の評価が終わり，表彰日の昼休みに各自推薦論文を持ち寄ってもらい最終選考を行いました．結果として，下記の 4 件が推薦されました．

A6-3 単語埋め込みによる論理演算: 内藤雅博 (京大), 横井祥 (東北大), 下平英寿 (京大)
A7-3 単語埋め込みの決定的縮約: 仲村祐希 (東北大), 鈴木潤, 高橋諒, 乾健太郎 (東北大/理研)
B5-4 潜在変数の投機的サンプリングに基づく多様な雑談応答生成: 佐藤翔悦, 喜連川優 (東大)
B6-3 トピック文生成による教師なし意見要約: 磯沼大, 森純一郎 (東大), ダヌシカボレガラ (リヴァプール大), 坂田一郎 (東大)

選考メンバー 4 名で推薦論文の重複があると思っていたのですが，完全に意見が分かれました．困りました．いずれの研究も大変レベルが高いので，最終的には好みで判断するしかなくなったということかと思います (ここで事務局に連絡して複数本を表彰できないかお伺いしたところ「一本に絞ってください」というご回答を頂きました．．．！)．いろいろな角度での評価を行って，なんとか最後に一本「A7-3 単語埋め込みの決定的縮約: 仲村祐希 (東北大), 鈴木潤, 高橋諒, 乾健太郎 (東北大/理研) 」を選出しました．

選考理由は下記の通りです．

決定的アルゴリズムによる一貫性のある単語埋め込みベクトルの離散化を実現
高速かつ安定で，元のベクトル表現の性質も保持
アルゴリズムとしては単純だが非常に実践的かつ効果的

今回の NLP，実は弊社はスポンサーブースを出さず，スポンサー賞の選定に全力投球しておりました．そのため，多面的に素晴らしい論文に賞をお贈りできたと自負しております．とはいえ最後の一本を絞るのは非常に過酷でした．(なのでもし上記の論文の著者の方がこのブログを見られていれば) 弊社内に推しがいますので，是非一度弊社にトークにお越しください．．．！

おまけ (副賞)

前述の通り，今回弊社ではスポンサーブースでの宣伝をしなかったので，スポンサー賞表彰の場で目立ちたいという下心…ではなく意欲がありました．そのためにはやはりユニークな景品をお送りするのが一番だろうという話に．そして弊社にゆかりがあれば更によいということで弊社 CTO 岩崎から提案されたのは弊社の本社であるデンソーの酒セーバー (日本酒・ワインの瓶を真空にして酸化を抑制する商品)．もともと弊社は日本酒好きな社員が多いということもあり，酒セーバーを副賞とさせて頂きました (副賞のおまけの日本酒付き)．

図2: 副賞 (酒セーバー)