座談会「海外研究留学」について
海外留学は、シェフが本場で修行するようなもの
デンソーアイティーラボラトリ(以下、ITラボ)には「海外留学制度」があり、意欲があれば、海外留学の機会を得ることができます。今までにMITメディアラボ、UCバークレー、現在はスタンフォード大学に1名留学しています。海外留学第1号の関川さんと第2号の石川さんに、ITラボからの海外留学で学んだことや、その魅力について伺いました。
Member
関川 雄介
研究開発グループ
リサーチャ
大学卒業後、特許庁審査官を経てメーカーで製品開発に携わる。開発の仕事は楽しかったが、研究もしたいという思いが強くなり、2011年に転職。現在はニューラルネットワークの研究に携わる。理論的に突き詰めるよりは、手を動かして結果を見て考えるタイプ。石川 康太
研究開発グループ
リサーチャ
大学での専門は理論物理学。金融系に勤務後、ソフトウェア開発会社に転職し、数値最適化や統計解析のソフトウェア開発に携わる。理論物理学の知見を活かした研究職を志し、2012年に転職。現在はより良い学習を可能にするためのニューラルネットワークや機械学習の理論的な解釈・分析・解析に取り組んでいる。
MITとUCバークレーでの学びの日々
― 留学中、どのような研究をされていたのですか?
石川私は2015年9月から2年間、UCバークレーのBruno
Olshausen先生の研究室でVisiting Scholarとして主に機械学習の研究をしていました。
関川さんは私の直前に行かれていたんですよね?
関川はい、MITに。もう少し期間が短くて、2014年秋から2015年6月の9カ月間、MITメディアラボで石井裕教授の研究室に所属していました。
私は、元々デンソーからの話がきっかけでした。元々デンソーと石井先生がインターフェイス研究で繋がりがあったのだと思います。
MITメディアラボは、建築・アート、CS、ニューロサイエンス、社会学など全然異なるテーマの研究室から構成されていて、異なるバックグラウンドの研究者がディスカッションすることで、新しい研究を生み出すことを狙った研究施設です。私が所属した研究室は、ユーザインタフェースやアート寄りの研究が多かったですね。
私は同じ研究室の学生とUIの研究もしていましたが、他の研究室の学生と、たくさん穴をあけたピンホールカメラで撮影した画像から、自然画像の特定の基底でのスパース性を使って元の画像を復元するといったCSよりの研究も行っていました。
石川さんの所属していたBruno先生の研究室はニューロサイエンスですよね。これもちょっと、会社で普段扱う切り口とは違うような気がしますが。
石川そうですね。人間が画像を認識する時、低次処理から始まって情報を統合していくというプロセスを取ります。その時、バイオロジカルに最初の処理を人間がどう行っているのか、なぜそのように処理を行うのか、を明らかにするのがニューロサイエンスです。
Bruno先生はこれを数理的に説明するモデル「スパースコーディング」の提唱者です。そこでの2年間の研究を通して、スパースコーディングモデルを拡張することで、複雑な画像の統計性をより自然な形で記述できるモデルが実現できるのではないかと思い付きました。
今の仕事に繋げるとすれば、ディープラーニングの基本的な構成要素として、そうしたモデルが適用できるのではないかということですね。
「蓄積」が組織による研究の強みであることを学んだ
関川出発前、スパースコーディングをテーマにする予定はないと言っていましたが、途中で研究方針が変わったんですか?
石川最初は違う方法を考えていたんですよ。でも、Bruno先生の研究室に所属しているなら、その研究室の知見に入り込んでいかないと意味がないと思うようになって。新しい人が研究室に入るということは、その人が研究室の蓄積を吸収して、そこに自分の知見をプラスすることで、新しいものを生むのだと気付きました。
関川それはいいことですよね。
石川逆に、それがなければ、その研究室にいる意味がないかなって。最近は会社でも「蓄積」を意識していこうという議論を皆としていますね。
今のディープラーニングの研究って、対象が巨大でスピードが速い。新しい論文もどんどん出てくるし、個人でキャッチアップするのは限界があります。皆が同じことをやる必要はないけれども、メタなレベルで組織として情報を蓄積していくことで、自分たちの研究を位置づけることができると思うので。
日本の企業研究所は、逆に組織立っていますが、非常に縦割りでコミュニケーションが取りづらいという印象があります。ITラボは、そうした壁を感じることなく皆が自由に議論できるのはいいですよね。でも「組織としての蓄積」という視点はまだ弱いと感じますが。
研究の中心地への留学は、シェフが本場で修行するようなもの
― お二人とも30代前半で留学されたそうですが、以前から海外留学を希望されていたのですか?
石川機会があれば行きたいとは常々言っていました。機械学習やディープラーニングの研究の本拠地は、やはりアメリカや欧米なので。
関川シェフがイタリアやフランスに修行に行く感じですかね(笑)。
石川そうですね。情報系の有名な会社はアメリカにあるし、研究環境もアメリカが基準。UCバークレーには、同じような日本人の研究者もたくさんいて、向こうで知り合いもできました。もっとも、私はサイエンス系の研究室に所属していたので、日本企業からは誰も来ていなくて、Ph.Dの学生ばかりでした。関川さんのところは?
関川MITメディアラボ所長が伊藤穣一氏ですから、日本企業からもたくさん人が来ていました。研究室の学生も、一度社会人経験をしてから戻ってきた人など自分より年上の人も多くて、結構仲良くなりましたよ。
家族も楽しんだ海外留学
― 留学中、ご家族もご一緒に海外で過ごされたのですか?
石川うちは出向なので、家族といっても妻だけですが帯同が認められていました。妻の仕事の都合もあり、一緒に暮らせたのは後半の1年間でしたが。
関川うちは単身赴任でしたので、家に帰ると家族がいて、一緒に食事できるのは、うらやましいですね。
石川確かに。家族がいることで精神的には楽でしたね。妻の繋がりで人と知り合うこともありましたし、それは良かったと思います。現地に馴染めるかどうかは人によるので、もしかすると大変なケースもあるかもしれませんが、幸いうちはそんなことはなかったです。
関川研究室に所属している我々とは違って、家族の方がソーシャリングはうまいかもしれませんね。語学スクールに通って友達を作ったりして、楽しいことも多いかも。
石川確かにそうですね。「ブラジル人の友達が寿司好きなので」って、自宅で手巻き寿司パーティをしたこともあります。休日は友達とパーティをしたり、二人で旅行に行ったり、近場でトレッキングしたりという感じで過ごしていました。
関川私は期間が短くて、週末も研究所に行くことが多かったので、近くを散歩するぐらいでした。ボストンは都会ですが小さい街で、ハーバード大学のあたりまでは徒歩圏内だったのでよく行きました。(Facebook創業者の)ザッカーバーグが、最初の恋人に酷いことを言ったバーにも行きましたよ(笑)。
石川映画「ソーシャルネットワーク」のワンシーンですね。
ビジョン構築から研究が始まるアメリカ
― 海外に行って自分が変わったと思うことはありますか?
関川まず、英語は上達しました(笑)。というか、話すことに抵抗がなくなりました。カンファレンスでプレゼンテーションをしたり、人の話を聞いたり、打ち合わせでも、適当な英語でも臆せず話せるようになりました。
振り返ってみて思うのは、留学は良い転機になったということです。当時は研究を続ける中で数学的素養が不足していて、そのことが仕事の妨げにもなっていると自覚して、ちょっと焦っていたんです。でも、留学中に集中して勉強したことで、多少は知識を身に付けることができました。
あと、メディアラボという場所にいることで、全然違う世界を見られたのは貴重な経験でした。彼らはコンセプトを提案するのが仕事なので、技術を見せるよりも、ビジョンや、コンセプトをより良く伝えるようにする方に重きをおいてデモや研究発表をする。コンピュータサイエンスとは違って、実際に動くものを作ることに重きを置いているわけではありません。我々の仕事とは目的が違うので、そのまま取り入れることはできませんが、そういうやり方もあるということを知れたのは良かったと思います。
石川アメリカ人って「ビジョン」がほんとに好きで、まずそこに膨大な時間をかけるんです。あるべき姿をとことん考えてから、具体的なことを始める。博士課程5年間のうち、サイエンス系だと最初の2~3年はビジョンを考えるだけで過ごすというのは普通のことで。
関川それは凄いですね。日本だとそうはいかない。2年目でとりあえず修士論文を書かなくちゃいけないですからね。
石川企業ではなかなか理想を追うのは難しいけれど「本質は何なのか」を突き詰めて考えることは重要だと思いました。とはいえ、ITラボは他の企業に比べると「留学して何を学ぶか」ということについて、自由度は高いと思います。他の企業だと、留学して何を学んでくるかはあらかじめ決められていて、それ以外のことはできません。でも、私の場合は先生を探すところから自分でやりましたから。
関川確かにそれは感じました。留学だけに限らず、企業から大学に行くのは、企業だけではできないことを大学と共同研究して、成果を持ち帰るという考え方が多いですよね。でも、ITラボのように研究者自身でテーマを決めるのは、本人にとって楽しいだけでなくて、会社にとっても新しいテーマに取り組む契機になると思うんですよ。
― これからどのようなことをやりたいですか?
石川ニューラルネットワークのモデルを数学的な意味できちんと理解したいと思いますね。ニューロサイエンスでは、巨大なモデルを作る前にそれぞれのパーツにどんな意味があるかを考えながら組み立てていくんですが、ニューラルネットワークでもアルゴリズムを作る時に、一つ一つのブロックが持つ意味を理解できればもう少し簡単にできるのではないかという気がしています。そのための基本的な要素形成を確立していきたいですね。
関川私は生物の脳に近いニューラルネットワークの可能性を検討してみたいと思っています。今のニューラルネットワークって、膨大な掛け算と足し算で実現されていますが、処理に無駄が多く、今後必要となってくる、より複雑で大規模な学習や推論を効率的に行うことは難しいと考えています。そこで、近年着目されてきているスパーキングニューラルネットと呼ばれる新しいパラダイムの生物の脳に近いニューラルネットワークを検討してみたいと思っています。なので、石川さんには今も色々相談していますけど、これからもよろしくお願いします。
石川こちらこそよろしくお願いします。今日関川さんと話してみて、改めて、海外での研究生活は、自分の中で大きな糧になっていると感じました。
関川そうですね。自分はいいチャンスに恵まれたと思います。海外で研究する経験ができて、非常に成長できたと思いますね。