Quantum Computation and Machine Learning Seminar Series vol. 3

2017年1月23日 16時30分~

畳み込みニューラルネットワークによる相転移の検出
Akinori Tanaka (RIKEN)
理化学研究所 理論科学連携研究推進グループ 分野横断型計算科学連携研究チーム 長瀧天体ビッグバン研究室 田中章詞 氏

場所: 早稲田大学早稲田キャンパス3号館405号室

概要:
機械学習の分野において、ニューラルネットワークを用いた勾配法による学習の方法が劇的に進歩してきており、多くの学習データが比較的手に入りやすいタスクである画像認識や自然言語処理などに応用されてきています。
一方で、多くのデータの中から意味のある量を発見するという行為だけを切り取ってみると、機械学習の方法は物理学、とりわけ統計力学を始めとする、多体系の問題を解くのに応用できそうだというのは自然な発想だと思われます。
実際、様々な成果が既に発表されており、例えば機械学習の方法を用いることで人間の目には区別できない異なる2つの物理系の状態を区別することなどが可能になってきています。
さらに我々はもう少し踏み込んで、ニューラルネットワークが理論物理的な概念を習得できるか、という問題に簡単な例(2次元イジング模型)を用いて取り組みました。その結果、畳み込みニューラルネットワークと呼ばれるモデルならば、事前に対称性などの情報を教えることなしに相転移を自動的に”発見”できるということに気付きました。
本講演では、このことに加えて、ニューラルネットワークの設計と学習を実装するためのpythonライブラリの使い方も説明します。
この講演はCCNUの富谷昭夫さんとの共同研究arXiv:1609.09087に基づきます。

主催:科学研究費助成事業基盤研究(B)「量子アニーリングが拓く機械学習と計算技術の新時代」
共催:早稲田大学高等研究所



Quantum Computation and Machine Learning Seminar Series vol. 2

2016/03/16 15:00-

経路積分量子モンテカルロ法の負符号問題と1次元量子系のトポロジカル秩序の関係
Kenji Harada (Kyoto University)
京都大学大学院情報学研究科複雑系科学専攻 原田健自 氏

場所: 早稲田大学早稲田キャンパス3号館203号室

概要:
量子モンテカルロ法は量子強相関系を研究するための強力なツールであるが、系によっては経路積分表現に基づく定式化において負の重みが出現し、確率的サンプリングによるモンテカルロ計算の精度が著しく落ちる。
この問題を負符号問題と呼ぶ。講演の前半では、負符号問題がある例をいくつか紹介し、後半では、強相関1次元量子系の一つであるS=1
bilinear-biquadraticハイゼンベルグモデルとそのSO(N)拡張版の負符号問題について議論する。
このモデルはハルデーン秩序として知られる対称性に守られたトポロジカル秩序を持つが、それと関係してハルデーン秩序相での負符号問題を特別に解決する手法を見つけた[1]ので、トポロジカル秩序相境界上の量子臨界現象の数値的研究[2]とあわせて紹介する。
(後半の内容は、新潟大学理学部 奥西巧一さんとの共同研究の成果です)

[1] K. Okunishi and K. Harada, Phys Rev B 89, 134422 (2014).
[2] K. Harada and K. Okunishi, unpublished (2016).

主催:科学研究費助成事業基盤研究(B)「量子アニーリングが拓く機械学習と計算技術の新時代」
共催:早稲田大学高等研究所
http://www.waseda.jp/wias/



Break and Beyond Detailed Balance Condition - expanding to machine learning -

2015/12/21-22 in Kyoto University (Yoshida main campus: Faculty of Engineering Integrated Research Bldg. Ground floor #111)

1st Day: 21st December
Opening: Akihisa Ichiki
13:30-: Shun Kataoka (Tohoku Univ.)
The Message Passing Algorithm for Community Detection
14:10-: Marc Vuffray (LANL)
Loop Calculus Based Proof Technique for Concentration of Random Gibbs Measures in the Paramagnetic Phase: Application to LDPC Codes
14:50-: Misra Sidhant (LANL)
Computing the partition function of the coloring problem
15:30-15:50: Break
15:50-: Hidemaro Suwa (Univ. Tokyo)
Geometric Allocation Approach to Irreversible Markov Chain
16:30-: Michael Chertkov (LANL)
Minimum Weight Perfect Matching via Blossom Belief Propagation
17:10-:Shunpei Masuda (Aalto University)
Microwave photon source with SIN junctions

2nd day: 22nd December
10:00-: Kazutaka Takahashi (Tokyo Tech.)
Optimization of Markov process violates detailed balance condition
10:40-: Yuji Sakai (Univ. Tokyo)
Irreversible simulated tempering
11:20-: Akihisa Ichiki (Nagoya Univ.)
Markov chain Monte Carlo method and nonequilbrium steady states -Toward optimal algorithm-
12:00-13:30 Lunch
13:30-: Muneki Yasuda (Yamagata Univ.)
Statistical machine learning using Monte Carlo method
14:10-: Ryo Karakida (Univ. Tokyo)
Efficient learning algorithms for finding maximum likelihood solutions in restricted Boltzmann machines
14:50-: Satoru Tokuda (Univ. Tokyo)
Phase transitions and Crossovers in Bayesian inference
15:30-: Chihiro Nakajima (Tohoku Univ. AIMR)
Phase transition phenomena of statistical mechanical models of the integer factorization : Toward computational problem
Closing:Kentaro Ohki

This workshop is the second occasion of the domestic meeting originally focusing only on “Break Detailed Balance Condition” as a methodology for acceleration of the Markov-chain Monte-Carlo method and related stochastic dynamics.
However the application of the MCMC is ubiquitous and one of the most important field is on the machine learning.
We expand our activity to the field of the machine learning beyond the statistical physics.
Therefore we decide to call many researchers not only on the stochastic dynamics without detailed balance condition but also graphical model and fundamental investigation in the machine learning via statistical mechanics.
The objective of this meeting is to offer a forum where researchers with interest between the statistical physics and machine learning can assemble and exchange information on latest results and newly established methodologies, and discuss future directions of the interdisciplinary studies on this newly generated realm.
Organizers
Akihisa Ichiki (Nagoya University)
Kentaro Ohki (Kyoto University)
Masayuki Ohzeki (Kyoto University)



Quantum Computation and Machine Learning Seminar Series vol. 1

2015/11/17 16:30- 【終了しました:interview記事有り】

量子アニーリングを利用したデータ解析とその周辺
Yoichiro Hashizume (Tokyo University of Science)
東京理科大学 理学部第一部応用物理学科 橋爪洋一郎

場所:早稲田大学早稲田キャンパス3号館203号室

概要:
最適化問題に対する典型的なアルゴリズムとして,アニーリングが知られている.

これは複雑なポテンシャル(あるいはコスト関数)に対して,確率的な過程を経由し,その際のゆらぎを適切に制御することで最適解を得る方法の総称である.
特に,冷却によって熱ゆらぎを徐々に減少させ,安定状態に収束させる「シミュレーテッド・アニーリング」と,局所的な安定化を脱するために量子ゆらぎによるトンネル効果を利用して,最終的に古典的な状態としての最適状態を得る「量子アニーリング」は対比的に理解されることが多い.
量子アニーリングは,1998年の門脇-西森の研究[1]によって明確に示され,様々な最適化問題に対して適用されてきた.

私たちは,このように最適化問題を適切に解決するための有効な手段として知られている量子アニーリングを,データ解析へと利用することに興味を持っている.
例えば,主成分分析は多変量データの低次元化に用いられる方法のひとつであるが,これを量子アニーリングの枠組みで実行することに成功した[2].

主成分分析によるデータ解析において,分散共分散行列の固有値を,その大きさに応じて知ることが重要である.
そこで,量子アニーリングが,既知のハミルトニアンから始めて未知の基底状態(すなわち最小固有値に対応する固有ベクトル)を求める汎用的な手続きである,とみなしてデータ解析に利用することを試みた.

講演では,フラクタル画像の解析に対する検討や,量子アニーリングを用いたデータ解析の重要性なども踏まえて議論したい.
これらの研究の一部は東理大応物だけでなく,田中宗氏(早大高等研)田村亮氏(物材機構)鈴木増雄教授(理研)との共同研究[2,3]として行われている.

[1]  T. Kadowaki and H. Nishimori, Phys. Rev. E, 58 (1998) 5355.
[2]  Y. Hashizume, T. Koizumi, K. Akitaya, T. Nakajima, S. Okamura,  and M. Suzuki, Phys. Rev. E, 92 (2015) 023302.
[3] 橋爪洋一郎, 田中宗, 田村亮,日本物理学会 2015年秋季大会19pCQ-6「量子アニーリングを用いた特異値分解とエンタングルメントの研究」

主催:科学研究費助成事業基盤研究(B)「量子アニーリングが拓く機械学習と計算技術の新時代」
共催:早稲田大学高等研究所