arrow-up icon
このセミナーは終了いたしました。開催予定のセミナーはこちらをご覧ください。

量子コンピュータ時代のプログラミング体験セミナー(5/16)

ブラックボックス最適化を活用した材料探索


0516quantum

株式会社Fixstars Amplifyでは、最適化クラウド「Fixstars Amplify」を活用した社会課題の解決と実業務への適用を進めています。

本セミナーでは、組合せ最適化問題の概要や、組合せ最適化問題を解くための専用マシンである量子アニーリング・イジングマシンをご紹介した後、最近多方面より注目を集めているブラックボックス最適化の概要や活用事例を紹介し、材料探索をテーマとしたブラックボックス最適化のワークショップを行います。
ワークショップでは、無料版のFixstars Amplifyとサンプルプログラムを活用して、ご自身のPCより実際にブラックボックス最適化問題を解いていただきます。

量子アニーリング・イジングマシンの活用方法や、ブラックボックス最適化にご興味がある方、材料探索の実務をより効率的に行いたい企業の研究部門やアカデミアの研究者の方々におすすめの内容となっています。

ぜひご参加ください。

セミナー概要

開催日時 2024年5月16日(木)14:00 〜 16:00
参加費用 無料
開催場所 オンライン(Zoom)
※お申し込みいただいた後、配信用のZoom URLをお送りいたします。
講演内容 第一部 14:00~14:30
  • フィックスターズの紹介
  • 組合せ最適化問題・イジングマシン・事例の紹介
  • Fixstars Amplifyの紹介
第二部 14:35~16:00
  • ブラックボックス最適化の概要
  • 事例のご紹介(材料探索、翼形状の最適化、機械学習の特徴量抽出等)
  • ブラックボックス最適化を活用した材料探索のワークショップ
  • Q&A

※ 多くのご質問をいただいた場合など、終了時間が前後する場合があります。
※ 途中入退室は可能です。
※ 当日は予告なく時間配分・内容等が変更になる可能性があります。

登壇者 源 勇気
株式会社 Fixstars Amplify
ディレクター

轟 貴久
株式会社 Fixstars Amplify
シニアディレクター
対象者
  • 量子アニーリング・イジングマシンの活用方法や、ブラックボックス最適化にご興味がある企業の研究部門やアカデミアの研究者
  • 実験やシミュレーションの回数を減らしながら材料探索をより効率的に行いたい方
参加方法 お申し込みいただいた後、配信用のZoom URLをお送りいたします。
※ Zoomの表示名は、セミナーの申し込み時のお名前としてください。

セミナー資料

技術情報や実装方法等は最新のセミナー資料をご参照ください

その他のセミナー資料

2024.7.17
量子コンピュータ時代のプログラミングセミナー

Fixstars Amplifyで実装するシフト最適化(多目的最適化)

2024.6.21
量子コンピュータ時代のプログラミングセミナー

Fixstars Amplifyで実装する経路最適化

2024.5.30
自社にとって最適な生産計画の作り方セミナー

120分で理解する、生産計画自動生成ツールの活用方法!

2024.4.24
自社にとって最適な生産計画の作り方セミナー

120分で理解する、生産計画自動生成ツールの活用方法!

2024.3.27
量子コンピュータ時代のプログラミングセミナー

Fixstars Amplifyで実装するシフト最適化

2024.2.7
量子コンピュータ時代のプログラミングセミナー

ブラックボックス最適化を活用した材料探索

2024.1.11
量子コンピュータ時代のプログラミングセミナー

Fixstars Amplifyで実装する生産計画最適化

2023.12.7
量子コンピュータ時代のプログラミングセミナー

Fixstars Amplifyで実装するシフト最適化

2023.11.9
量子コンピュータ時代のプログラミングセミナー

Fixstars Amplifyで実装する経路最適化

2023.10.12
量子コンピュータ時代のプログラミングセミナー

Fixstars Amplifyで実装するブラックボックス最適化

資料の内容

1.

量子コンピュータ時代のプログラミングセミナー

~ ブラックボックス最適化を活用した材料探索 ~ 14:00 開始予定 マイク、カメラをOFFにしてしばらくお待ちください 事前準備がお済みでない方は、この時間にお済ませください (事前準備の詳細はセミナーのご案内メールをご参照ください) Zoomの表示名は、セミナー申し込み時の お名前としていただけますようご協力お願いいたします Copyright© Fixstars Group

2.

量子コンピュータ時代のプログラミングセミナー

~ ブラックボックス最適化を活用した材料探索 ~ Copyright© Fixstars Group

3.

本日の予定

第一部 14:00-14:30 第二部 14:35-16:00 • 本セミナーのゴール • Fixstars Amplify を用いたワークショップ • 会社紹介 • 組合せ最適化の基本【ハンズオン】 • 組合せ最適化事例 • ブラックボックス最適化 • Fixstars Amplify の紹介 • FMQAの概要とフロー • ワークショップ事前準備のご連絡 • 機械学習モデル FM【ハンズオン】 • 材料探索 FMQA【ハンズオン】 質問は随時ZoomのQ&Aへお願いします • まとめ Copyright© Fixstars Group 3

4.

本セミナーのゴール

組合せ最適化に関する次の項目を実感していただく ➢ 身の回りに組合せ最適化問題は多い。一方で、複雑で非線形な物理・社会現象の場合、組合 せ最適化に必要な定式化が困難なものもある。 ➢ 機械学習と量子アニーリング・イジングマシンを活用するブラックボックス最適化により、 複雑現象に対する最適化を実施可能。 ➢ ブラックボックス最適化を Fixstars Amplify により実施できる。 質問は随時ZoomのQ&Aへお願いします Copyright© Fixstars Group 4

5.

会社紹介

Copyright© Fixstars Group

6.

フィックスターズグループの基本情報

会社名 株式会社フィックスターズ 本社所在地 東京都港区芝浦3-1-1 msb Tamachi 田町ステーションタワーN 28階 設立 2002年8月 資本金 5億5,446万円 社員数(連結) 292名(2023年9月現在) キオクシア株式会社 ルネサスエレクトロニクス株式会社 上場区分 東証プライム(証券コード:3687) 代表取締役社長 三木 主なお客様 トヨタグループ(トヨタ自動車株式会社・ 豊田通商株式会社・株式会社デンソー) みずほ証券株式会社 聡 キヤノン株式会社 グループ会社 2021/10/1 設立 Fixstars Solutions, Inc. 完全子会社 米国での営業及び開発を担当 (株) Fixstars Autonomous Technologies 株式会社ネクスティ エレクトロニクスとのJV 自動運転向けソフトウェアを開発 (株) Fixstars Amplify (株) Sider (株) Smart Opinion オスカーテクノロジー (株) 連結子会社 乳がんAI画像診断支援事業を運営 連結子会社 ソフトウェア自動並列化サービスを提供 完全子会社 開発支援SaaS「Sider」を運営 Copyright© Fixstars Group 完全子会社 量子コンピューティングのクラウド事業を運営 6

7.

フィックスターズの量子技術への取り組み

次世代技術を先取りし 今ある課題の解決を目指す 2018年 NEDOのプロジェクトに採択 「イジングマシン共通ソフトウェア 基盤の研究開発」 2022年 5月: Fixstars Amplify がGurobi, IBM-Quantumをサポート 6月: 東洋経済主催シンポジウム「ビジネスを劇的に変え る量子コンピューティングの可能性」に登壇 7月: 累計実行回数1,000万回突破 2021年 2月: 量子アニーリングクラウドサービス「Fixstars Amplify」提供開始 10月: 株式会社 Fixstars Amplify 設立 2017年 日本で初めて D-Wave Systems社と提携 11月: Q-STAR 量子技術による新産業創出協議会に特別会員として加入 2019年 SIPの研究開発に参画 「光・量子を活用したSociety 5.0実現化技術: 光電子情報処理」 Copyright© Fixstars Group 7

8.

量子技術とFixstars Amplify

Copyright© Fixstars Group

9.

量子技術とFixstars Amplifyの対応領域

1. 量子コンピュータ 3. イジングマシン 量子ゲート方式 二値二次多項式模型 古典汎用コンピュータの上位互換。 量子力学の重ね合わせ状態を制御 する量子ゲートを操作し、特定の 問題を汎用的かつ高速に処理する。 二次の多変数多項式で表される目的 関数の 組合せ最適化問題 (QUBO) を扱う専用マシン。 QAOA に よ り 組 合 せ最 適 化 問題 (QUBO) を取り扱うことが可能。 1 3 2 量子コンピュータ IBM/Google/Rigetti/IonQ 量子 アニーリング イジングマシン 富士通/日立/東芝/Fixstars 変数は0,1または±1。統計物理学に おけるイジング模型 (磁性体の性質 を表す模型) に由来。様々な実装に より実現されている。 D-Wave/NEC 2. 量子アニーリング方式 量子焼きなまし法 イジングマシンの一種であり、量子焼きなまし法の原理に基 づいて動作する。量子イジング模型を物理的に搭載したプロ セッサで実現する。自然計算により低エネルギー状態が出力 される。組合せ最適化問題 (QUBO) を扱う専用マシン。 Copyright© Fixstars Group Amplify AE 9

10.

組合せ最適化問題 (QUBO)

数理最適化問題 量子アニーリング・イジングマシン ⚫ 連続最適化問題 Quadratic 二次形 Unconstrained 制約条件なし • 整数計画問題 (決定変数が整数) Binary 0-1整数 (二値) • 0-1整数計画問題 (決定変数が二値) Optimization 計画(最適化) • 決定変数が連続値(実数など) ⚫ 決定変数が離散値 (整数など) QUBO目的関数 (0-1整数二次計画問題) 𝒇 𝒒 = ෍ 𝑄𝑖𝑗 𝑞𝑖 𝑞𝑗 + ෍ 𝑄𝑖𝑖 𝑞𝑖 𝑖<𝑗 𝒇: 目的関数 𝒇 𝒒 を最小化するような 𝒒 を求める 𝑖 𝒒: 決定変数 𝑸: 係数 Copyright© Fixstars Group クラウドサービス:Fixstars Amplify 10

11.

Fixstars Amplify とは

– いつでも 開発環境 と 実行環境 がセット すぐにプログラミングと実行が出来る – 誰でも ハードウェアや専門的な知識が不要 無料で開発がスタート可能 多くの解説、サンプルコード – 高速に 26万ビットクラスの大規模問題の 高速処理と高速実行が可能 – あらゆる 一般に公開されている全てのイジング マシンを利用可能 Copyright© Fixstars Group 11

12.

Fixstars Amplify の対応マシンの一例

日本電気株式会社 (NEC) 標準マシン は、 • ベンダ各社と個別マシン利用契約なし、 5月中開始 • 評価・検証用ベーシックプランなら無料、 で利用可能!←「いつでも」、「誰でも」 今後も幅広い対応マシンの追加が続々と行 われる予定です!←「あらゆる」 Copyright© Fixstars Group 12

13.

Fixstars Amplify の内容と特徴

• 開発環境:Amplify SDK • 実行環境:Amplify Annealing Engine (AE) Copyright© Fixstars Group

14.

開発環境:Fixstars Amplify SDK

Fixstars Amplify SDK ならアニーリングのプログラミングが圧倒的に短縮されます 開発環境インストール $ pip install amplify 最適化コード例 Copyright© Fixstars Group 14

15.

Fixstars Amplify SDKによるシンプルプログラミング

数独を解くサンプルアプリ SDKなし 最適化しても 200行以上 SDKあり 30行程度 富士通・デジタルアニーラの設定用コード SDKなし 59行 SDKあり 1行 日立CMOSアニーリングマシンの設定用コード SDKなし 183行 出典: Wikipdia SDKあり 1行 SDKが、各マシンに対して最適な 形式に実装式を多段変換! Copyright© Fixstars Group 15

16.

実行環境:Fixstars Amplify Annealing Engine (AE)

NVIDIA GPU V100/A100 で動作 • 独自の並列化シミュレーテッド アニーリングアルゴリズム WEB経由で計算機能を提供 • 社会実装・PoC・検証が加速 • Amplify SDK の実装を直ぐに実行可能 商用マシンでは最大規模・最高速レベル • 120,000 ビット(全結合) • 260,000 ビット超(疎結合) ※評価・検証用途では無償提供 Copyright© Fixstars Group 16

17.

Fixstars Amplify SDK/AE パフォーマンス

Fixstars Amplify は最速レベルの定式化・求解速度を達成しています TSP 10,000 vars ←「高速に」 MAX-CUT 2,000 vars Gurobi Amplify AE x1000 Faster SDK 定式化処理速度 AE 求解性能・速度 Copyright© Fixstars Group 17

18.

オンラインデモ & チュートリアル

Copyright© Fixstars Group Amplify デモ 検索 https://amplify.fixstars.com/ja/demo 18

19.

様々な分野で利用が拡大しています

住友商事株式会社 登録社・組織数: 約 累計実行回数: 700 3,500万回超 Copyright© Fixstars Group 19

20.

Fixstars Amplify ユーザー様インタビュー

• 業務・研究開発利用 SE Amplify インタビュー 検索 amplify.fixstars.com/ja/customers/interview • 学術利用 SE Copyright© Fixstars Group 20

21.

Fixstars Amplify を活用した研究事例

大学 研究室 論文タイトル 量子ア ニーリ ング/イ ジング マシン に関す る研究 早稲田大学 戸川研究室 イジングマシンによる制約付きグラフ彩色問題の彩色数最小化手法 (リンク) 東京大学 Prof. Codognet Modeling the Costas Array Problem in QUBO for Quantum Annealing (リンク) 名古屋大学 片桐研究室 Amplifyを用いたCMOSアニーリングマシンの特性の分析 (リンク) 東北大学 小松研究室 組み合わせクラスタリングによるアニーリングマシンの評価 (リンク) 応用 研究 慶應大学 村松研究室 (材料 工学) Phase-fieldモデルの量子アニーリングシミュレータ (リンク) 東京大学 長谷川研究室 (量子 ゲート) ISAAQ:イジングマシンを活用した量子コンパイラ (リンク) 山梨大学 鈴木研究室 (情報 工学) 量子アニーリングによる疎行列直接解法向けフィルイン削減オーダリング (リンク) 東京大学 津田研究室 (MI) Designing metamaterials with quantum annealing and factorization machines (リンク) 京都大学 野田研究室 (電子 工学) 量子アニーリングを活用したフォトニック結晶レーザーの構造最適化 (リンク) 東京大学 津田研究室 (MI) Chemical Design with GPU-based Ising Machines (リンク) Copyright© Fixstars Group 21

22.

Fixstars Amplify ご利用プラン

Copyright© Fixstars Group

23.

料金のご紹介

https://amplify.fixstars.com/ja/pricing 開発支援サービス(個別見積り) コンサル・システム開発等 数百万円~数千万円 月額利用料 百万円~ 定式化や実装を 手厚く 支援します! Copyright© Fixstars Group 23

24.

セミナー・トレーニングのご紹介

https://amplify.fixstars.com/ja/news/seminar お客様の実際の課題解決をご支援するために、無料セミナーや有償トレーニングを提供しています。 無料セミナー・ワークショップ ビジネス向け、エンジニア向けに分けて 開催しています! 企業向けプライベートトレーニング お客様が抱える実際の課題やデータを使った カスタムメイド のトレーニングです! Copyright© Fixstars Group 24

25.

ワークショップ

事前準備(事前メールの内容) Copyright© Fixstars Group

26.

ワークショップの事前準備 (1)

• 【事前メールに記載】ご自身のPC (ブラウザ上) で Python プログラミングを行います。Google Colaboratory を使うので、事前にログイン出来ることを確認をお願いします(要 Google アカウント) Google Colab 検索 https://colab.research.google.com/ • 【事前メールに記載】 Fixstars Amplify ホームページより ユーザ登録の上、無料トークンの取得をお願いします (1分で終わります) Fixstars Amplify 検索 https://amplify.fixstars.com/ 質問は随時ZoomのQ&Aへお願いします Copyright© Fixstars Group 26

27.

ワークショップの事前準備 (2)

【事前メールに記載】 • 取得されたトークンを用いて、トークンチェック用サンプルコードが動くか確認をお願いします。 https://colab.research.google.com/drive/1bg2Ql3McJck_Sto8uvxtmPUMWtRFhf7a (※URLはZoomのチャット欄を参照) • サンプルコードは閲覧のみ可能な状態です。「ファイル」→「ドライブにコピーを保存」の上、ご自 身のトークンを入力してください。その後、Shift + Enterで実行下さい。 ! pip install amplify token = "AE/*****************************" # ご自身のトークンを入力 • ご自身のトークン番号は、Amplifyウェブページ → よりご確認いただけます。 • 実行後、以下の結果が出力されればOKです。 result: [q_0, q_1] = [1. 1.] (f = 0.0) Copyright© Fixstars Group 27

28.

ワークショップ

通常の組合せ最適化 (ブラックボックス最適化への導入) Copyright© Fixstars Group

29.

サンプルコード

• ワークショップで使うサンプルコードを取得して下さい。 • それぞれのサンプルコードにご自身のトークンを入力いただく必要があります。 • サンプルコードを開き、「ファイル」→「ドライブにコピー」の上、トークンを入力し実 行して下さい。 • 数の分割サンプルコード https://colab.research.google.com/drive/1bl6BGPwnpd3N0AveoDMGb8egprEdQMqU (※URLはZoomのチャット欄を参照) 質問は随時、Zoomの Q&A へお願いします。 Copyright© Fixstars Group 29

30.

数の分割問題(概要)

• 与えられた 𝑛 個の整数𝑎0 , ⋯ , 𝑎𝑛−1 を二つの集合に分ける。 集合内の数の和が、もう一方の集合内の数の和と等しくなるようできるか? • NP完全問題: とても難しい問題として知られている → 全通り試すしか方法は無い • 問題のバリエーション • 判定問題: 完全に等しく出来るか?または等しい組合せは何か? • 最適化問題: 完全に等しいか、または最も惜しい組合せは何か? Copyright© Fixstars Group 30

31.

数の分割問題(具体例と解法の方針)

具体例 {2,10,3,8,5,7,9,5,3,2} の10個の数の完璧な分割は見つけられるか? 答え • 存在する • {2,3,5,7,10} と {2,3,5,8,9} • どちらも和は 27 • 分割方法は 23 通り存在する (対称を除く) どうやって解くか? • ひとつの『数』がどちらの集合に分割されるか全通り試す → 210 = 1024通り Copyright© Fixstars Group • 効率のよい厳密な方法は知られていない・・・ (もし発見されたら大騒ぎ) 31

32.

数の分割問題(定式化)

数の分割問題(定式化) 最適化問題:数の分割において最も惜しい組合せは何か? • 目的関数 {集合1の和} – {集合2の和} の絶対値を最小化 • 決定変数 数 𝑎𝑖 がどちらの集合に属するかを 𝒔𝒊 で表す • 𝑎𝑖 = { 2,10, 3, 8, 5, 7, 9, 5, 3, 2} • 𝑠𝑖 = {-1, 1,-1, 1,-1,-1, 1, 1, 1, 1} 数理モデル • 目的関数 𝑁−1 𝑓 = ෍ 𝑠𝑖 𝑎𝑖 𝑠𝑖 ∈ −1, +1 𝑖=0 Copyright© Fixstars Group σ 𝑠𝑖 𝑎𝑖 は、自然と {『1』の集合の和} – {『-1』の集合の和} となる!

33.

数の分割問題(バイナリへの式変形)

• 0-1整数二次計画問題への変換 • Quadratic Unconstrained Binary Optimization (QUBO) 式 𝑁−1 𝑓 = ෍ 𝑠𝑖 𝑎𝑖 𝑠𝑖 ∈ −1, +1 𝑖=0 𝑁−1 → ෍ 𝑠𝑖 𝑎𝑖 σ 𝑠𝑖 𝑎𝑖 は、自然と {『1』の集合の和} – {『-1』の集合の和} となる! 2 𝑠𝑖 ∈ −1, +1 絶対値を二次式で表す 𝑖=0 𝑁−1 → ෍ 2𝑞𝑖 − 1 𝑎𝑖 2 𝑞𝑖 ∈ 0, +1 ±1をバイナリで表す 𝑖=0 Copyright© Fixstars Group 33

34.

数の分割問題(定式化の具体例)

問題 • 𝑎𝑖 ={2,10,3,8,5,7,9,5,3,2} の10個の数の完璧な分割は見つけられるか? 決定変数 • 𝑞𝑖 = 𝑞0 , 𝑞1 , 𝑞2 , 𝑞3 , 𝑞4 , 𝑞5 , 𝑞6 , 𝑞7 , 𝑞8 , 𝑞9 𝑞𝑖 ∈ 0,1 で集合0又は集合1、どちらに所属する かを表す 目的関数 2 𝑁 𝑓 = ෍ 2𝑞𝑖 − 1 𝑎𝑖 𝑖=1 目的関数を展開 2 2𝑞0 − 1 + 10 2𝑞1 − 1 + 3 2𝑞2 − 1 + 8 2𝑞3 − 1 + 5 2𝑞4 − 1 𝑓= +7 2𝑞5 − 1 + 9 2𝑞6 − 1 + 5 2𝑞7 − 1 + 3 2𝑞8 − 1 + 2 2𝑞9 − 1 Copyright© Fixstars Group 2 34

35.

数の分割問題(プログラムコード)

• 問題の定義と決定変数生成器による決定変数の生成 a = [2, 10, 3, 8, 5, 7, 9, 5, 3, 2] q = amplify.VariableGenerator().array(“Binary”, len(a)) 2 1. 定式化 2. 実行 • 目的関数、𝑓 = σ𝑁𝑖=1 2𝑞𝑖 − 1 𝑎𝑖 、の定式化(①②③は同等) ① f = ((2 * q - 1) * a).sum() ** 2 ② f = 0 for i in range(len(a)): f += (2 * q[i] - 1) * a[i] f **= 2 ③ f = amplify.sum((2 * q - 1) * a) ** 2 色々な書き方が出来る result = amplify.solve(f, client) 得られた目的関数の値0 3. 結果 各集合の合計値27 q = [1, 1, 1, 0, 1, 1, 0, 0, 0, 0], f = 0.0, w = 27 Copyright© Fixstars Group 各数字に対して、集合0か、集合1か 35

36.

オンラインデモ & チュートリアル

Copyright© Fixstars Group Amplify デモ 検索 https://amplify.fixstars.com/ja/demo 36

37.

組合せ最適化と

ブラックボックス最適化 Copyright© Fixstars Group 37

38.

組合せ最適化とブラックボックス最適化

通常の組合せ最適化 ブラックボックス最適化 • 課題に対し、定式化によりQUBO式を取得可能 • 課題が複雑で直接の定式化が不可能。 • 数の分割 例1) 合成素材の性能向上に必要な、合成対象の材料の組 合せ最適化 𝑓 = Σ 2𝑞𝑖 − 1 𝑎𝑖 2 例2) 最も計測精度が高くなる計測センサー群の配置は? • 生産計画最適化 ➔ 実験かシミュレーション(コスト大) 𝑓 = ΣΣ Σ𝑎𝑖 𝑝𝑖 𝑞𝑚,𝑖,𝑡 + ΣΣ𝑏𝑖 𝑠𝑖 𝑞𝑚,𝑖,𝑡 𝑞𝑚,𝑖−1,𝑓 ⋯ • TSP問題(お遍路巡り最短経路探索) • シミュレーションや実験の試行回数の削減 ➔ シミュレーションや実験が楽になる 𝑓 = ΣΣΣ𝑑𝑖,𝑗 𝑞𝑛,𝑖 𝑞𝑛+1,𝑗 ⋯ • QUBO式に対し、直接アニーリングを行う • 逆問題に対するアプローチとしても適用化 (量子アニーリング・イジングマシン) 例:ある計測値を実現する実験条件を見つける Copyright© Fixstars Group 38

39.

FMQAの紹介

Copyright© Fixstars Group

40.

ブラックボックス最適化

数理最適化 ブラックボックス最適化 目的関数値 𝒇 𝒙 のみ観測可能 • 目的関数の形状や勾配などは何も分からない。 機械学習 + 量子アニーリング/イジングマシン 目的関数の評価回数に限りがある • 入力集合 Ω が有限集合であっても全検索できない。 イメージ • 5種類の材料から、いくつかの材料を選択・合成し、最も電気抵抗の小さな物質を作る。 • 決定変数(材料の選択肢)𝒙 ・・・ 5桁の01ビットでどの材料を選択するかを記述 𝒙 = [1,0,0,0,0], [1,1,0,0,0], [1,0,1,0,0], ⋯ , [1,1,1,1,1] → 25 − 1 通り • 目的関数 𝑓 𝒙 = 合成物質の電気抵抗(実験又は数値シミュレーション) Copyright© Fixstars Group 40

41.

ブラックボックス最適化アプローチ

数理最適化 ブラックボックス関数 𝑓 𝒙 に対して、以下サイクルを繰り返す (実験・シミュレーション) (フローはベイズ最適化に似ている、本質は異なる) ブラックボックス最適化 機械学習 + 量子アニーリング/イジングマシン ① 初期教師データを構築(𝑁0 回の目的関数の評価) ② 教師データからモデル関数 𝑔 𝒙 を構築 ෝ を推定 ③ モデル関数 𝑔 𝒙 が最小となる点 𝒙 ෝ, 𝑓 𝒙 ෝ ④ 目的関数 の評価結果 𝒙 ②~④を 𝑁 回繰り返す を教師データに追加 実験 ミュレーション 課題: 1. 𝑔 𝒙 の構築? Factorization Machine(機械学習モデル) 2. 𝑔 𝒙 最小化を実現するෝ 𝒙 の推定? Copyright© Fixstars Group 学習モデルをQUBOとしてAmplifyで求解 K. Kitai, et al., Phys. Rev. Res. (2020). T. Inoue, et al., Opt. Express (2022). 41

42.

ブラックボックス最適化アプローチ

数理最適化 ブラックボックス関数 𝑓 𝒙 に対して、以下サイクルを繰り返す (実験・シミュレーション) (フローはベイズ最適化に似ている、本質は異なる) ブラックボックス最適化 機械学習 + 量子アニーリング/イジングマシン ① 初期教師データを構築(𝑁0 回の目的関数の評価) ② 教師データからモデル関数 𝑔 𝒙 を構築 D 初期教師データ構築のための評価 (例:ランダム探索) ②~④を 𝑁 − 𝑁0 回繰り返す ෝ を推定 ③ モデル関数 𝑔 𝒙 が最小となる点 𝒙 ෝ, 𝑓 𝒙 ෝ ④ 目的関数 の評価結果 𝒙 最適化サイクル中 における評価 を教師データに追加 実験 ミュレーション 最適化サイクルと共に最適化点近傍の 「良質」データが徐々に蓄積 課題: 1. 𝑔 𝒙 の構築? Factorization Machine(機械学習モデル) 2. 𝑔 𝒙 最小化を実現するෝ 𝒙 の推定? Copyright© Fixstars Group 学習モデルをQUBOとしてAmplifyで求解 42

43.

獲得関数としての Factorization Machine (FM)

• モデル関数 𝑔(𝒙) に機械学習モデルの一種である Factorization Machine (FM) を用いると、次 のように変数 𝒙 に対する2次式での記述ができる。 𝑛 𝑛 𝑔 𝒙 𝒘, 𝒗 = 𝑤0 + 𝒘, 𝒙 + ෍ ෍ 𝒗𝑖 , 𝒗𝑗 𝑥𝑖 𝑥𝑗 𝑖=1 𝑗=𝑖+1 𝑛 𝑘 1 = 𝑤0 + ෍ 𝑤𝑖 𝑥𝑖 + ෍ 2 𝑖=1 𝑓=1 𝑛 2 ෍ 𝑣𝑖𝑓 𝑥𝑖 𝑖=1 𝑛 ➔ QUBO式 2 2 − ෍ 𝑣𝑖𝑓 𝑥𝑖 𝑖=1 • 𝑘 はハイパーパラメータ、 𝒘 及び 𝒗 は FM 学習後に取得される FM パラメータ。 • FM パラメータ数は 𝑘 に依存。𝑘 = 𝑛 のときは QUBO の相互作用項と同じ自由度がある一方、 𝑘 を 小さくすることでパラメータ数を減らし過学習を抑制する効果 • このようなブラックボックス最適化手法を FMQA と呼ぶ場合がある。 Copyright© Fixstars Group K. Kitai, et al., Phys. Rev. Res. (2020). T. Inoue, et al., Opt. Express (2022). 43

44.

獲得関数としての Factorization Machine (FM)

• モデル関数 𝑔(𝒙) に機械学習モデルの一種である Factorization Machine (FM) を用いると、次 のように変数 𝒙 に対する2次式での記述ができる。 𝑛 𝑛 𝑔 𝒙 𝒘, 𝒗 = 𝑤0 + 𝒘, 𝒙 + ෍ ෍ 𝒗𝑖 , 𝒗𝑗 𝑥𝑖 𝑥𝑗 𝑖=1 𝑗=𝑖+1 𝑛 𝑘 1 D = 𝑤0 + ෍ 𝑤𝑖 𝑥𝑖 + ෍ 2 𝑖=1 𝑓=1 𝑛 2 ෍ 𝑣𝑖𝑓 𝑥𝑖 𝑖=1 𝑛 ➔ QUBO式 2 2 − ෍ 𝑣𝑖𝑓 𝑥𝑖 𝑖=1 • 𝑘 はハイパーパラメータ、 𝒘 及び 𝒗 は FM 学習後に取得される FM パラメータ。 • FM パラメータ数は 𝑘 に依存。𝑘 = 𝑛 のときは QUBO の相互作用項と同じ自由度がある一方、 𝑘 を 小さくすることでパラメータ数を減らし過学習を抑制する効果 • このようなブラックボックス最適化手法を FMQA と呼ぶ場合がある。 Copyright© Fixstars Group K. Kitai, et al., Phys. Rev. Res. (2020). T. Inoue, et al., Opt. Express (2022). 44

45.

ブラックボックス最適化 活用例

材料分野に限らず、幅広い分野へ適用可能 Copyright© Fixstars Group

46.

ブラックボックス最適化 活用例

• デモ・チュートリアルページで公開の活用例及び 非公開の活用例 Amplify デモ 検索 https://amplify.fixstars.com/ja/demo 機械学習への 応用 FMQA入門 物理・材料 プラント工学 流体工学 Copyright© Fixstars Group 交通制御 機械学習 46

47.

ブラックボックス最適化

1. 機械学習 (FM) ハンズオン 2. FMQA ハンズオン Copyright© Fixstars Group

48.

ブラックボックス最適化のデモプログラム

ある代数式を未知のブラックボックス関数と見なした場合の FM 機械学習 • https://colab.research.google.com/drive/1SilVRpoZUqVp_jeCrn9LYPucPfzpB_ag 問題設定 最適化サイクル • モデル化対象の真の関数 𝑓(𝒙) として、 𝑓 𝒙 = 𝒙𝑇 𝑄𝒙 を考慮。プログラム内で 𝑄 は乱数で定義 1. 教師データから獲得関数 𝑔(𝒙) を構築 (FM) ෝ を推定 (QA) 2. 獲得関数 𝑔(𝒙) が最小となる点 𝒙 ෝ, 𝑓(ෝ 3. 評価結果 𝒙 𝒙) を教師データに追加 ↑のサイクルにより、最適化点近傍におけるFMの予 ෝ 測精度が向上し、組合せ最適化により、より良い 𝒙 の推定が期待される Copyright© Fixstars Group 48

49.

FM デモプログラム 1/5(ブラックボックス関数の定義)

• 乱数シードの固定 • 実行毎の再現性のため • ブラックボックス関数を生成する関数 • 生成後のブラックボックス関数の使い方 Copyright© Fixstars Group 49

50.

FM デモプログラム 2/5(FMの定義)

• FM モデルを PyTorch で定義する Copyright© Fixstars Group 50

51.

FM デモプログラム 3/5(FMの学習)

FM 学習は、通常の機械学習と同様に進める。 教師データを学習・検証データに分割し、 ミニバッチ学習。 • x, y: 教師データ • model: FM モデル(TorchFM) • epochs: エポック(繰り返し)の数 • lr: 学習率 学習後、最も良いモデルに対し、次のよう な評価を実施 Copyright© Fixstars Group 51

52.

FM デモプログラム 4/5(教師データ作成)

教師データを乱数により生成 • d: 入力サイズ • n0: 教師データのサンプル数 • blackbox: ブラックボックス関数(実験又は シミュレーション) 𝑓(𝒙) Copyright© Fixstars Group 52

53.

FM デモプログラム 5/5(メイン部分)

• 機械学習の実施 実際にサンプルプログラムを実行してみま しょう。デフォルトの条件から、 • FMのハイパーパラメータ (k) • エポック数 (epochs) • 学習率 (lr) などを変更した場合、真値と予測値の相関 係数及びRMS誤差はどのように変化するで しょうか? Copyright© Fixstars Group 53

54.

ブラックボックス最適化

1. 機械学習 (FM) ハンズオン 2. FMQA ハンズオン Copyright© Fixstars Group

55.

ブラックボックス最適化のデモプログラム

ブラックボックス最適化による模擬超電導材料の探索 https://colab.research.google.com/drive/1E3Cy6Fe4EG-M1lE_33-Djp93aSZAUiQz ブラックボックス関数 最適化サイクル • ブラックボックス関数 𝑓(𝒙) として、与えられ 1. 教師データから獲得関数 𝑔(𝒙) を構築 (FM) た材料組合せによる模擬超電導材料の臨界温 ෝ を推定 (QA) 2. 獲得関数 𝑔(𝒙) が最小となる点 𝒙 度を返却するモデル関数を考慮 ※本関数はあくまでも実験やシミュレーションの代用であり、 その中身やパラメータについては未知であるとして扱い、関 数評価の回数にも制限があるものとして取り扱います。 ෝ, 𝑓(ෝ 3. 評価結果 𝒙 𝒙) を教師データに追加 ↑のサイクルにより、最適化点近傍におけるFMの予 ෝ 測精度が向上し、組合せ最適化により、より良い 𝒙 の推定が期待される Copyright© Fixstars Group 55

56.

FMQA デモプログラム 1/3 (ブラックボックス関数の定義)

関数の利用例: Copyright© Fixstars Group 56

57.

FMQA デモプログラム 2/3 (アニーリング部分)

ෝ を推定する関数 学習済みFMに基づき 𝒙 • 決定変数配列の作成 • 学習済みモデルからパラメータを取得 • パラメータに基づき目的関数 𝑔(𝑥) を作成 • ソルバーの設定 • ※トークン入力を忘れずに • solve の実行 • このサイクルにおける 𝒙ෝ を返却 Copyright© Fixstars Group 57

58.

FMQA デモプログラム 3/3(メイン部分)

実際にサンプルプログラムを実行してみましょう! デモプログラムをベースに、 • サイクル数 (N) • 初期教師データ数 (N0) • FMハイパーパラメータ (k) などを変化させた場合、最適化結果や最適化 過程はどのように変化するでしょうか。 また、目的関数を変更し、最適化を実施してみ ましょう。 Copyright© Fixstars Group 58

59.

FMQA デモプログラムの実務での活用方法

基本的に、blackbox()を変更する。必要に応 じて、現在の教師データの出力などを追加。 • 例①:blackbox() 内でシミュレーションを呼び出 し、後処理、その戻り値を最小化するように最適化。 • 例②:blackbox() 内で実験を行う。つまり、1回の ෝ を対象に実験し、結 FMQA で推定された探索候補 𝒙 果 を 教師 デ ー タに 追 加 、 次 のFMQA 試 行 を行 う ➔ 実施例のデモ • ℎ 𝒙 を最大にするような入力 𝒙 を推定する場合は、 1/ℎ 𝒙 や −ℎ 𝒙 などを目的関数 𝑓 𝒙 とする。 Copyright© Fixstars Group 59

60.

今後について

ぜひ、デモ・チュートリアルにあるサンプルコードにも挑戦してみてください! 一般的な組合せ最適化問題 目的関数のみで 定式化 制約条件のみで 定式化 ブラックボックス最適化問題 目的関数 + 制約条件 概要 材料探索 翼型最適化 信号機制御 困った時はドキュメンテーションを! https://amplify.fixstars.com/docs/amplify/v1/index.html Copyright© Fixstars Group 60

61.

今後のセミナーの予定

今後も定期的に無料セミナーを開催します! 2024/5/16 「ブラックボックス最適化」 2024/5/30 (仮) 「生産計画最適化」 2024/6/19 (仮) 「経路最適化」 (Annealing Engine) (Scheduling Engine) (AnnealingEngine) ・はじめに ・会社紹介 ・Fixstars Amplifyの紹介 ・ブラックボックス最適化のワークシ ョップ ・Wrap Up ・事例のご紹介 ・今後の進め方 ・Q&A ・はじめに ・会社紹介 ・Fixstars Amplify Scheduling Engine のご紹介 ・生産計画最適化のワークショップ ・Wrap Up ・事例のご紹介 ・今後の進め方 ・Q&A ・はじめに ・会社紹介 ・Fixstars Amplifyのご紹介 ・経路最適化のワークショップ ・Wrap Up ・事例のご紹介 ・今後の進め方 ・Q&A ご質問・ご不明点がありましたら、お問い合わせフォームでご連絡下さい https://amplify.fixstars.com/ja/contact Copyright© Fixstars Group 61

62.

Q&A

Copyright© Fixstars Group 62

63.

補足資料

Copyright© Fixstars Group 63

64.

ブラックボックス最適化による化学プラント生産量最大化

• 化学反応装置(𝐴 → 𝐵)における物質生成量の最大化を目指す最適化モデル課題 • 目的関数は、化学反応シミュレーションで得るB分布を空間積分した生成量 𝑚𝑝𝑟𝑜𝑑 の負値 • 反応器は、反応性物質 A の初期濃度分布 で制御される (燃料ノズルの位置や形状最適化) 化学反応シミュレーションで考慮する 基礎方程式(有限差分法) • 𝜕𝐶𝐴 𝜕 𝜕𝐶𝐴 =𝛼 𝜕𝑡 𝜕𝑥 𝜕𝑥 − 𝜔 𝐶𝐴 , 𝐶𝐵 ・・・A濃度の拡散反応輸送方程式 • 𝜕𝐶𝐵 𝜕 𝜕𝐶𝐵 =𝛼 𝜕𝑡 𝜕𝑥 𝜕𝑥 + 𝜔(𝐶𝐴 , 𝐶𝐵 ) ・・・B濃度の拡散反応輸送方程式 • 𝜔 = 𝑅𝑟 𝐶𝐴 1 − 𝐶𝐴 exp −𝐶𝐵 ・・・反応速度 • 𝐶𝐵 = 𝑂 at 𝑡 = 0・・・初期条件 Copyright© Fixstars Group 64

65.

ブラックボックス最適化による化学プラント生産量最大化

#9 Random, 𝑚𝑝𝑟𝑜𝑑 = 0.4~0.6 ※目的関数は、B生成量 𝑚𝑝𝑟𝑜𝑑 の負値 目的関数値(−𝑚𝑝𝑟𝑜𝑑 ) #0 FMQA 初期教師データ構築時の評価値 =ランダム探索 #9 Random #0 FMQA, 𝑚𝑝𝑟𝑜𝑑 = 0 最適化過程に おける評価値 #7 FMQA #7 FMQA, 𝑚𝑝𝑟𝑜𝑑 = 0.831 𝒊 番目の目的関数 𝑓 𝒙 の評価 Copyright© Fixstars Group 65

66.

ブラックボックス最適化とCFDによる翼形状の最適化

• 一様流れ中に設置された翼に作用する揚力𝐹𝐿 と抗力𝐹𝐷 の比(揚抗比) 𝑟𝐿𝐷 = 𝐹𝐿 / 𝐹𝐷 を最大化する翼形状の探索(−𝑟𝐿𝐷 を最小化する問題) • 単一翼の場合、写像パラメータ(実数)2つ、迎角(実数)1つの、合 計3つからなる実数決定変数 • one-hot エンコーディングにより、実数決定変数を100要素からなる バイナリ変数ベクトルに変換し、ブラックボックス最適化を実施 Copyright© Fixstars Group 66

67.

ブラックボックス最適化とCFDによる翼形状の最適化

#1 Random, 𝑟𝐿𝐷 = 𝟏. 𝟖𝟔 ※目的関数は、揚抗比 𝑟𝐿𝐷 の負値 目的関数値(−𝑟𝐿𝐷 ) 初期教師データ構築時の評価値 =ランダム探索 #17 Random , 𝑟𝐿𝐷 = 𝟐. 𝟑𝟓 #7 FMQA 最適化過程に おける評価値 #7 FMQA , 𝑟𝐿𝐷 = 𝟏. 𝟎𝟔 #1 Random #17 Random #19 FMQA #19 FMQA , 𝑟𝐿𝐷 = 𝟐. 𝟕𝟒 𝒊 番目の目的関数 𝑓 𝒙 の評価 Copyright© Fixstars Group 67

68.

ブラックボックス最適化とCFDによる翼形状の最適化:派生

• 多段翼の形状および配置の最適化 目的関数値(-揚抗比) • 決定変数の数:370個 最適化過程における評価値 初期教師データ構築時の評価値 =ランダム探索 𝒊 番目の目的関数 𝑓 𝒙 の評価 #181 FMQA , 𝑟𝐿𝐷 = 𝟑. 𝟔𝟎 Copyright© Fixstars Group 68

69.

ブラックボックス最適化による最適信号機制御

(9月追加 ! ) • マルチエージェントシミュレーション (MAS) による交通シミュレーション • 自宅とモール1を往復する自動車(薄灰) • 自宅とモール2を往復する自動車(濃灰) • 自宅とその他の場所を往復する自動車(白) • MASによるシミュレーション例: • 社会システム 経済学、社会学、政治学の分野において、人間行動や社会の相互作 用を研究し、政策や社会システムの影響を理解するために使用。 • 組織内動態 企業や組織内の個人や部門の相互作用を模倣して、組織の効率性 や意思決定の影響の分析。 Copyright© Fixstars Group 69

70.

ブラックボックス最適化による最適信号機制御

(9月追加 ! ) • 領域内の全自動車の平均車速が最大と なるように、各信号機における赤・青 信号の長さ、位相を最適化する。 • 目的関数は、 𝑡 𝑓 = −෍ 𝑖 ‫𝑑𝑛𝑒 𝑡׬‬,𝑖 𝑣𝑖 𝑡 𝑑𝑡 𝑠𝑡𝑎,𝑖 𝑡𝑒𝑛𝑑,𝑖 − 𝑡𝑠𝑡𝑎,𝑖 Copyright© Fixstars Group 70

71.

ブラックボックス最適化による最適信号機制御

• 領域内の全自動車の平均車速が最大と ベイズ最適化 なるように、各信号機における赤・青 FMQA最適化 信号の長さ、位相を最適化する。 • 目的関数は、 𝑡 𝑓 = −෍ 𝑖 ‫𝑑𝑛𝑒 𝑡׬‬,𝑖 𝑣𝑖 𝑡 𝑑𝑡 𝑠𝑡𝑎,𝑖 𝑡𝑒𝑛𝑑,𝑖 − 𝑡𝑠𝑡𝑎,𝑖 Copyright© Fixstars Group 71

72.

ブラックボックス最適化による最適信号機制御

• 最適化(100サイクル)前後の交通状況 • 全車の平均車速:6.88 m/s → 8.55 m/s ランダム探索最良解 Copyright© Fixstars Group FMQA最良解 72

73.

FMQAによる熱化学条件の推定(燃焼現象の逆問題)

流体力学+化学反応+熱発生 • ターゲット燃焼特性(燃焼速度 𝑆𝐿 、火炎厚さ 𝛿𝑡ℎ 、既燃温度 𝑇𝑏 、着火遅れ時 間 𝜏𝑖𝑔 )を実現する燃料組成 (CH4/H2/CO2/H2O) 及び予熱温度 𝑇𝑢 は? • 目的関数 • 入力条件に対し Cantera(ライブラリ)で取得された燃焼特性とターゲット特性の差の絶対値 • ターゲット( 1 atm, 𝜙 = 1.0) • 𝑇𝑢 = 684.17 K , 𝑋𝑓𝑢 = {"CH4": 0.715, "H2": 0.603, "CO2": 0.545, "H2O": 0.424}(乱数で決定) • 𝑆𝐿 = 1.65 m/s • 𝛿𝑡ℎ = 0.343 mm ターゲット燃焼特性 • 𝑇𝑏 = 2283.8 K 上記 𝑇𝑢 , 𝑋𝑓𝑢 に基づき事前に Cantera で計算 • 𝜏𝑖𝑔 = 0.170 ms Copyright© Fixstars Group

74.

FMQAによる熱化学条件の推定(燃焼現象の逆問題)

初期教師データ構築時の評価値 =ランダム探索 最適化過程に おける評価値 ターゲットの燃焼特性 推定熱化学条件に おける燃焼特性 𝑆𝐿 m/s 1.651 1.616 𝛿𝑡ℎ mm 0.3426 0.3223 𝑇𝑏 K 2284 2317 𝜏𝑖𝑔 ms 0.17 0.17 ターゲット熱化学条件 推定された熱化学条件 𝑇𝑢 K 684.17 629.00 𝑋𝑓𝑢,CH4 0.72 0.84 𝑋𝑓𝑢,H2 0.60 0.68 𝑋𝑓𝑢,CO2 0.54 0.33 𝑋𝑓𝑢,H2O 0.42 0.35 Copyright© Fixstars Group

75.

ブラックボックス最適化による機械学習特徴量選択

• MNISTのクラス分け機械学習モデル • 28 × 28ピクセルの手書き数字画像及びラベル • 入力:画像 → 出力:数字 • シンプルな MLPモデルの場合、特徴量数は 282 = 784 • 本当に全ての特徴量(ピクセル)が必要か? Copyright© Fixstars Group 75

76.

ブラックボックス最適化による機械学習特徴量選択

• 特徴量選択 • 不要な特徴量による悪影響 • ノイズ • 過学習 • 高学習コスト • 最適な特徴量の組み合わせ • [0, 1] マスクの探索にブラック ボックス最適化を使う。 Copyright© Fixstars Group 76

77.

ブラックボックス最適化による機械学習特徴量選択

• 学習パラメータ • 学習データ 2,000 • テストデータ 10,000 • 特徴量 784 → 588 (25%減) • FMQA・テスト結果 • テストデータに対する MSE 誤差 • 特徴量選択なし:0.286 • 特徴量選択あり:0.262 (8.4%減) Copyright© Fixstars Group 77

78.

ブラックボックス最適化による機械学習データ選択

• 機械学習データの質 • ノイズ、不均衡データ、アノテーションエラー Copyright© Fixstars Group 78

79.

ブラックボックス最適化による機械学習データ選択

• 学習パラメータ • 学習データ 2,000 → 1,800 (10%減) • テストデータ 10,000 • FMQA・テスト結果 • テストデータに対する MSE 誤差 • データ選択なし:0.286 • データ選択あり:0.267 (6.6%減) Copyright© Fixstars Group 79

80.

FMQA に関するよくある質問

• 整数決定変数や実数決定変数にも対応可能ですか? • 公開サンプルの翼形状最適化や信号機制御最適化では、整数決定変数や実数決定変数を考慮。 • 決定変数はいくつくらいまで考慮可能ですか? • 公開サンプルでは、1,000個程度の決定変数を考慮(AEの性能的にはより大きくてもOK)。FMQA の計算コストは比較的、決定変数に大きく依存しない特徴。 • ベイズ最適化とは何が違うのですか? • 獲得関数と獲得関数に対する最適化手法が異なる。 • 多目的最適化に適用可能でしょうか? • 単一の目的関数を多目的化する方法や、複数の目的関数で多目的化する方法など様々な方法で可能 (次ページ)。 Copyright© Fixstars Group 80

81.

FMQA の発展的な活用方法 (多目的最適化)

• 複数の目的関数や制約条件の それぞれを FM で求め、得られた 係数をまとめて量子アニーリング・ イジングマシンを使って最適解を 一気に求めることもできます! 現在は連続値を扱うFMQAや、多目的化最適化を取り扱うFMQAに 関する研究を進めています。 ・・・中略・・・ これらの研究を通じて、 FMQAがより複雑で難しい問題にも適用できることを示し、MIやMI以 外の領域でもFMQAの活用が進んでいけば嬉しく思います。 インタビュー記事:amplify.fixstars.com/ja/customers/interview/fmqa 複数FMによる多目的最適化の概略 𝐹𝑀𝑄𝐴𝑎 (評価値: 物性値a) 𝑊𝑎 , 𝑏𝑎 𝐹𝑀𝑄𝐴𝑏 𝐹𝑀𝑄𝐴𝑐 𝐹𝑀𝑄𝐴𝑑 (評価値: 重さb) (評価値: 制約条件c) (評価値: 制約条件d) 𝑊𝑏 , 𝑏𝑏 𝑊𝑐 , 𝑏𝑐 𝑊𝑑 , 𝑏𝑑 𝑤𝑎 ∗ 𝐹𝑀𝑄𝐴𝑎 𝑊𝑎 , 𝑏𝑎 + 𝑤𝑏 ∗ 𝐹𝑀𝑄𝐴𝑏 𝑊𝑏 , 𝑏𝑏 + 𝑤𝑐 ∗ 𝐹𝑀𝑄𝐴𝑐 𝑊𝑐 , 𝑏𝑐 + 𝑤𝑑 ∗ 𝐹𝑀𝑄𝐴𝑑 𝑊𝑑 , 𝑏𝑑 Copyright© Fixstars Group 81