量子コンピュータ時代の最適化セミナー - ブラックボックス最適化の最新事例と技術解説

ブラックボックス最適化の最新事例と技術解説

株式会社Fixstars Amplifyでは、最適化クラウド「Fixstars Amplify」を活用した社会課題の解決と実業務への適用を進めています。

本セミナーでは、最近多方面より注目を集めている、量子アニーリング・イジングマシンを活用したブラックボックス最適化（BBO）を取り上げます。量子アニーリング・イジングマシンを活用したBBOは、構造物の設計や材料開発などの定式化が困難な現象を扱う際に、実験やシミュレーションの回数を大幅に削減しながら、効率的に最適な入力の組み合わせを探す手法です。

セミナーでは、冒頭に量子アニーリング・イジングマシンを活用したBBOの概要をご紹介したのち、最新事例のご紹介と技術解説を行います。最新事例の紹介では、2024年自動車技術会秋季大会で発表されたマツダ様の取り組みについても紹介します。技術解説では、BBOに取り組む際に注意すべき点や、うまく最適化を行うためのTips、工夫ポイントなどについて解説します。

実験やシミュレーションを活用した研究・開発に取り組まれている方、ベイズ最適化や進化計算ベースの最適化に取り組まれている方、ブラックボックス最適化という言葉を聞くことが増えて気になっている方などにおすすめの内容となっています。

ぜひご参加ください。

※このセミナーは11月19日（火）に開催されるセミナーと同じ内容です。

セミナー概要

開催日時	2024年11月20日（水）14:00 〜 15:00
参加費用	無料
開催場所	オンライン（Zoom） ※お申し込みいただいた後、配信用のZoom URLをお送りいたします。
講演内容	はじめに会社および量子コンピューティングクラウド「Fixstars Amplify」のご紹介ブラックボックス最適化の概要のご紹介ブラックボックス最適化の最新事例および技術解説 Q&A ※ 多くのご質問をいただいた場合など、終了時間が前後する場合があります。 ※ 途中入退室は可能です。 ※ 予告なく内容等が変更になる可能性があります。
登壇者	源勇気株式会社 Fixstars Amplify ディレクター轟貴久株式会社 Fixstars Amplify シニアディレクター
対象者	実験やシミュレーションを活用した研究・開発に取り組まれている方ベイズ最適化や進化計算ベースの最適化に取り組まれている方ブラックボックス最適化という言葉を聞くことが増えて気になっている方量子アニーリング・イジングマシンの応用先や活用事例をお知りになりたい方
参加方法	お申し込みいただいた後、配信用のZoom URLをお送りいたします。 ※ Zoomの表示名は、セミナーの申し込み時のお名前としてください。

セミナー資料

技術情報や実装方法等は最新のセミナー資料をご参照ください

その他のセミナー資料

資料の内容

量子コンピュータ時代のプログラミングセミナー

本日の予定

本セミナーのゴール

(株) Fixstars Amplifyの紹介

数理最適化・組合せ最適化とは

● 目的を表す何らかの関数の最小値を求め、更にその最小値を与える入力要素（決定変数）の値を決定する数学的な手法お遍路巡り経路最適化問題 ○ 目的となる対象を数式で表現できる ➔ 対象：総移動距離 ○ 変更できる要素がある ➔ 要素：霊場の訪問順序 ○ 求めたい成果がある ➔ 成果：総移動距離の最小化数式で表現できるものが「数理最適化」になるため、日常的に使う「最適化」よりも範囲は狭くなります。使用できる範囲がかなり限定されるように感じますが、想像以上に様々な計画業務を数式に表現できることが分かっています。 Copyright© Fixstars Group 5/35

Fixstars Amplifyの役割

● 開発環境 Amplify SDK 簡単・最速な組合せ最適化アプリ実装 (Python) ● 実行環境 Amplify AE GPUクラウド 1. 量子・量子インスパイアード技術 2. Quantum Computers Quantum 量子ゲート Annealing IBM Qulacs 上で実行されるイジングマシン 3. Ising Machines CPU・GPU・FPGA 量子アニーリング Fixstars Amplify D-Wave TOSHIBA, Fujitsu HITACHI, NEC （リファレンスマシン） 4.Other optimization solvers Gurobi 全結合問題：131,072 ビット疎結合問題：262,144 ビット SDK ➔ 短期～長期を見据えた組合せ最適化の社会実装の実現（無料で利用スタート可能）種々の組合せ最適化問題 (例：QUBO) 6/35 Copyright© Fixstars Group

様々な領域での利用拡大中（実稼働含む）

QA活用のブラックボックス最適化と

通常の組合せ最適化とブラックボックス最適化

通常の組合せ最適化ブラックボックス最適化 1. 問題の定式化 ● ⚫ ⚫ 最適生産計画立案問題 ○ 𝑓 = ΣΣΣ 𝑃𝑖 𝑞𝑡,𝑚,𝑝 + Σ𝑆𝑝,𝑟 𝑞𝑡,𝑚,𝑝 𝑞𝑡,𝑚,𝑟 ⋯ ○ 巡回セールスパーソン問題 ○ 𝑓 = ΣΣΣ𝑑𝑖,𝑗 𝑞𝑛,𝑖 𝑞𝑛+1,𝑗 ⋯ 2. 求解の実行 ⚫ 定式化不可能な問題ユーザーの選択するソルバーで実行 ● 例：低損失な流体デバイス形状の同定例：空間計測誤差を最小とする複数の計測装置の最適配置例：ターゲットの実験結果に近い出力を実現する実験条件の探索試行錯誤による最適化 ○ ブラックボックス最適化により一定の最適解を得るまでの試行回数の削減が期待 Copyright© Fixstars Group 9/35

10.

ブラックボックス最適化のフロー（逐次最適化）

● 次の最適化サイクルをブラックボックス関数 𝑓 𝒙 を対象に実施（実験計測や数値シミュレーション）新しい入力で新たな入出力ペアブラックボックスを学習データに関数を評価。追加課題： • モデル関数の構築手法 • モデル関数の最適化手法モデル関数に基づ学習データにき最適入力候補を基づき取得（最適化）モデル関数を構築 Copyright© Fixstars Group より少ないサイクル（評価回数）で最適化が進むよう工夫 10/35

11.

BBOにおけるモデル関数構築と最適化

● ● ベイズ最適化 ○ 獲得関数：EI, UCB, LCB, … ○ 係数決定：解析的, Gibbs sampling ○ 最適化：BFGS, HC, SDP, … 次元の呪い ☹ (高次元の問題では最適化が困難) FMQA Kitai, et al., Phys. Rev. Res. (2020) ○ モデル関数：Factorization Machine (FM) QA活用により次元の呪い回避 ☺ ○ 係数決定：機械学習 (QA: quantum annealing/quadratic-optimization annealing) ○ 最適化：QA (Fixstars Amplifyによる最適化) Copyright© Fixstars Group 11/35

12.

FMQA: 活用例 (Amplify デモ)

13.

FMQA: 活用例 (Amplify ユーザー)

14.

FMQA: 活用例 (Amplify ユーザー)

● 活用領域 ○ 化学、創薬、食品、自動車、電機、通信、エネルギー、・・・設計開発における部品選定材料配合最適化多目的最適化物理モデルの簡略化 2024年10月20日日本機械学会計算力学講演会 2024年10月23日日本自動車技術会秋季大会 “FMQAによる流体解析を用いたターボ機械形状の最適化” “FMQAを用いた複数車種の車体構造同時設計最適化” 川崎重工業株式会社マツダ、Amplify Copyright© Fixstars Group 多目的・多制約BBO！ 14/35

15.

事例：ターボ機械の形状最適化（川崎重工業様）

⚫ ターボ機械の開発では、従来より商用最適化ソフトによる遺伝的アルゴリズム (GA) を使用し形状最適化を行うことが多かったが、最適化規模が大きくなると最適解の求解までに時間がかかり、開発期間が長期化するといった課題があった ⚫ 量子アニーリング・イジングマシンを活用した BBO により、従来手法と比べ、同じ計算回数でもより優れた解が得られることを確認。今後はさらに設計変数を増やしていく予定遠心圧縮機流路形状を最適化したい (圧縮機全体の空力性能 (ポリトロープ効率) の最大化) 最適化が進むごとに損失発生領域が低減する形状へ設計変数: 5ヵ所の長さ 30回 50回 80回 Impeller inflow outflow Copyright© Fixstars Group 空力性能 (正規化後) Return Channel 15/35 GA FMQA

16.

事例: 車両設計最適化（マツダ様）

amplify マツダ Search • 複数車種の車体構造同時設計最適化問題。各車種の各パーツに異なる厚さの鋼板を割り当てる問題 • 衝突性能を含めた品質特性の条件を満たした上で、部品の軽量化と共通部品数の最大化の実現する多目的最適化問題 • 板厚の組み合わせに対する品質特性はシミュレータ等から得られるが、定式化は不可能（ブラックボックス） • 2017年にマツダ・JAXA がベンチマーク問題として公開し*1、国内外の研究グループ*2,3 により様々な手法が試されてきており、1～3万回程度の試行を繰り返せばある程度よい解が見つけられることは確認されていた • 2022年より量子アニーリング・イジングマシを活用したブラックボックス最適化（FMQA）に着目し、検証を開始 • FMQA により、1,000回程度の試行で、従来手法と同等以上の解を見つけることに成功！ • 今後は、QUBO 式近似の計算コストを削減しつつ、最適化性能も向上させるような手法の検討を予定 *1 応答曲面法を用いた複数車種の同時最適化ベンチマーク問題の提案 *2 進化計算コンペティション2017開催報告 *3 Multi-objective Bayesian optimization over high-dimensional search spaces Copyright© Fixstars Group 16/35

17.

事例: 車両設計最適化（マツダ様）

18.

QA活用のブラックボックス最適化

19.

FMQA詳細と躓きポイント

● Factorization machine (FM) 𝑑 𝑘 1 𝑔 𝒙 𝒘, 𝒗 = 𝑤0 + ෍ 𝑤𝑖 𝑥𝑖 + ෍ 2 𝑖=1 ● 𝑓=1 2 𝑑 ෍ 𝑣𝑖𝑓 𝑥𝑖 𝑑 2 2 − ෍ 𝑣𝑖𝑓 𝑥𝑖 𝑖=1 𝑖=1 ハイパーパラメータ 𝑘 ○ 𝑘 = 𝑑 の時、𝑔 𝒙 は全ての相互作用項を考慮。 ○ BBOでは、比較的小さな 𝑘 を利用（過学習を避けるため） ■ ● K. Kitai, J. Guo, S. Ju, S. Tanaka, K. Tsuda, J. Shiomi, & R. Tamura "Designing metamaterials with quantum annealing and factorization machines“ Phys. Rev. (2020). 経験上、𝑑 や 𝑓 𝒙 の複雑さに関わらず、𝑘 = 10 で良い誤差の少ないモデルよりも、最適化しやすいモデル関数の構築が重要 ○ 機械学習時の学習データスケーリング ○ ブラックボックス関数との相関（次頁） Copyright© Fixstars Group 躓きポイント！ 19/35

20.

相関：真値とモデル予測値との相関係数

def train( x: np.ndarray, y: np.ndarray, model: TorchFM, ) -> None: """FM モデルの学習を行う""" # イテレーション数 epochs = 2000 # ・・・ # 中略 # ・・・ # モデルを学習済みパラメータで更新 model.load_state_dict(best_state) Copyright© Fixstars Group 20/35

21.

22.

多目的BBOにおける発展的な技術

23.

車両設計最適化（詳細）

● https://ladse.eng.isas.jaxa.jp/benchmark/ ● 制約条件：53個 ○ 衝突性能、固有値、車体剛性、構造制約、製造制約・・・ ○ 内、ブラックボックスな制約条件：42個 ● ブラックボックスな目的関数：1個 ○ 3車種合計重量 ● 定式化可能な目的関数：1個 ○ 共通部品点数 ● 実数決定変数：222個（バイナリ変数換算：1905個） ● ブラックボックス関数の評価1,000回（300サイクル） Copyright© Fixstars Group 23/35

24.

ブラックボックスな制約条件とは？

● 必ず満たさなければならない品質特性 ○ 衝突性能、固有値、車体剛性、構造制約、製造制約・・・ ➔ 各部品の鋼板厚さの多項式で充足を判定できない！ ➔ これら個々の品質特性 𝑗 に関するシミュレーション： ≥ 0 ・・・制約 𝑗 を満足 𝑔𝑗 𝒙 ൝ < 0 ・・・制約 𝑗 の違反 ○ ブラックボックスな目的に対するモデル関数に加え、これらブラックボックスな制約のペナルティを荷重和した出力に対するモデル関数も構築 Copyright© Fixstars Group 24/35

25.

ブラックボックスな制約条件とは？

● 最適化の対象となる最終的な目的関数 ○ ブラックボックスな目的関数に対するモデル関数 ○ ブラックボックスな制約ペナルティに対するモデル関数 ○ 定式化可能な目的関数 ○ 定式化可能な制約条件ペナルティ上記、多項式の線形結合モデルを構築 ➔ 最適化（アニーリング） ● 発展的な工夫ポイント ○ 各項の重みの動的決定法 ○ ブラックボックス関数の並列評価 ■ 並列評価により、1000サイクル→300サイクルに！ Copyright© Fixstars Group 25/35

26.

QA活用BBOの今後の展開：

27.

QA活用BBOのアップデート

28.

Kernel-QA：期待されること

29.

Kernel-QA：パフォーマンス (実数変数)

30.

Kernel-QA：パフォーマンス (バイナリ変数)

31.

Kernel-QA：パフォーマンス (計算速度)

32.

Amplify-BBOpt： QA活用のBBOをより簡単に！

(FMQA, kernel-QA) ● Fixstars Amplify の機能をフル活用: ○ ○ Amplify SDK ■ 種々の変数やソルバーの利用 ■ ソフト・ハード制約条件の考慮 Amplify AE ■ 高速・大規模な最適化 ✓ 数1,000 のバイナリ決定変数（より大規模でもBBO可能） ✓ 数100 の実数・離散決定変数（より大規模でもBBO可能） Copyright© Fixstars Group 32/35

33.

Amplify-BBOpt：プログラム例 overview

34.

まとめ

● QA活用ブラックボックス最適化に関する ● 今後について ○ デモ・チュートリアルを試す ○ 最近の事例 ■ https://amplify.fixstars.com/ja/demo#blackbox ○ 躓きポイント ■ 無料で利用スタート可能！ ○ 最新の技術 ○ 今後の展開 ■ Kernel-QA などをご紹介 ■ Amplify-BBOpt ○ 打ち合わせにて、より詳細なに関する情報を取得する ○ 公開セミナーやプライベートトレーニングを受講する ○ Copyright© Fixstars Group ご質問などはお気軽にお問合せください 34/35

35.

量子コンピュータ時代の最適化セミナー（11/20）

ブラックボックス最適化の最新事例と技術解説

セミナー概要

セミナー資料

その他のセミナー資料

資料の内容

量子コンピュータ時代のプログラミングセミナー

本日の予定

本セミナーのゴール

(株) Fixstars Amplifyの紹介

数理最適化・組合せ最適化とは

Fixstars Amplifyの役割

様々な領域での利用拡大中（実稼働含む）

QA活用のブラックボックス最適化と

通常の組合せ最適化とブラックボックス最適化

ブラックボックス最適化のフロー（逐次最適化）

BBOにおけるモデル関数構築と最適化

FMQA: 活用例 (Amplify デモ)

FMQA: 活用例 (Amplify ユーザー)

FMQA: 活用例 (Amplify ユーザー)

事例：ターボ機械の形状最適化（川崎重工業様）

事例: 車両設計最適化（マツダ様）

事例: 車両設計最適化（マツダ様）

QA活用のブラックボックス最適化

FMQA詳細と躓きポイント

相関：真値とモデル予測値との相関係数

多目的BBOにおける発展的な技術

車両設計最適化（詳細）

ブラックボックスな制約条件とは？

ブラックボックスな制約条件とは？

QA活用BBOの今後の展開：

QA活用BBOのアップデート

Kernel-QA：期待されること

Kernel-QA：パフォーマンス (実数変数)

Kernel-QA：パフォーマンス (バイナリ変数)

Kernel-QA：パフォーマンス (計算速度)

Amplify-BBOpt： QA活用のBBOをより簡単に！

Amplify-BBOpt：プログラム例 overview

まとめ

ご参加ありがとうございます