量子コンピュータ時代の最適化プログラミング体験セミナー - ブラックボックス最適化による特微量選択・コスト削減・精度向上

ブラックボックス最適化による特微量選択・コスト削減・精度向上

株式会社Fixstars Amplifyでは、最適化クラウド「Fixstars Amplify」を活用した社会課題の解決と実業務への適用を進めています。

本セミナーでは、組合せ最適化問題の概要や、組合せ最適化問題を解くための専用マシンである量子アニーリング・イジングマシンをご紹介した後、多方面より注目を集めている量子アニーリング・イジングマシンを活用したブラックボックス最適化の概要を紹介します。その後、ブラックボックス最適化を活用した機械学習の特徴量選択に関するワークショップを行います。ワークショップでは、無料版のFixstars Amplifyと弊社が提供するサンプルコードを活用して、ご自身のPCより実際にブラックボックス最適化問題を解いていただきます。

量子アニーリング・イジングマシンの活用事例や活用方法をお知りになりたい方、ブラックボックス最適化にご興味がある方、機械学習の学習・推論コストの削減やモデル性能の向上にご興味がある方におすすめの内容となっています。

ぜひご参加ください。

セミナー概要

開催日時	2025年4月24日（木）14:00 〜 16:00
参加費用	無料
開催場所	オンライン（Zoom） ※お申し込みいただいた後、配信用のZoom URLをお送りいたします。
講演内容	はじめに会社および量子コンピューティングクラウド「Fixstars Amplify」のご紹介ブラックボックス最適化の概要のご紹介 Fixstars Amplifyを用いたブラックボックス最適化のワークショップ機械学習の特徴量選択・コスト削減・精度向上その他の事例や今後の学習の進め方等のご紹介 Q&A ※ 途中に休憩をはさみます。 ※ 当日は予告なく時間配分・内容等が変更になる可能性があります ※ 途中入退室は可能です。
登壇者	源勇気株式会社Fixstars Amplify ディレクター轟貴久株式会社Fixstars Amplify シニアディレクター
対象者	量子アニーリング・イジングマシンの活用事例や活用方法をお知りになりたい方ブラックボックス最適化にご興味がある方機械学習の学習・推論コストの削減やモデル性能の向上にご興味がある方
参加方法	お申し込みいただいた後、配信用のZoom URLをお送りいたします。 ※ Zoomの表示名は、セミナーの申し込み時のお名前としてください。

セミナー資料

技術情報や実装方法等は最新のセミナー資料をご参照ください

その他のセミナー資料

資料の内容

量子コンピュータ時代のプログラミングセミナー

本日の予定

第一部第二部第三部 • 本セミナーのゴール • 組合せ最適化の基本 • ブラックボックス最適化とは • 数の分割ハンズオン • FMQAの概要とフロー • 機械学習の特徴量選択ハンズオン • 会社紹介 • Fixstars Amplify の紹介 • 組合せ最適化事例 • ワークショップ事前準備 • • 問題の説明 • FM • FMQA まとめ質問は随時 Zoom の Q&A へお願いします Copyright© Fixstars Group 3

本セミナーのゴール

組合せ最適化に関する次の項目を実感していただく ➢ 身の回りに組合せ最適化問題は多い。一方で、複雑で非線形な物理・社会現象の場合、組合せ最適化に必要な定式化が困難なものもある。 ➢ 機械学習と量子アニーリング・イジングマシンを活用するブラックボックス最適化により、複雑現象に対する最適化を実施可能。 ➢ ブラックボックス最適化を Fixstars Amplify により実施できる。質問は随時 Zoom の Q&A へお願いします Copyright© Fixstars Group 4

会社紹介

フィックスターズグループの基本情報

会社名株式会社フィックスターズ本社所在地東京都港区芝浦3-1-1 msb Tamachi 田町ステーションタワーN 28階設立 2002年8月資本金 5億5,446万円社員数（連結） 292名（2023年9月現在）キオクシア株式会社ルネサスエレクトロニクス株式会社上場区分東証プライム（証券コード：3687）代表取締役社長三木聡主なお客様トヨタグループ（トヨタ自動車株式会社・豊田通商株式会社・株式会社デンソー）みずほ証券株式会社キヤノン株式会社グループ会社 2021/10/1 設立 Fixstars Solutions, Inc. (株) Fixstars Amplify 完全子会社米国での営業及び開発を担当 (株) Fixstars Autonomous Technologies 株式会社ネクスティエレクトロニクスとのJV 自動運転向けソフトウェアを開発 (株) Sider (株) Smart Opinion オスカーテクノロジー (株) 完全子会社開発支援SaaS「Sider」を運営連結子会社乳がんAI画像診断支援事業を運営連結子会社ソフトウェア自動並列化サービスを提供 Copyright© Fixstars Group 完全子会社最適化と量子コンピューティングのクラウド事業を運営 6

Fixstars Amplify: 今までの歩み

2024年産総研次世代スパコンABCI-Qへの採用光量子コンピュータのクラウド化研究登録組織数 700超次世代技術を先取りし今ある課題の解決を目指す 2018年 NEDOのプロジェクトに採択「イジングマシン共通ソフトウェア基盤の研究開発」 2023年新製品「Fixstars Amplify Scheduling Engine」提供開始累計実行回数3,000万回突破 2022年 Fixstars Amplify がGurobi、IBM-Quantumをサポート累計実行回数1,000万回突破 2021年量子アニーリングクラウドサービス「Fixstars Amplify」提供開始子会社Fixstars Amplifyを設立 Q-STAR 量子技術による新産業創出協議会に特別会員として加入 2017年日本で初めて D-Wave Systems社と提携 2019年 SIPの研究開発に参画「光・量子を活用したSociety 5.0実現化技術：光電子情報処理」 Copyright© Fixstars Group 7

最適化と量子技術、Fixstars Amplify

最適化と量子技術、Fixstars Amplifyの対応領域

1. 量子コンピュータ 3. イジングマシン量子ゲート方式二値二次多項式模型古典汎用コンピュータの上位互換。量子力学の重ね合わせ状態を制御する量子ゲートを操作し、特定の問題を汎用的かつ高速に処理する。二次の多変数多項式で表される目的関数の組合せ最適化問題 (QUBO) を扱う専用マシン。 QAOA により組合せ最適化問題 (QUBO) を取り扱うことが可能。 1 3 量子コンピュータ IBM/Google/Rigetti/IonQ 2 量子アニーリングイジングマシン富士通/日立/東芝/Fixstars 変数は0,1または±1。統計物理学におけるイジング模型 (磁性体の性質を表す模型) に由来。様々な実装により実現されている。 D-Wave/NEC 2. 量子アニーリング方式量子焼きなまし法イジングマシンの一種であり、量子焼きなまし法の原理に基づいて動作する。量子イジング模型を物理的に搭載したプロセッサで実現する。自然計算により低エネルギー状態が出力される。組合せ最適化問題 (QUBO) を扱う専用マシン。 Copyright© Fixstars Group Amplify AE 9

組合せ最適化

数理最適化問題量子アニーリング・イジングマシン・連続最適化問題 Quadratic 二次形 Unconstrained 制約条件なし • 整数計画問題 (決定変数が整数) Binary 0-1整数 (二値) • 0-1整数計画問題 (決定変数が二値) Optimization 計画（最適化） • 決定変数が連続値（実数など）・決定変数が離散値 (整数など) QUBO目的関数 (0-1整数二次計画問題) 𝒇 𝒒 = ෍ 𝑄𝑖𝑗 𝑞𝑖 𝑞𝑗 + ෍ 𝑄𝑖𝑖 𝑞𝑖 𝑖<𝑗 𝒇: 目的関数 𝒇 𝒒 を最小化するような 𝒒 を求める 𝑖 𝒒: 決定変数 𝑸: 係数 Copyright© Fixstars Group クラウドサービス：Fixstars Amplify 10

10.

Fixstars Amplify とは

11.

Fixstars Amplify の対応マシンの一例

12.

Fixstars Amplify の内容と特徴

13.

開発環境：Fixstars Amplify SDK

14.

実行環境：Fixstars Amplify Annealing Engine (AE)

NVIDIA GPU V100/A100 で動作 • 独自の並列化シミュレーテッドアニーリングアルゴリズム WEB経由で計算機能を提供 • 社会実装・PoC・検証が加速 • Amplify SDK の実装を直ぐに実行可能商用マシンでは最大規模・最高速レベル • 120,000 ビット（全結合） • 260,000 ビット超（疎結合） ※評価・検証用途では無償提供 Copyright© Fixstars Group 15

15.

オンラインデモ & チュートリアル

16.

様々な分野で利用が拡大しています

17.

Fixstars Amplify ご利用プラン

18.

料金のご紹介

19.

セミナー・トレーニングのご紹介

https://amplify.fixstars.com/ja/news/seminar お客様の実際の課題解決をご支援するために、無料セミナーや有償トレーニングを提供しています。無料セミナー・ワークショップビジネス向け、エンジニア向けに分けて開催しています！企業向けプライベートトレーニングお客様が抱える実際の課題やデータを使ったカスタムメイドのトレーニングです！ Copyright© Fixstars Group 20

20.

ワークショップ

21.

ワークショップの事前準備 (1)

• 【事前メールに記載】ご自身のPC (ブラウザ上) で Python プログラミングを行います。Google Colaboratory を使うので、事前にログイン出来ることを確認をお願いします（要 Google アカウント） Google Colab 検索 https://colab.research.google.com/ • 【事前メールに記載】 Fixstars Amplify ホームページよりユーザ登録の上、無料トークンの取得をお願いします（1分で終わります） Fixstars Amplify 検索 https://amplify.fixstars.com/ 質問は随時 Zoom の Q&A へお願いします Copyright© Fixstars Group 22

22.

ワークショップの事前準備 (2)

【事前メールに記載】 • 取得されたトークンを用いて、トークンチェック用サンプルコードが動くか確認をお願いします。 https://colab.research.google.com/drive/1bg2Ql3McJck_Sto8uvxtmPUMWtRFhf7a （※URLはZoomのチャット欄を参照） • サンプルコードは閲覧のみ可能な状態です。「ファイル」→「ドライブにコピーを保存」の上、ご自身のトークンを入力してください。その後、Shift + Enterで実行下さい。 ! pip install amplify token = "AE/*****************************" # ご自身のトークンを入力 • ご自身のトークン番号は、Amplifyウェブページ → よりご確認いただけます。 • 実行後、以下の結果が出力されればOKです。 result: [q_0, q_1] = [1. 1.] (f = 0.0) Copyright© Fixstars Group 23

23.

ワークショップの事前準備 (3)

• 決定変数を増やしてみる q = VariableGenerator().array("Binary", 10) • 目的関数を変更してみる f = 1 - q[0] * q[1] - 2 * q[0] + q[1] f import random f = 1 for i in range(1, 10): f -= random.randint(-2, 2) * q[i] * q[i - 1] f Copyright© Fixstars Group 24

24.

ワークショップ

25.

サンプルコード

サンプルコードを開き、「ファイル」→「ドライブにコピー」の上、トークンを入力し実行して下さい。 • 数の分割サンプルコード https://colab.research.google.com/drive/1bl6BGPwnpd3N0AveoDMGb8egprEdQMqU （※URLはZoomのチャット欄を参照）質問は随時 Zoom の Q&A へお願いします Copyright© Fixstars Group 26

26.

数の分割問題（概要）

• 与えられた 𝑛 個の整数𝑎0 , ⋯ , 𝑎𝑛−1 を二つの集合に分ける。集合内の数の和が、もう一方の集合内の数の和と等しくなるようできるか? • NP完全問題: とても難しい問題として知られている → 全通り試すしか方法は無い • 問題のバリエーション • 判定問題: 完全に等しく出来るか？または等しい組合せは何か？ • 最適化問題: 完全に等しいか、または最も惜しい組合せは何か？ Copyright© Fixstars Group 27

27.

数の分割問題（具体例と解法の方針）

具体例 {2,10,3,8,5,7,9,5,3,2} の10個の数の完璧な分割は見つけられるか？答え • 存在する • {2,3,5,7,10} と {2,3,5,8,9} • どちらも和は 27 • 分割方法は 23 通り存在する (対称を除く）どうやって解くか？ • ひとつの『数』がどちらの集合に分割されるか全通り試す → 210 = 1024通り Copyright© Fixstars Group • 効率のよい厳密な方法は知られていない・・・ (もし発見されたら大騒ぎ) 28

28.

数の分割問題（定式化）

最適化問題：数の分割において最も惜しい組合せは何か？ • 目的関数 {集合1の和} – {集合2の和} の絶対値を最小化 • 決定変数数 𝑎𝑖 がどちらの集合に属するかを 𝒔𝒊 で表す • 𝑎𝑖 = { 2,10, 3, 8, 5, 7, 9, 5, 3, 2} • 𝑠𝑖 = {-1, 1,-1, 1,-1,-1, 1, 1, 1, 1} 数理モデル • 目的関数 𝑁−1 𝑓 = ෍ 𝑠𝑖 𝑎𝑖 𝑠𝑖 ∈ −1, +1 𝑖=0 Copyright© Fixstars Group 29 σ 𝑠𝑖 𝑎𝑖 は、自然と {『1』の集合の和} – {『-1』の集合の和} となる！

29.

数の分割問題（バイナリへの式変形）

• 0-1整数二次計画問題への変換 • Quadratic Unconstrained Binary Optimization (QUBO) 式 𝑁−1 𝑓 = ෍ 𝑠𝑖 𝑎𝑖 𝑠𝑖 ∈ −1, +1 𝑖=0 𝑁−1 → ෍ 𝑠𝑖 𝑎𝑖 2 𝑠𝑖 ∈ −1, +1 σ 𝑠𝑖 𝑎𝑖 は、自然と {『1』の集合の和} – {『-1』の集合の和} となる！絶対値を二次式で表す 𝑖=0 𝑁−1 → ෍ 2𝑞𝑖 − 1 𝑎𝑖 2 𝑞𝑖 ∈ 0, +1 ±1をバイナリで表す 𝑖=0 Copyright© Fixstars Group 30

30.

数の分割問題（定式化の具体例）

問題 • 𝑎𝑖 ={2,10,3,8,5,7,9,5,3,2} の10個の数の完璧な分割は見つけられるか？決定変数 • 𝑞𝑖 = 𝑞0 , 𝑞1 , 𝑞2 , 𝑞3 , 𝑞4 , 𝑞5 , 𝑞6 , 𝑞7 , 𝑞8 , 𝑞9 𝑞𝑖 ∈ 0,1 で集合0又は集合1、どちらに所属するかを表す目的関数 𝑁 2 𝑓 = ෍ 2𝑞𝑖 − 1 𝑎𝑖 𝑖=1 目的関数を展開 2 2𝑞0 − 1 + 10 2𝑞1 − 1 + 3 2𝑞2 − 1 + 8 2𝑞3 − 1 + 5 2𝑞4 − 1 𝑓= +7 2𝑞5 − 1 + 9 2𝑞6 −Copyright© 1 + 5Fixstars 2𝑞Group 7 − 1 + 3 2𝑞8 − 1 + 2 2𝑞9 − 1 2 31

31.

数の分割問題（プログラムコード）

• 問題の定義と決定変数生成器による決定変数の生成 a = [2, 10, 3, 8, 5, 7, 9, 5, 3, 2] q = amplify.VariableGenerator().array(“Binary”, len(a)) 2 1. 定式化 2. 実行 • 目的関数、𝑓 = σ𝑁𝑖=1 2𝑞𝑖 − 1 𝑎𝑖 、の定式化（①②③は同等） ① f = ((2 * q - 1) * a).sum() ** 2 ② f = 0 for i in range(len(a)): f += (2 * q[i] - 1) * a[i] f **= 2 ③ f = amplify.sum((2 * q - 1) * a) ** 2 色々な書き方が出来る result = amplify.solve(f, client) 得られた目的関数の値0 3. 結果各集合の合計値27 q = [1, 1, 1, 0, 1, 1, 0, 0, 0, 0], f = 0.0, w = 27 Copyright© Fixstars Group 各数字に対して、集合0か、集合1か 32

32.

オンラインデモ & チュートリアル

33.

組合せ最適化と

34.

組合せ最適化とブラックボックス最適化

通常の組合せ最適化ブラックボックス最適化 • 課題に対し、 2次定式化 (QUBO) を実施 • 課題が複雑で直接の定式化が不可能。 • 数の分割例) 最も計測精度が高くなるセンサー群の配置は？ 𝑓 = Σ 2𝑞𝑖 − 1 𝑎𝑖 2 → 実験かシミュレーション（コスト大） • 生産計画最適化 𝑓 = ΣΣ Σ𝑎𝑖 𝑝𝑖 𝑞𝑚,𝑖,𝑡 + ΣΣ𝑏𝑖 𝑠𝑖 𝑞𝑚,𝑖,𝑡 𝑞𝑚,𝑖−1,𝑓 ⋯ • シミュレーションや実験の試行回数の削減 • TSP問題（お遍路巡り最短経路探索） → シミュレーションや実験が楽になる 𝑓 = ΣΣΣ𝑑𝑖,𝑗 𝑞𝑛,𝑖 𝑞𝑛+1,𝑗 ⋯ • QUBO式に対し、直接アニーリングを行う（量子アニーリング・イジングマシン） • 逆問題に対するアプローチとしても適用化例) ある計測値を実現する実験条件を見つける Copyright© Fixstars Group 35

35.

FMQAの紹介

36.

ブラックボックス最適化

数理最適化ブラックボックス最適化目的関数値 𝒇 𝒙 のみ観測可能 • 目的関数の形状や勾配などは何も分からない。機械学習＋量子アニーリング／イジングマシン目的関数の評価回数に限りがある • 入力集合 Ω が有限集合であっても全検索できない。イメージ • 5種類の材料から、いくつかの材料を選択・合成し、最も電気抵抗の小さな物質を作る。 • 決定変数（材料の選択肢）𝒙 ・・・ 5桁の01ビットでどの材料を選択するかを記述 𝒙 = [1,0,0,0,0], [1,1,0,0,0], [1,0,1,0,0], ⋯ , [1,1,1,1,1] → 25 − 1 通り • 目的関数 𝑓 𝒙 = 合成物質の電気抵抗（実験又は数値シミュレーション） Copyright© Fixstars Group 37

37.

ブラックボックス最適化のフロー

• 逐次最適化：最適化サイクルの実施 ④ 新しい入力で ① 新たな入出力実験やシミュレーペアを学習データションを実施に追加 FMQA Kitai, et al., Phys. Rev. Res. (2020) • モデル関数 → FM • 最適化 → QA *Quadratic-optimization Annealing FMQAの特徴： ③ モデル関数に基 ② 学習データにづき最適入力候補基づきモデル関数を取得（最適化）を構築 • 活用のみ・探索なし • 過学習の低減次元の呪いに強い！ • QA最適化 Copyright© Fixstars Group 38

38.

モデル関数としての Factorization Machine (FM)

• モデル関数 𝑔(𝒙) に機械学習モデルの一種である Factorization Machine (FM) を用いると、次のように変数 𝒙 に対する2次式での記述ができる。 𝑛 𝑛 𝑔 𝒙 𝒘, 𝒗 = 𝑤0 + 𝒘, 𝒙 + ෍ ෍ 𝒗𝑖 , 𝒗𝑗 𝑥𝑖 𝑥𝑗 𝑖=1 𝑗=𝑖+1 𝑛 𝑘 1 = 𝑤0 + ෍ 𝑤𝑖 𝑥𝑖 + ෍ 2 𝑖=1 𝑓=1 𝑛 ෍ 𝑣𝑖𝑓 𝑥𝑖 𝑖=1 2  QUBO式 𝑛 2 2 − ෍ 𝑣𝑖𝑓 𝑥𝑖 𝑖=1 • 𝑘 はハイパーパラメータ、 𝒘 及び 𝒗 は FM 学習後に取得される FM パラメータ。 • FM パラメータ数は 𝑘 に依存。𝑘 = 𝑛 のときは QUBO の相互作用項と同じ自由度がある一方、 𝑘 を小さくすることでパラメータ数を減らし過学習を抑制する効果 • このようなブラックボックス最適化手法を FMQA と呼ぶ場合がある。 Copyright© Fixstars Group K. Kitai, et al., Phys. Rev. Res. (2020). T. Inoue, et al., Opt. Express (2022). 39

39.

モデル関数としての Factorization Machine (FM)

ブラックボックス最適化の精度を向上する方法。 • モデル関数 𝑔(𝒙) に機械学習モデルの一種である Factorization Machine (FM) を用いると、次のように変数 𝒙 に対する2次式での記述ができる。なぜQUBOの2次関数で複雑な現象を近似できるのか？ 𝑛 𝑛 𝑔 𝒙 𝒘, 𝒗 = 𝑤0 + 𝒘, 𝒙 + ෍ ෍ 𝒗𝑖 , 𝒗𝑗 𝑥𝑖 𝑥𝑗 𝑖=1 𝑗=𝑖+1 𝑛 𝑘 1 = 𝑤0 + ෍ 𝑤𝑖 𝑥𝑖 + ෍ 2 𝑖=1 𝑓=1 𝑛 ෍ 𝑣𝑖𝑓 𝑥𝑖 𝑖=1 2  QUBO式 𝑛 2 2 − ෍ 𝑣𝑖𝑓 𝑥𝑖 𝑖=1 • 𝑘 はハイパーパラメータ、 𝒘 及び 𝒗 は FM 学習後に取得される FM パラメータ。 • FM パラメータ数は 𝑘 に依存。𝑘 = 𝑛 のときは QUBO の相互作用項と同じ自由度がある一方、 𝑘 を小さくすることでパラメータ数を減らし過学習を抑制する効果 • このようなブラックボックス最適化手法を FMQA と呼ぶ場合がある。 Copyright© Fixstars Group K. Kitai, et al., Phys. Rev. Res. (2020). T. Inoue, et al., Opt. Express (2022). 40

40.

ブラックボックス最適化活用例

41.

FMQA: 活用例 (Amplify サンプルプログラム)

42.

FMQA: 活用例 (Amplify ユーザー)

43.

事例: ターボ機械の形状最適化（川崎重工業様）

• 従来より遺伝的アルゴリズム (GA) により形状最適化を行うことが多かった。規模が大きくなると求解までに時間がかかり、開発期間が長期化するといった課題があった • FMQA により、従来手法と比べ、同じ計算回数でもより優れた解が得られることを確認。流路形状の最適化 (圧縮機全体の空力性能の最大化) 遠心圧縮機最適化が進むごとに損失発生領域が低減する形状へ設計変数: 5ヵ所の長さ 30回 50回 80回 Return Channel inflow outflow Copyright© Fixstars Group 空力性能 (正規化後) Impelle r GA FMQA 44

44.

事例: 車両設計最適化（マツダ様）

Amplify マツダ検索 • 車体設計の複数車種同時最適化問題。実数変数200以上の大規模問題。 • 車体の軽量化と共通部品数の最大化の実現（衝突性能・製造制約などの制約を満たした上で） • 国内外研究グループ*1,2 により様々な手法が試されてきており、1～3万回程度の試行により、ある程度良い解が見つけられることは確認されていた • FMQA により、1,000回程度の試行で、従来手法と同等以上の解を見つけることに成功！ *1 進化計算コンペティション2017開催報告 *2 Multi-objective Bayesian optimization over high-dimensional search spaces Copyright© Fixstars Group 45

45.

事例: 車両設計最適化（マツダ様）

Amplify マツダ検索複数の要件を満たすような多目的最適化の場合だとどのように • 車体設計の複数車種同時最適化問題。実数変数200以上の大規模問題。ブラックボックス最適化を適用するのか紹介してほしいです • 車体の軽量化と共通部品数の最大化の実現（衝突性能・製造制約などの制約を満たした上で） • 国内外研究グループ*1,2 により様々な手法が試されてきており、1～3万回程度の試行により、ある程度良い解が見つけられることは確認されていた • FMQA により、1,000回程度の試行で、従来手法と同等以上の解を見つけることに成功！ *1 進化計算コンペティション2017開催報告 *2 Multi-objective Bayesian optimization over high-dimensional search spaces Copyright© Fixstars Group 46

46.

ブラックボックス最適化

47.

SVMによるMNIST画像認識モデル

48.

SVM画像認識モデルの最適特徴量選択

49.

画像認識モデルの特徴量選択・最適化フロー

50.

ブラックボックス最適化のデモプログラム：機械学習 (FM)

『マスク』を入力とし、『マスクに従って削減された特徴量に基づく SVM モデルの精度』を予測するFMモデル https://colab.research.google.com/drive/1WmXIWVAQ-2MasS7XU9EE4rXXDb1loqnm 問題設定最適化サイクルマスクを 𝒙 とすると、ブラックボックス関数 𝑓(𝒙) は、 1. 学習データからモデル関数 𝑔(𝒙) を構築 (FM) 𝑓 𝒙 = 2. モデル関数 𝑔(𝒙) が最小となる点 ෝ 𝒙 を推定 (QA) 3. 評価結果 ෝ 𝒙, 𝑓(ෝ 𝒙) を学習データに追加 ↑のサイクルにより、最適化点近傍におけるFM の予測精度が向上し、組合せ最適化により、より良い ෝ 𝒙 の推定が期待される Copyright© Fixstars Group 51

51.

ブラックボックス最適化のデモプログラム ― 機械学習 (FM)

『マスク』を入力とし、『マスクに従って削減された特徴量に基づく SVM モデルの精度』を予測するFMモデル https://colab.research.google.com/drive/1WmXIWVAQ-2MasS7XU9EE4rXXDb1loqnm 問題設定最適化サイクルマスクを 𝒙 とすると、ブラックボックス関数 𝑓(𝒙) は、 1. 教師データから獲得関数 𝑔(𝒙) を構築 (FM) 𝑓 𝒙 = 1. 学習データに基づき、（入力 𝒙 でマスクされない入力特徴量のみを考慮して）SVM 学習 2. テストデータに基づき、（入力 𝒙 でマスクされない入力特徴量のみを考慮して）学習済みSVMモデルをテスト 3. SVMモデルの評価結果（正答率の負値）を返却 Copyright© Fixstars Group 2. 獲得関数 𝑔(𝒙) が最小となる点 ෝ 𝒙 を推定 (QA) 3. 評価結果 ෝ 𝒙, 𝑓(ෝ 𝒙) を教師データに追加 ↑のサイクルにより、最適化点近傍におけるFMの予測精度が向上し、組合せ最適化により、より良い ෝ 𝒙 の推定が期待される 52

52.

FMデモプログラム 1/6（SVMクラスの実装）

• __init__ • 引数のマスク率に応じてクラスを初期化 • _num_features: 特徴量の総数（28x28=784個） • _num_masked_features: マスクする特徴量の数 • generate_random_mask • マスク率を満たすマスクをランダムに生成する関数 • train_eval • 与えられたマスクに基づく特徴量で学習を行い、得られたモデルを評価し、モデルの正答率を返却する関数。 Copyright© Fixstars Group 53

53.

FM デモプログラム 2/6（ブラックボックス関数の定義）

• make_blackbox_func: ブラックボックス関数を生成する関数 • blackbox_func: MnistSvm.train_eval から返却される正答率を(-1)倍して返却 → つまり、ブラックボックス関数からの返却値は、学習済みSVMモデルのテストデータに対する正答率の負値関数の利用例： • マスク率75%を考慮する場合のブラックボックス関数 • 特徴量588個をマスク、それ以外 (196個)を SVMで考慮 Copyright© Fixstars Group 54

54.

FM デモプログラム 3/6（FMの定義）

55.

FM デモプログラム 4/6（FMの学習）

FM 学習は、通常の機械学習と同様に進める。教師データを学習・検証データに分割し、ミニバッチ学習。 • x, y: 教師データ • model: FM モデル（TorchFM） • epochs: エポック（繰り返し）の数 • lr:（初期）学習率 • scheduler: 学習率スケジューラー学習後、最も良いモデルに対し、次のような評価を実施 Copyright© Fixstars Group 56

56.

FM デモプログラム 5/6（教師データ作成）

57.

FM デモプログラム 6/6（メイン部分）

58.

ブラックボックス最適化

59.

ブラックボックス最適化のデモプログラム：FMQA

FMQAによる画像分類モデルのための最適特徴量選択 https://colab.research.google.com/drive/12vElYQoIgOJJhDucoUqAs8ktJzolnUK7 問題設定最適化サイクルマスクを 𝒙 とすると、ブラックボックス関数 𝑓(𝒙) は、 1. 学習データからモデル関数 𝑔(𝒙) を構築 (FM) 𝑓 𝒙 = 2. モデル関数 𝑔(𝒙) が最小となる点 ෝ 𝒙 を推定 (QA) 3. 評価結果 ෝ 𝒙, 𝑓(ෝ 𝒙) を学習データに追加 ↑のサイクルにより、最適化点近傍におけるFM の予測精度が向上し、組合せ最適化により、より良い ෝ 𝒙 の推定が期待される Copyright© Fixstars Group 60

60.

FMQA デモプログラム 1/3 （アニーリング部分）

学習済みFMモデルに基づき ෝ 𝒙 を推定する関数 • 決定変数配列の作成 • 学習済みFMモデルからパラメータ（重み・バイアス）を取得 • パラメータに基づき目的関数のサロゲートモデル 𝑔(𝒙) を作成 • サロゲートモデルを制約条件（後述）と合わせて amplify.Modelを作成 • 単に、objective + constraint(x) でも良い • amplify.solve によりアニーリングを実行 • このサイクルにおける ෝ 𝒙 を返却 Copyright© Fixstars Group 61

61.

FMQA デモプログラム 2/3 （制約条件の設定）

62.

FMQA デモプログラム 3/3（メイン部分）

1. train() による FM モデルの学習 2. anneal() によるアニーリング • FM モデル値を最小化するような入力値（マスク）を探索 3. 得られた入力値（マスク）が既存の場合の処理 4. 得られた入力値（マスク）によるブラックボックス関数の評価 • マスク適用後の学習データを使ってSVMモデル学習 • マスク適用後のテストデータを使ってSVMモデル評価 • 正答率の負値を返却 5. 新しい入出力ペアをデータセットに追加 Copyright© Fixstars Group 63

63.

デモプログラムの実行

• 全特徴量 (784個) を考慮した場合のモデル評価 • accuracy_score=0.905 • FMQA の基本条件 • 初期データ個数：10個 • FMQAの最適化サイクル数：20回 • 特徴量：784個→196個（75%減） • 実行時間 • およそ5分 Copyright© Fixstars Group （上）最終的に得られたマスクをいくつかの手書 64 き画像に重ねた例と（下）最適化の履歴

64.

FMQA デモプログラムの実務での活用方法

基本的に、blackbox() を変更する。必要に応じて、現在の教師データの出力などを追加。 • 例①：blackbox() 内で特徴量選択ではなく、枝刈りやデータ選択、ハイパラチューニング等を実施し、学習済みモデルの評価結果が最適になる様に手法を調整 • 例②：blackbox() 内でシミュレーションを呼び出し、後処理、その戻り値を最小化するように最適化。 • 例 ③ ： blackbox() 内で実験を行う。つまり、 1 回の FMQA で推定された探索候補 ෝ 𝒙 を対象に実験し、結果を教師データに追加、次のFMQA 試行を行う。 • ℎ 𝒙 を最大にするような入力 𝒙 を推定する場合は、1/ℎ 𝒙 や −ℎ 𝒙 などを目的関数 𝑓 𝒙 とする。 Copyright© Fixstars Group 65

65.

今後について

ぜひ、デモ・チュートリアルにあるサンプルコードにも挑戦してみてください！一般的な組合せ最適化問題目的関数のみで定式化制約条件のみで定式化ブラックボックス最適化問題目的関数 + 制約条件概要材料探索翼型最適化信号機制御困った時はドキュメンテーションを！ https://amplify.fixstars.com/docs/amplify/v1/index.html Copyright© Fixstars Group 66

66.

今後のセミナーの予定

今後も定期的に無料セミナーを開催します！ 2025/4/24 「ブラックボックス最適化（機械学習）」 2025/5/14 「経路最適化」 2026/6/19（予定）「BBO技術解説」 (AnnealingEngine) (AnnealingEngine) ・はじめに・会社紹介・Fixstars Amplifyの紹介・ブラックボックス最適化のワークショップ・Wrap Up ・事例のご紹介・今後の進め方・Q&A ・はじめに・会社紹介・Fixstars Amplifyのご紹介・経路最適化のワークショップ・Wrap Up ・事例のご紹介・今後の進め方・Q&A ・はじめに・会社紹介・Fixstars Amplifyのご紹介・BBO技術解説・Wrap Up ・事例のご紹介・今後の進め方・Q&A ご質問・ご不明点がありましたら、お問い合わせフォームでご連絡下さい https://amplify.fixstars.com/ja/contact Copyright© Fixstars Group 67

67.

量子コンピュータ時代の最適化プログラミング体験セミナー（4/24）

ブラックボックス最適化による特微量選択・コスト削減・精度向上

セミナー概要

セミナー資料

その他のセミナー資料

資料の内容

量子コンピュータ時代のプログラミングセミナー

本日の予定

本セミナーのゴール

会社紹介

フィックスターズグループの基本情報

Fixstars Amplify: 今までの歩み

最適化と量子技術、Fixstars Amplify

最適化と量子技術、Fixstars Amplifyの対応領域

組合せ最適化

Fixstars Amplify とは

Fixstars Amplify の対応マシンの一例

Fixstars Amplify の内容と特徴

開発環境：Fixstars Amplify SDK

実行環境：Fixstars Amplify Annealing Engine (AE)

オンラインデモ & チュートリアル

様々な分野で利用が拡大しています

Fixstars Amplify ご利用プラン

料金のご紹介

セミナー・トレーニングのご紹介

ワークショップ

ワークショップの事前準備 (1)

ワークショップの事前準備 (2)

ワークショップの事前準備 (3)

ワークショップ

サンプルコード

数の分割問題（概要）

数の分割問題（具体例と解法の方針）

数の分割問題（定式化）

数の分割問題（バイナリへの式変形）

数の分割問題（定式化の具体例）

数の分割問題（プログラムコード）

オンラインデモ & チュートリアル

組合せ最適化と

組合せ最適化とブラックボックス最適化

FMQAの紹介

ブラックボックス最適化

ブラックボックス最適化のフロー

モデル関数としての Factorization Machine (FM)

モデル関数としての Factorization Machine (FM)

ブラックボックス最適化 活用例

FMQA: 活用例 (Amplify サンプルプログラム)

FMQA: 活用例 (Amplify ユーザー)

事例: ターボ機械の形状最適化（川崎重工業様）

事例: 車両設計最適化（マツダ様）

事例: 車両設計最適化（マツダ様）

ブラックボックス最適化

SVMによるMNIST画像認識モデル

SVM画像認識モデルの最適特徴量選択

画像認識モデルの特徴量選択・最適化フロー

ブラックボックス最適化のデモプログラム：機械学習 (FM)

ブラックボックス最適化のデモプログラム ― 機械学習 (FM)

FMデモプログラム 1/6（SVMクラスの実装）

FM デモプログラム 2/6（ブラックボックス関数の定義）

FM デモプログラム 3/6（FMの定義）

FM デモプログラム 4/6（FMの学習）

FM デモプログラム 5/6（教師データ作成）

FM デモプログラム 6/6（メイン部分）

ブラックボックス最適化

ブラックボックス最適化のデモプログラム：FMQA

FMQA デモプログラム 1/3 （アニーリング部分）

FMQA デモプログラム 2/3 （制約条件の設定）

FMQA デモプログラム 3/3（メイン部分）

デモプログラムの実行

FMQA デモプログラムの実務での活用方法

今後について

今後のセミナーの予定

Q&A

ブラックボックス最適化活用例