数学的最適化において、 ホタルアルゴリズム（英: Firefly Algorithm）とは、Xin-She Yangによって提案された、 ホタルの発光現象をもとにしたメタヒューリスティクスのひとつである。 ^[1]

ホタルの発光は、他のホタルを引き付ける信号システムとして機能している。 Xin-She Yangは、このホタルアルゴリズムを次のように仮定した:

1. すべてのホタルは性別を持たず、個々のホタルは他のすべてのホタルに引き付けられる。
2. 魅力はそれらの明るさに比例し、どの2つのホタルにとっても、明るくない方はより明るい方に引き付けられ、移動する。ただし、強度（見かけ上の明るさ）は、互いの距離が大きくなるにつれて減少する。
3. 与えられたホタルより明るいホタルがいなければ、そのホタルはランダムに動く。

ホタルの明るさは目的関数と関連付けられる。

ホタルアルゴリズムは疑似コードを用いて次のように記述される。

Begin
   1) 目的関数: ${\displaystyle f(\mathbf {x} ),\quad \mathbf {x} =(x_{1},x_{2},...,x_{d})}$;
   2) ホタル ${\displaystyle \mathbf {x} _{i}\quad (i=1,2,\dots ,n)}$の初期状態を生成;
   3) 光の強さ I を ${\displaystyle f(\mathbf {x} )}$と関連付けられるように定義
      (例えば, 最大化問題では, ${\displaystyle I\propto f(\mathbf {x} )}$ または単に ${\displaystyle I=f(\mathbf {x} )}$;)
   4) 吸収係数 γ を定義
 
   While (t < 世代数)
      for i = 1 : n (すべての n 匹のホタル)
         for j = 1 : i (n 匹のホタル)
            if (${\displaystyle I_{j}>I_{i}}$),
               ${\displaystyle \exp(-\gamma \;r)}$によって距離 r で 魅力度 を変化
               ホタルi を ホタルj に移動;                
               新たな解を評価し、光の強さ I を更新;
            end if 
         end for j
      end for i
      ホタルを順位付けし、現在の最良のホタルを見つける
   end while

   結果や視覚化の後処理

end

ループあたりの目的関数評価の数は、上記の擬似コードがn * nであることを示唆していても、ホタルごとに1つの評価である（YangのMATLABコードに基づく）。 したがって、目的関数評価の総数は（世代数）*（ホタルの数）となる。

2つのホタル ${\displaystyle \mathbf {x} _{i}}$と ${\displaystyle \mathbf {x} _{j}}$の任意のペアの主となる更新式は、以下のように表される:

  ${\displaystyle \mathbf {x} _{i}^{t+1}=\mathbf {x} _{i}^{t}+\beta \exp[-\gamma r_{ij}^{2}](\mathbf {x} _{j}^{t}-\mathbf {x} _{i}^{t})+\alpha _{t}{\boldsymbol {\epsilon }}_{t}}$ 

ここで、${\displaystyle \alpha _{t}}$はステップ数を制御するパラメータで、${\displaystyle {\boldsymbol {\epsilon }}_{t}}$はガウス分布などの分布から描かれたベクトルである。

${\displaystyle \gamma \rightarrow 0}$である特殊なケースでは、標準的な粒子群最適化と同じである。 実際、内側のループ（jのループ）を消去し、明るさ ${\displaystyle I_{j}}$を現在の最適解 ${\displaystyle g^{*}}$に置き換えると、標準的な粒子群最適化と同じになる。

一般的に、自然に触発されたメタヒューリスティクスは、精巧なメタファーの背後にある目新しさのなさを隠しているとして、研究界で批判を集めている。 ホタルアルゴリズムは、定着している粒子群最適化とほとんど同じであると批判されている。 ^{[2] [3] [4]}

• 群知能

1. ^ Yang, X. S. (2008). Nature-Inspired Metaheuristic Algorithms. Luniver Press. ISBN 978-1-905986-10-1 
2. ^ Almasi, Omid N.; Rouhani, Modjtaba (2016). “A new fuzzy membership assignment and model selection approach based on dynamic class centers for fuzzy SVM family using the firefly algorithm”. Turkish Journal of Electrical Engineering & Computer Sciences 4: 1–19. doi:10.3906/elk-1310-253. 
3. ^ Lones, Michael A. (2014). “Metaheuristics in Nature-Inspired Algorithms”. GECCO '14: 1419–1422. doi:10.1145/2598394.2609841. ISBN 9781450328814. http://www.macs.hw.ac.uk/~ml355/common/papers/lones-gecco2014-metaheuristics.pdf. 
4. ^ Weyland, Dennis (2015). “A critical analysis of the harmony search algorithm—How not to solve sudoku”. Operations Research Perspectives 2: 97–105. doi:10.1016/j.orp.2015.04.001. 

• [1]本に含まれているMatlabプログラムファイル: Xin-She Yang, Nature-Inspired Metaheuristic Algorithms, Second Edition, Luniver Press（2010）