粒子濾波器

粒子滤波器(英語:particle filter)是一种使用蒙特卡罗方法递归滤波器,透过一组具有权重的随机样本(粒子)來表示隨機事件後驗機率,從含有雜訊或不完整的觀測序列,估計出動態系統的狀態,粒子濾波器可以運用在任何狀態空間的模型上。粒子濾波器是卡爾曼濾波器的一般化方法,卡爾曼濾波器建立在线性的狀態空間和高斯分布的雜訊上;而粒子濾波器的狀態空間模型可以是非線性,且雜訊分布可以是任何型式。

歷史

啟發式演算法

從統計和概率的角度來看,粒子濾波器屬於遗传算法分支过程的類別,並且是指平均場類型相互作用的粒子方法。 這些粒子方法的解釋取決於科學專業。 在進化計算中,平均場遺傳類型粒子方法通常用作啟發式和自然搜索算法(也稱為元啟發算法)。在計算物理學分子化學中,它們用於解決費曼-卡茲(Feynman-Kac)路徑積分問題,或者用於計算玻爾茲曼-吉布斯(Boltzmann-Gibbs)度量,薛丁格算子的最高特徵值和基態。在生物學遺傳學中,它們還代表了某些環境中一群個體或基因的進化。

平均場類型進化計算技術的起源於1950年艾倫·圖靈在遺傳類型突變選擇學習機上的開創性工作,以及1954年紐澤西州普林斯頓高級研究所尼爾斯·艾爾·巴里切利(Nils Aall Barricelli)的文章。統計學中的粒子濾波器最早可追溯到1950年代中期。哈默斯利(Hammersley)等人在1954年提出的“窮人的蒙特卡洛”法暗示了當今使用的遺傳類型粒子過濾方法。 1963年,尼爾斯·艾爾·巴里切利(Nils Aall Barricelli)模擬了一種遺傳類型算法,以模仿個人玩簡單遊戲的能力。在進化計算文獻中,遺傳類型突變選擇算法通過1970年代初期約翰·霍蘭德(John Holland)的開創性工作而流行,特別是1975年出版的著作。

生物學遺傳學中,澳大利亞遺傳學家亞歷克斯·弗雷澤(Alex Fraser)在1957年還發表了一系列有關人工選擇生物的遺傳類型模擬的論文。 由生物學家進行的進化計算機模擬在1960年代初變得更加普遍,並且該方法在弗雷澤和伯內爾(Burnell)(1970)和克羅斯比(Crosby)(1973)的書中進行了描述。弗雷澤的模擬包括了現代突變選擇遺傳粒子算法的所有基本要素。

從數學觀點來看,給定一些部分和雜訊觀測結果的信號隨機狀態的條件分佈,是由信號的隨機軌跡上的費曼-卡茲(Feynman-Kac)概率描述的,該概率由一系列似然勢函數加權。量子蒙特卡洛法,更具體地說是擴散蒙特卡洛法,也可以解釋為費曼-卡茲路徑積分的平均場遺傳類型粒子近似。量子蒙特卡羅方法的起源通常歸因於恩里科·費米(Enrico Fermi)和羅伯特·里克特邁耶(Robert Richtmyer),他們於1948年開發了一種中子鏈反應的均值場粒子解釋方法,但它是第一個類似啟發式和遺傳類型的粒子算法(又名“重採樣”或“重新配置”蒙特卡洛方法)是在1984年由Jack H. Hetherington提出的用於估計量子系統(在簡化的矩陣模型中)的基態能量的方法。還可以引用1951年出版的西奧多·愛德華·哈里斯(Theodore E. Harris)和赫爾曼·康恩(Herman Kahn)的開創性著作,該著作使用平均場,但類似於啟發式遺傳方法,用於估計粒子傳輸能量。在分子化學中,遺傳啟發式粒子方法(又名修剪和富集策略)的使用可以追溯到1955年馬歇爾·N·羅森布魯斯(Marshall N. Rosenbluth)和阿里安娜·W·羅森布盧斯(Arianna W. Rosenbluth)的開創性工作。

遺傳粒子算法在高級信號處理貝葉斯推斷中的使用是最近的。1993年1月,北川源四郎開發了“蒙特卡羅濾波器”,該文在1996年出現了輕微修改。1993年4月,戈登等人在他們的開創性著作中發表了遺傳類型算法在貝葉斯統計推斷中的應用。作者將其算法命名為“自舉濾波器”,並證明與其他濾波方法相比,其自舉算法不需要對該狀態空間或系統噪聲進行任何假設。獨立的是皮埃爾·德爾·莫拉爾(Pierre Del Moral)和希米爾孔·卡瓦略(Himilcon Carvalho),皮埃爾·德爾·莫拉爾(Pierre Del Moral),安德烈·莫寧(André Monin)和熱拉爾·薩魯特(Gérard Salut)在1990年代中期發表的有關粒子過濾器的論文。 1989-1992年初,皮埃爾·德爾·莫拉爾(P.Del Moral),J.C.諾耶(J.C. Noyer),G.Rigal和G.Salut在LAAS-CNRS中也開發了信號處理技術,並通過STCAN(服務技術)進行了一系列受限和分類研究des Constructions and Armes Navales),IT公司DIGILOG和LAAS-CNRS(系統分析和體系結構實驗室)來解決RADAR/SONAR和GPS信號處理問題。

數學基礎

從1950年到1996年,所有有關粒子過濾器、遺傳算法的出版物,包括在計算物理和分子化學中引入的修剪和重採樣蒙特卡洛方法,都提出了適用於不同情況的類似於自然和啟發式算法,而沒有任何證據證明它們的一致性,也沒有討論估計的偏差以及基於族譜和祖先樹的算法。

這些粒子算法的數學基礎和首次嚴格的分析是由皮埃爾·德爾·莫拉爾(Pierre Del Moral)在1996年提出的。他的著作[1]還包含了似然函數和未標準化的條件機率測度的粒子近似的無偏性質的證明。文章介紹的似然函數的無偏粒子估計器如今已用於貝式統計推理中。

到1990年代末,Dan Crisan、Jessica Gaines、Terry Lyons、Pierre Del Moral等人提出了具有不同種群大小的分支類型粒子方法。P. Del Moral,A。Guionnet和L. Miclo在2000年開發了該領域的進一步發展。第一個中心極限定理是由Pierre Del Moral和Alice Guionnet於1999年以及Pierre Del Moral和Laurent Miclo於2000年提出的。Pierre於1990年代末提出了關於粒子過濾器 時間參數的第一個統一收斂結果。 Del Moral和Alice Guionnet。 2001年,P。Del Moral和L. Miclo首次對基於族譜樹的粒子濾波器平滑器進行了嚴格的分析。

關於Feynman-Kac粒子方法論的理論和相關的粒子過濾器算法已在2000年和2004年的書中得到發展。這些抽象的概率模型封裝了遺傳類型算法,粒子和自舉濾波器,交互的卡爾曼濾波器(又稱Rao–Blackwellized粒子濾波器),重要性採樣和重採樣樣式的粒子濾波器技術,包括基於族譜樹的方法和用於解決濾波和平滑問題的粒子後向方法。其他類別的粒子濾波方法包括基於族譜樹的模型、後向馬爾可夫粒子模型、自適應平均場粒子模型、島型粒子模型和粒子馬爾可夫鏈蒙特卡羅方法。

滤波问题

目标

粒子滤波器的目标是通过观测值估计状态变量的后验概率。粒子滤波器是针对隐马尔可夫模型设计的,系统中既包含隐藏的变量,也包含可观测的变量[2]。可观测变量(观测过程)与隐藏变量(状态过程)通过某种已知的函数关系相关联。类似地,定義状态变量演化的动态系统的概率描述是已知的。

一个通用粒子滤波器通过观察测量过程估计隐藏状态的后验分布。考察下图所示的状态空间:

滤波问题是要通过给定的观测过程 在任意时刻 k 的值,依次估计隐藏状态 的值。

所有的对 的贝叶斯估计服从后验分布 。粒子滤波器方法使用经验测量和通用粒子算法,提供了这些条件概率的近似值。与之对比,马尔可夫链蒙特卡洛(MCMC)重要性采样方式会对整个后验概率进行建模。

信号-观测模型

粒子濾波器能夠從一系列含有雜訊或不完整的觀測值中,估計出動態系統的內部狀態。在動態系統的分析中,需要兩個模型,一個用來描述狀態隨時間的變化(系統模型),另一個用來描述每個狀態下觀測到的雜訊(觀測模型),將這兩個模型都用機率來表示。

在許多情況下,每得到一個新的觀測值時,都必須對系統做出一次估計,利用遞迴濾波器,能夠有效地達到這樣的目的。遞迴濾波器會對得到的資料做連續處理,而非分批處理,因此不需要將完整的資料儲存起來,也不需要在得到新的觀測值時,將現有的資料重新做處理。遞迴濾波器包含兩個步驟:

預測:利用系統模型,由前一個狀態的資訊預測下一個狀態的機率密度函數

更新:利用最新的觀測值,修改預測出的機率密度函數。

藉由貝葉斯推斷(Baysian inference),我們可以描述出狀態空間的機率,並在得到新的觀測值時,對系統做出更新,因而達成上述目的。

近似貝式計算模型

在某些問題中,在信號的隨機狀態下,觀測值的條件分佈可能不具有密度,或者不可能或太複雜而無法計算。在這種狀況下,我們需要求近似值。其中一個策略是藉由馬爾可夫鏈來取代信號 ,採用虛擬觀測的形式

對於具有已知機率密度函數的獨立序列中的某些序列,核心的概念是觀測下式

在部分的觀測 之下,粒子濾波器是和馬爾可夫鏈 有相關的,定義為根據演化出的 ,在一些明顯的濫用性符號 下,帶有似然函數的粒子。這些機率性的技術跟近似貝式計算非常相關。在量子濾波器中,這些近似貝式量子濾波器的技術在1998年被皮埃爾·德爾·莫拉爾(P. Del Moral), 讓·雅各德(J. Jacod)和菲力普·普羅特(P. Protter)所採用。且被皮埃爾·德爾·莫拉爾,阿諾·杜斯(A. Doucet)和阿傑·賈斯拉(A. Jasra)更進一步發展。

非線性濾波方程

藉由貝式定理在條件機率中可以得出

粒子濾波器也是一個近似值,當有足夠的粒子時,結果會更加的準確。非線性濾波方程可以藉由遞迴得出

Eq. 1

依照慣例 在k=0時。非線性濾波方程問題的關鍵在於依序計算這些條件機率分布。

費曼-卡茲公式

固定一個時間範圍和一個序列的觀測 ,在k=0....n,我們定義:

在這種表示法中,對於從原點k = 0到時間k = n的 軌跡集合上的任何有界函數F,我們都可以用費曼-卡茲公式來表示

這些費曼-卡茲路徑積分模型出現在各種科學學科中,包括計算物理、生物學、資訊理論和計算機科學。他們的解釋取決於應用領域。舉例來說,如果我們選擇狀態空間某些子集的指標函數,它們代表馬爾可夫鏈在給定管中的條件分佈。我們會得到

只要標準化常數嚴格為正。

非線性貝葉斯追蹤

在動態系統中,我們常常需要對物體做追蹤。假設有一動態系統,已知其狀態序列定義為

其中狀態轉移函數,可以是非線性的函數,是一個獨立且相同分布(i.i.d.)的過程雜訊序列,分別代表狀態和過程雜訊向量的維度,為自然數的集合。追蹤的目標是要遞迴地從觀測值估計出,而觀測值定義為

其中觀測函數,可以是非線性的函數,是一個獨立且相同分布(i.i.d.)的觀測雜訊序列,分別代表觀測值和觀測雜訊向量的維度。

從貝葉斯理論的觀點來看,追蹤問題是要根據到時間為止的已知資訊,遞迴地計算出時間的狀態的可信度,這個可信度用機率密度函數來表示。假設初始機率密度函數(稱為先驗機率)為已知,則利用「預測」「更新」兩個步驟就能遞迴地計算出機率密度函數

在此假設在時間的機率密度函數為已知。

預測

利用查普曼-科爾莫戈羅夫等式(Chapman–Kolmogorov equation),可以由狀態轉移函數與時間的機率密度函數,計算出時間先驗機率

其中,由於狀態轉移模型被假設為一階馬可夫過程,時間的狀態只由時間決定,因此。機率模型狀態轉移函數的統計值得到。

更新

在時間,我們得到觀測值,因此可以利用貝氏定理,由先驗機率得到後驗機率,也就是考慮觀測值後得到的機率。

其中的歸一化常數

其中的似然函數觀測函數的統計值得到。

上述「預測」「更新」的遞迴關係,是貝葉斯最佳解的基本概念,然而公式中運用到的積分,對於一般非線性、非高斯的系統,難以得到解析解,因此需要利用蒙地卡羅方法來近似貝葉斯最佳解。

序列重要性重採樣(Sequential Importance Resampling, SIR)

序列重要性採樣(Sequential Importance Sampling, SIS)

SIR是由SIS加上重採樣(resampling)改良而來,在SIS中,我們將後驗機率個隨機採樣的樣本(稱為粒子)與各自的權重表示為

其中的權重是根據重要性採樣的規則產生,且必須符合

SIS是將重要性採樣遞迴執行的一種方法,根據重要性採樣的理論,一個函數的期望值可以用加權平均來近似

在每一次遞迴過程中,我們希望由前一次採樣的權重,計算出下一次採樣的權重。假設採樣的樣本分布可以表示為

其中稱為重要性密度(importance density)。若樣本是由重要性密度抽取出來,則權重可表示為

我們將重要性密度分解為

再將後驗機率表示為

則權重的遞迴式可以表示為

重採樣(resampling)

SIS可能會造成退化問題(degeneracy problem),也就是在經過幾次遞迴後,很多粒子的權重都變小到可以忽略不計,只剩少數粒子的權重較大,如此會浪費大量的計算量在幾乎沒有作用的粒子上,而使估計性能下降。由於在遞迴過程中,權重的變異數只會愈來愈大,因此退化問題無法被避免。

為了評估退化問題,我們定義有效粒子數

在進行SIS時,若有效粒子數小於某一閾值,則對粒子做重採樣,即可減緩退化問題。重採樣的概念是去除權重過小的粒子,專注於權重較大的粒子。進行重採樣時,要由現有的粒子分布取樣,產生一組新的粒子,由於產生出的新樣本為獨立且相同分布(i.i.d.),因此將權重重新設定為

參見

參考文獻

  1. M. S. Arulampalam, S. Maskell, N. Gordon and T. Clapp, "A tutorial on particle filters for online nonlinear/non-Gaussian Bayesian tracking." In IEEE Transactions on Signal Processing, vol. 50, no. 2, pp. 174-188, Feb 2002.
  2. A. Doucet, N. de Freitas, N. Gordon, "An Introduction to Sequential Monte Carlo Methods." In A. Doucet, N. de Freitas, N. Gordon (eds.) Sequential Monte Carlo Methods in Practice. Statistics for Engineering and Information Science. Springer, New York, NY, 2001
  3. A. Doucet, "On sequential Monte Carlo methods for Bayesian filtering." Dept. Eng., Univ. Cambridge, UK, Tech. Rep., 1998.
  1. ^ Del Moral, Pierre (1996). "Non Linear Filtering: Interacting Particle Solution页面存档备份,存于互联网档案馆)" (PDF). Markov Processes and Related Fields. 2 (4): 555–580.
  2. ^ 可观测性. [2020-04-29]. (原始内容存档于2020-11-22). 

Read other articles:

الاتحاد الفلسطيني لكرة القدم اتحاد كرة القدم الفلسطيني، و(بالإنجليزية: Palestinian Football Association)‏  شعار الاتحاد الفلسطيني لكرة القدم الاسم المختصر PFA الرياضة كرة القدم أسس عام 1928 (منذ 96 سنة) الرئيس جبريل الرجوب المقر الرام، القدس الانتسابات الاتحاد الدولي لكرة القدم: 1998الاتحا...

 

هذه المقالة يتيمة إذ تصل إليها مقالات أخرى قليلة جدًا. فضلًا، ساعد بإضافة وصلة إليها في مقالات متعلقة بها. (أغسطس 2020) مهنية تطوير البرمجيات المعتمدة معلومات التأسيس 2002  الموقع الجغرافي إحصاءات الموقع الموقع الرسمي  تعديل مصدري - تعديل   مهنية تطوير البرمجيات المعتمد...

 

Tennis tournament2007 Australian OpenDate15–28 January 2007Edition95thCategoryGrand Slam (ITF)SurfaceHardcourt (Rebound Ace)LocationMelbourne, AustraliaVenueMelbourne ParkChampionsMen's singles Roger FedererWomen's singles Serena WilliamsMen's doubles Bob Bryan / Mike BryanWomen's doubles Cara Black / Liezel HuberMixed doubles Daniel Nestor / Elena LikhovtsevaWheelchair men's singles Shingo KuniedaWheelchair women's singles Esther VergeerWheelchair men's doubles Robin Ammerlaan / Shingo Ku...

Human settlement in Illinois, United States of America Exterior view (in 1909) of the storefront office of P. Schiavone & Son, bankers and steamship agents, located at 925 S. Halsted St. Little Italy, sometimes combined with University Village into one neighborhood, is on the Near West Side of Chicago, Illinois. The current boundaries of Little Italy are Ashland Avenue on the west and Interstate 90/94 on the east, the Eisenhower Expressway on the north and Roosevelt to the south. It lies ...

 

Defunct regional airline of the United States (2006–2020) Compass Airlines IATA ICAO Callsign CP CPZ COMPASS FoundedSeptember 28, 2006 (2006-09-28)Commenced operationsMay 2, 2007 (2007-05-02)Ceased operationsApril 5, 2020 (2020-04-05)AOC #C77A868L[1]HubsDetroitLos AngelesMemphis (2006–2013)Minneapolis/St. PaulSeattle/TacomaFrequent-flyer programAAdvantage (American)SkyMiles (Delta)WorldPerks (Northwest)AllianceOneworld (American)Sk...

 

Artistic, literary, musical and intellectual genre and movement This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed.Find sources: Romantic poetry – news · newspapers · books · scholar · JSTOR (June 2016) (Learn how and when to remove this message) The Funeral of Shelley by Louis Edouard Fournier (1889); the group members, fro...

American hardcore punk band This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed.Find sources: Sick of It All – news · newspapers · books · scholar · JSTOR (February 2024) (Learn how and when to remove this message) Sick of It AllSick of It All at Reload Festival 2018Background informationOriginNew York City, U.S.Genres Hardco...

 

العلاقات اليابانية المالاوية اليابان مالاوي   اليابان   مالاوي تعديل مصدري - تعديل   العلاقات اليابانية المالاوية هي العلاقات الثنائية التي تجمع بين اليابان ومالاوي.[1][2][3][4][5] مقارنة بين البلدين هذه مقارنة عامة ومرجعية للدولتين: وجه المقا...

 

2020年夏季奥林匹克运动会波兰代表團波兰国旗IOC編碼POLNOC波蘭奧林匹克委員會網站olimpijski.pl(英文)(波兰文)2020年夏季奥林匹克运动会(東京)2021年7月23日至8月8日(受2019冠状病毒病疫情影响推迟,但仍保留原定名称)運動員206參賽項目24个大项旗手开幕式:帕维尔·科热尼奥夫斯基(游泳)和马娅·沃什乔夫斯卡(自行车)[1]闭幕式:卡罗利娜·纳亚(皮划艇)&#...

Area code in East Tennessee, United States Area code 423 (green) Area code 423 is a telephone area code in the North American Numbering Plan for the U.S. state of Tennessee. It comprises two disconnected areas of East Tennessee that are separated by area code 865. Principal cities in the northern part of the area code region are Morristown, Greeneville, Kingsport, Johnson City, and Bristol (more commonly known as the Tri-Cities region). The principal cities in the south are Chattanooga and Cl...

 

Tlacolulan is a municipality in the Mexican state of Veracruz, about 17 km from the state capital Xalapa. It has a surface of 137.36 km2. It is located at 19°40′N 97°00′W / 19.667°N 97.000°W / 19.667; -97.000. It was inhabited by the totonac pre-Hispanic, of the former ones of Xalapa's region. For decree number 25 of April 14, 1861 the Government of the State, ordered that the people head-board of this municipality names Tlacolulan of the Free ones. Geogr...

 

Soviet and Russian gymnast In this name that follows Eastern Slavic naming customs, the patronymic is Alexandrovna and the family name is Omelianchik. Oksana OmelianchikPersonal informationFull nameOksana Alexandrovna OmelianchikCountry represented Soviet UnionBorn (1970-01-02) 2 January 1970 (age 54)Ulan-Ude, Russian SFSR, Soviet Union(now Russia)Height140 cm (4 ft 7 in)[1]Weight31 kg (68 lb)[1]DisciplineWomen's artistic g...

Currency of the Kingdom of Sicily 1805 Sicilian piastra coin The piastra was the distinct currency of the Kingdom of Sicily until 1815. History See also: History of coins in Italy In order to distinguish it from the piastra issued on the mainland Kingdom of Sicily (also known as the Kingdom of Naples), it is referred to as the Sicilian piastra as opposed to the Neapolitan piastra. These two piastra were equal, but were subdivided differently. The Sicilian piastra was subdivided into 12 tarì,...

 

Place in Lower Carniola, SloveniaGoriška VasGoriška VasLocation in SloveniaCoordinates: 45°50′14.87″N 15°5′1.65″E / 45.8374639°N 15.0837917°E / 45.8374639; 15.0837917Country SloveniaTraditional regionLower CarniolaStatistical regionSoutheast SloveniaMunicipalityMirna PečArea • Total0.89 km2 (0.34 sq mi)Elevation248 m (814 ft)Population (2002) • Total71[1] Goriška Vas (pronounced [ɡɔˈɾ...

 

2019 film directed by Yılmaz Erdoğan This article needs a plot summary. Please add one in your own words. (August 2020) (Learn how and when to remove this message) For the 1965 film, see The Money Trap. For the episode of Justified, see Money Trap (Justified). Money TrapFilm posterTurkishOrganize İşler: Sazan Sarmalı Directed byYılmaz ErdoğanWritten byYılmaz ErdoğanProduced byNecati AkpınarStarringYılmaz ErdoğanKıvanç TatlıtuğEzgi MolaBensu SoralRıza KocaoğluCinematographyJe...

Group decision-making aiming for universal agreement For the Wikipedia policy on consensus, see Wikipedia:Consensus. A general assembly at Occupy Wall Street (2011) where people aimed to establish consensus Members of the Shimer College Assembly reaching a consensus through deliberation Consensus decision-making or consensus process (often abbreviated to consensus) is a group decision-making process in which participants develop and decide on proposals with the goal of achieving broad accepta...

 

In Concert with The London Symphony OrchestraLive album by Deep PurpleReleased8 February 2000Recorded25–26 September 1999VenueRoyal Albert Hall, LondonGenreClassical crossover, progressive rock, symphonic rock, hard rockLength127:22LabelEagleProducerDeep PurpleDeep Purple live albums chronology Total Abandon: Australia '99(1999) In Concert with The London Symphony Orchestra(2000) Live at the Rotterdam Ahoy(2001) In Concert with the London Symphony OrchestraVideo by Deep PurpleRelea...

 

Vehicle frame designed to protect occupants in the event of a crash Rollcage redirects here. For the PlayStation and PC video game, see Rollcage (video game). Racecar roll cage inside a Suzuki Swift A roll cage is a specially engineered and constructed frame built in (or sometimes around, in which case it is known as an exo cage) the passenger compartment of a vehicle to protect its occupants from being injured or killed in an accident, particularly in the event of a rollover. Designs Unimog ...

Ne doit pas être confondu avec Extracteur. Pour les articles homonymes, voir Diffuseur. Le diffuseur, placé derrière l'essieu arrière, de la monoplace Renault R29. Un diffuseur, dénommé auparavant extracteur ou tunnel déporteur, est un dispositif aérodynamique né dans les années 1990 destiné, tout comme un aileron, à diminuer la portance — et par conséquent augmenter l'appui — s'exerçant sur une automobile. Équipant généralement les automobiles de hautes performances (le...

 

Historical investigation and controversy Thomas Jefferson, Founding Father of the United States and prominent holder of hundreds of enslaved persons, founded the University of Virginia The role of slavery at American colleges and universities has been a recent focus of historical investigation and controversy. Enslaved Africans labored to build institutions of higher learning in the United States, and the slave economy was involved in funding many universities.[1] Enslaved persons wer...