粒子群优化

粒子群优化Particle Swarm Optimization, PSO),又称粒子群演算法微粒群算法,是由 J. Kennedy 和 R. C. Eberhart 等[1]于1995年开发的一种演化计算技术,来源于对一个简化社会模型的模拟。其中“群(swarm)”来源于微粒群符合 M. M. Millonas 在开发应用于人工生命(artificial life)的模型时所提出的群体智能的5个基本原则。“粒子(particle)”是一个折衷的选择,因为既需要将群体中的成员描述为没有质量、没有体积的,同时也需要描述它的速度和加速状态。

PSO 算法最初是为了图形化地模拟鸟群优美而不可预测的运动。而通过对动物社会行为的观察,发现在群体中对信息的社会共享提供一个演化的优势,并以此作为开发算法的基础[1]。通过加入近邻的速度匹配、并考虑了多维搜索和根据距离的加速,形成了 PSO 的最初版本。之后引入了惯性权重w来更好的控制开发(exploitation)和探索(exploration),形成了标准版本。为了提高粒群算法的性能和实用性,中山大学、(英国)格拉斯哥大学等又开发了自适应(Adaptive PSO)版本[2]和离散(discrete)版本[3]

PSO 算法屬於一種萬能啟發式演算法,能夠在沒有得知太多問題資訊的情況下,有效的搜尋具有龐大解空間的問題並找到候選解,但同時不保證其找到的最佳解為真實的最佳解。

算法原理

PSO 算法是基于群体的,根据对环境的适应度将群体中的个体移动到好的区域。然而它不对个体使用演化算子,而是将每个个体看作是 D 维搜索空间中的一个没有体积的微粒(点),在搜索空间中以一定的速度飞行,这个速度根据它本身的飞行经验和同伴的飞行经验来动态调整。第 i 个微粒表示为 Xi =(xi1, xi2, …, xiD) ,它经历过的最好位置(有最好的适应值)记为 Pi = (pi1, pi2, …, piD),也称为 pbest。在群体所有微粒经历过的最好位置的索引号用符号 g 表示,即 Pg,也称为 gbest 。微粒 i 的速度用 Vi = (vi1, vi2, …, viD) 表示。对每一代,它的第 d+1 维(1 ≤ d+1 ≤ D)根据如下方程进行变化:

       vid+1 = w∙vid+c1∙rand()∙(pid-xid)+c2∙Rand()∙(pgd-xid)        (1a)
       xid+1 = xid+vid+1				              (1b)


其中w为惯性权重(inertia weight),c1和c2为加速常数(acceleration constants),rand() 和 Rand() 为两个在[0,1]范围里变化的随机值。

此外,微粒的速度 Vi 被一个最大速度 Vmax 所限制。如果当前对微粒的加速导致它的在某维的速度 vid 超过该维的最大速度 vmax,d,则该维的速度被限制为该维最大速度 vmax,d

对公式(1a),第一部分为微粒先前行为的惯性,第二部分为“认知(cognition)”部分,表示微粒本身的思考;第三部分为“社会(social)”部分,表示微粒间的信息共享与相互合作。

“认知”部分可以由 Thorndike 的效应法则(law of effect)所解释,即一个得到加强的随机行为在将来更有可能出现。这里的行为即“认知”,并假设获得正确的知识是得到加强的,这样的一个模型假定微粒被激励着去减小误差。

“社会”部分可以由 Bandura 的替代强化(vicarious reinforcement)所解释。根据该理论的预期,当观察者观察到一个模型在加强某一行为时,将增加它实行该行为的几率。即微粒本身的认知将被其它微粒所模仿。

PSO 算法使用如下心理学假设:在寻求一致的认知过程中,个体往往记住自身的信念,并同时考虑同事们的信念。当其察觉同事的信念较好的时候,将进行适应性地调整。

标准 PSO 的算法流程如下:

  1. 初始化一群微粒(群体规模为 m ),包括随机的位置和速度;
  2. 评价每个微粒的适应度;
  3. 对每个微粒,将它的适应值和它经历过的最好位置 pbest 的作比较,如果较好,则将其作为当前的最好位置pbest;
  4. 对每个微粒,将它的适应值和全局所经历最好位置 gbest 的作比较,如果较好,则重新设置gbest的索引号;
  5. 根据方程(1)变化微粒的速度和位置;
  6. 如未达到结束条件(通常为足够好的适应值或达到一个预设最大代数 Gmax ),回到(2)。

算法参数

PSO 参数包括:群体规模 m ,惯性权重 w ,加速常数 c1 和 c2 ,最大速度 Vmax,最大代数 Gmax

Vmax 决定在当前位置与最好位置之间的区域的分辨率(或精度)。如果 Vmax 太高,微粒可能会飞过好解,如果 Vmax 太小,微粒不能进行足够的探索,导致陷入局部优值。该限制有三个目的:防止计算溢出;实现人工学习和态度转变;决定问题空间搜索的粒度。

惯性权重w使微粒保持运动的惯性,使其有扩展搜索空间的趋势,有能力探索新的区域。

加速常数 c1 和 c2 代表将每个微粒推向 pbest 和 gbest 位置的统计加速项的权重。低的值允许微粒在被拉回来之前可以在目标区域外徘徊,而高的值导致微粒突然的冲向或者越过目标区域。

如果没有后两部分,即 c1 = c2 = 0,微粒将一直以当前的速度飞行,直到到达边界。由于它只能搜索有限的区域,将很难找到好的解。

如果没有第一部分,即 w = 0,则速度只取决于微粒当前的位置和它们历史最好位置 pbest 和 gbest ,速度本身没有记忆性。假设一个微粒位于全局最好位置,它将保持静止。而其它微粒则飞向它本身最好位置 pbest 和全局最好位置 gbest 的加权中心。在这种条件下,微粒群将统计的收缩到当前的全局最好位置,更像一个局部算法。

在加上第一部分后,微粒有扩展搜索空间的趋势,即第一部分有全局搜索的能力。这也使得w的作用为针对不同的搜索问题,调整算法全局和局部搜索能力的平衡。

如果没有第二部分,即 c1 = 0,则微粒没有认知能力,也就是“只有社会(social-only)”的模型。在微粒的相互作用下,有能力到达新的搜索空间。它的收敛速度比标准版本更快,但是对复杂问题,比标准版本更容易陷入局部优值点。

如果没有第三部分,即 c2 = 0,则微粒之间没有社会信息共享,也就是“只有认知(cognition-only)”的模型。因为个体间没有交互,一个规模为m的群体等价于m个单个微粒的运行。因而得到解的几率非常小。

收敛性

收敛性的数学证明帮助了 PSO 的发展和应用[4],但此类分析具有很大的局限性[5]。为 PSO 加入正交学习后,算法的全局收敛、收敛精度及穩健可靠性都得到了提高[6]

外部链接

参考文献

  1. ^ 1.0 1.1 Kennedy, J.; Eberhart, R. Particle swarm optimization. Neural Networks, 1995. Proceedings., IEEE International Conference on (IEEE). 1995, 4: 1942–1948. ISBN 0-7803-2768-3. doi:10.1109/ICNN.1995.488968. 
  2. ^ Zhan, Z-H.; Zhang, J.; Li, Y; Chung, H.S-H. Adaptive Particle Swarm Optimization (PDF). IEEE Transactions on Systems, Man, and Cybernetics. 2009, 39 (6): 1362–1381 [2014-02-02]. doi:10.1109/TSMCB.2009.2015956. (原始内容存档 (PDF)于2017-05-17). 
  3. ^ Shen, Meie, Zhan, Zhi-Hui, Chen, Wei-Neng, Gong, Yue-Jiao, Zhang, Jun, and Li, Yun. Bi-velocity discrete particle swarm optimization and its application to multicast routing problem in communication networks (PDF). IEEE Transactions on Industrial Electronics. 2014, (March): 1362–1381. doi:10.1109/TIE.2014.2314075. (原始内容 (PDF)存档于2014-10-08). 
  4. ^ Clerc, M.; Kennedy, J. The particle swarm - explosion, stability, and convergence in a multidimensional complex space. IEEE Transactions on Evolutionary Computation. 2002, 6 (1): 58–73. doi:10.1109/4235.985692. 
  5. ^ Pedersen, M.E.H.; Chipperfield, A.J. Simplifying particle swarm optimization (PDF). Applied Soft Computing. 2010, 10 (2): 618–628 [2014-02-02]. doi:10.1016/j.asoc.2009.08.029. (原始内容 (PDF)存档于2014-01-24). 
  6. ^ Zhan, Z-H.; Zhang, J.; Li, Y; Shi, Y-H. Orthogonal Learning Particle Swarm Optimization (PDF). IEEE Transactions on Evolutionary Computation. 2011, 15 (6): 832–847 [2014-02-02]. doi:10.1109/TEVC.2010.2052054. (原始内容存档 (PDF)于2020-08-06). 

Read other articles:

Artikel ini sebatang kara, artinya tidak ada artikel lain yang memiliki pranala balik ke halaman ini.Bantulah menambah pranala ke artikel ini dari artikel yang berhubungan atau coba peralatan pencari pranala.Tag ini diberikan pada Desember 2022. Mikhail SoloveyInformasi pribadiNama lengkap Mikhail Aleksandrovich SoloveyTanggal lahir 16 Oktober 1980 (umur 43)Tinggi 1,78 m (5 ft 10 in)Posisi bermain BekInformasi klubKlub saat ini FC Spartak KostromaKarier senior*Tahun Tim Ta...

 

Erzurum Administration Pays Turquie Région Anatolie orientale Province Erzurum District Erzurum Maire Mandat Mehmet Sekmen (AKP) 2019-2024 Préfet Celalettin Güvenç2004 Indicatif téléphonique international +(90) Plaque minéralogique 25 Démographie Population 561 874 hab. Densité 23 hab./km2 Géographie Coordonnées 39° 54′ nord, 41° 16′ est Altitude 1 945 m Superficie 2 474 100 ha = 24 741 km2 Local...

 

Protected wilderness area in California, United States Thousand Lakes WildernessIUCN category Ib (wilderness area)LocationShasta County, California, United StatesNearest cityBurney, CaliforniaCoordinates40°42′00″N 121°35′04″W / 40.70000°N 121.58444°W / 40.70000; -121.58444Area16,335 acres (66.11 km2)Established1964Governing bodyU.S. Forest Service , Department of Agriculture The Thousand Lakes Wilderness is located within the southern portion...

Russian footballer In this name that follows Eastern Slavic naming customs, the patronymic is Antonovich and the family name is Oleynikov. Ivan Oleynikov Oleynikov with Akhmat Grozny in 2022Personal informationFull name Ivan Antonovich OleynikovDate of birth (1998-08-24) 24 August 1998 (age 25)Place of birth Podolsk, RussiaHeight 1.75 m (5 ft 9 in)Position(s) MidfielderTeam informationCurrent team FC Akhmat GroznyNumber 21Youth career2003–2005 FC Vityaz Podolsk2005�...

 

San Pietro al NatisoneKomuneComune di San Pietro al NatisoneNegaraItaliaWilayahFriuli-Venezia GiuliaProvinsiProvinsi Udine (UD)FrazioniAltovizza/Atovca, Azzida/Ažla, Becis/Bečja, Biarzo/Bjarč, Cedron, Chiabai/Čabaji, Clenia/Klenje, Cocevaro/Kočebar, Correda/Koreda, Costa/Kuosta, Macorins/Mohorin, Mezzana/Mečana, Oculis/Nokula, Podar, Ponteacco/Petjag, Ponte San Quirino/Muost/Puint, Puoie/Puoje, Sorzento/Sarženta, Tarpezzo/Tarpeč, Tiglio/Lipa, Vernassino/Gorenj Barnas, Sotto Vernassino...

 

Islam menurut negara Afrika Aljazair Angola Benin Botswana Burkina Faso Burundi Kamerun Tanjung Verde Republik Afrika Tengah Chad Komoro Republik Demokratik Kongo Republik Kongo Djibouti Mesir Guinea Khatulistiwa Eritrea Eswatini Etiopia Gabon Gambia Ghana Guinea Guinea-Bissau Pantai Gading Kenya Lesotho Liberia Libya Madagaskar Malawi Mali Mauritania Mauritius Maroko Mozambik Namibia Niger Nigeria Rwanda Sao Tome dan Principe Senegal Seychelles Sierra Leone Somalia Somaliland Afrika Selatan ...

Election for the Governor of Vermont 1834 Vermont gubernatorial election ← 1833 September 2, 1834 (1834-09-02) 1835 →   Nominee William A. Palmer William Czar Bradley Horatio Seymour Party Anti-Masonic Democratic Whig Electoral vote 147 13 2 Popular vote 17,131 10,365 10,159 Percentage 45.4% 27.5% 26.9% Governor before election William A. Palmer Anti-Masonic Elected Governor William A. Palmer Anti-Masonic Elections in Vermont Federal governm...

 

This article includes a list of general references, but it lacks sufficient corresponding inline citations. Please help to improve this article by introducing more precise citations. (October 2012) (Learn how and when to remove this message) Semon Emil KnudsenBorn(1912-10-02)October 2, 1912Buffalo, New York, U.S.DiedJuly 6, 1998(1998-07-06) (aged 85)Royal Oak, Michigan, U.S.NationalityAmericanAlma materMassachusetts Institute of Technology (B.S.)[1]OccupationsGeneral Motors ...

 

Questa voce o sezione sull'argomento psicologia è priva o carente di note e riferimenti bibliografici puntuali. Sebbene vi siano una bibliografia e/o dei collegamenti esterni, manca la contestualizzazione delle fonti con note a piè di pagina o altri riferimenti precisi che indichino puntualmente la provenienza delle informazioni. Puoi migliorare questa voce citando le fonti più precisamente. Segui i suggerimenti del progetto di riferimento. Esempio di illusione ottica: la barra orizz...

Komal JhaKomal Jha pada film Mr. MBALahir15 Maret 1987 (umur 37)Ranchi, Bihar, India (sekarang bagian dari Jharkhand, India)Tempat tinggalMumbai, Maharashtra, India Dubai, Uni Emirat ArabKebangsaanIndiaPendidikanTeknik sipilAlmamaterB.E – Sipil dari MSRIT, BangalorePekerjaanArtis, teknik sipil, penulisTahun aktif2010 – sekarangSitus webiamkomaljha.com Komal Jha (lahir 15 Maret 1987) adalah seorang aktris film dan juga seorang penulis asal India. Komal Jha merupakan lulusan tekn...

 

Statistical designation of small islands of the United States United States Minor Outlying Islands FlagMotto: In God We Trust (official)E Pluribus Unum (Latin) (traditional)Out of Many, OneAnthem: The Star-Spangled BannerLocations of the United States Minor Outlying Islands in the Pacific Ocean; Navassa Island is not located on this map.Administrative centerWashington, D.C., U.S.Largest villageWake IslandNational languageEnglishGovernment• President Joe Biden (D) Ar...

 

2002 NASCAR Busch Series Previous 2001 Next 2003 Champions | Seasons Greg Biffle, the 2002 Busch Series champion The 2002 NASCAR Busch Series began February 16 and ended November 16. Greg Biffle of Roush Racing was crowned champion. Teams and drivers Complete schedule Team Car(s) No. Driver(s) Listed owner(s) Crew chief AP Performance Racing Chevrolet Monte Carlo 19 Tim Sauter Alec Pinsonneault Joe Shear Jr. BACE Motorsports Chevrolet Monte CarloPontiac Grand Prix 33 Tony Raines Br...

Частина серії проФілософіяLeft to right: Plato, Kant, Nietzsche, Buddha, Confucius, AverroesПлатонКантНіцшеБуддаКонфуційАверроес Філософи Епістемологи Естетики Етики Логіки Метафізики Соціально-політичні філософи Традиції Аналітична Арістотелівська Африканська Близькосхідна іранська Буддій�...

 

This article is about the district. For other uses, see Al-Mahawil. 32°36′52″N 44°37′04″E / 32.61448°N 44.61764°E / 32.61448; 44.61764 Map of Babil Governorate showing districts Al-Mahawil (المحاويل) is a district in Babil Governorate, Iraq. It is centred on the town of Al-Mahawil. Al-Mahawil occupies 1716 km², or about a third of its governorate.[citation needed] As of 2015, the population of Al-Mahawil was 356,550 people with 77.4% living...

 

For other people with the same name, see James Roche. James M. RocheBornJames Michael Roche(1906-12-16)December 16, 1906Elgin, Illinois, U.S.DiedJune 6, 2004(2004-06-06) (aged 97)Belleair, Florida, U.S.Occupation(s)statistician, automobile company executiveKnown forChairman and CEO of General Motors James Michael Roche (December 16, 1906 – June 6, 2004) was an American statistician who served as the Chief Executive Officer (CEO) and Chairman of the Board at General Motors Corporat...

This article is about the city in Washington. For the village in Scotland, see Renton, West Dunbartonshire. City in Washington, United StatesRenton, WashingtonCityAerial view of RentonRenton City HallRenton Public Library WordmarkLocation of Renton in King County and WashingtonRenton, WashingtonLocation in the United StatesCoordinates: 47°29′12″N 122°11′43″W / 47.48667°N 122.19528°W / 47.48667; -122.19528CountryUnited StatesStateWashingtonCountyKingFoundedA...

 

Intel microprocessor, released in 2021 Rocket LakeGeneral informationLaunchedMarch 30, 2021; 3 years ago (2021-03-30)[2]DiscontinuedFebruary 23, 2024; 3 months ago (2024-02-23)[1]Product code80708PerformanceMax. CPU clock rate1.3 GHz to 5.3 GHzCacheL1 cache80 KB per core: 32 KB instructions48 KB dataL2 cache512 KB per coreL3 cache2 MB per coreArchitecture and classificationTechnology nodeIntel 14 ...

 

Sejarah Amerika Serikat Nama USS Threadfin (SS-410)Pembangun Galangan Kapal Angkatan Laut Portsmouth, Kittery, Maine[1]Pasang lunas 18 Maret 1944[1]Diluncurkan 26 Juni 1944[1]Mulai berlayar 30 Agustus 1944[1]Dipensiunkan 10 Desember 1952[1] Berlayar kembali 7 Agustus 1953[1]Dipensiunkan 18 Agustus 1972[1]Dicoret 1 Agustus 1973[2]Nasib Dipindahkan ke Turki, 18 Agustus 1972, dijual ke Turki pada 1 Agustus 1973[1] Turki Nam...

Chips auf einem Wafer vor der Zerteilung. Zwischen den einzelnen Chips ist der Ritzrahmen zu sehen, der wie eine über den Wafer gelegte Gitterstruktur wirkt. Als Ritzrahmen oder auch Ritzgraben (englisch scribe line) wird in der Halbleitertechnik der Bereich zwischen den nutzbaren Dies auf einem Wafer bezeichnet. Er dient beim Zerteilen der Wafer in die einzelnen Chips als Verlustbereich beim Sägen bzw. Ritzen (engl. scribe). Während der Herstellung bleibt dieser Bereich jedoch nicht ungen...

 

Boxe aux Jeux asiatiques de 1974 Généralités Sport Boxe anglaise Édition 7e Lieu(x) Téhéran, Iran Date 1er au 16 septembre 1974 Épreuves 11 Navigation Édition précédente Édition suivante modifier Les compétitions de boxe anglaise des Jeux asiatiques 1974 se sont déroulées du 1er au 16 septembre à Téhéran, Iran. Résultats Podiums Catégories Or Argent Bronze Poids mi-mouches (-48 kg) Park Chan-hee Abdolreza Ansari Noboru Uchiyama Kim U-gil Poids mouches (-51 kg) Gu...