Diferencovatelné programování

Programovací paradigmata
  • z • d • e

Diferencovatelné programování (anglicky differentiable programming) je programovací paradigma, ve kterém lze numerický počítačový program automaticky derivovat.[1][2][3] To umožňuje optimalizaci parametrů programu, obvykle pomocí metody gradientního sestupu nebo i dalšími metodami strojového učení, založenými na derivacích vyššího řádu. Diferenciovatelné programování se využívá v široké škále oblastí, zejména pro vědecké výpočty a umělou inteligenci. Jeden z prvních návrhů tohoto programovacího paradigmatu byl předložen týmem Advanced Concepts Team Evropské kosmické agentury počátkem roku 2016.[4]

Diferencovatelné programování obvykle funguje na základě grafu popisujícího tok instrukcí a datové struktury počítačového programu. Práce s ním obecně využívá jeden z následujících dvou přístupů:

  • Statické přístupy s kompilovaným grafem jako TensorFlow, Theano, and MXNet. Programy jsou rychlejší a lépe škálují na větší úlohy, ale limitují interaktivitu a uživatelskou přívětivost. Taktéž mívají potíže s některými prvky programů jako jsou smyčky a rekurze.[5]
  • Přetěžování operátorů, přístupy založené na dynamických grafech, jaké využívá PyTorch a AutoGrad. Jejich dynamická a interaktivní povaha je uživatelsky přívětivá, ale výpočetně náročnější kvůli využití interpretu (zejména při sestavování mnoha malých operací), horší škálovatelnosti a sníženému přínosu optimalizace kompilátoru (balíček Zygota pro programovací jazyk Julia však umožňuje stálou just-in-time kompilaci).

Půodní přístupy jsou schopny zpracovat jen svůj nativní programovací jazyk, což omezuje jejich interoperabilitu s jinými programy. Novější přístupy umožňují derivovat libovolný program.

Diferenciovatelné programování bylo aplikováno v oblastech, jako je kombinace hlubokého učení s fyzikálními jevy v robotice, řešení strukturálních problémů fyziky pomocí teorie funkcionálu hustoty,[6] sledování paprsku,[7] zpracování obrazu,[8] a pravděpodobnostní programování.

Reference

V tomto článku byl použit překlad textu z článku Differentiable programming na anglické Wikipedii.

  1. ↑ Genetic programming: 20th European Conference, EuroGP 2017, Amsterdam, The Netherlands, April 19-21, 2017: proceedings. Příprava vydání James McDermott, Mauro Castelli, Lukas Sekanina, Evert Haasdijk, Pablo García-Sánchez. Cham: Springer 358 s. (Lecture notes in computer science Theoretical computer science and general issues). ISBN 978-3-319-55695-6. 
  2. ↑ BAYDIN, Atilim Gunes; PEARLMUTTER, Barak A.; RADUL, Alexey Andreyevich. Automatic Differentiation in Machine Learning: a Survey. Journal of Machine Learning Research. 2018, roč. 18, čís. 153, s. 1–43. Dostupné online [cit. 2023-07-05]. ISSN 1533-7928. 
  3. ↑ Proceedings of the 32nd International Conference on Neural Information Processing Systems | Guide Proceedings. Guide Proceedings. Dostupné online [cit. 2023-07-05]. DOI 10.5555/3327546. (anglicky) 
  4. ↑ ADVANCED CONCEPTS TEAM. Differential Intelligence. esa.int [online]. 2016-10-01 [cit. 2023-07-05]. Dostupné online. (anglicky) 
  5. ↑ TensorFlow: Static Graphs — PyTorch Tutorials 1.7.0 documentation. pytorch.org [online]. [cit. 2023-07-05]. Dostupné online. 
  6. ↑ LI, Li; HOYER, Stephan; PEDERSON, Ryan. Kohn-Sham Equations as Regularizer: Building Prior Knowledge into Machine-Learned Physics. Physical Review Letters. 2021-01-22, roč. 126, čís. 3, s. 036401. PMID: 33543980. Dostupné online [cit. 2023-07-05]. ISSN 1079-7114. DOI 10.1103/PhysRevLett.126.036401. PMID 33543980. 
  7. ↑ Differentiable Monte Carlo Ray Tracing through Edge Sampling. people.csail.mit.edu [online]. [cit. 2023-07-05]. Dostupné online. 
  8. ↑ Differentiable Programming for Image Processing and Deep Learning in Halide. cseweb.ucsd.edu [online]. [cit. 2023-07-05]. Dostupné online. 

Read other articles:

Klasemen medali Olimpiade Musim Panas 1976

Klasemen medaliOlimpiade Musim Panas 1976LokasiMontreal, KanadaIkhtisarPerolehan medali emas terbanyak Uni Soviet (49)Perolehan jumlah medali terbanyak Uni Soviet (125)← 1972 Klasemen medali1980 → Klasemen medali Olimpiade Musim Panas 1976 adalah klasemen medali selama pelaksanaan Olimpiade Musim Panas 1976. Olimpiade ini berlangsung di Montreal, Kanada sejak 17 Juli hingga 1 Agustus 1976. Terdapat 6.084 atlet dari 92 Komite Olimpiade Nasional (KON) yang bertan...

 

Dutch East India Company

1602–1799 Dutch trading company For other uses, see East India Company (disambiguation). This article's tone or style may not reflect the encyclopedic tone used on Wikipedia. See Wikipedia's guide to writing better articles for suggestions. (October 2023) (Learn how and when to remove this template message) United East India Company[a]Company flag (1630)Native nameVerenigde Oostindische CompagnieGenerale Vereenichde Geoctrooieerde Compagnie (original name)Verenigde Nederlandsche Geo...

 

العلاقات البحرينية الفرنسية

العلاقات البحرينية الفرنسية البحرين فرنسا   البحرين   فرنسا تعديل مصدري - تعديل   العلاقات البحرينية الفرنسية هي العلاقات الثنائية التي تجمع بين البحرين وفرنسا.[1][2][3][4][5] مقارنة بين البلدين هذه مقارنة عامة ومرجعية للدولتين: وجه المقارنة ا�...

Yocto Project

Linux Foundation open-source project This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed.Find sources: Yocto Project – news · newspapers · books · scholar · JSTOR (April 2016) (Learn how and when to remove this template message) Initial release2010; 14 years ago (2010)Stable release4.3 (Nanbield) / October&#...

 

William A. Buckingham

American politician (1804–1875) Senator Buckingham redirects here. For other uses, see Senator Buckingham (disambiguation). William A. Buckingham41st Governor of ConnecticutIn officeMay 5, 1858 – May 2, 1866LieutenantJulius CatlinBenjamin DouglasRoger AverillPreceded byAlexander H. HolleySucceeded byJoseph R. HawleyUnited States Senatorfrom ConnecticutIn officeMarch 4, 1869 – February 5, 1875Preceded byJames DixonSucceeded byWilliam W. Eaton Personal detailsBornMay...

 

Синелобый амазон

Синелобый амазон Научная классификация Домен:ЭукариотыЦарство:ЖивотныеПодцарство:ЭуметазоиБез ранга:Двусторонне-симметричныеБез ранга:ВторичноротыеТип:ХордовыеПодтип:ПозвоночныеИнфратип:ЧелюстноротыеНадкласс:ЧетвероногиеКлада:АмниотыКлада:ЗавропсидыКласс:Пт�...

Золотой век пиратства

Стиль этой статьи неэнциклопедичен или нарушает нормы литературного русского языка. Статью следует исправить согласно стилистическим правилам Википедии. Пираты борются за капитанство. Иллюстрация Говарда Пайла Амаро Парго был одним из самых известных пиратов Золотог...

 

Кременская

СтаницаКременская 49°28′43″ с. ш. 43°27′24″ в. д.HGЯO Страна  Россия Субъект Федерации Волгоградская область Муниципальный район Клетский Сельское поселение Кременское История и география Основан 1632 Прежние названия городок Кременные, городок Черно-Островский ...

 

Коряки

У этого термина существуют и другие значения, см. Коряки (село). Для термина «Коряк» см. также другие значения. Коряки Современное самоназвание нымыланы, чавчувены, алюторцы Численность и ареал Всего: 7953  Россия: 7485 (Всероссийская перепись 2021 г.)[1]  Камчатский кр...

هنود

هنودمعلومات عامةنسبة التسمية الهند التعداد الكليالتعداد قرابة 1.21 مليار[1][2]تعداد الهند عام 2011ق. 1.32 مليار[3]تقديرات عام 2017ق. 30.8 مليون[4]مناطق الوجود المميزةبلد الأصل الهند البلد الهند  الهند نيبال 4,000,000[5] الولايات المتحدة 3,982,398[6] الإمار...

 

2016年美國總統選舉

2016年美國總統選舉 ← 2012 2016年11月8日 2020 → 538個選舉人團席位獲勝需270票民意調查投票率55.7%[1][2] ▲ 0.8 %   获提名人 唐納·川普 希拉莉·克林頓 政党 共和黨 民主党 家鄉州 紐約州 紐約州 竞选搭档 迈克·彭斯 蒂姆·凱恩 选举人票 304[3][4][註 1] 227[5] 胜出州/省 30 + 緬-2 20 + DC 民選得票 62,984,828[6] 65,853,514[6]...

 

土库曼斯坦总统

土库曼斯坦总统土库曼斯坦国徽土库曼斯坦总统旗現任谢尔达尔·别尔德穆哈梅多夫自2022年3月19日官邸阿什哈巴德总统府（Oguzkhan Presidential Palace）機關所在地阿什哈巴德任命者直接选举任期7年，可连选连任首任萨帕尔穆拉特·尼亚佐夫设立1991年10月27日 土库曼斯坦土库曼斯坦政府与政治 国家政府 土库曼斯坦宪法 国旗 国徽 国歌 立法機關（英语：National Council of Turkmenistan） ...

FBK Games 2019

Gli FBK Games 2019 sono stati la 58ª edizione dell'annuale meeting di atletica leggera; le competizioni hanno avuto luogo al Fanny Blankers-Koen Stadion di Hengelo, il 9 giugno 2019. Il meeting è stato la quarta tappa del circuito IAAF World Challenge 2019. Indice 1 Risultati [1] 1.1 Uomini 1.2 Donne 2 Note 3 Altri progetti Risultati [1] Uomini Specialità Prestazione 2º classificato Prestazione 3º classificato Prestazione 100 m Arthur Cissé 1005 Chijindu Ujah 1013 Tyquendo Trace...

 

Mellissa Channell

Canadian ice hockey player Ice hockey player Mellissa Channell Channell with PWHL Minnesota in 2024Born (1994-12-16) December 16, 1994 (age 29)Oakville, Ontario, CanadaHeight 5 ft 4 in (163 cm)Weight 130 lb (59 kg; 9 st 4 lb)Position DefenceShoots LeftPWHL teamFormer teams PWHL MinnesotaToronto FuriesPlaying career 2013–present Mellissa Channell (born December 16, 1994) is a Canadian professional ice hockey defenceman for PWHL Minnesota of the Pro...

 

Diving at the 1952 Summer Olympics – Women's 10 metre platform

Women's 10 metre platformat the Games of the XV OlympiadMedalists Pat McCormick  United States Paula Jean Myers  United States Juno Stover-Irwin  United States← 19481956 → Diving at the1952 Summer Olympics3 m springboardmenwomen10 m platformmenwomenvte The women's 10 metre platform, also called high diving, was one of four diving events on the Diving at the 1952 Summer Olympics programme.[1] The competition was held from both 10 and 5 metre platfo...

Severn Tunnel

Tunnel linking the South of England and Wales Severn TunnelThe Tunnel entrance on the English side.OverviewLocationRiver SevernCoordinates51°34′30″N 2°41′20″W / 51.575°N 2.6889°W / 51.575; -2.6889StartSouth GloucestershireEndMonmouthshireOperationWork begun1873Opened1886TrafficRailwayTechnicalDesign engineerSir John HawkshawLength7,008 m (4.355 mi) 1946 map showing the route of the tunnel The Severn Tunnel (Welsh: Twnnel Hafren) is a railway tunne...

 

عملية قرنيه شمرون

عملية كارني شومرون موقع العملية المعلومات البلد إسرائيل  الموقع كارني شومرون، الضفة الغربية الإحداثيات 32°10′29.46″N 35°05′27.86″E / 32.1748500°N 35.0910722°E / 32.1748500; 35.0910722 التاريخ 16 فبراير 20027:45 مساء (ت.غ+2) نوع الهجوم عملية انتحارية الخسائر الوفيات 3 (+ المنفذ) الإصابات 27 (ستة...

 

Market economy

Type of economic system This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed.Find sources: Market economy – news · newspapers · books · scholar · JSTOR (November 2021) (Learn how and when to remove this message) Pike Place Market, Seattle, Washington, United States, 1968 Part of a series onEconomic systems Major types Capitali...

الكساد الطويل

لوحة تحكي كارثة البورصة في فيينا عام 1873، الكساد الطويل هو فترة الركود الاقتصادي والركود في الأسعار التي حصلت في أنحاء العالم ابتداءً من عام 1873 وحتى مارس عام 1879 أو 1896 وذلك حسب المعايير المستخدمة في تعريفه.[1] كان هذا الكساد أكثر خطورة في أوروبا والولايات المتحدة التي كان�...

 

نفاذية (علم البصريات)

  لمعانٍ أخرى، طالع نفاذية (توضيح). النفاذية البصرية القريبة من الأشعة تحت الحمراء عبر الياقوت. لاحظ أشرطة الامتصاص العريضة الخضراء والزرقاء مع شريط امتصاص ضيق عند طول موجة 684 نانومتر وهي طول موجة الليزر الياقوتي. النفاذية في علم البصريات (بالإنجليزية: transmittance) والمطيا�...