Drzewa klasyfikacyjne

Drzewa klasyfikacyjne – zbiorcza nazwa rodziny metod statystycznych z zakresu eksploracji danych, dokonujących za pomocą diagramów zwanych drzewami klasyfikacji obserwacji statystycznych, czyli podziału próby statystycznej na klasy obserwacji o podobnych właściwościach. Metoda drzew klasyfikacyjnych jest odmianą hierarchicznej analizy skupień.

Jeśli drzewo stosujemy do klasyfikowania realnych sytuacji, a wynikiem klasyfikacji jest decyzja, jaka ma być w danej sytuacji podjęta, drzewo jest też nazywane drzewem decyzyjnym.

Drzewo składa się z korzenia (przedstawianego, podobnie jak w matematyce i informatyce, zwykle u góry rysunku) oraz gałęzi prowadzących z korzenia do kolejnych węzłów. W każdym węźle sprawdzany jest pewien warunek dotyczący danej obserwacji, i na jego podstawie wybierana jest jedna z gałęzi prowadząca do kolejnego węzła piętro niżej. Na dole znajdują się liście, w których odczytujemy do której z klas należy przypisać daną obserwację. Klasyfikacja danej obserwacji polega na przejściu od korzenia do liścia i przypisaniu do tej obserwacji klasy zapisanej w danym liściu.

Definicja formalna

Formalnie drzewo klasyfikacyjne jest acyklicznym spójnym grafem skierowanym. Każdemu jego węzłowi, będącemu liściem, przyporządkowane jest oznaczenie klasy, a każdej z gałęzi reguła decyzyjna, czyli warunek odnoszący się do wartości zmiennych w zbiorze wejściowym i mówiący w jakim przypadku należy pójść daną gałęzią.

W większości algorytmów warunki dla gałęzi wychodzących z jednego węzła muszą się uzupełniać tak, aby dla każdego możliwego wektora zmiennych w danej obserwacji jedna z nich i tylko jedna była spełniona. Istnieją też algorytmy, które zamiast warunków wyznaczają wagi dla poszczególnych gałęzi.

Postać danych

Dane zwykle mają postać tabeli, w której wierszach mamy obserwacje, a w kolumnach zmienne. Przykładowo w tabeli każdy wiersz może odpowiadać jednemu człowiekowi, a kolumny to różne zmienne określające go, np. wiek, wzrost, czy ciężar ciała.

Uczenie drzewa

Drzewo klasyfikacyjne ekspert może utworzyć „ręcznie”, bez pomocy narzędzi statystycznych. W taki sposób czasem tworzone są np. drzewa klasyfikacyjne w przypadku gdy klasy dają się łatwo rozróżnić[1] i jest ich stosunkowo niewiele. W ten sposób tworzone były np. klucze do oznaczania gatunków w biologii, będące de facto wielkimi drzewami decyzyjnymi.

Zwykle jednak stosuje się specjalistyczne algorytmy statystyczne, które automatycznie dzielą próbę na kolejne podpróby, tworząc kolejne węzły drzewa.

Historia

Po raz pierwszy drzew klasyfikacyjnych zaczęli używać socjologowie. Prawdopodobnie pierwszą pracą w której użyto tej metody był artykuł J.N. Morgana i J.A. Sonquista z roku 1963 wydrukowany w Journal of the American Statistical Association, ale z zakresu socjologii.

Niezależnie odkrył je Quinlan w końcu lat 70. (powoływał się przy tym na wcześniejsze prace psychologów) i używał w dziedzinie uczenia maszynowego. Drzewa klasyfikacyjne i regresyjne spopularyzowała jednak dopiero w 1984 roku książka Breimana (zob. bibliografia).

Bibliografia

  • Eugeniusz Gatnar: Nieparametryczna metoda dyskryminacji i regresji. Warszawa: PWN, 2001. ISBN 83-011-3369-4.

Przypisy

  1. ↑ fachowo mówi się, że są dobrze separowalne

Read other articles:

Antonov An-24

Antonov An-24Polet Airlines An-24TipeAirlinerTerbang perdana29 Oktober 1959Diperkenalkan1962Pengguna utamaAeroflotPengguna lainAngkatan Udara Soviet Angkatan Udara PLA Air KoryoTahun produksi1959–1979Jumlah produksi1,367VarianAntonov An-26 Antonov An-30 Antonov An-32 Antonov An-24 merupakan sebuah pesawat bermesin turboprop sayap tinggi (high wing) yang dibuat oleh Antonov. Pesawat ini dahulu merupakan pesawat paling populer di dunia untuk waktu yang lama. An-24 pertama kali mengudara pada ...

 

Bioskop drive-in

Tempat bioskop kendara henti dengan layar film di Brussels, Belgia Bioskop kendara henti di Bass Hill, Sydney, Australia Bioskop drive-in atau bioskop kendara henti (Inggris: drive-in theater, drive-in cinemacode: en is deprecated ) adalah sebuah bentuk struktur bioskop yang terdiri dari layar film luar ruangan besar, alat proyeksi, gerai makanan dan tempat parkir besar untuk kendaraan-kendaraan. Pada tempat tertutup, pelanggan dapat menyaksikan film secara pribadi dan menikmatinya di mobil ...

 

Campeonato Brasileiro de Futebol Feminino Série A2

Artikel ini memiliki beberapa masalah. Tolong bantu memperbaikinya atau diskusikan masalah-masalah ini di halaman pembicaraannya. (Pelajari bagaimana dan kapan saat yang tepat untuk menghapus templat pesan ini) Artikel ini tidak memiliki referensi atau sumber tepercaya sehingga isinya tidak bisa dipastikan. Tolong bantu perbaiki artikel ini dengan menambahkan referensi yang layak. Tulisan tanpa sumber dapat dipertanyakan dan dihapus sewaktu-waktu.Cari sumber: Campeonato Brasileiro de Fut...

Ligat ha'Al 2008-2009

Ligat ha'Al 2008-2009 Competizione Ligat ha'Al Sport Calcio Edizione 68ª Organizzatore IFA Date dal 30 agosto 2008al 29 maggio 2009 Luogo  Israele Partecipanti 12 Risultati Vincitore Maccabi Haifa(11º titolo) Retrocessioni Hakoah Ramat GanIroni K. Shmona Statistiche Miglior marcatore Shimon Abuhatzira Eliran Atar Barak Itzhaki (14) Incontri disputati 198 Gol segnati 432 (2,18 per incontro) Cronologia della competizione 2007-2008 2009-2010 Manuale La Ligat ha'Al 2008-...

 

I Can't Stop Feeling

For the Franz Ferdinand single, see Can't Stop Feeling. 2009 single by QueensberryI Can't Stop FeelingSingle by Queensberryfrom the album Volume I Released20 February 2009Length3:46LabelStarwatchCheyenneWarnerSongwriter(s)Teemu BrunilaKid CrazyProducer(s)John McLaughlinDave JamesQueensberry singles chronology I Can't Stop Feeling / No Smoke (2009) Too Young (2009) I Can't Stop Feeling is a song by German girl group Queensberry. It was written by Teemu Brunila and Erik Kid Crazy Nyholm and pro...

 

Layers (digital image editing)

Not to be confused with Photographic layering. This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed.Find sources: Layers digital image editing – news · newspapers · books · scholar · JSTOR (August 2016) (Learn how and when to remove this message) Layers put on top of each otherLayers displayed individually, from the botto...

Blague

Pour l’article homonyme, voir Blague à tabac. Couverture du journal Les Petits bonshommes (1er avril 1913). Une blague, aussi nommée histoire drôle ou gag, est une mise en scène sous forme d'histoire ou de devinette, généralement assez courte, qui déclenche le rire. La blague se décline par sa forme simple en jeux de mots et calembours, devinettes, contrepèteries, etc. Étymologie Définitions du Dictionnaire du bas-langage de Charles-Louis D'Hautel (1808). La blague, largement pr...

 

Голубянки

Голубянки Самец голубянки икар Научная классификация Домен:ЭукариотыЦарство:ЖивотныеПодцарство:ЭуметазоиБез ранга:Двусторонне-симметричныеБез ранга:ПервичноротыеБез ранга:ЛиняющиеБез ранга:PanarthropodaТип:ЧленистоногиеПодтип:ТрахейнодышащиеНадкласс:ШестиногиеКласс...

 

Arakure Ojōsama wa Monmon Shiteiru

Japanese manga series Arakure Ojōsama wa Monmon ShiteiruFirst tankōbon volume coverあらくれお嬢様はもんもんしているGenreRomantic comedy[1] MangaWritten byYuichi KinoshitaPublished byKodanshaMagazineYoung Magazine the 3rd (November 6, 2018–January 6, 2021)Yanmaga Web (May 2, 2022–present)DemographicSeinenOriginal runNovember 6, 2018 – presentVolumes6 Arakure Ojōsama wa Monmon Shiteiru (あらくれお嬢様はもんもんしている, A Rough Lady is ...

List of earthquakes in the United States

The following is a list of notable earthquakes and tsunamis which had their epicenter in areas that are now part of the United States with the latter affecting areas of the United States. Those in italics were not part of the United States when the event occurred. List of earthquakes Date State(s) Magnitude Fatalities Article Further information June 11, 1585 Aleutian Islands, Alaska 9.2 Mw Unknown 1585 Aleutian Islands earthquake January 26, 1700 Washington, Oregon, California 8.7–9.2 Mw ...

 

Hokuriku Main Line

Railway line in Japan This article includes a list of general references, but it lacks sufficient corresponding inline citations. Please help to improve this article by introducing more precise citations. (May 2020) (Learn how and when to remove this message) Not to be confused with Hokuriku Shinkansen. Hokuriku Main LineA 521 series at Tsuruga StationOverviewOther name(s)Biwako Line (Maibara - Nagahama)Native name北陸本線StatusOperationalOwner JR WestLocale Shiga Prefecture Fukui Prefect...

 

Lewis Boogie

This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed.Find sources: Lewis Boogie – news · newspapers · books · scholar · JSTOR (April 2021) (Learn how and when to remove this message) 1958 single by Jerry Lee LewisLewis Boogie1958 Sun 78 release, Sun 301, credited to Jerry Lee Lewis and His Pumping PianoSingle by Jerry Lee Lewi...

HP ProBook

Laptop line manufactured by Hewlett-Packard This article needs to be updated. Please help update this article to reflect recent events or newly available information. (January 2018) HP ProBook2011's HP ProBook 6560b 15DeveloperHewlett-Packard (HP Inc.)ManufacturerHP Inc.TypeLaptopRelease dateApril 28, 2009; 15 years ago (2009-04-28)Operating systemWindowsCPUAMD APU, AMD RyzenIntel Core i3/i5/i7GraphicsAMD Radeon, NVIDIA GeForce, Intel HDMarketing targetBusiness purposePredec...

 

Liegi

Liegicomune(FR) Liège(NL) Luik Liegi – VedutaVeduta di Liegi LocalizzazioneStato Belgio Regione Vallonia Provincia Liegi ArrondissementLiegi AmministrazioneSindacoWilly Demeyer (PS) TerritorioCoordinate50°38′N 5°34′E50°38′N, 5°34′E (Liegi) Altitudine124 m s.l.m. Superficie68,65 km² Abitanti197 355 (01-01-2018) Densità2 874,8 ab./km² Altre informazioniCod. postale4000-4020, 4030. 4031, 4032 Prefisso04 Fuso orarioUTC+1 Codice Statbel...

 

Sexual assault of migrants from Latin America to the United States

Sexual assault of Latin American migrant women and girls Many people migrating from Latin America to the United States are victims of sexual assault and sex trafficking in Mexico.[1][2][3][4][5] People who migrate through or from Mexico without legal permission must enter into dealings with smugglers and, often, criminal gangs. Perpetrators may be smugglers or gang members, but can also be government officials, bandits, or other migrants. Sexual assault...

Great Swamp National Wildlife Refuge

Protected area in New Jersey, United States This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed.Find sources: Great Swamp National Wildlife Refuge – news · newspapers · books · scholar · JSTOR (September 2017) (Learn how and when to remove this message) Great Swamp National Wildlife RefugeIUCN category IV (habitat/species man...

 

Cursive forms of the International Phonetic Alphabet

Deprecated cursive forms of IPA symbols This article contains phonetic transcriptions in the International Phonetic Alphabet (IPA). For an introductory guide on IPA symbols, see Help:IPA. For the distinction between [ ], / / and ⟨ ⟩, see IPA § Brackets and transcription delimiters. Early specifications for the International Phonetic Alphabet included cursive forms of the letters designed for use in manuscripts and when taking field notes. However, th...

 

Joe Haverty

Irish footballer (1936–2009) Joe Haverty Personal informationFull name Joseph Haverty[1]Date of birth (1936-02-17)17 February 1936[1]Place of birth Dublin,[1] IrelandDate of death 7 February 2009(2009-02-07) (aged 72)Place of death Dublin, IrelandHeight 5 ft 3 in (1.60 m)[2]Position(s) WingerYouth career Home FarmSenior career*Years Team Apps (Gls)1953–1954 St Patrick's Athletic 9 (1)1954–1961 Arsenal 114 (25)1961–1962 Blackburn Rove...

List of Italian films of 1983

Lists of Italian films 1910s 1910 1911 1912 1913 19141915 1916 1917 1918 1919 1920s 1920 1921 1922 1923 19241925 1926 1927 1928 1929 1930s 1930 1931 1932 1933 19341935 1936 1937 1938 1939 1940s 1940 1941 1942 1943 19441945 1946 1947 1948 1949 1950s 1950 1951 1952 1953 19541955 1956 1957 1958 1959 1960s 1960 1961 1962 1963 19641965 1966 1967 1968 1969 1970s 1970 1971 1972 1973 19741975 1976 1977 1978 1979 1980s 1980 1981 1982 1983 19841985 1986 1987 1988 1989 1990s 1990 1991 1992 1993 1994199...

 

Prakambrium

Untuk Album oleh band asal Jerman, The Ocean, lihat Precambrian (album). Prakambrium~4600 – 538.8 ± 0.2 Ma Had'n Arkean Proterozoikum Pha. Kronologi−4500 —–—–−4000 —–—–−3500 —–—–−3000 —–—–−2500 —–—–−2000 —–—–−1500 —–—–−1000 —–...