Neuroverkkojen tilastointilaboratoriotyöt. Neuroverkot. STATISTICA Neuraaliverkot: Nykyaikaisen data-analyysin metodologia ja teknologiat. Kiinnittäkäämme huomiota käyttäjäystävälliseen käyttöliittymään ja työkalujen saatavuuteen sekä useiden osanäytteiden menetelmään, joka mahdollistaa

Esi- ja jälkikäsittely, mukaan lukien tietojen valinta, nimellisarvojen koodaus, skaalaus, normalisointi, puuttuvien tietojen poistaminen tulkinnalla luokittelua, regressio- ja aikasarjaongelmia varten;
Poikkeuksellinen helppokäyttöisyys ja vertaansa vailla oleva analyyttinen teho siis esimerkiksi vertaansa vailla Ohjattu ratkaisu opastaa käyttäjää erilaisten hermoverkkojen luomisen kaikissa vaiheissa ja valitsee parhaan (tämä tehtävä muuten ratkaistaan pitkällä "yrityksen ja erehdyksen" prosessilla ja vaatii perusteellista teorian tuntemusta);
Tehokkaat etsintä- ja analyyttiset tekniikat, mukaan lukien Pääkomponenttianalyysi ja Mittojen pienentäminen valita tarvittavat syöttömuuttujat tutkivassa (hermoverkko) data-analyysissä (hermoverkkojen tarvittavien syöttömuuttujien valinta kestää usein kauan; järjestelmä STATISTICA Neuraaliverkot voi tehdä tämän työn käyttäjän puolesta);
Edistyksellisimmät, optimoidut ja tehokkaimmat verkkokoulutusalgoritmit (mukaan lukien konjugaattigradienttimenetelmät ja Levenberg-Markar); kaikkien verkon laatuun vaikuttavien parametrien täysi hallinta, kuten aktivointi- ja virhetoiminnot, verkon monimutkaisuus;
Tuki lähes rajattoman kokoisille hermoverkkokokonaisuuksille ja hermoverkkoarkkitehtuureille, jotka on luotu Verkkosarjat - Verkkosarjat; hermoverkkosegmenttien valikoiva koulutus; verkkojoukkojen yhdistäminen ja tallentaminen erillisiin tiedostoihin;
Täysi integrointi järjestelmään TILASTO; kaikki tulokset, kaaviot, raportit jne. voidaan muokata edelleen tehokkailla graafisilla ja analyyttisilla työkaluilla TILASTO(esimerkiksi analysoidaksesi ennustettuja jäännöksiä, luodaksesi yksityiskohtaisen raportin jne.);
Saumaton integrointi tehokkailla automatisoiduilla työkaluilla TILASTO; täysimittaisten makrojen tallentaminen mitä tahansa analyysiä varten; luoda omia hermoverkkoanalyysejä ja sovelluksia käyttämällä STATISTICA Visual Basic, soittaa puhelimella STATISTICA Neuraaliverkot mistä tahansa sitä tukevasta sovelluksesta COM-tekniikkaa(esimerkiksi automaattinen neuroverkkoanalyysi taulukossa MS Excel tai useiden mukautettujen sovellusten yhdistäminen C ++, C #, Java jne.).

STATISTICA Neuraaliverkot neuroverkkolaskennassa:

Neuroverkkojen käyttämiseen liittyy paljon muutakin kuin vain tietojen käsittelyä hermoverkkomenetelmillä.
STATISTICA Neuraaliverkot tarjoaa erilaisia toimintoja erittäin monimutkaisten tehtävien käsittelyyn, mukaan lukien uusimmat Neuraaliverkkoarkkitehtuurit ja Oppimisalgoritmit, mutta myös uusia lähestymistapoja Syötetietojen valinta ja Verkoston rakentaminen... Lisäksi kehittäjät ohjelmisto ja sovellusasetuksia kokeilevat käyttäjät arvostavat sitä tosiasiaa, että ennalta määrättyjen kokeiden suorittamisen jälkeen yksinkertaisessa ja intuitiivisessa käyttöliittymässä STATISTICA Neuraaliverkot, hermoverkkoanalyysit voidaan yhdistää mukautettuun sovellukseen. Tämä saavutetaan joko kirjaston avulla COM-toiminnot STATISTICA, joka heijastaa täysin ohjelman kaikkia toiminnallisia ominaisuuksia joko käyttämällä kielen koodia C (C ++, C #) tai Visuaalinen perus joka on ohjelman luoma ja auttaa ajamaan täysin koulutettua hermoverkkoa tai verkkokokonaisuutta.

Alkutiedot

Moduuli STATISTICA Neuraaliverkot täysin integroitu järjestelmään TILASTO, joten käytettävissä on valtava valikoima työkaluja tietojen muokkaamiseen (valmisteluun) analysointia varten (muunnokset, havaintojen valintaehdot, tietojen varmennustyökalut jne.). Kuten kaikki analyysit TILASTO, ohjelma voidaan "liittää" etätietokantaan käyttämällä paikan päällä olevia prosessointityökaluja tai linkittää reaaliaikaiseen dataan niin, että malleja koulutetaan tai ajetaan (esim. laskeakseen ennustettuja arvoja tai luokituksia) automaattisesti aina, kun tiedot muuttuvat.

Tulon valinta ja mittojen pienentäminen

Kun tiedot on valmistettu, sinun on päätettävä, mitä muuttujia tulee käyttää työskennellessäsi hermoverkon kanssa. Mitä suurempi määrä muuttujia, sitä monimutkaisempi hermoverkko tulee olemaan, ja siksi se vie enemmän muistia ja harjoitusaikaa sekä enemmän koulutusesimerkkejä (havaintoja). Riittämättömän datamäärän ja/tai muuttujien välisten korrelaatioiden vuoksi merkittävien syöttömuuttujien valinta ja tiedon pakkaaminen pienempään määrään muuttujia ovat erittäin tärkeitä monissa hermoverkkosovelluksissa.

Mittojen pienennysalgoritmit:

V STATISTICA Neuraaliverkot Toteutetaan vaiheittaisen valinnan paluu- ja eteenpäinalgoritmit. Lisäksi syötetietojen valintaan käytettävä neurogeneettinen algoritmi yhdistää geneettisten algoritmien ja PNN / GRNN (PNN - probabilistiset hermoverkot, GRNN - yleiset regressiohermoverkot) varten automaattinen haku optimaaliset syöttömuuttujien yhdistelmät, mukaan lukien tapaukset, joissa niiden välillä on korrelaatioita ja epälineaarisia riippuvuuksia. Lähes välitön oppimisnopeus PNN / GRNN-algoritmi ei ainoastaan mahdollista hakemisen Neurogeneettinen algoritmi syötetietojen valitsemiseen, mutta myös mahdollistaa sen (käyttämällä saatavilla olevia Toimittaja järjestelmätiedot STATISTICA Neuraaliverkot kätevä tapa tukahduttaa merkityksettömiä muuttujia) reaaliajassa suorittaakseen omia kokeitaan datan herkkyydestä. STATISTICA Neuraaliverkot sisältää myös sulautetun järjestelmän Pääkomponenttianalyysi (AGK ja assosiatiiviset verkot "epälineaariselle AGK:lle"), jonka avulla voit pienentää alkuperäisen tiedon mittaa. Huomaa, että perusjärjestelmässä on saatavilla valtava valikoima tilastollisia menetelmiä tietojen ulottuvuuden vähentämiseksi. TILASTO.

Tietojen skaalaus ja nimellisarvojen muuntaminen:

Ennen kuin tietoja voidaan syöttää verkkoon, se on valmisteltava tietyllä tavalla. Yhtä tärkeää on, että tulos voidaan tulkita oikein. V STATISTICA Neuraaliverkot tulo- ja lähtötietojen automaattinen skaalaus on mahdollista (mukaan lukien skaalaus minimi-/maksimiarvojen ja keski-/keskihajonnan mukaan); muuttujat, joilla on nimellisarvot (esim. sukupuoli = (mies, nainen)) voidaan myös koodata automaattisesti uudelleen, mukaan lukien 1-of-N-koodaus. STATISTICA Neuraaliverkot sisältää myös työkaluja puuttuvien tietojen käsittelyyn. Normalisointitoiminnot, kuten "yksikkömäärä", "voittaja vie kaiken" ja "yksikköpituuden vektori"... On olemassa datan valmistelu- ja tulkintatyökaluja, jotka on suunniteltu erityisesti aikasarja-analyysiin. Perusjärjestelmässä on myös toteutettu laaja valikoima vastaavia työkaluja. TILASTO.
Luokittelutehtävissä on mahdollista asettaa luottamusvälit, jotka STATISTICA Neuraaliverkot sitten käyttää sitä havaintojen luokittelemiseen luokkaan tai toiseen. Yhdistettynä erityiseen käyttöön STATISTICA Neuraaliverkot aktivointitoiminto Softmax ja virheiden ristientropiafunktiot, tämä antaa perustavanlaatuisen teoreettisen ja todennäköisyyspohjaisen lähestymistavan luokitteluongelmiin.

Neuroverkkomallin valinta, Verkkokokoonpanot

Neuraaliverkkomallien moninaisuus ja monet määritettävät parametrit (verkon koko, oppimisalgoritmin parametrit jne.) voivat hämmentää toista käyttäjää (tätä varten on olemassa Ohjattu ratkaisu, joka voi automaattisesti etsiä sopivaa verkkoarkkitehtuuria monimutkaiselta tahansa).

STATISTICA Neural Networks -järjestelmä toteuttaa kaikki tärkeimmät neuroverkkotyypit, joita käytetään käytännön ongelmien ratkaisemiseen, mukaan lukien:

monikerroksiset perceptronit (verkot, joissa on suora signaalinsiirto);
verkot säteittäisiin toimintoihin;
itseorganisoituvat Kohosen kartat;
todennäköisyyspohjaiset (bayesilaiset) neuroverkot;
yleisen regression hermoverkot;
pääkomponenttien verkot;
verkot klusterointia varten;
lineaariset verkot.

Myös järjestelmässä STATISTICA Neuraaliverkot toteutettu Verkkokokoonpanot muodostuu yllä olevien verkkojen satunnaisista (mutta merkittävistä) yhdistelmistä. On toinenkin kätevä työkalu: voit linkittää verkkoja niin, että ne alkavat peräkkäin. Tämä on hyödyllistä esikäsittelyssä ratkaisujen löytämiseksi pienin kustannuksin.

Paketissa STATISTICA Neuraaliverkot Käytettävissä on lukuisia työkaluja, jotka auttavat käyttäjää valitsemaan sopivan verkkoarkkitehtuurin. Järjestelmän tilastollinen ja graafinen työkalupakki sisältää koko perusjoukon ja yksittäisten havaintojen virheiden histogrammit, matriisit ja graafit, yhteenvetotiedot oikeasta / väärästä luokittelusta ja kaikki tärkeät tilastot - esimerkiksi selitetty varianssiosuus - lasketaan automaattisesti. .

Paketin tietojen visualisointi STATISTICA Neuraaliverkot sirontakaavioita ja 3D-vastepintoja on toteutettu auttamaan käyttäjää ymmärtämään verkon "käyttäytymistä".
Tietysti voit käyttää mitä tahansa luetelluista lähteistä saatua tietoa lisäanalyysiin muilla tavoilla. TILASTO sekä myöhempää sisällyttämistä raportteihin tai mukauttamiseen.

STATISTICA Neuraaliverkot muistaa automaattisesti verkon parhaan version niistä, jotka sait ongelman kokeilun aikana, ja voit viitata siihen milloin tahansa. Verkon hyödyllisyys ja ennustekyky tarkistetaan automaattisesti erityisellä testihavainnolla sekä arvioimalla verkon kokoa, tehokkuutta ja luokitteluvirheiden kustannuksia. Toteutettu vuonna STATISTICA Neuraaliverkot automaattiset ristiinvalidointi- ja regularisointimenettelyt asteikot Wiegendin mukaan avulla voit nopeasti selvittää, onko verkkosi riittämätön tai päinvastoin liian monimutkainen tiettyyn tehtävään.

Suorituskyvyn parantamiseksi paketissa STATISTICA Neuraaliverkot lukuisia verkkomääritysvaihtoehtoja esitetään. Voit siis määritellä lineaarisen lähtöverkkokerroksen regressioongelmissa tai softmax-tyyppisen aktivointifunktion todennäköisyysarviointi- ja luokitusongelmissa. Jos tiedoissasi on paljon poikkeavuuksia, voit verkkoa harjoittaessasi korvata vakiovirhetoiminnon vähemmän herkällä toiminnolla. "kaupunkikortteli"... Järjestelmä toteuttaa myös informaatioteoriamalleihin perustuvia ristientropiavirhefunktioita ja useita erikoisaktivointitoimintoja, mukaan lukien: porrastettu, sahahammas ja sinimuotoinen.

Ohjattu ratkaisutoiminto (arvioi ongelman automaattisesti ja valitsee useita eri arkkitehtuurien verkkoja):

Osa paketista STATISTICA hermoverkko s on Ohjattu ratkaisutoiminto - älykäs ongelmanratkaisija, joka arvioi monia eri arkkitehtuurisia ja monimutkaisia hermoverkkoja ja valitsee tiettyyn tehtävään parhaan arkkitehtuurin verkot.
Hallita osaa rakentaa tietoverkkoja riippumattomilla havainnoilla (standardiregressioverkot, luokitteluverkot tai sekaverkot) sekä verkkoja, jotka on suunniteltu ennustamaan muuttujan tulevaisuuden arvoja saman muuttujan jo saatavilla olevien arvojen perusteella ( verkot aikasarjoilla).
Neuraaliverkkoa luotaessa kuluu huomattava määrä aikaa sopivien muuttujien valintaan ja verkkoarkkitehtuurin optimointiin heuristisen hakumenetelmän avulla. STATISTICA Neuraaliverkot ottaa tämän työn hoitaakseen ja suorittaa automaattisesti heuristisia hakuja puolestasi. Tämä menettely ottaa huomioon tuloulottuvuuden, verkon tyypin, verkon koon ja tarvittavat lähdön koodaustoiminnot.
Haun aikana voit määrittää koulutusprosessin aikana saatujen vastausten määrän. Kun asetat suurimman yksityiskohdan tilan Ohjattu ratkaisu d näyttää jokaisen testatun verkon arkkitehtuurin ja laatutasot.
Ohjattu ratkaisu on erittäin tehokas työkalu kehittyneiden tekniikoiden käyttämiseen parhaan verkkoarkkitehtuurin automaattiseen löytämiseen. Sen sijaan, että viettäisit tunteja tietokoneen edessä, anna järjestelmän STATISTICA Neuraaliverkot tekemään tämän työn puolestasi.
Automaattinen verkon rakentaja voidaan käyttää myös mallin kehittämisen aikana, kun moduuli STATISTICA hermoverkot, yhdessä muiden perusjärjestelmän moduulien kanssa TILASTO, käytetään tunnistamaan merkittävimmät muuttujat (esimerkiksi parhaat ennustajat niiden myöhempää sisällyttämistä ja testausta varten mihin tahansa malliin Epälineaarinen estimointi).

Neuroverkkokoulutus:

Parhaan verkkotyypin ja arkkitehtuurin löytämisessä tekemiesi kokeilujen onnistuminen riippuu olennaisesti verkon oppimisalgoritmien laadusta ja nopeudesta. Järjestelmässä STATISTICA Neuraaliverkot Tämän päivän parhaat harjoitusalgoritmit on otettu käyttöön.
Monikerroksisten perceptronien kouluttamiseen järjestelmässä STATISTICA Neuraaliverkot toteutettu ensin backpropagation menetelmä - ajassa vaihtelevalla oppimisnopeudella ja hitauskertoimella, sekoittamalla havaintoja ennen seuraavaa algoritmin vaihetta ja lisäämällä additiivista kohinaa robustia yleistystä varten. Lisäksi järjestelmä STATISTICA Neuraaliverkot toteutti kaksi nopeaa toisen kertaluvun algoritmia - konjugaattigradienttimenetelmät ja Levenberg-Markar... Jälkimmäinen on poikkeuksellisen tehokas moderni epälineaarinen optimointialgoritmi, ja asiantuntijat suosittelevat sen käyttöä. Samanaikaisesti tämän menetelmän käyttöalue rajoittuu tapauksiin, joissa on suhteellisen pienikokoisia verkkoja, joissa on yksi lähtöneuroni, ja paketin hankalampiin tehtäviin. STATISTICA Neuraaliverkot on olemassa konjugaattigradienttimenetelmä. Tyypillisesti molemmat algoritmit konvergoivat nopeammin kuin takaisinpropagaatio ja tuottavat yleensä sopivamman ratkaisun.
Iteratiivinen prosessi verkoston kouluttamiseksi järjestelmässä STATISTICA Neuraaliverkot mukana on automaattinen näyttö nykyisestä oppimisvirheestä ja siitä riippumatta laskettu virhe testisarjassa, samalla kun näytetään myös kokonaisvirheen kaavio. Voit keskeyttää harjoittelun milloin tahansa yksinkertaisesti painamalla painiketta. Lisäksi on mahdollista asettaa pysäytysehdot, joiden täyttyessä harjoitus keskeytyy; tällainen ehto voi olla esimerkiksi tietyn virhetason saavuttaminen tai tarkistusvirheen vakaa kasvu tietyn ajanjakson aikana. Tämä numero läpäisee - "aikakaudet" (joka osoittaa verkoston niin sanotun uudelleenkoulutuksen). Jos yliasennusta tapahtuu, käyttäjän ei pitäisi välittää: STATISTICA Neuraaliverkot muistaa automaattisesti koulutuksen aikana saadun parhaan verkon esiintymän, ja tähän verkkovaihtoehtoon pääsee aina painamalla vastaavaa painiketta. Verkkokoulutuksen päätyttyä voit tarkistaa sen työn laadun erillisellä testisarjalla.
Paketissa STATISTICA Neuraaliverkot lukuisia oppimisalgoritmeja on myös toteutettu muiden arkkitehtuurien muihin verkkoihin. Radiaaliset spline-parametrit ja tasoituskertoimet radiaalisille kantafunktioverkkoille ja yleistetyille regressioverkkoille voidaan valita käyttämällä algoritmeja, kuten: Kohosen koulutus, osanäyte, k-keinomenetelmä, isotropiamenetelmät ja lähimmät naapurit. Lineaarisen lähtökerroksen neuronit verkoissa säteittäisesti toimivat, kuten lineaarisissa verkoissa, täysin optimoituja. yksittäisarvon hajottelu (SVD).
Hybridiverkkorakenteiden luominen. Järjestelmässä STATISTICA Neuraaliverkot on mahdollista luoda sekarakenteisia verkostoja. Esimerkiksi modifioidulle verkolle säteittäisperustaiselle funktiolle ensimmäinen neuronikerros voidaan kouluttaa Kohosen algoritmi a, ja toinen - epälineaarinen kerros - Levenberg-Markar-menetelmä.

Hermoverkkojen testaus:

Kun verkko on koulutettu, sinun on tarkistettava sen työn laatu ja määritettävä ominaisuudet. Tätä varten paketissa STATISTICA Neuraaliverkot näytöllä on joukko tilastotietoja ja graafisia työkaluja.
Jos useita malleja (verkkoja ja kokoonpanoja) on määritetty, (jos mahdollista) STATISTICA hermoverkko s näyttää vertailutulokset (esimerkiksi piirtää useiden mallien vastekäyrät yhdelle kaaviolle tai esittää useiden mallien ennustajat yhdessä taulukossa). Tämä ominaisuus on erittäin hyödyllinen vertailtaessa eri malleja, jotka on koulutettu samalle tietojoukolle.
Kaikki tilastot lasketaan erikseen koulutus-, validointi- ja testisarjoille. Kaikki painot ja aktivointiparametrit ovat saatavilla kätevänä tekstitiedostona, joka voidaan muuntaa järjestelmän tulosten taulukoksi yhdellä napsautuksella TILASTO... Yksittäisten havaintojen tai koko aineiston kokeelliset tulokset ovat myös nähtävissä taulukossa. TILASTO ja käyttää lisäanalyyseissä tai kaavioissa.
Seuraavat yhteenvetotilastot lasketaan automaattisesti: verkon neliövirhe, ns. dispariteettimatriisi (sekoitusmatriisi) luokitteluongelmille (jossa kaikki oikean ja väärän luokituksen tapaukset lasketaan yhteen) ja regressioongelmien selitysosuus. Kohosen verkko on ikkuna Topologinen kartta, jossa voit visuaalisesti tarkkailla verkkoelementtien aktivointia sekä muuttaa havaintojen ja solmujen tunnisteita data-analyysin prosessissa. Siellä on myös Win Rate -ikkuna, jonka avulla voit paikantaa klusterit välittömästi topologisesta kartasta. Ryhmäanalyysi voidaan saavuttaa yhdistämällä vakioverkkoarkkitehtuuri mukautettuun klusterijärjestelmäkaavioon STATISTICA Neuraaliverkot... Voit esimerkiksi kouluttaa verkon pääkomponenttianalyysiin ja piirtää datan projektiossa kahdelle ensimmäiselle komponentille.

Neuroverkkojen editointi, muokkaus ja sarjaliitäntä

Järjestelmässä STATISTICA Neuraaliverkot saatavilla on älykkäitä työkaluja olemassa olevien verkkojen katkaisemiseen ja useiden verkkojen yhdistämiseen. Voit siis poistaa tai lisätä yksittäisiä hermosoluja, poistaa kerroksen kokonaan verkosta ja yhdistää tulojen/lähtöjen lukumäärän mukaiset verkot keskenään sarjaan. Näiden ominaisuuksien ansiosta paketti STATISTICA Neuraaliverkot antaa sinun käyttää työkaluja, kuten dimensioiden vähentämistä (esikäsittelyllä) käyttämällä assosiatiivisia verkkoja ja häviomatriisia (jotta tehdään päätöksiä vähiten häviöin). Häviömatriisia käytetään automaattisesti työskennellessään todennäköisyyspohjaisten hermoverkkojen kanssa.

Käyttövalmiit ratkaisut (muokatut sovellukset, joissa käytetään STATISTICA-hermoverkkoja):

Yksinkertainen ja käyttäjäystävällinen käyttöliittymä STATISTICA Neuraaliverkot voit luoda nopeasti hermoverkkosovelluksia ongelmien ratkaisemiseksi.
Tilanne on mahdollinen, kun nämä ratkaisut on tarpeen rakentaa olemassa olevaan järjestelmään, esimerkiksi liittää ne osaksi laajempaa laskentaympäristöä (nämä voivat olla erikseen kehitettyjä ja yrityksen laskentajärjestelmään rakennettuja menettelyjä).
Koulutettuja hermoverkkoja voidaan soveltaa uusiin tietojoukkoon (ennustusta varten) useilla tavoilla: Voit tallentaa koulutetun verkon tai verkkojoukon (esimerkiksi laskeaksesi ennustuskeskiarvon useiden arkkitehtuurien perusteella) ja soveltaa sitä sitten uuteen tietojoukkoon ( ennustamista, ennustettua luokittelua tai ennustamista varten); Voit käyttää koodigeneraattoria luomaan automaattisesti ohjelmakoodin kyseisellä kielellä C (C ++, C #) tai Visuaalinen perus ja käyttää sitä edelleen uuden tiedon ennustamiseen missä tahansa ohjelmistoympäristössä Visual Basic tai C ++ (C #), eli toteuttaa täysin koulutettu neuroverkko sovellukseesi. Lopuksi kaikki järjestelmän toiminnot TILASTO mukaan lukien STATISTICA Neuraaliverkot voidaan käyttää mm COM-objektit (Component Object Model) muissa sovelluksissa (esim. Java, MS Excel jne.). Voit esimerkiksi toteuttaa automaattisia analyyseja, jotka on luotu STATISTICA Neuraaliverkot taulukoissa MS Excel.

Luettelo oppimisalgoritmeista:

Takaisin lisääminen;
Levenberg-Markar;
Konjugaattigradientit;
kvasi-newtonilainen;
Nopea jakelu;
Delta delta c-palkki;
pseudo-käänteinen;
Kohosen koulutus;
Lähimpien luokkien merkitseminen;
Opetus vektori kvantisoija;
Säteittäinen (ali) näytteenotto;
K-Means-menetelmä;
K-lähimpien naapurien (KNN) menetelmä;
Isotrooppisten taipumien asennus;
Selkeiden poikkeamien asettaminen;
Todennäköisyyspohjainen neuroverkko;
Yleistetty regressiohermoverkko;
Geneettinen algoritmi syötetietojen valitsemiseksi;
Syötetietojen valinta askel askeleelta eteenpäin tai taaksepäin.

Laitteistovaatimukset

Järjestelmä STATISTICA Neuraaliverkot voi toimia jopa suhteellisen heikossa tai vanhoissa tietokoneissa. Koska monet pakettitoimenpiteet ovat kuitenkin laskennallisesti intensiivisiä, on erittäin suositeltavaa käyttää sitä Pentium prosessori jossa on 32 megatavua RAM-muistia.

Verkon kokorajoitukset:

Neuraaliverkko voi olla melkein minkä kokoinen tahansa (eli sen koko voidaan ottaa monta kertaa suurempi kuin se on todellisuudessa tarpeellista ja järkevää); jopa 128 kerrosta sallitaan ilman neuronien lukumäärää koskevia rajoituksia. Itse asiassa kaikissa käytännön tehtävissä ohjelmaa rajoittavat vain tietokoneen laitteistoominaisuudet.

Sähköinen käsikirja:

Osana järjestelmää STATISTICA Neuraaliverkot siellä on hyvin kuvitettu opetusohjelma, jossa on täydellinen ja selkeä johdatus hermoverkkoihin sekä esimerkkejä. Yksityiskohtainen tilannekohtainen ohjejärjestelmä on saatavilla mistä tahansa valintaikkunasta.

Lähdekoodigeneraattori:

Lähdekoodigeneraattori on lisäosa, jonka avulla käyttäjät voivat helposti luoda omia sovelluksiaan järjestelmän pohjalta STATISTICA Neuraaliverkot... Tämä lisätuote luo hermoverkkomallin lähdejärjestelmäkoodin (tiedostona C, C ++, C #) jotka voidaan koota erikseen ja integroida ohjelmaan ilmaista jakelua varten. Tämä tuote on suunniteltu erityisesti yritysten järjestelmäkehittäjille sekä käyttäjille, joiden on muutettava erittäin optimoituja menettelyjä STATISTICA Neuraaliverkot ulkoisiin sovelluksiin monimutkaisten analyyttisten ongelmien ratkaisemiseksi.

Neuroverkkomenetelmät ovat yleistymässä eri aloilla.

Ala:

Prosessin ohjaus (erityisesti tuotantoprosessien seuranta jatkuvalla ohjausparametrien säätelyllä).
Polttoainenäytteiden luokittelu (polttoainelaatujen segmentointi spektrien analyysin perusteella).
Tekninen diagnostiikka (värähtelyn ja melun avulla varhaisessa vaiheessa tunnistaa mekanismin viat ja suorittaa ennaltaehkäiseviä korjauksia).
Moottorinhallintajärjestelmät (polttoaineen kulutuksen arviointi ja valvonta anturitietojen avulla).
Ilmaisinjärjestelmät, joissa on reaaliaikainen kytkentä fysiikassa. Neuroverkot kestävät kohinaa ja mahdollistavat kestävien mallien käytön fyysisissä tiedoissa, joissa on korkea tilastollinen kohina.

Markkinointi:

Kullan hinnan ennustaminen;
Raaka-aineiden hintojen ennustaminen;
Kaupat suorapostituksella.

Rahoittaa:

Luottokelpoisuuden arviointi (perinteinen tehtävä on määrittää henkilötietojen avulla, onko tietty lainanottaja luotettava).
Taloudellisen aikasarjan ennustaminen.

Geologinen tutkimus:

Kaivosprosessin tehostaminen (kaivostoiminnan tulosindikaattoreihin vaikuttavien merkittävien tekijöiden korostaminen).

Muut toimialat:

Optinen merkkien tunnistus, mukaan lukien allekirjoituksen tunnistus;
Kuvankäsittely;
Kaoottisten aikasarjojen ennustaminen;
Lääketieteellinen diagnostiikka;
Puhesynteesi;
Kielellinen analyysi.

Päätin käsitellä laajaa aihetta. Keinotekoiset neuroverkot. Yritän antaa idean sormillani. Mikä se on? Tämä on yritys mallintaa ihmisen aivoja. Vain primitiivisempi. Jokaisen hermoverkon peruselementti on neuroni (kuva 1).

Riisi. 1. Kaavakuva neuronista.

Neuronissa on tulot, summain ja aktivointitoiminto. Syöttöihin syötetään tietoa, esimerkiksi kolmen kemian sisältö. tietyn näytteen elementtejä. Jokainen niistä kerrotaan tietyllä kertoimella. Lisäksi saapuvat signaalit summataan ja muunnetaan aktivointitoiminnolla. Se voi olla tietyn luvun tangentti tai e ^ (- 1 * annettu summa), missä e on Eulerin luku. Koko tsimme koostuu:

Neuronien painot;

Aktivointitoiminnot;

Joukko neuroneja. Jos otat useita hermosoluja ja järjestät ne kerroksiin, joista jokainen sisältää 1-N neuronia, se on keinotekoinen hermoverkko.

Keinotekoisia hermoverkkoja on koulutettava tai niille on annettava mahdollisuus itseopiskeluun. Neuraaliverkon kouluttaminen tarkoittaa sille näytteen antamista ja painojen säätämistä niin, että neuronit kuvaavat dataa mahdollisimman tarkasti. Aktivointifunktiot vain simuloivat epälineaarisia kemiallisia suhteita. elementtejä. Ja hermoverkon rakenne (neuronien lukumäärä, kerrosten lukumäärä) ohjaa verkon joustavuutta. Kuinka tarkasti se voi mukautua tietoihin. Samaan aikaan geokemiassa ei tarvita ehdottoman tarkkaa säätöä. On tärkeää tunnistaa kuviot.

Kun tiedosta tiedetään vähän, käytetään klusterointia. Neuroverkkojen tapauksessa käytetään Kohosen itseoppivia hermoverkkoja. Niiden merkitys on, että neuronit, kuten kuvassa 1, on järjestetty yhdeksi kaksiulotteiseksi kerrokseksi (kuva 2). Neuroneille määrätään ensin satunnaisesti ensisijaiset painot ja havainnot. Neuronit kilpailevat keskenään kuvaamaan havaintoa paremmin. Voittajat yrittävät huijata naapureitaan. Lopulta, kun tiedoista löytyy todellisia klustereita, ne kuvataan eri neuroniryhmien avulla. Hienoa, vai mitä?

Riisi. 2. Kohosen itseorganisoituvan verkoston kaavio. 4x3 neuronia = 12 hermosolua.

Riisi. 3. Avaa tiedot ja suorita hermoverkkoanalyysimoduuli. Tietoja voidaan käyttää raakana, ilman alustavaa logaritmia. Mutta on silti parempi poistaa ilmeiset poikkeamat.

Riisi. 4 Klusterianalyysin valitseminen

Riisi. 5. Valitse muuttujat Pika-välilehdeltä. Tässä moduulissa voit valita kategorisia syöttömuuttujia. Esimerkiksi niiden kivien ikä, joista näyte on otettu.

Riisi. 6 Siirry toiselle Näytteenotto-välilehdelle. Neuroverkot jakavat alkuperäisen näytteen kolmeen osanäytteeseen:

Koulutuksellinen. Sitä käytetään neuroverkon kouluttamiseen ja painojen säätämiseen;

Testata. Sitä käytetään myös koulutusprosessissa ja se tarkistaa, onko verkosto ylikoulutettu;

Testinäyte. Sitä ei käytetä koulutusprosessissa, vaan se palvelee vain verkon tarkkuuden arvioinnissa "uutta" dataa. Eli hänen kykynsä ennustaa.

Jätä se oletusarvoksi. Napsauta OK.

Riisi. 7 Aseta Quick (Kohonen) -välilehdellä neuronien lukumäärä ja niiden rakenne. Koska neuronit kouluttavat naapureitaan, neuronien sijoitus on myös tärkeä. Järjestä 4 neuronia neliöön tai ketjuun. Valitse ensin 5x5. Älä pyri luomaan suuria verkostoja. Muista, että on tärkeää tunnistaa yleiset mallit, eikä ratkaista kaikkea kerralla.

Riisi. Kohosen Harjoittelu-välilehdellä tärkein Neighborhoods-parametri on kuinka monta naapuria neuroni harjoittelee. Jätä se oletusarvoksi. Napsauta OK.

Riisi. 9. Verkko on koulutettu ja tulosikkuna tulee näkyviin. Siirry suoraan Kohonen (kaavio) -välilehteen. Tässä näytetään kaikki 25 neuronia ja kuinka monta harjoitusluetinta kuhunkin osui. Katsotaan tarpeelliseksi, että jokainen hermosolu kuvaa jotakin osaa tiedosta. Tyhjiä hermosoluja ei saa olla. Ruskean punaisella näkyvät huiput osoittavat, kuinka monta näytettä tietty neuroni on kuvannut. Yleensä kolme huippua erottuu tästä. Todennäköisesti meillä on kolme klusteria. Napsauta Peruuta, Peruuta ja siirry ensimmäiseen välilehteen verkkorakenteen valitsemiseksi.

Riisi. 10. Valitse neuronien ketju kolmesta osasta. Jokainen neuroni kuvaa oman klusterinsa.

Riisi. 11. Siirrytään Verkkokoulutus-välilehteen ja valitaan, että jokainen neuroni vaikuttaa vain yhteen naapuriin. Yhdistetyt klusterit tulevat näkyviin. Täällä kannattaa kokeilla. Jos vaikutus naapureihin, on epätodennäköistä, että pystyt saamaan kiinni siirtymäalueista.

Riisi. 12. Saamme tuloksen. Jokainen neuroni kuvasi melkoisen määrän dataa.

Riisi. 13. Siirry Ennusteet-tulosikkunan ensimmäiseen välilehteen. Näytetään kunkin näytteen tulokset koordinaatteineen.

Riisi. 14. Saamme poistumislevyn. Jos haluat rakentaa kaavion siinä olevista tiedoista, sinun on aktivoitava levy. Valitse, napsauta hiiren kakkospainikkeella ja valitse kohde Aktiivinen tulo(Aktiivinen syöttö). Tässä, kuten k-means-menetelmässä, on sarake, jossa on näytteen "etäisyys" klusteriin (neuroniin). Mitä pienempi luku, sitä parempi. Jos luku on erittäin korkea, se on joko poikkeava tai täysin erillinen klusteri.

Riisi. 15. Rakenna kartta klustereista. Voit tästä. Tietenkin on parempi rakentaa nämä kaaviot ArcGIS:ssä tai Surferissa. Tee kuvaus ottaen huomioon geologinen kartta. Valitettavasti en voi kirjoittaa siitä paljon tänne. Mutta sanon vain, että klusterointi hermoverkon avulla tuotti samanlaisen tuloksen kuin hierarkkinen klusterointi ja k-keskiarvot. Sitten voit rakentaa Box-with-whiskers -tyyppisiä kuvaajia ja antaa mielipiteen klusterien erikoistumisesta. Koska olen klusteroinut tätä näytettä kolmatta kertaa, en sisällytä niitä. Katso aiemmat viestit.

Lisäksi rakennetaan kartta aktivointiarvoista. Aktivointiarvo on vain epälineaarisen funktion muuntamien elementtien summa.

Riisi. 16. Kartta havaintojen aktivointiarvojen jakautumisesta. Alueen eteläosassa erotetaan ryhmä näytteitä, joilla on korkeat aktivaatioarvot. Niitä kannattaa harkita erikseen yksielementtikorteille ja muille parametreille.

Riisi. 17. Tallenna hermoverkon rakenne. Se olisi aina mahdollista palata hänen luokseen.

Riisi. 18. Kun hermoverkkoanalyysimoduuli käynnistetään, vasemmalla on ikkuna, jossa voit avata jo luodun hermoverkon. Olet esimerkiksi tutkinut referenssiobjektia, luonut sen pohjalta hermoverkon ja haluat ajaa näytteitä toiselta alueelta sen läpi. Voila.

Khaikin Simon Neural Networks: Täydellinen kurssi, 2. painos. : Per. englannista - M.: Kustantaja "Williams", 2006. - 1104 s. : sairas. -Rinnakkais. tissi. Englanti ISBN 5-8459-0890-6 (rus)
Neuroverkot. STATISTICA Neural Networks: Methodology and Technology of Modern Data Analysis / Toimittanut V.P. Borovikov. - 2. painos, Rev. ja lisää. -M.: Kuuma linja- Telecom, 2008 .-- 292 s., Ill. ISBN 978-5-9912-0015-8

Toinen kirja eroaa Statistica 10:n moduulista, mutta sekin toimii.

JOHDANTO MODERNIIN NEURAALIVERKKOON

Laboratoriotyö nro 1

OHJELMISTO STATISTICA NEURAL NETWORKS (SNN) VERSIO "SNN 7.0"

Työn tarkoitus - tutustu ohjelmistotuotteeseen Statisticaan

Neural Networks (SNN), rakentaa hermoverkko ohjatun ratkaisutoiminnon avulla.

1. Avaa datatiedosto Fan.stw(Taulukko A.1) komennolla Tiedosto – Avata... Tämä tiedosto sisältää tietoja kahdentyyppisistä luokista - 1 ja 2, ylikuumenemisen olemassaolo ja puuttuminen.

2. Valitse komento Neuroverkot valikossa Analyysi kutsua aloituspaneelia STATISTICA Neural networks.

Riisi. 4. Työkalun valinta

3. Välilehdellä Nopea laukaisualusta Neuroverkot valitse tehtävätyyppi luettelosta (tässä tapauksessa - Luokitus) ja ratkaisumenetelmä (tässä tapauksessa - Mestaripäätökset) ja paina painiketta OK(kuva 4). Tämän jälkeen näyttöön tulee vakiomuuttujan valintaikkuna.

4. Valitse riippuva (lähtö)muuttuja (tässä tapauksessa CLASS-muuttuja) (Kuva 5).

Riisi. 5. Syötä tiedot

5. Näyttöön Ratkaisuvelhot paina nappia OK laukaisualustalla.

Välilehdellä Nopea(kuva 6) poista vaihtoehdon valinta Valitse selittävien muuttujien osajoukko, tässä on määritelty vain kaksi riippumatonta muuttujaa, joten molempia muuttujia käytetään syötteinä kaikille testatuille hermoverkoille. Ryhmässä Analyysin kesto on vaihtoehtoja, jotka määräävät ajan Ohjattu ratkaisu käyttää tehokkaan hermoverkon löytämiseen. Pidempi Ohjattu ratkaisu toimii, sitä tehokkaampi ratkaisu on. Asenna esimerkiksi 25 verkkoa.

Analyysin tuloksen perusteella on mahdollista tallentaa erityyppisiä hermoverkkoja erilaisilla suorituskyky- ja monimutkaisuusindikaattoreilla, jotta voit lopulta valita parhaan verkon itse.

6. Syötä numero 10, johon verkot tallennetaan Ohjattu ratkaisu säästyi vain 10 parhaat vaihtoehdot verkkoja.

Tab Ohjattu ratkaisu – Nopea on kuvan mukainen muoto. 6.

Riisi. 6. Analyysin asetukset

painaa nappia OK, kohteeseen Ohjattu ratkaisu aloitti rakentamisen

neuroverkot. Tämän jälkeen näyttöön tulee valintaikkuna Koulutus käynnissä(Ohjattu ratkaisu). Joka kerta kun parannettu hermoverkko löydetään, tietotaulukkoon lisätään uusi rivi. Lisäksi ikkunan alareunassa näkyy toiminta-aika ja suoritetun tehtävän prosenttiosuus. Jos parannusta ei ole tapahtunut pitkään aikaan, paina painiketta Valmis dialogissa Koulutus käynnissä lopettaaksesi verkon hakuprosessin. Haun päätyttyä näyttöön tulee valintaikkuna tuloksia sisältää tietoa löydetyistä verkoista lisäanalyysiä varten (kuva 7).

Riisi. 7. Oppimistulokset

7. Paina -painiketta Kuvaava tilasto... välilehdellä Nopea dialogissa tuloksia näyttääksesi kaksi yhteenvetotaulukkoa: Luokitus ja Virhematriisi.

Luokittelutaulukko (kuva 8) antaa täydelliset tiedot vastaavan ongelman ratkaisusta. Tässä taulukossa on useita sarakkeita jokaiselle kunkin mallin ennustamalle tulosluokalle. Esimerkiksi sarake, jonka nimi on LUOKKA 1.11, vastaa muuttujan OVERHEAT-luokan mallin 1 ennusteita. LUOKKA... Ensimmäisellä rivillä on tietoa erilaisten ylikuumenemistyyppien havaintojen määrästä tiedostossa. Toinen (kolmas) rivi näyttää tiedot (jokaiselle luokalle) oikein (virheellisesti) luokiteltujen tapausten lukumäärästä. Neljännellä rivillä luetellaan "tuntemattomat" havainnot. Virhematriisia käytetään yleensä tehtävissä, joissa on useita

juoksutunnit.

8. Jos haluat näyttää yhteenvetotilastot, sinun on avattava Analyysi(painike tuloksia linjassa Analyysi tai komentaa Edetä valikossa Analyysi). Ryhmässä Valinnat tulosten näyttämistä varten Valitse vaihtoehto Kaikki(erikseen). Paina sitten painiketta Kuvailevia tilastoja... Luokittelujen yhteenvetotaulukko on jaettu neljään osaan. Sarakeotsikoissa on useita etuliitteitä: O, K, T ja JA jotka vastaavat koulutus-, kontrolli-, testi- ja huomiotta jätettyjä näytteitä. Oletusarvoisesti tapaukset on jaettu kolmeen osajoukkoon suhteessa 2:1:1. Näin ollen varataan 50 harjoitushavaintoa, 25 kontrollihavaintoa ja 25 varmennushavaintoa. Näissä joukoissa neuroverkkotoiminnan tulokset ovat käytännössä samat, eli hermoverkon laatua voidaan pitää hyväksyttävänä.

Riisi. 8. Luokittelutaulukko

9. Suorittaaksesi Analyysi paina nappia OK dialogissa tuloksia... Käynnistysalustalla, kun napsautat painiketta Peruutus kaikki rakennetut neuroverkot poistetaan. Hermoverkkojen tallentaminen on välttämätöntä, jotta neuroverkkoja voidaan kouluttaa nopeasti, joten ennen sitä löydetään verkko, jolla on paras suorituskyky, ja sitten rakennetut neuroverkot tallennetaan myöhempää käyttöä varten. Tallenna hermoverkko valitsemalla välilehti Verkot / Yhtyeet ja paina painiketta Tallenna verkkotiedosto nimellä...... (tiedoston tunniste on .snn).

Tehtävät

1. Rakenna ja kouluta hermoverkko käyttämällä Ratkaisuvelhot automatisoida ajoneuvon diagnostiikkaa, joka määrittää moottorin huoltotarvetta seuraavien parametrien perusteella: moottorin puristus, öljynpaine, bensiinin kulutus.

2. Syötä alkutiedot taulukon mukaisesti. 1, muuttujien erityisarvot saadaan opettajalta.

3. Rakenna hermoverkko asetusten mukaisesti:

Ongelman tyyppi: luokitus;

Työkalu: ratkaisuvelho;

Verkkojen lukumäärä: 25;

5. Tee analyysi neuroverkon rakentamisesta ja heijasta se raportissa.

6. Raportin laatiminen tehdystä työstä.

Toimittaja V.P. Borovikova

2. painos, Rev. ja lisää.

2008 G.

Levikki 1000 kappaletta.

Muoto 70x100 / 16 (170x240 mm)

Toteutus: pehmeäkantinen

ISBN 978-5-9912-0015-8

BBK 32.973

UDC 004.8.032.26

huomautus

Esitetään venäläiselle käyttäjälle täysin sovitetun STATISTICA Neural Networks -paketin (valmistaja StatSoft) käyttöön perustuvat neuroverkkojen data-analyysin menetelmät. Neuroverkkojen teorian perusteet esitetään; Käytännön ongelmien ratkaisemiseen kiinnitetään paljon huomiota, STATISTICA Neural Networks -pakettia hyödyntävän tutkimuksen tekemisen metodologiaa ja teknologiaa tarkastellaan kattavasti - tehokas työkalu datan analysointiin ja ennustamiseen, jolla on laajat sovellukset liike-elämässä, teollisuudessa, johtamisessa ja rahoituksessa. Kirja sisältää monia esimerkkejä data-analyysistä, käytännön suosituksia analysointiin, ennustamiseen, luokitteluun, kuvioiden tunnistamiseen, tuotantoprosessien ohjaukseen hermoverkkojen avulla.

Laajalle lukijoille, jotka tekevät tutkimusta pankki-, teollisuus-, taloustieteen, liike-elämän, etsintä-, johtamis-, kuljetus- ja muilla aloilla.

Toisen painoksen esipuhe

Johdanto. Kutsu neuroverkkoihin

Luku 1. TIETOJEN ANALYYSIIN PERUSKÄSITTEET

Luku 2. JOHDANTO TODENNÄKÖISYYSTEORIAAN

Luku 3. JOHDANTO NEURAALIVERKKOJEN TEORIAAN

Luku 4. YLEINEN KATSAUS NEURAALIVERKKOISTA
Rinnakkauksia biologiasta
Keinotekoinen perusmalli
Neuroverkkojen sovellus
Esi- ja jälkikäsittely
Monikerroksinen perceptroni
Radiaalinen kantafunktio
Todennäköisyyspohjainen neuroverkko
Yleistetty regression hermoverkko
Lineaarinen verkko
Kohosen verkko
Luokittelutehtävät
Regressio-ongelmat
Aikasarjan ennustaminen
Muuttuva valinta ja mittasuhteiden pienennys

Luku 5. ENSIMMÄISET ASKEET STATISTICA NEURAL VERKOSSA
Päästä alkuun
Tietojoukon luominen
Uuden verkon luominen
Luo tietojoukko ja verkko
Verkkokoulutus
Neuraaliverkon käynnistys
Luokitus

Luku 6. NEURAALIVERKKOJEN LISÄMAHDOLLISUUDET
Klassinen esimerkki: Fisher's Irises
Ristivalidoitu koulutus
Pysäytysehdot
Regressioongelmien ratkaiseminen
Radiaaliset kantafunktiot
Lineaariset mallit
Kohosen verkot
Todennäköisyyspohjaiset ja yleiset regressioverkot
Verkon rakentaja
Geneettinen algoritmi syötetietojen valitsemiseksi
Aikasarja

Luku 7. KÄYTÄNNÖN VINKKEJÄ ONGELMIEN RATKAISEMINEN
Datan esitys
Hyödyllisten syöttömuuttujien korostaminen.
Mittojen pienentäminen
Verkkoarkkitehtuurin valinta
Mukautetut verkkoarkkitehtuurit
Aikasarja

Luku 8. TAPAUSTUTKIMUKSET
Esimerkki 1. Mitan pienentäminen geologisessa tutkimuksessa
Esimerkki 2. Kuvien tunnistus
Esimerkki 3. Kaksiulotteisten joukkojen epälineaarinen luokittelu
Esimerkki 4. Erilaisten polttoainenäytteiden segmentointi laboratoriotutkimustietojen mukaan
Esimerkki 5. Käyttäytymispisteytysmallin rakentaminen
Esimerkki 6. Funktioiden approksimaatio
Esimerkki 7. Öljyn myynnin ennustaminen
Esimerkki 8. Seuranta ja ennustaminen
lämpötilajärjestelmä asennuksessa
Esimerkki 9. Digitaalisen allekirjoituksen kelpoisuuden määrittäminen

Luku 9. PIKAOPAS
Data
Verkot
Verkkokoulutus
Muuntyyppiset verkot
Verkostoituminen
Tulosten siirtäminen STATISTICA-järjestelmään

Luku 10. KLASSISET MENETELMÄT VAIHTOEHTOJA NEURAALISILLE VERKKOILLE
Klassinen diskriminanttianalyysi STATISTICAssa
Luokitus
Logit-regressio
Faktorianalyysi STATISTICAssa

Luku 11. KAIVOSTIEDOT STATISTIKASSA

Liite 1. Koodigeneraattori

Liite 2. STATISTICAn integrointi ERP-järjestelmiin

Bibliografia

Aihehakemisto

Sisäänrakennettu dataeditori ( Tiedosto / Uusi / Tietojoukko) tai datatiedosto * .sta ladataan levyltä. Jos tiedosto luodaan sisään Microsoft Excel * .csv, on tarpeen muuntaa tietomuoto * .sta -muotoon (toiminto suoritetaan automaattisesti, kun tiedosto avataan).

Tietojen avaamisen jälkeen ST-hermoverkot tarjoaa automaattisen rakentamisen toiminnon (ikkuna Älykäs ongelmanratkaisija). Tässä vaiheessa on tarpeen hylätä tämä toiminto ( Peruuttaa).

Kun uusi tiedosto avataan ST Neural Networksissa, kaikki muuttujat katsotaan syötteiksi. Tulosmuuttujat on määritettävä. Napsauta hiiren kakkospainikkeella ikkunassa olevaa kenttää, jossa on tulosmuuttujien nimi Tietojoukkoeditori, valitse näkyviin tulevasta pikavalikosta Output, sarakkeen otsikon väri muuttuu siniseksi.

Kaikki havainnot tulee jakaa kahteen ryhmään: koulutus (käytetään hermoverkon opettamiseen) ja ohjaus (tarvitaan koulutuksen edistymisen arvioimiseksi).

Toisessa kentässä Tapaukset ikkuna Tietojoukkoeditori määritä ohjausjoukon koko (yleensä puolet koko tietojoukosta on varattu sille), paina Enter. Kontrollitapauksia sisältävät rivit on merkitty punaisella (sijaitsee tapausluettelon lopussa). Sitten komennolla Shuffle ( Muokkaa → Tapaukset → Sekoita → Harjoittele ja vahvista), kaikki havainnot on jaettu satunnaisesti eri tyyppeihin.

Luo verkko käyttämällä valikkokohtaa Tiedosto → Uusi → Verkko... Tässä tapauksessa verkkoeditori-ikkuna tulee näkyviin (Kuva 11).

Määritetyillä parametreilla ja rakenteella varustettu verkko luodaan Luo-painikkeen napsautuksen jälkeen.

Vaihtoehdot Askeleet ja Katsoa eteenpäin käytetään vain aikasarjaongelmissa, eikä niitä käytetä tässä työssä.

Verkkokoulutus.

Kunkin tyyppisille verkoille käytetään erityisiä oppimisalgoritmeja, jotka sijaitsevat valikkokohdassa Kouluttaa... Algoritmia valittaessa ehdotetaan koulutusparametrien määrittämistä. Esimerkiksi kun opetetaan monikerroksista perceptronia takaisin etenemismenetelmällä (Train → Multilayer Perceptrons → Back Propagation), määritetään vastaavassa ikkunassa (Kuva 12).

Kuva 12 - Harjoitusparametrien editorin ikkuna

Aikakaudet- Aikakaudet. Asettaa harjoitusjaksojen lukumäärän, jotka suoritetaan yhdellä Harjoittelu-painikkeen painalluksella. Oletusarvo on 100.

Oppimisaste- Oppimisnopeus, asettaa askelkoon painoja vaihdettaessa: jos nopeus on riittämätön, algoritmi konvergoi hitaasti, oppimisnopeuden kasvaessa algoritmi toimii nopeammin, mutta joissain tehtävissä tämä voi johtaa epävakauteen (varsinkin jos data on meluisa). Nopeaan ja karkeaan oppimiseen arvot 0,1 - 0,6 ovat sopivia; Tarkan konvergenssin saavuttamiseksi tarvitaan pienempiä arvoja (esimerkiksi 0,01 tai jopa 0,001, jos aikakausia on useita tuhansia). Joskus on hyödyllistä hidastaa nopeutta oppimisen aikana.

Momentum- Inertia. Tämä parametri parantaa (nopeuttaa) oppimista tilanteissa, joissa virhe muuttuu vähän, ja antaa myös algoritmille lisää kestävyyttä, auttaa algoritmia olemaan jumiutumatta alangoihin ja paikallisiin minimiin. Tämän parametrin arvon on aina oltava alueella. Usein suositellaan korkean oppimisnopeuden käyttöä yhdessä alhaisen hitauskertoimen kanssa ja päinvastoin.

Sekoita tapaukset- Sekoitushavainto. Tätä toimintoa käytettäessä järjestys, jossa havainnot syötetään verkkosyötteeseen, muuttuu jokaisen uuden iteroinnin myötä. Tämä lisää harjoitukseen melua, joten virhe voi vaihdella hieman. Tämä kuitenkin vähentää algoritmin jumiutumisen todennäköisyyttä ja yleensä parantaa yleistä suorituskykyä.

Ristiinvahvistus(ristivalidointi) - Vakiotapa neuroverkkojen kouluttamiseen on, että verkko koulutetaan yhdessä joukosta ja tulos tarkistetaan toisessa; joten sekkisarjaa ei käytetä harjoitteluun. Tämä tarjoaa itsenäisen tavan tarkistaa, onko verkko oppinut jotain hyödyllistä.

Alusta uudelleen- nollaa edellisessä harjoitusjaksossa tai edellisessä verkossa saadut konfiguroitavat verkkoparametrit.

Oppimisalgoritmi käynnistetään painamalla painiketta Kouluttaa... Joka kerta kun painiketta painetaan Kouluttaa algoritmi suorittaa N harjoitusjaksoa, missä N on kohdassa määritelty harjoitusjaksojen lukumäärä Aikakaudet.

Kaaviossa ( Tilastot → Harjoitteluvirhekaavio), voit havaita verkkovirheen muutoksen harjoituksen aikana. Harjoitusvirhekaavio on tulosten neliökeskiarvon näyttö koko harjoitussarjan ajalta.

Kaaviossa voit havaita ylisovituksen ei-toivotun vaikutuksen (kun verkko oppii hyvin tuottamaan samat lähtöarvot kuin harjoitussarjassa, mutta käy ilmi, että kuviota ei voida yleistää uuteen dataan). Aluksi sekä oppimisvirhe että ohjausvirhe pienenevät. Yliasennuksen alkaessa oppimisvirhe pienenee edelleen ja ohjausvirhe (yleensä punainen) alkaa kasvaa. Varmennusvirheen lisääntyminen viestii ylisovituksen alkamisesta ja osoittaa, että oppimisalgoritmi alkaa olla tuhoisa (ja samalla pienempi verkko saattaa olla sopivampi).

Kun verkkoparametreja muutetaan, on ennen harjoittelua nollattava edellisen verkon painot (konfiguroidut parametrit). MLP-verkkoon uudelleenalustaa-painikkeella.

Paketissa STATISTICA Neuraaliverkot Parhaan verkon automaattinen muistaminen kokeen aikana tarjotaan. Voit palauttaa parhaan verkon arvot soittamalla valikkoon Juna → Apu → Paras verkko.

Voit tarkastella verkon oppimistuloksia käyttämällä toimintoa Vaihtoehdot ikkunassa Verkkosarjan editori, napsauta näkyviin tulevassa ikkunassa Lisää. Samaan aikaan ikkunassa Verkkosarjan editori lisätään tietorivi verkkoa varten: verkon tyyppi, verkon keskiarvovirhe (RMS-virhe), verkkotulojen määrä, piilotettujen elementtien määrä verkossa, regressiokerroin, käytetyt koulutusmenetelmät (jos Verbose-detailed on valittuna näytetyt tiedot -luettelo).

Käytä valikkokohtaa laskeaksesi tiedot verkon avulla Suorita: Tietojoukko- laskenta kaikille lähdetiedoston tiedoille;

Yksittäinen tapaus - yhden tapauksen laskeminen;

Kertaluonteinen- laskenta mielivaltaiselle syötevektorille.

Laskenta suoritetaan painamalla vastaavan ikkunan Suorita-painiketta.

Toimii kuten edellisessä tapauksessa, mutta vain todellinen lähtöarvo näytetään taulukoissa.

Avaa valikko Suorita → Kertaluonteinen, syötä syöttöarvot, joille haluat ennustaa lähdön, napsauta Juosta.

Hermosolujen synaptisten yhteyksien painokertoimien tarkastelu on mahdollista Verkkoeditori-ikkunassa (Kuva 13) ( Muokkaa → Verkko...). Kynnysarvo on kynnysarvo, joka vähennetään neuronin tuloarvosta. VAR1-arvo (kuvassa 13) on linkin painotuskerroin.

Tason numero asetetaan kenttään Kerros. Tässä ikkunassa voit tarkastella (asettaa) kunkin kerroksen neuronin aktivointifunktiota (kenttä Act fn).

Kuva 13 - Ikkunat koulutetun verkon parametrien katseluun

Hermosolujen lähtöarvojen tarkasteleminen kerroksessa Verkkoaktivointi-ikkunassa ( Suorita → Aktivoinnit...). Tietorivin laskenta (määritetty kentässä Tapaus nro) napsauttamalla Suorita-painiketta.

Paketissa STATISTICA Neuraaliverkot tarjoaa mahdollisuuden määrittää automaattisesti parhaan verkon rakenteen harjoitustietojoukolle (toiminto on käytettävissä Tiedosto → Uusi → Älykäs ongelmanratkaisu).

Paketissa olevan verkon algoritmi STATISTICA Neuraaliverkot.

1 Syötetietojen normalisointi:

missä - normalisointikerroin; , enimmäis- ja minimiarvot j- koulutusnäytteen th muuttuja; i Onko koulutusnäytteen rivinumero.

Huomautus - Harjoitussarjan tietojen tarkastelemiseksi ja analysoimiseksi on kätevää käyttää Muokkaa → Tapaukset → Sekoitus → Ryhmäsarjat -toimintoa.

2 Syöttövektorin jakautuminen seuraavaan kerrokseen sopivalla painokertoimella (katso. Muokkaa → Verkko...).

3 Jokaisen hermosolun kynnysarvon vähentäminen (katso. Muokkaa → Verkko... ala Theshold).

4 Neuroniaktivaatiofunktion laskenta (katso tulos. Suorita → Aktivoinnit...).

5 Toista vaiheet kaikille verkon kerroksille.

6 Verkon lähdön laskenta ottaen huomioon normalisointikertoimen:

, missä on opetusnäytteen lähtömuuttujan vähimmäisarvo, t- lähtömuuttujan numero, - lähtömuuttujan normalisointikerroin t, on normalisoitu verkon lähtöarvo, joka on laskettu viimeiselle kerrokselle.

Kontrollikysymykset

1 Mikä on neuroverkko ja mitkä ovat sen pääominaisuudet?

2 Mikä on neuronin rakenne?

3 Mitä aktivointitoimintoja voidaan käyttää neuroverkoissa?

4 Mitkä ovat aktivointitoimintojen vaatimukset?

5 Mikä on syöttökerroksen tehtävä monikerroksisessa verkossa?

6 Onko mahdollista kouluttaa hermoverkkoa ilman piilotettua kerrosta?

7 Mitä on neuroverkkojen koulutus?

8 Miksi yhtä oppimisalgoritmeista kutsutaan "backpropagation algoritmiksi"?

9 Mitä eroa on ohjatulla ja ohjaamattomalla oppimisella?

10 Miksi hermoverkon tulo- ja lähtösignaalit pitäisi normalisoida, ts. vähennetty alueelle?

Bibliografia

1 Fogelman Soulie F. Neuroverkot, uusinta tekniikkaa, hermolaskenta. -Lontoo: IBC Technical Services, 1991.

2 Gorban A. Neuroinformatiikka ja sen sovellukset // Avoimet järjestelmät. -1998. -Nro 4 - 5. -C. 36-41.

3 Robert Hecht-Nielsen. Neurocomputing: historia, tila, näkymät // Avoimet järjestelmät. -1998. -Nro 4-5. -KANSSA. 23-28.

4 Rosenblatt F. Neurodynamiikan periaatteet. Perceptronit ja aivojen mekanismien teoria. -M .: Mir, 1965.

5 Gordienko E.K., Lukyanitsa A.A. Keinotekoiset neuroverkot. I Perusmääritelmät ja -mallit // Izv. RAS. Tekninen kybernetiikka. -1994. -Ei 5. -C. 79-92.

6 Korotkiy S.G. Neuroverkot: backpropagation algoritmi. -BYTE / Venäjä. -2000. -Ei 5. -C. 26-29.

7 Sveshnikov S.V., Shkvar A.M. Neurotekniset tiedonkäsittelyjärjestelmät. -Kiova: Naukova Dumka, 1983.-222 s.

8 Neuroverkkoja käyttävät älykkäät ohjausjärjestelmät: oppikirja. korvaus. / SISÄLLÄ JA. Vasiliev, B.G. Iljasov, S.S. Valeev ja muut; Ufimsk. osavaltio Ilmailu tekniikka. un-t. Ufa, 1997. -92 s.

9 Kulikov G.G., Breikin T.V., Arkov V.Yu. Älyllinen Tietojärjestelmä: oppikirja. käsikirja / Ufimsk. osavaltio Ilmailu tekniikka. un-t. -Ufa, 1999.-129 s.

10 Korotkiy S.G. Neuroverkot: perussäännökset // BYTE / Venäjä. -2000. -Ei 5. -C. 18-21.

11 Neuroverkkoteknologioihin perustuvat älykkäät tiedonkäsittelyjärjestelmät: oppikirja. korvaus. / Yu.I. Zozulya, Ufimsk. osavaltio Ilmailu tekniikka. un-t. – Ufa. -2000. -138 s.