Bætt eiginleiki færibreytur útdráttur úr talmerkjum með því að nota vélanámsreiknirit (1)

Ágrip: Talgreining vísar til getu hugbúnaðar eða vélbúnaðar til að taka á móti talmerki, bera kennsl á eiginleika ræðumannsins í talmerkinu og þekkja ræðumanninn eftir það. Almennt séð felur talgreiningarferlið í sér þrjú meginþrep: hljóðvinnslu, útdrátt eiginleika og flokkun/þekking. Tilgangur eiginleikaútdráttar er að sýna talmerki með því að nota fyrirfram ákveðinn fjölda merkjahluta. Þetta er vegna þess að allar upplýsingar í hljóðmerkinu eru óhóflega fyrirferðarmiklar í meðhöndlun og sumar upplýsingar eru óviðkomandi í auðkenningarverkefninu. Þessi rannsókn stingur upp á vélrænni nálgun sem framkvæmir útdrátt eiginleika breytu úr talmerkjum til að bæta frammistöðu talgreiningarforrita í rauntíma snjallborgarumhverfi. Þar að auki er meginreglan um að kortleggja blokk af aðalminni að skyndiminni notuð á skilvirkan hátt til að draga úr tölvutíma. Blokkstærð skyndiminnis er færibreyta sem hefur mikil áhrif á afköst skyndiminni. Einkum þarf innleiðing slíkra ferla í rauntímakerfum hás útreikningshraða. Vinnsluhraði gegnir mikilvægu hlutverki í talgreiningu í rauntímakerfum. Það krefst notkunar á nútímatækni og hröðum reikniritum sem auka hröðunina við að draga eiginleika færibreytur úr talmerkjum. Vandamál með yfirklukku við stafræna vinnslu talmerkja hafa enn ekki verið leyst að fullu. Tilraunaniðurstöðurnar sýna að fyrirhuguð aðferð dregur út merkjaeiginleikana með góðum árangri og nær óaðfinnanlegum flokkunarframmistöðu samanborið við önnur hefðbundin talgreiningaralgrím.

Cistanche deserticola

Leitarorð: talgreining; samhliða tölvuvinnslu; dreifð tölvumál; fjölkjarna örgjörvi; lögun útdráttur; litrófsgreiningu

1. Inngangur

Að koma á samskiptaaðferðum milli manna og tölvutækni er mikilvægt verkefni í nútíma gervigreind. Ein auðveldasta aðferðin fyrir notendur til að slá inn upplýsingar er í gegnum talmerki. Þess vegna er talmerkjavinnslutækni og verkfæri hennar orðin nauðsynlegur hluti af upplýsingasamfélaginu. Talgreining er nauðsynlegur rannsóknarþáttur í talmerkjavinnslu og mikilvæg samskiptatækni milli manna og tölvu. Talmerki innihalda merkingarfræðilegar, persónulegar og umhverfisupplýsingar [1]. Almenn nálgun við talmerkjavinnslu er að nota skammtímagreiningu, þar sem merkinu er skipt í tímaglugga af fastri stærð, að því gefnu að merkjabreytur breytist ekki. Skörun er sett á milli glugga til að fá nákvæmari merki framsetningu. Eiginleikaútdráttarreiknirit eins og litrófsgreining og línuleg spá eru notuð á hvern glugga. Hins vegar ættu þessi ferli einnig að taka tillit til hraða og tíma.

Ginseng í eyðimörk

Tímasetning er verulegt áhyggjuefni á nokkrum sviðum rauntíma merkjavinnslu. Hægt er að auka vinnsluhraðahlutfallið með því að nota örgjörvaauðlindir á skilvirkan hátt og þróa ný og hröð reiknirit til að draga úr stafrænum vinnslutíma. Hins vegar hefur afkastamikil tölvuvandamál ekki enn verið leyst að fullu [2]. Þar að auki hafa verulegar framfarir orðið í sjálfvirkri talgreiningu með þróun stafrænnar merkjavinnslu vélbúnaðar og hugbúnaðar. Hins vegar, þrátt fyrir þessar framfarir, geta vélar ekki jafnast á við frammistöðu mannlegra hliðstæðna sinna hvað varðar nákvæmni og hraðagreiningu, sérstaklega í hátalaraóháðri talgreiningu. Þannig hefur mikið magn af rannsóknum sem hafa verið gerðar á talgreiningu beinst að talgreiningarvandamálum sem eru óháð þeim sem talar, vegna margvíslegrar notkunar og takmarkana tiltækrar talgreiningartækni [3].

Í stuttu máli eru helstu framlög rannsóknarinnar sem hér segir:

Cistanche te

Smelltu hér til að skoða Cistanche deserticola te vörur

【Biðja um meira】 Netfang:cindy.xue@wecistanche.com / Whats App: 0086 18599088692 / Wechat: 18599088692

Ferlið við að bera kennsl á mann með talmerkjum samanstendur af nokkrum stigum. Meðal þeirra þurfa sum skref meiri útreikningstíma. Þetta er litrófsgreining. Ein af breytunum sem eru sérstaklega mikilvægar í vélrænum reikniritum er þjálfunartíminn. Í þessari vinnu komumst við að því að ferlið við að draga út eiginleika er mikilvægt fyrir auðkenningu talmerkja. Að auki tekur það mikinn tíma í vélanámi. Það er staðfest að litrófsgreiningarferlið samanstendur af sjálfstæðum aðgerðum og samhliða samsvörun er möguleg.

Tilraunir hafa sýnt að FFT og DCT litrófsbreytingar gefa góðan árangur í litrófsgreiningu. Litrófsgreiningarferlið gildir fyrir hvern hluta talmerksins. Þetta gerir okkur kleift að greina þessa eiginleika skýrt frá talmerkinu. Með hjálp OpenMP og TBB verkfæranna var þróað samhliða reiknirit sem gerði það mögulegt að flýta útreikningunum.

Hlutastærðin er mikilvæg þegar talmerki er skipt í hluta. Við tilraunirnar kom í ljós að stærð hluta talmerksins fer eftir skyndiminni miðgjörvans. Sérstaklega hefur reynst að passa hluti við skyndiminnistærð í fjölkjarna örgjörvum hafa jákvæð áhrif á reiknihraða í vélanámi.

Ný samhliða útfærsluaðferð er lögð til fyrir litrófsbreytingar merkja fyrir útdrátt eiginleika færibreytu úr talmerkjum með því að nota vélrænt reiknirit á fjölkjarna örgjörvum sem nota TBB og OpenMP.

Það kom einnig í ljós að áhrifarík notkun meginreglunnar um að kortleggja aðalminnisblokkina við skyndiminni og stærð skyndiminnisblokkarinnar getur aukið vinnsluhraðann.

Cistanche viðbót nálægt mér-Að bæta minni

Það sem eftir er af blaðinu er þannig skipað. Í kafla 2 er farið yfir núverandi rannsóknir til að draga út tiltekna talmerkjaeiginleika. Hluti 3 lýsir þrepum til útdráttar eiginleika með tilraunum. Hluti 4 kynnir fyrirhugaða afkastamiklu reiknirit til að draga eiginleika færibreytur út úr talmerkjum í smáatriðum. Tilraunaniðurstöðurnar byggðar á innleiðingu okkar eru ræddar í kafla 5. Í kafla 6 er lögð áhersla á takmarkanir fyrirhugaðrar aðferðar. Að lokum lýkur 7. kafli rannsókninni með því að draga saman niðurstöðurnar og benda á leiðbeiningar um framtíðarrannsóknir.

2. Tengd verk

Nýjar aðferðir, reiknirit og nútímalegri forrit eru nú í þróun og endurbótum fyrir skiptingu talmerkja og útreikninga á breytilegum vísbendingum valinna brota, og búa þannig til litróf talmerkja með litrófsgreiningu [4–7]. Að bera kennsl á hátalara með fjölbreyttum raddklippum um allan heim er mikilvægt og krefjandi verkefni, sérstaklega við að draga fram öfluga og mismunandi eiginleika [8]. Skáldsaga Mel Frequency Cepstral Coefficients (MFCC) er með útdráttarkerfi sem er fljótlegra og orkunýtnara en hefðbundin MFCC framkvæmd var lögð til af Korkmaz o.fl. [9]. Í stað þess að nota hárásarforáherslusíu notuðu þeir lágrásarsíu. Þeir innleiddu bandpass síu með hárásarsíu vegna þess að það þarf foráherslu til að auka orku merkisins á háum tíðnum. Í fyrri vinnu okkar [10] kynntum við nýja MFCC-byggða aðferð til að bera kennsl á hátalara. Í stað þess að nota hefðbundna MFCC notum við pixla úr Mel litrófinu sem eiginleikasett okkar. Litrófinu var breytt í 2-D fylki til að búa til nýtt gagnasafn. Til að bera kennsl á ræðumanninn voru nokkrir námsreikniritar notaðir með 10-faldri krossprófunartækni. Með hjálp fjöllaga perceptrons (MLP) með tanh virkjunaraðgerð, náðist besta nákvæmni upp á 90,2 prósent.

Eiginleikaútdráttur er gerður með því að breyta talbylgjulöguninni í mynd af breytilegri framsetningu á tiltölulega lægri gagnahraða fyrir síðari úrvinnslu og greiningu [11-14]. Eiginleikaútdráttaraðferðir gefa venjulega fjölvíddar eiginleikavektor fyrir hvert talmerki. Eiginleikaútdráttur er mikilvægasti hluti hátalaraþekkingar. Eiginleikar talmáls eiga mikilvægan þátt í aðskilnaði ræðumanns frá öðrum. Eiginleikaútdráttur dregur úr umfangi talmerkja, án þess að valda skaða á krafti talmerkja [15–17]. Í [18] kynntu höfundarnir nýja nálgun sem nýtir fínstillingu stærðar- og hliðarbreyta litrófsgreiningargluggans sem notaður er til að reikna fyrstu skammtíma Fourier-umbreytingu til að bæta frammistöðu hátalaraháðrar sjálfvirkrar talgreiningar. (ASR) kerfi. Í fjarveru lækna geta leikmenn notað ákvarðanahjálparkerfi sem voru búin til með gervigreindaraðferðum. Snemma og ekki ífarandi uppgötvun hjartaástands er hægt að framkvæma með því að nota hljóðritamerki (PCG) [19-21].

Sýnt hefur verið fram á að snúningstaugakerfi (CNN) líkja með góðum árangri eftir burðarvirki í eiginleikarýminu auk þess að nota samsöfnun innan hlutdrægs tíðnisvæðis til að draga úr þýðingarbreytingum og aðlaga fyrir truflunum og litlum breytingum á eiginleikarýminu [22]. Mukhamadiyev o.fl. lagði til enda-til-enda djúpt tauganet-falið Markov líkan talgreiningarlíkan og hybrid connectionist temporal classification (CTC)-athyglisnet fyrir úsbekska tungumálið og mállýskur þess. Fyrirhuguð nálgun dregur úr þjálfunartíma og bætir talgreiningarnákvæmni með því að nota CTC markmiðsaðgerðina á áhrifaríkan hátt í athyglislíkanþjálfun [23]. Eiginleikaútdráttur og flokkun með því að nota einvíddar snúningstaugakerfi (CNN) líkan, sem skiptir hjartahljóðmerkjum í eðlileg og óeðlileg beint óháð hjartalínuriti (ECG), var lagt til í [24]. Þeir halda því fram að flokkunarnákvæmni sé meiri í 1D CNN en í 2D CNN fyrir hjartahljóðmerkin sem notuð eru í þessari rannsókn þegar snúningskjarni er minni en 52 vegna þess að stór fallkjarna getur leitt til flókinna útreikninga og er sífellt tímafrekari . Í [25] var djúpt taugakerfi þjálfað til að hámarka aftari nákvæmni ástandsröð hljóðlíkana varðandi taleiginleikaröð með því að nota TIMIT gagnagrunninn (TIMIT Acoustic-Phonetic Continuous Speech Corpus).

3. Forvinnsla: Efnisyfirlit

Cistanche viðbót nálægt mér-Að bæta minni

Í þessu skyni er ómissandi þróun á hröðum reikniritum til að draga út eiginleikabreytur úr talmerkjum og færibreytum framsetningum, útdráttur á gagnlegum og upplýsandi sýnum til vinnslu og þróun forrita til að útfæra litróf valinna hljóðeininga.

Talgreiningarkerfi samanstanda af tveimur megin undirkerfum:

Aðalvinnsla talmerkja (hljóðriti);

Flokkun hljóðmerkja með því að nota greindar reiknirit (rófrit).

Fyrsta undirkerfið býr til hljóðtákn sem safn upplýsandi hljóðeiginleika merkjanna og merkjaeiginleika. Annað undirkerfið breytir talmerkinu í breytilegt form byggt á hljóðeinkennum sem fæst. Talmerkjavinnsla samanstendur af eftirfarandi stigum:

Aðskilnaður á mörkum talmerkisins;

Stafræn síun;

Skipting;

Notkun sléttunarglugga;

Litrófsbreyting, og eðlilegur litrófstíðni.

Þessi skref eru notuð mikið til að draga eiginleika færibreytur úr talmerkjum og helstu eiginleikar þeirra eru skoðaðir hér á eftir.

3.1. Aðskilnaður landamæra

Að draga aðeins málhluta úr innkomnu merki eða ákvarða upphafs- og lokastundir setningar í hávaðasömu umhverfi er mikilvægt verkefni í talvinnslu. Eftirfarandi eiginleikar talmerkisins eru notaðir til að leysa þetta vandamál: skammtímaorka talmerksins, fjöldi punkta sem skerast við núll, þéttleiki dreifingar gilda þagnarsviðsins innan merksins og litróf óreiðu. Hefðbundin talgreiningarkerfi nota tækni sem byggir á skammvinnri orku og litrófsorku merkis (td raddvirkniskynjun) til að ákvarða talmörk frá komandi talmerkjum [26–28].

Helstu breytur talmerkisins eru skammtímaorka talmerksins og fjöldi punkta sem fara í gegnum núllið. Að jafnaði breytast færibreytur talmerkis hratt með tímanum; því er venjan að vinna talmerki í brot sem eru 10 til 30 ms að lengd sem skarast ekki. Talmerkið er kyrrstætt innan þessa sviðs og þöggunarsvæði í talmerkinu eru fjarlægð með því að reikna út skammtímaorkuna. Reikniritinu til að leysa þetta vandamál er skipt í N raðir með 256 skammtímaorkugildum næsta talmerkis.

Útreikningur á orku hvers brots með því að deila talmerkinu er viðeigandi fyrir samhliða og dreifða tölvuvinnslu. Hvert brot er unnið sjálfstætt. Ef vinnsla er beitt í n-kjarna fjölgjörva verður hægt að reikna orku n brota samtímis. Þess vegna er hægt að auka samhliða vinnslu skilvirkni á þessu stigi [29–32].

3.2. Fjöldi núll-krossa

Núllpunktur er punktur þar sem merki stærðfræðifalls breytist (td úr jákvæðu í neikvætt), sem er táknað með skurði áss (núllgildi) í línuriti fallsins [33]. Núllgengistíðnin í merki getur verið einfaldasta vísbendingin um litrófseiginleika þess. Til dæmis er hægt að ákvarða fjölda punkta sem fara í gegnum núll í talmerki með því að nota eftirfarandi jöfnu:

Mynd 1. Aðferð við talaðskilnað byggt á litrófsgreiningu.

3.3. Stafræn síun

Til viðbótar við dæmigerð, gagnleg merki eru ýmsar gerðir af hávaða til staðar. Þar sem hávaði hefur neikvæð áhrif á gæði talgreiningarkerfa er brýnt mál að takast á við hávaða. Tvær gerðir af stafrænum síum eru notaðar til að draga úr hávaða í kerfinu: línusía og upphafssía. Línuleg sía getur talist sambland af lág- og hátíðni síum þar sem hún fangar alla lága og háa tíðni. Upphafssíun er beitt til að lágmarka áhrif staðbundinna truflana á einkennandi merkingar sem notaðar eru til síðari auðkenningar. Talmerki verður að fara í gegnum lágrásarsíu fyrir litrófsstillingu [35].

3.4. Skipting

Segmentun er ferlið við að skipta talmerki í staka, ekki skarast. Merkinu er venjulega skipt í taleiningar eins og setningar, orð, atkvæði, hljóðnema eða jafnvel smærri hljóðeiningar. Skipting á upptökum sem innihalda orð fjölmargra ræðumanna getur falist í því að kenna hluta af orðum til ákveðinna ræðumanna. Hugtakið "hlutastöðvar" er stundum notað til að vísa til skiptingar á talmerkinu í ramma fyrir breytustillingu þess [36,37].

3.5. Litrófsbreyting

Nauðsynlegt er að greina á milli helstu eiginleika talmerkja sem notuð eru á síðari stigum talgreiningarferlisins. Upphaflega eiginleikarnir eru ákvörðuð með því að greina litrófseiginleika talmerkjanna. Hratt Fourier umbreytingaralgrím er almennt notað til að fá litrófstíðni talmerkis [38,39].

3.6. Normalization of Spectral Frequency

Allt reikniferlið í greindum reikniritum byggist á hreyfðum aukastafatölum. Þess vegna eru færibreytur hlutanna sem eru flokkaðar með tauganetum takmörkuð við bilið [{{0}}.0, 1.0]. Litrófið sem myndast er staðlað á milli 0 og 1 til að beita litrófsvinnslu með því að nota tauganetið. Til að ná þessu er hverjum vektorhluta skipt í hámarksþætti sína.

Litrófsvinnsluaðferðir gera kleift að nota öll gagnasýni sem fást úr talmerkinu. Mörg talmerki hafa ákveðna tíðnibyggingu og litrófseiginleika. Litrófsaðferðir veita mikla nákvæmni úrvinnslu talmerkja. Ókostir litrófsvinnslu eru meðal annars lítill sveigjanleiki í staðbundnum eiginleikum merkjanna, skortur á litrófsvíddum og tiltölulega hár reiknikostnaður.

Fourier umbreyting, bylgjugreining og mörg önnur reiknirit eru notuð mikið í litrófsvinnslu talmerkja. Fourier umbreyting er notuð á mörgum sviðum vísinda, þar á meðal talvinnslu. Í talmerkjavinnslu breytir Fourier-umbreyting merkinu úr tímasviðinu í litrófssviðið sem tíðniþátt [40].

Í fyrri rannsóknum var stakur Fourier umbreyting (DFT), stakur kósínus umbreyting (DCT), skammtíma Fourier umbreyting og bylgjubreyting notuð til litrófsgreiningar. Þessar aðferðir voru notaðar til að umbreyta brotum af talmerki í tíðnisviðið og reikna út litrófið. TBB og OpenMP pakkarnir voru notaðir til að búa til samhliða reiknirit fyrir litrófsbreytingar. Í þessum aðferðum skiptir skipunin merkinu í ramma; til dæmis N=16, 32, … eða 4096 fyrir hvern ramma [4]. Stærð hvers ramma sem búið er til er jöfn blokkastærð skyndiminnisins vegna þess að skyndiminni er þáttur sem hefur áhrif á skilvirkni samhliða vinnslu. Niðurstöður hröðunar eru sýndar á mynd 2.

Mynd 2. Niðurstöður hröðunar fyrir (a) fjögurra og (b) átta kjarna örgjörva.

Fyrir hugbúnaðarútfærslu samhliða vinnslu reikniritanna voru rað- og samhliða vinnslur framkvæmdar á fjögurra og átta kjarna örgjörvum, sem notaðar voru með einkatölvum og netþjónum, eins og fram kemur í töflu 1.

Tafla 1. Einkenni Intel örgjörva.

Helstu eiginleiki DCT reikniritsins er tíðni. Kosturinn við DCT er að það hefur tilhneigingu til að einbeita megninu af merkjaorkunni að fáum þáttum. Eftirfarandi jöfnur gefa upp þætti stuðulfylkisins:

þar sem L(k) er gildi DCT, k er stuðlavísitala, x(n) táknar gagnaliði og N er rammastærð.

Fourier greiningarfæribreytur eru undirstaða þeirra aðferða sem notaðar eru til að búa til eiginleikavektora í flestum talgreiningarkerfum í stafrænni vinnslu talmerkja innan litrófssviðsins. Mel-frequency cepstral coefficients (MFCCs) [41] og línuleg forspárkóðun (LPC) tækni [42,43] eru notuð í Fourier greiningu til að búa til litrófsmyndir úr talmerkjum. Litrófið sem fæst með Fourier greiningu veita hnitmiðaðar og nákvæmar upplýsingar um talmerki, eins og sýnt er á mynd 3.

Mynd 3. DFT: (a) breyting á tíðnisviði innan tímasviðsins og (b) litróf.

Tvívíð (2D) merki voru notuð til litrófsgreiningar í tilraununum. 2D litrófsgreiningareiginleikar sem notaðir eru í samhliða myndvinnslu reiknirit henta fyrir samhliða vinnslu í fjölkjarna örgjörvum [38]. Sérstaklega hafa fram- og andhverfa umbreytingarvigrar og fylki tvöfaldar stærðir og samhæfni þessa fjölkjarna örgjörvaarkitektúrs getur í raun aukið útreikningshraðann. Þess vegna beittum við rað- og samhliðavinnslu á tölvu með mismunandi örgjörvaeiginleika fyrir vélbúnaðarútfærslu reikniritanna sem voru notuð til að vinna úr tvívíddarmerkjum (tafla 2)

Tafla 2. Einkenni þess að nota Intel örgjörva.

Allt tvívíddarmerkið var skipt í eins brot af mismunandi stærðum á hverju stigi [44]. Gildi valda brotanna voru á milli pixlaupplausna 16 × 16 og 1024 × 1024. Hraði samhliða DCT reikniritsins sem notar OpenMP pakkann samanborið við raðalgrímið er sýndur á mynd 4 Notkun samhliða 2D litrófsgreiningar reiknirit á fjölkjarna örgjörvum gefur yfirklukkunarniðurstöðu sem er nálægt fjölda kjarna.

Mynd 4. Niðurstöður hröðunar fyrir 2D samhliða litrófsgreiningu.