Vyhodnotenie úspešnosti indexu CAPE pri prognóze konvektívnych zrážok DIPLOMOVÁ PRÁCA Lukáš Braun UNIVERZITA KOMENSKÉHO V BRATISLAVE FAKULTA MATEMATIKY, FYZIKY A INFORMATIKY KATEDRA ASTRONÓMIE, FYZIKY ZEME A METEOROLÓGIE 4.1.1 Fyzika Školiteľ záverečnej práce Mgr. Jozef Csaplár BRATISLAVA 29 1
Poďakovanie: Za usmerňovanie a cenné rady ďakujem Mgr. Jozefovi Csaplárovi. Za technické zabezpečenie a cenné rady ďakujem Mgr. Martinovi Bellušovi, Mgr. Michalovi Neštiakovi a celému Oddeleniu numerickej meteorológie. Za rady z praxe ďakujem Oddeleniu meteorologických predpovedí a výstrah. 2
Čestné prehlásenie: Čestne prehlasujem, že diplomovú prácu som vypracovával samostatne s použitím uvedenej literatúry. 3
ABSTRAKT Zavedením novej výpočtovej schémy modelu ALADIN/SLOVAKIA (verzia 3mt), vznikla potreba iného výpočtu CAPE ako je štandartne implementovaný vo výpočtovej schéme. Rovnako vznikla potreba aj jeho kritického zhodnotenia a zhrnutia informácií, ktoré poskytuje. Práca vyhodnocuje rôzne nastavenia výpočtu CAPE v oblasti strednej Európy za letné mesiace jún, júl a august v roku 27 a 28. Študuje sa korelácia medzi hodnotou CAPE vypočítanou z modelu a hodnotou CAPE vypočítanou na základe aerologických výstupov. Ďalej sa skúma rôznymi metódami priestorové rozloženie indexu CAPE a jeho vzťah ku priestorovému rozloženiu konvektívnych zrážok. Kľúčové slová: Index CAPE, konvektívne zrážky. 4
ABSTRACT Because of the launch of a new computation scheme in model ALADIN/SLOVAKIA (version 3mt), a need for different computation of CAPE than is available within computation scheme, had occured. At the same time, there had been a need for a critical appreciation and summarization of information that it provides. This study evaluates different settings of computation of CAPE in middle Europe during the summer months of June, July and August in years 27 and 28. Correlation between the value of CAPE computed from model and value computed from aerological observations is studied. Further more, this study is about space distribution of index CAPE and its relation to space distribution of convective precipitations. 5
OBSAH: Úvod 7 1. Teoretický základ 8 1.1 Konvekcia 8 1.2 Konvektívne zrážky 8 1.3 CAPE 8 1.4 CIN 11 1.5 Charakteristika modelu ALADIN 11 1.6 Adiabatický a pseudo-adiabatický výstup 12 1.7 Vznik búrky 12 1.8 Triedenie búrok 13 1.8.1 Historické delenie 13 1.8.1.1 Frontálne búrky 13 1.8.1.2 Búrky vo vnútri vzduchovej hmoty 13 1.8.1.3 Zimné búrky 13 1.8.2 Novšie, štrukturálne delenie 14 1.8.2.1 Obyčajné, jednojadrové búrky 14 1.8.2.2 Pulzné, jednojadrové búrky 14 1.8.2.3 Rotujúce búrky 14 1.8.2.4 Viacjadrové útvary 14 1.8.2.5 Viacjadrové zhluky 15 1.9 Aerologické merania a správa TEMP 15 1.1 Analýza zrážok pomocou INCA 16 2. Metodika 17 2.1 Overovanie veľkosti hodnôt CAPE pomocou TEMP 18 2.2 Overovanie priestorového rozloženia poľa CAPE pomocou INCA 19 2.2.1 Metóda spätného dohľadávania 2 2.2.2 Metóda dohľadávania maxima 21 2.2.3 Kombinovaná metóda 22 2.2.4 Metóda unášanej častice 22 3. Výsledky 25 3.1 Veľkosť hodnôt 25 3.1.1 Výstup z 12 UTC 25 3.1.2 Výstup z UTC 34 3.2 Vyhodnotenie metódy spätného dohľadávania 45 3.3 Vyhodnotenie metódy dohľadávania maxima 49 3.4 Vyhodnotenie kombinovanej metódy 53 3.5 Vyhodnotenie metódy unášanej častice 58 4. Záver 61 Literatúra 65 Príloha A 66 Príloha B 7 Príloha C 71 6
Úvod Ľudstvo sa od nepamäti snaží prispôsobiť poveternostným podmienkam a je od nich závislé. Dažde prinášajú každoročne v monzúnových oblastiach životodarnú vlahu, no prudké a hlavne nečakané zrážky prinášajú skazu a narúšajú chod spoločnosti. Aj pri súčasnom technologickom rozvoji je ľudstvo čoraz viac zraniteľnejšie a fungovanie spoločnosti závisí od pripravenosti na náhle prírodné úkazy. Dostatočne včasná a presná predpoveď nebezpečných javov mezo-synoptického a mikro-synomptického meradla a jej neustále zlepšovanie je cieľom každej predpovednej služby. Včasná výstraha na nebezpečný jav môže znížiť náklady na obnovenie fungovania zasiahnutej oblasti a môže napríklad predísť škodám v poľnohospodárstve, alebo zachrániť ľudské životy. Vo vyspelých krajinách je takáto predpoveď výrazne podporovaná bankovým sektorom, najmä poisťovňami, nakoľko pri včasnom zabezpečení majetku klesajú náklady poisťovniam na poistných udalostiach. Pri predpovedi a vydávaní výstrah sa opierame o výstupy z modelov a rôznych družicových a rádiolokačných produktov. Pri predpovedaní nestabilného zvrstvenia sa v súčasnosti čoraz viac dostávajú do popredia indexy, ktoré sú viac, alebo menej založené na fyzikálnom základe a popisujú stav atmosféry na danom mieste a na základe ich hodnôt môžeme predpovedať výskyt nebezpečných javov. Cieľom tejto práce je nájsť závislosť medzi konvektívnymi zrážkami a hodnotou indexu CAPE a poskytnúť meteorológom, prognostikom, komplexnejší náhľad na hodnoty a rozloženie poľa CAPE a zlepšiť tak predpovedanie konvektívnych zrážok spojenými aj s búrkovou činnosťou. 7
1. Teoretický základ 1.1 Konvekcia Konvekciou sa v meteorológii označujú výstupné a zostupné kompenzačné pohyby, ktoré vznikajú v dôsledku perturbácií meteorologických prvkov. Spôsobená je archimedovskými vztlakovými silami alebo obtekaním orografických prekážok [1], hovoríme potom o termickej, alebo o vynútenej konvekcii. Pri termickej konvekcii prevládajú archimedovské sily vzniknuté v dôsledku horizontálnych teplotných nehomogenít vzniknutých nerovnomerným ohrievaním zemského povrchu. Vynútená konvekcia je konvekcia, kedy k naštartovaniu výstupných pohybov je potrebný počiatočný impulz v podobe orografickej prekážky alebo frontálnej plochy. Ďalším typom je takzvaná voľná konvekcia, tá nastáva len v dôsledku archimedovských síl a myslí sa tým konvekcia nad hladinou voľnej konvekcie ( hladina, od ktorej začína výstup vzduchovej častice iba na úkor energie instability atmosféry, teda bez pôsobenia vonkajších síl podľa [1]) až po hornú hladinu konvekcie ( hladina, v ktorej ustávajú konvekčné procesy podľa [1]). Dôležitou podmienkou pre konvekciu je prítomnosť hodnôt CAPE. 1.2 Konvektívne zrážky Zrážky vznikajú kondenzáciou vodnej pary v atmosfére. Konvektívne zrážky sú zrážky vypadávajúce z kopovitých oblakov [1]. Majú prehánkový charakter a bývajú doprevádzané búrkou. 1.3 CAPE Convective available potencial energy, je priestorová charakteristika dostupnej energie v atmosfére, ktorá je dostupná pre konvekciu. CAPE existuje v podmienene instabilnej atmosfére ( stav, kedy hodnota skutočného vertikálneho teplotného gradientu v atmosfére leží medzi hodnotami sucho-adiabatického a nasýteno-adiabatického teplotného gradientu podľa [1]) ak je častica pri svojom výstupe teplejšia ako okolie. Jeho hodnota je jedným z prekurzorov kombinujúcich vlhkosť v hraničnej vrstve a teplotné zvrstvenie vo voľnej atmosfére. Počíta sa ako integrál z hladiny voľnej konvekcie po hornú hranicu konvekcie 8
z1 Tc T CAPE = g dz, T z kde z a z1 je výška hladiny voľnej konvekcie a horná hranica konvekcie, T c je virtuálna teplota ( teplota suchého vzduchu, ktorý by mal rovnakú hustotu a tlak ako vzduch s daným obsahom vodnej pary podľa [1]) častice a T je virtuálna teplota okolia a g je gravitačné zrýchlenie. CAPE nadobúda kladné hodnoty, ak je vystupujúca častica teplejšia ako okolie. Mierna až silná konvekcia sa podľa [8] predpokladá pri hodnotách CAPE od 1 do 3 J/kg, maximálne pozorované hodnoty od 5 až do 7 J/kg. V Európskom prostredí podľa [3] pripadá na deň s krúpami hodnota CAPE približne na 66 J/kg. CAPE je citlivý na vlhkosť pri zemskom povrchu a podľa štúdie [3] pri vzostupe zmiešavacieho pomeru o 1g/kg môže nastať zvýšenie hodnoty CAPE o 2% a odhad maximálnej vertikálnej rýchlosti až o 1%. Horná hranica konvekcie CAPE CIN Hladina voľnej konvekcie Obr. č. 1.: Grafické znázornenie plochy CAPE a CIN. Prevzaté a upravené z publikácie (Bluestein, 1993) Výhodou indexu CAPE je jeho počítanie cez celú vrstvu, kde vztlak nadobúda kladné hodnoty (častica stúpa), a nie len na diskrétnych hladinách, ako je tomu u iných indexov (LI, K, Faust, KO a iné). K uvoľneniu energie je potrebný spúšťací mechanizmus akým môže byť prechod frontu, orografická prekážka, alebo iné výstupné pohyby. Mierou potrebnej energie na spustenie konvekcie s hodnotami CAPE je aj hodnota indexu CIN. Potrebnou informáciou je popri hodnote CAPE aj jeho tvar. Ten do istej miery ovplyvňuje spôsoby prejavu. V praxi sa zistilo, že pri rovnakých hodnotách CAPE ale 9
väčšej ploche v spodných hladinách sa objavujú väčšie úhrny zrážok (ak je zároveň dostatok vlhkosti), ak je CAPE rovnomerne rozdelený po celom výstupe, prejavuje sa silnejším downburstom. V modeli ALADIN je CAPE počítaný s 9 kilometrovým horizontálnym rozlíšením. Je definovaný ako Pj CAPE= R ( T T ) d ln p, Pk d kde T pv je virtuálna teplota častice, T ev je virtuálna teplota okolia. Integrácia prebieha od hladiny voľnej konvekcie po hornú hranicu konvekcie. Virtuálna teplota T *v je definovaná ako T v = T (1+ 1,68w) /(1+ ), pv ev * w kde w je zmiešavací pomer (,,charakteristika vlhkosti vzduchu vyjadrená ako pomer hmotnosti vodnej pary, k hmotnosti suchého vzduchu v danom objeme podľa [1]), R d = 287 J.kg -1.K -1. Výpočet hodnoty CAPE je značne nastaviteľný a umožňuje nastaviť dolnú hranicu integrácie, hrúbku vrstvy, v ktorej sa vyhľadáva najnestabilnejšia častica, pomer zrážok, ktoré sa zachovávajú v cykle, počet iterácií v Newtonovom cykle, počet hladín medzi modelovými hladinami. Dolná hranica integrácie umožňuje 4 nastavenia pre NFPCAPE. NFPCAPE=1 : výpočet z najspodnejšej modelovej hladiny NFPCAPE=2 : výpočet začína z najmenej stabilnej hladiny NFPCAPE=3 : výpočet začína z prepočítanej dvojmetrovej teploty a relatívnej vlhkosti v dvoch metroch NFPCAPE=4 : výpočet začína z analyzovanej teploty a relatívnej vlhkosti v dvoch metroch. Počet iterácií v Newtonovom cykle NCAPEITER, základná nastavená hodnota je 2. Počet medzivrstiev, ktoré sa používajú na výpočet vertikálnych pohybov medzi dvomi modelovými tlakovými vrstvami NETAPES, základná hodnota je 2. Hrúbka vrstvy nad zemou, v ktorej sa vyhľadáva najnestabilnejšia častica (len s NFPCAPE=2), GCAPEPSD. Pomer kondenzačných produktov, ktoré sa zachovávajú v cykle GCAPERET, kde pre GCAPERET=, ide o nezvratný proces, pseudo-adiabatický výstup, kde oblačné 1
kondenzáty opustia oblak v momente ich vytvorenia a na ďalších výstupných pohyboch sa nepodieľajú. 1.4 CIN Convective INhibition, je index, ktorý určuje hodnotu energie, ktorú treba dodať častici aby vystúpila od zemského povrchu do hladiny voľnej konvekcie. Ide v podstate o záporný CAPE index, viď. obr. 1. Vystupujúca častica je teda chladnejšia ako okolie a to ju núti klesať. Ide teda o vrstvu, ktorá je stabilnejšia, ako vrstva nad ňou. Túto stabilitu môže zapríčiniť advekcia suchého vzduchu pri zemi a spodných hladinách, ako aj ochladzovanie od zemského povrchu. CIN zabraňuje spúšťaniu konvekčných procesov v atmosfére. Je nutné jeho prekonanie pre spustenie konvekcie. Zvyčajne je prekonaný vďaka orografickej prekážke alebo frontálnej ploche. 1.5 Charakteristika modelu ALADIN Pre zlepšenie rozlíšenia francúzskeho globálneho modelu ARPAGE vznikol projekt Francúzskej meteorologickej služby v spolupráci s ostatnými meteorologickými službami strednej a východnej Európy. Cieľom bolo vyvinúť regionálny predpovedný model, ktorý by bol používaný na území jednotlivých spolupracujúcich meteorologických služieb. Na Slovensku sa využíva model ALADIN/SLOVAKIA, ktorý je prevádzkovaný na SHMÚ v Bratislave. Model ALADIN je model typu LAM Limited Area Model, čiže model na ohraničenom území, pokrýva teda oblasť strednej Európy, obr. 2. Pre jeho výpočet je nutné vložiť okrajové podmienky z riadiaceho globálneho modelu. Pre model ALADIN je riadiacim globálnym modelom model Francúzskej meteorologickej služby ARPEGE. Získané okrajové podmienky prejdú procesom asimilácie dát a následne prebieha samotná integrácia modelu čo je samotný výpočet budúceho stavu atmosféry na základe fyzikálnych procesov. Integrácia modelu ALADIN/SLOVAKIA sa spúšťa 4 krát do dňa o, 6, 12 a 18-tej hodine UTC. 11
Obr. č. 2.: Doména modelu ALADIN. 1.6 Adiabatický a pseudo-adiabatický výstup Ak častica začne stúpať, začne sa rozpínať a koná tak prácu voči vonkajšiemu prostrediu. Keď ide o adiabatický výstup, hovoríme o deji, ktorý prebieha dostatočne rýchlo, aby nedochádzalo k výmene tepla s okolím. Energia spotrebovaná na prácu môže pochádzať len z vnútornej energie častice. Pri adiabatickom výstupe sa teda častica ochladzuje dosiahne stav nasýtenia a pri ďalšom výstupe sa začne tvoriť kondenzovaná voda, ak však proces obrátime, častica začne klesať, zohrievať sa, kondenzovaná voda sa vyparí, môžeme hovoriť, že neopustila sústavu a že ide o adiabatický zvratný dej. Pri pseudo-adiabatickom procese je úvodná myšlienka zachovaná, avšak keď sa začne tvoriť kvapalná voda, tá opúšťa sústavu v podobe zrážok. Pri otočení deja už nám táto vlhkosť, v podobe vypadnutej vody, bude chýbať a do pôvodného stavu sa už nevrátime, preto sa to označuje pseudo-adiabatický nezvratný proces. 1.7 Vznik búrky Búrka je podľa [1] definovaná ako súbor elektrických, optických a akustických javov vznikajúcimi medzi oblakmi navzájom, alebo medzi oblakmi a zemou. Je viazaná na cumulonimbus. Vývoj búrky a jej oblačnosti je spojený s labilným vertikálnym teplotným zvrstvením atmosféry. Prehriaty vzduch pri zemskom povrchu začne stúpať. Pokiaľ je dostatočne vlhký dochádza k jeho kondenzácií nad výstupnou kondenzačnou hladinou 12
a k tvorbe oblaku. Vzduch naďalej stúpa a dosahuje výšky 6 až 12 km, v niektorých prípadoch až 15 km. Rýchlosť výstupu sa s výškou spomaľuje, dochádza k vypadávaniu zrážok, ochladeniu vzduchu a následne jeho poklesu. Doba života búrkového oblaku sa priemerne pohybuje okolo jednej hodiny od času vzniku až po jeho rozpad. 1.8 Triedenie búrok Historicky prebiehalo triedenie búrok len na základe ich pôvodu a to na búrky advekčné, frontálne, nočné a iné. Novšie triedenie je založené na základe vnútornej štruktúry konvektívnych buniek, ktoré bolo navrhnuté v roku 1972 Chisholmom a Renickom. Toto rozdelenie rozdeľuje búrky do dvoch základných skupín a to na Jednojadrové (single cells) a na Viacjadrové (multiple cells). Jednojadrové sa delia ďalej na obyčajné (ordinary cells), pulzné (pulse cells) a rotujúce (supercells). Viacjadrové sa delia na zhluky (multicell clusters) a čiary (multicell lines). 1.8.1 Historické delenie 1.8.1.1 Frontálne búrky Sú to búrky vznikajúce na fronte, alebo v jeho blízkosti. Zväčša sa vyskytujú na studenom fronte, ale zriedka aj na teplom fronte. Frontálne rozhranie sa môže považovať za spúšťací mechanizmus nakoľko na frontoch je aj prítomnosť dynamických výstupných a zostupných pohybov po jeho naklonenej rovine a v kombinácií s veľkými teplotnými a vlhkostnými kontrastmi hlavne v spodných hladinách a zároveň dochádza k zmenám strihu vetra čím dochádza k labilizácii vzduchovej hmoty. 1.8.1.2 Búrky vo vnútri vzduchovej hmoty Sú búrky vzniknuté konvekciou, prevažne v letných mesiacoch, kedy dochádza k prehriatiu spodných hladín vzduchu. Vyskytujú sa najmä v popoludňajších hodinách. Verejnosťou sú označované aj ako búrky z tepla. 1.8.1.3 Zimné búrky Tento pojem označuje búrky, ktoré sa vyskytujú v zimných mesiacoch (decemberfebruár). Bývajú sprevádzané silným snežením. V zime sú podmienky na konvekciu ďaleko slabšie, na druhej strane je ďaleko silnejšie prúdenie. K labilizácii dochádza najmä pri vpádoch vlhkého a teplého vzduchu zo severozápadu. V zime hrá dôležitejšiu úlohu dynamické generovanie výstupných pohybov, jedným z nich je baroklínna instabilita, ktorá 13
má za následok rýchle prehĺbenie tlakového útvaru a intenzívnejší vývoj na frontálnom rozhraní (viac v Niektoré z príčin búrok v zimnom období, Racko, Simon, Sokol, 22). Tento typ búrok nie je podrobený štúdiu v tejto práci. 1.8.2 Novšie, štrukturálne delenie 1.8.2.1 Obyčajné, jednojadrové búrky S prihliadnutím na historické delenie, patria jednojadrové obyčajné búrky do kategórie búrok vo vnútri vzduchovej hmoty. K ich vzniku napomáha veľká instabilita, vertikálny strih vetra je pomerne malý. Na snímke z radaru ich možno vidieť, ako osamotenú bunku s krátkou dobou života, približne 3 až 6 minút. Vo vertikálnom reze je pozorovateľná oblasť updraftu (výstupného pohybu) a oblasť downdraftu (zostupného pohybu). Krátka doba života takýchto útvarov je daná slabým strihom vetra, ktorý spôsobí zachladenie spodných hladín a tým stabilizuje vzduchovú hmotu v okolí oblaku. Ich nebezpečenstvo je spôsobené pomalým pohybom a možnému vzniku prívalových dažďov. 1.8.2.2 Pulzné, jednojadrové búrky Pulzné búrky začínajú svoj,,zrod,, vo vyšších vrstvách ako obyčajné a sú vertikálne mohutnejšie. V dôsledku ich formovania sa vo väčších výškach, je ich doba života dlhšia ako u obyčajných búrok. 1.8.2.3 Rotujúce búrky Rotujúce búrky, v súčasnosti už viac označované ako supercely, sú jednojadrové búrky s vertikálnou osou rotácie, rotujúcim výstupným pohybom dosahujúcim rýchlosť až 5 m.s -1. Sú sprevádzané silným vetrom, krúpami a za vhodných podmienok aj vznikom tornáda (vertikálny vír, ktorý sa dotýka zemského povrchu). Majú pomerne dlhú dobu zotrvania v porovnaní s inými jednojadrovými búrkami, a takisto sa vyznačujú odlišným pohybom. Odlíšiť ich možno pomocou špeciálnych radarových čŕt. Je pre nich typická oblasť zníženej rádiolokačnej odrazivosti (oblasť BWER) a zriedka sa vyskytujúci odraz Hook Echo 1.8.2.4 Viacjadrové útvary Viacjadrové útvary sa v zahraničnej literatúre spojujú aj s označením MCS, Mesoscale Convective System, skupina buniek, usporiadaná, alebo neusporiadaná, ktorá sa regeneruje, a ich doba života prekračuje životnosť obyčajných buniek. Oblačný systém 14
spojený s búrkami a ktorý kontinuálne produkuje zrážky po dráhe minimálne 1 kilometrov aspoň v jednom smere. Houze (1993). 1.8.2.5 Viacjadrové zhluky Skupina buniek v rôznych štádiách vývoja, kde najstaršia bunka je v štádiu rozpadu a najmladšia sa začína formovať. Vznik nových buniek podporuje gustfront. Na radare sú často pozorovateľné na produkte Echo top, kde je vidieť niekoľko vrcholov, zatiaľ čo na produkte Base sa útvar môže javiť ako jednobunkový. Čiary húľav, Squall line Pás zrážok, s ktorých je aspoň časť konvektívna. Bluestein (1993). U nás označované aj ako čiary instability. Na radare sú pozorované ako čiary, ktorých minimálna dĺžka je 5 až 1 km a sú minimálne 5 krát dlhšie ako široké. Dôležitá je aj doba ich zotrvania. U nás sa typicky vyskytujú na studených frontoch. Ide o usporiadanie, pri ktorom je najväčšia odrazivosť v úzkom páse. K ich formovaniu môže dochádzať viacerými spôsobmi, najčastejšie to je však zo samostatných buniek v čiare, ktoré sa postupne spoja do jednej, alebo pomocou tzv. Back Buildingu, kedy sa nové bunky tvoria na jednej strane útvaru a tak vytvoria čiaru. V závislosti od prúdenia alebo orografie môže dochádzať k deformácii čiar a vzniku útvarov, ako je Bow echo (oblúkové echo), čo je úzky pás odrazivosti, niekedy až stovky kilometrov, oblúkového tvaru. 1.9 Aerologické merania a správa TEMP Meranie pomocou meteorologických balónov sa deje na vybraných letiskách. Štandartne sa sondy vypúšťajú v dvoch termínoch o UTC a 12 UTC. Niektoré stanice aj v štyroch, okrem spomenutých ešte o 6 UTC a 18 UTC. Na Slovenku sa výstup robí na stanici Poprad Gánovce. Rádiosonda počas svojho výstupu meria tlak, teplotu a vlhkosť vzduchu, a na základe zmeny polohy sa vypočítava aj rýchlosť a smer vetra. Hmotnosť sondy je niekoľko sto gramov. Správa TEMP je výstupný produkt z aerologického merania. Nesie informáciu o tlaku, teplote, deficitu teploty rosného bodu a o rýchlosti a smere vetra v štandardných a mimoriadnych hladinách. 15
1.1 Analýza zrážok pomocou INCA INCA (Integrated Nowcasting through Comprehensive Analysis) je vyvíjaná v ZAMG v spolupráci s SHMÚ. Má poskytnúť komplexný obraz o aktuálnom stave atmosféry použitím viacerých zdrojov informácií a poskytnúť informácie o uplynulom počasí za obdobie zvolené užívateľom. Do analýzy zrážok systému INCA momentálne podľa [7] vstupujú údaje zo 74 automatických zrážkomerných staníc ASTA, z približne 2 hydrologických staníc MARS5i, 36 automatizovaných meteorologických staníc, 2 meteorologických radarov a produkty numerických modelov ALADIN. Okrem Slovenských radarov na Kojšovskej holi a Malom Javorníku môžu byť použité pri ich výpadku aj radary z okolitých krajín zapojených do projektu OPERA (Operational Programme for the Exchange of weather Radar information Operatívny program pre výmenu radarových informácií). Rozlíšenie na doméne je 1 kilometer. Obr. č. 3: Analýza zrážok z INCA. 16
2. Metodika Nastavenia výpočtu hodnoty CAPE sú značne variabilné a vzniká tak množstvo kombinácií. Vzhľadom na časovú náročnosť výpočtov bolo nutné vykonať prvotné testovanie na menšej vzorke. Prvé testovanie prebiehalo na dvoch dátumoch, 9.7.27 a 11.8.27, kde prebehol hrubý odhad použiteľnosti jednotlivých nastavení. Výber týchto dátumov bol účelný a prihliadalo sa na dobrú,,viditeľnosť javu, dostatočné množstvo verifikačných metód, radary a zrážky. Zároveň som sa chcel vyhnúť extrémnym prípadom, nakoľko nie sú štatisticky dostatočne reprezentatívne. Cieľom testovania bolo vylúčiť z ďalšieho vyhodnocovania nastavenia, ktoré evidentne nedávali dobré hodnoty alebo polia a tým ušetriť výpočtový čas pri ďalšom spracovaní. Ukážky výstupov z modelu ALADIN, analýzy zrážok INCA a radarov pre dané termíny sú v prílohe A. Pre úspešnú predpoveď konvektívnych zrážok je nutné poznať hodnotu dostupnej potenciálnej energie pre konvekciu. Nie len však jej hodnotu ale aj jej priestorové rozloženie. Je preto nutné vybrať také nastavenie, ktoré čo najlepšie spĺňa obidve podmienky. Hľadanie najlepšieho nastavenia bolo založené na čo najlepšom splnení dvoch základných podmienok. Prvou bola, čo najlepšia zhoda s vypočítanou hodnotou CAPE na základe aerologických meraní. Testovala sa teda veľkosť hodnoty. Druhou bolo otestovanie rozloženia polí. Testoval som vzdialenosť bull's-eye, teda vzdialenosť maximálnej hodnoty CAPE od maximálnej hodnoty úhrnu zrážok za hodinu. Polia zrážok boli generované z momentálne najlepšej a najpodrobnejšej analýzy zrážok INCA. Testuje sa teda priestorové rozloženia poľa. Kvôli časovej náročnosti výpočtov sú spracované dni kedy sa konvektívne zrážky vyskytovali na území Slovenska a boli sprevádzané aspoň jednou búrkou. Technicky nebolo možné spracovať každý jeden deň a študovať tak prípady kedy sa vyskytli vyššie hodnoty CAPE ale zrážky sa nevyskytli, alebo sa vyskytli a neboli sprevádzané búrkou. 17
2.1 Overovanie veľkosti hodnôt CAPE pomocou TEMP Na overenie hodnôt CAPE som použil výstupy z aerologických sond na vybraných staniciach. Spracoval som obdobie troch letných mesiacov, jún, júl a august roku 27 každý deň z poludňajšieho a polnočného aerologického výstupu. Základom bola v operatíve používaná aplikácia pre grafické zobrazovanie správy TEMP. Upravená bola tak aby dávala výstupy do textového súboru, len v podobe hodnôt CAPE. Použitá bola ale iná aplikácia na dekódovanie správ, ktorá slúžila na vstup do výpočtu. Pre častú neúplnosť správ, bola použitá len prvá časť správy TEMP s hodnotami štandardných hladín. Na interpoláciu medzi štandardnými hladinami bola použitá rovnica Ardena Bucka (18,678 T / 234,5) T p= 6,1121exp, 257,14+ T kde p je tlak v hpa a T je teplota vzduchu v stupňoch Celzia. Má jednoduchú formu pre implementáciu do výpočtového programu a je presnejšia ako štandardne používaná Goff- Gratchova rovnica v rozpätí teplôt od -8 C do +5 C, 273,16 T log p = 1,79574 1 5,28log + T 273,16 + 1,5475.1 +,42873.1 kde p je v hpa a T v Kelvinoch. 4 3 1 1 1 T 8,29969 1 273,16 273,16 4,76955 1 T + 1 +,78614 Podmienkou bolo, aby sa výsledná hodnota CAPE zhodovala s hodnotou používanou v operatívnej prevádzke na celé číslo. Na rovnaký termín bol spustený aj modelový CAPE už len s vybranými nastaveniami na základe prvého testovania z behu modelu o UTC na +12 hodín a +24 hodín. Hodnoty pre jednotlivé stanice boli potom následne z polí vybrané a porovnávané so skutočnými hodnotami CAPE. Keďže je to modelový výpočet, ktorý je zaťažený chybami, nie je veľmi vhodné používať pre jednu stanicu len jeden najbližší gridový bod. Spravil som preto okrem porovnania konkrétneho bodu aj porovnanie priemerného CAPE v okolí stanice a to vo vzdialenosti,25 a,5 stupňa zemepisnej dĺžky a šírky (označované ako r25 a r5), čo zhruba zodpovedá vzdialenosti maximálne do 33 kilometrov a 67 kilometrov od stanice., 18
2.2 Overovanie priestorového rozloženia poľa CAPE pomocou INCA Výber dátumov bol robený s pomocou správ INTER za letné mesiace roku 28, pričom boli vzaté do úvahy aj výstupy z radaru. Hľadal som pritom záznamy o búrke, alebo odrazivosť nad 4 dbz, pretože konvektívne zrážky bývajú sprevádzané búrkou. Rok 28 bol vybraný na základe dostupnosti radarových údajov z programu OPERA, ktoré spresňujú polia zrážok v INCA analýze pri výpadku Slovenských radarov. INCA analýza bola teda spresnená o radarové údaje z Poľskej, Českej, Rakúskej a Maďarskej siete radarových staníc, tým sa čiastočne ošetrili výpadky našich radarov na Kojšovskej holi a Malom Javorníku. Hlavnou ideou hodnotenia bolo porovnávať vzdialenosti maxím hodinových úhrnov zrážok z analýzy poľa zrážok INCA o x+1-vej hodine s poľom CAPE z polnočného behu o x-tej hodine. Myšlienkou bolo, že z potenciálnej energie dostupnej pre konvekciu sa spotrebuje energia na tvorbu kopovitej oblačnosti, z ktorej potom vypadnú zrážky. Hodinový rozdiel bol zvolený na základe priemernej životnosti búrkového oblaku, ktorý pri štandardných situáciách neprekročí jednu hodinu. Keďže termínov na spracovanie bol veľký počet musel som navrhnúť nejakú metódu automatickej verifikácie. Pri tejto automatickej metóde však vzniká množstvo problémov, ktoré je nutné istým spôsobom odstrániť. Hlavným problémom je hľadanie vzájomne súvisiacich maxím. Na tento problém som sa špeciálne zameral. Spoločné pre všetky metódy je základné rozdelenie domény INCA. Tá bola rozdelená na menšie sub-domény v sieti 2 riadky a 3 stĺpce. Toto rozdelenie bolo nutné pre zachytenie viacerých búrok v jednom termíne, ktoré sa mohli v rámci Slovenska vyskytovať. Rozdelenie a veľkosť sub-domény nájdete v tabuľke 1. Spracovával som aj charakteristiky závislé od hodinového úhrnu. Konkrétne hodinový úhrn do 2 milimetrov, od 2 milimetrov do 3 milimetrov, od 3 milimetrov do 4 milimetrov a nad 4 milimetrov. Tieto úhrny zodpovedajú úhrnom, pre ktoré vydáva Centrum predpovedí a výstrah na Slovensku výstrahu na nebezpečný jav búrky. Hodinové úhrny z INCA však treba brať s istou rezervou, nakoľko vylaďovanie analýzy zrážok stále prebieha a vďaka zložitej orografií môže dôjsť k skresleniu celkového hodinového úhrnu zrážok. Pole analyzovaných zrážok je však dostatočne presné, preto je treba priestorovému rozloženiu prikladať väčšiu váhu. 19
Oblasť 1 Severozápad severná šírka: 48,5 až 5 východná dĺžka: 16 až 18,3 Oblasť 4 Juhozápad severná šírka: 47 až 48,5 východná dĺžka: 16 až 18,3 Oblasť 2 Sever stredného Slovenska severná šírka: 48,5 až 5 východná dĺžka: 18,3 až 2,6 Oblasť 5 Juh stredného Slovenska severná šírka: 47 až 48,5 východná dĺžka: 18,3 až 2,6 Tab. č. 1.: Rozdelenie domény na oblasti. Oblasť 3 Severovýchod severná šírka: 48,5 až 5 východná dĺžka: 2,6 až 23 Oblasť 6 Juhovýchod severná šírka: 47 až 48,5 východná dĺžka: 2,6 až 23 2.2.1 Metóda spätného dohľadávania Táto metóda rieši problém v nejasnosti maxima CAPE medzi dvoma pomerne vysokými hodnotami INCA. Môže nastať situácia, kedy je maximálna hodnota CAPE medzi dvomi hodnotami INCA, z ktorej bude jedno maximum a druhé bude mať hodnotu o niečo nižšiu. V takomto prípade nie je možné jednoznačne určiť vzdialenosť, nakoľko si nemôžeme byť istý, ku ktorej hodnote INCA môžeme priradiť hodnotu CAPE. K jednej z hodnôt môže pripadať aj iná hodnota CAPE ako maximálna, tiež v jej blízkosti, obr. č. 4. INCA max INCA? max CAPE CAPE Obr. č. 4.: Nejasnosť pri priraďovaní maxím. Na sub-doméne sa hľadá maximum hodnoty INCA. Následne sa v okolí nájdeného maxima INCA hľadá maximum CAPE do vzdialenosti,8 stupňa zemepisnej dĺžky a,5 stupňa zemepisnej šírky. Po nájdení maxima CAPE sa z tohto bodu hľadá do vzdialenosti,8 stupňa zemepisnej dĺžky a,5 stupňa zemepisnej šírky maximum INCA. Ak sa nájde a 2
je zhodné, zráta sa vzdialenosť medzi nimi. Ak zhodné nie je, započíta sa do nejasnej prognózy. Minimálna vzdialenosť na okraj prehľadávanej oblasti je 56 kilometrov. 2.2.2 Metóda dohľadávania maxima Táto metóda rieši problém vzdialenejšieho maxima. Tento problém vznikol pri hľadaní maxima CAPE v okolí maxima INCA. Nie je možné, aby sa hľadalo maximum CAPE na celej doméne, často krát by potom nastala situácia, že by sa našlo absolútne maximum, ktoré by bolo vzdialené niekoľko stoviek kilometrov. Hľadám preto lokálne maximum vo vzdialenosti,8 stupňa zemepisnej dĺžky a,5 stupňa zemepisnej šírky od maxima INCA. Maximum ale môže byť ešte o niečo ďalej, preto sa z nájdeného lokálneho maxima hľadá ešte do vzdialenosti,25 stupňa zemepisnej šírky a,4 stupňa zemepisnej dĺžky ďalšie maximum. Ráta sa potom vzdialenosť maximum INCA a maximum CAPE, obr. č. 5. Takáto metóda sa síce priblíži k reálnemu maximu CAPE, ale nemusí ho nájsť úplne presne, bolo by nutné viackrát zopakovať hľadanie maxima. Minimálna vzdialenosť na okraj prehľadávanej oblasti je 83 kilometrov.,8,4,25,5 max INCA max CAPE Obr. č. 5.: Hľadanie vzdialenejšieho maxima. 21
2.2.3 Kombinovaná metóda Táto metóda spája predchádzajúce dve metódy dohromady. Na sub-doméne sa hľadá maximum INCA, potom sa hľadá lokálne maximum CAPE a dohľadá sa maximum CAPE. Spočíta sa vzdialenosť maximum INCA a maximum CAPE a v tejto vzdialenosti sa od maxima CAPE hľadá maximum INCA, obr. č. 6. Ak sa nájde a nie je zhodné započíta sa do nejasnej prognózy. Pri tejto metóde je už však ale veľká možnosť skreslenia výsledku. Pri spätnom hľadaní maxima INCA sa prehľadáva značné okolie okolo maxima CAPE a je veľké riziko prekročenia sub-domény a nájdenie nesúvisiaceho maxima INCA. Minimálna vzdialenosť na okraj prehľadávanej oblasti je 83 kilometrov.,8,4 vzdialenosť spätného hľadania,5 max INCA,25 max CAPE? max CAPE max INCA Obr. č. 6.: Kombinovaná metóda a jej nejasnosť. 2.2.4 Metóda unášanej častice Pri tejto metóde sa prehľadáva sub-doména pre maximum CAPE. Maximum INCA sa potom vyhľadáva v oblasti smere prúdenia o rozlohe 1 stupňa zemepisnej šírky a 1,5 stupňa zemepisnej dĺžky. Podnetom bolo bratie do úvahy unášanie častice pri stúpaní obdobne, ako pri rádiosondážnom meraní. Častica vďaka kladnej hodnote CAPE stúpa a je unášaná prúdením istým smerom. Následne potom padá k zemi v podobe konvektívnych zrážok. Oblasť o veľkosti 1 na 1,5 stupňa bola volená s prihliadnutím na znos rádiosondy. Podľa Benka [6] bol v roku 1998 maximálny znos do hladiny 3 hpa na úrovni 7 km na stanici Poprad Gánovce, na ostatných bol nižší. Počas letných mesiacov navyše ešte 22
dochádza podľa [6] k zníženiu priemernému znosu v celej výške. Minimálna vzdialenosť od maxima CAPE po okraj prehľadávanej oblasti je približne 19 kilometrov. 1 Izobarická hladina (hpa) 2 3 4 5 6 7 8 9 Priemerný znos Maximálny znos 2 4 6 8 1 12 14 16 18 2 22 Znos rádiosondy (km) Obr. č. 7.: Priemerný a maximálny znos rádiosondy v Poprade Gánovciach v roku 1998, prevzaté z [6]. Smer unášania častice bol vypočítaný z modelových hladín 85, 7 a 5 hpa, pričom bola použitá váhová funkcia. Hladine 85 pola priradená váha 1, ostatným váha 2. WINDDIR = (w 85 + 2*w 7 + 2*w 5 ) / 5, kde w xxx je smer vetra v danej hladine. Z priemerných údajov som zistil azimut a následne sa vybrala jedena zo štyroch oblastí. Oblasť 1., až 9 stupňov (označovaná ako SV), oblasť 2., 9 až 18 stupňov (označovaná ako JV), oblasť 3., 18 až 27 stupňov (označovaná ako JZ), oblasť 4., 27 až 36 stupňov (označovaná ako SZ). Vo vybranej oblasti sa potom hľadá maximum INCA a počíta vzdialenosť maxima CAPE a maxima INCA. V tejto práci nie je braná do úvahy sila vetra. Vyskúšané boli aj iné váhové koeficienty, konkrétne váha jedna pre 85 hpa hladinu, váha 2 pre 7 hpa hladinu a váha 3 pre 5 hpa hladinu. Vo výsledku však k zmene smeru nedošlo. 23
1 max INCA max CAPE 1,5 priemerný smer prúdenia Obr. č. 8.: Hľadanie maxima INCA s prihliadnutím na prevládajúce prúdenie. 24
3. Výsledky 3.1 Veľkosť hodnôt Hodnota CAPE z aerologických sond sa vypočítavala zo správy TEMP vysielanej zo staníc: Wien Höhe warte (A), Prostejov (CZ), Lorinz (HU), Poprad Gánovce (SK), tab. č. 2. Stanica Indikatív Poloha Nadmorská výška Wien Höhe Warte 1135 16,22 E, 48,15 N 2 m. n. m. Prostejov 11747 17,13 E, 49,45 N 34 m. n. m. Lorinz 12843 19,11 E, 47,26 N 139 m. n. m. Poprad Gánovce 11952 2,32 E, 49,3 N 76 m. n. m. Tab. č. 2.: Prehľad použitých staníc, ich indikatívov a polohy. Pri dekódovaní správ sa objavili problémy s nesprávnym kódovaním, alebo s neštandardným záznamom. Dekodér takúto správu nedekódoval alebo dekódoval s chybou. Chyby museli byť potom následne odstránené pri štatistickom spracovaní. Za chybný údaj som považoval všetky hodnoty, kde CAPE dosiahol hodnotu 1 a vyššiu. Deň s takouto hodnotou do štatistiky nevstupoval. Spracoval som poludňajšie a polnočné výstupy. 3.1.1 Výstup z 12 UTC Modelový CAPE bol počítaný z polnočného behu modelu a prognózy na 12 hodín. Závislosti modelového CAPE (os Y) od CAPE vypočítaného zo správy TEMP (os X). 5 45 4 35 3 25 2 15 1 5 y =.464x + 36.111 R 2 =.5462 y =.4497x + 54.811 R 2 =.5592 y =.4287x + 67.37 R 2 =.631 1135 1 2 3 4 5 setting 1 -.4, radius setting 1 -.4, radius.25 setting 1 -.4, radius.5 Lineárny (setting 1 -.4, radius ) Lineárny (setting 1 -.4, radius.25 ) Lineárny (setting 1 -.4, radius.5 ) Obr. č. 9.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Viedeň a nastavenie 1-.4. 25
5 45 4 35 3 25 2 15 1 5 y =.4219x + 12.17 R 2 =.5322 y =.486x + 28.725 R 2 =.5451 y =.3895x + 39.156 R 2 =.591 1135 1 2 3 4 5 setting 1 -.6, radius setting 1 -.6, radius.25 setting 1 -.6, radius.5 Lineárny (setting 1 -.6, radius ) Lineárny (setting 1 -.6, radius.25 ) Lineárny (setting 1 -.6, radius.5 ) Obr. č. 1.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Viedeň a nastavenie 1-.6. 5 45 4 35 3 25 2 15 1 5 y =.388x - 2.829 R 2 =.52 y =.3687x + 11.632 R 2 =.5345 y =.3515x + 19.566 R 2 =.5821 1135 1 2 3 4 5 setting 1 -.8, radius setting 1 -.8, radius.25 setting 1 -.8, radius.5 Lineárny (setting 1 -.8, radius ) Lineárny (setting 1 -.8, radius.25 ) Lineárny (setting 1 -.8, radius.5 ) Obr. č. 11.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Viedeň a nastavenie 1-.8. 5 45 4 35 3 25 2 15 1 5 y =.4594x + 42.931 R 2 =.539 y =.4459x + 59.46 R 2 =.5478 y =.425x + 72.4 R 2 =.5948 1135 1 2 3 4 5 setting 2 -.4, radius setting 2 -.4, radius.25 setting 2 -.4, radius.5 Lineárny (setting 2 -.4, radius ) Lineárny (setting 2 -.4, radius.25 ) Lineárny (setting 2 -.4, radius.5 ) Obr. č. 12.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Viedeň a nastavenie 2-.4. 26
5 45 4 35 3 25 2 15 1 5 y =.4187x + 22.6 R 2 =.524 y =.462x + 36.556 R 2 =.5375 y =.3873x + 46.459 R 2 =.5866 1135 5 1 15 2 25 3 35 4 45 5 setting 2 -.6, radius setting 2 -.6, radius.25 setting 2 -.6, radius.5 Lineárny (setting 2 -.6, radius ) Lineárny (setting 2 -.6, radius.25 ) Lineárny (setting 2 -.6, radius.5 ) Obr. č. 13.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Viedeň a nastavenie 2-.6. y =.3777x + 6.969 1135 5 45 4 35 3 25 2 15 1 5 R 2 =.578 y =.3665x + 18.874 R 2 =.5263 y =.3495x + 26.137 R 2 =.5771 5 1 15 2 25 3 35 4 45 5 setting 2 -.8, radius setting 2 -.8, radius.25 setting 2 -.8, radius.5 Lineárny (setting 2 -.8, radius ) Lineárny (setting 2 -.8, radius.25 ) Lineárny (setting 2 -.8, radius.5 ) Obr. č. 14.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Viedeň a nastavenie 2-.8. y =.7217x + 22.83 11747 y =.6995x + 227.57 25 2 R 2 =.4792 y =.7193x + 223.49 R 2 =.4945 R 2 =.59 15 1 5 5 1 15 2 25 setting 1 -.4, radius setting 1 -.4, radius.25 setting 1 -.4, radius.5 Lineárny (setting 1 -.4, radius ) Lineárny (setting 1 -.4, radius.25 ) Lineárny (setting 1 -.4, radius.5 ) Obr. č. 15.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Prostejov a nastavenie 1-.4. 27
25 2 y =.656x + 175.64 11747 R 2 =.4797 y =.6546x + 177.74 R 2 =.4958 y =.6368x + 181.83 R 2 =.5111 15 1 5 5 1 15 2 25 setting 1 -.6, radius setting 1 -.6, radius.25 setting 1 -.6, radius.5 Lineárny (setting 1 -.6, radius ) Lineárny (setting 1 -.6, radius.25 ) Lineárny (setting 1 -.6, radius.5 ) Obr. č. 16.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Prostejov a 25 2 nastavenie 1-.6. 11747 y =.5866x + 14.44 R 2 =.4768 y =.5863x + 142.31 R 2 =.4944 y =.576x + 146.32 R 2 =.511 15 1 5 5 1 15 2 25 setting 1 -.8, radius setting 1 -.8, radius.25 setting 1 -.8, radius.5 Lineárny (setting 1 -.8, radius ) Lineárny (setting 1 -.8, radius.25 ) Lineárny (setting 1 -.8, radius.5 ) Obr. č. 17.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Prostejov a nastavenie 1-.8. 25 2 y =.7242x + 215.47 11747 R 2 =.4791 y =.724x + 219.89 R 2 =.4923 y =.71x + 225.48 R 2 =.578 15 1 5 5 1 15 2 25 setting 2 -.4, radius setting 2 -.4, radius.25 setting 2 -.4, radius.5 Lineárny (setting 2 -.4, radius ) Lineárny (setting 2 -.4, radius.25 ) Lineárny (setting 2 -.4, radius.5 ) Obr. č. 18.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Prostejov a nastavenie 2-.4. 28
25 2 y =.656x + 175.68 11747 R 2 =.4797 y =.6535x + 179.21 R 2 =.4938 y =.6354x + 184.29 R 2 =.514 15 1 5 5 1 15 2 25 setting 2 -.6, radius setting 2 -.6, radius.25 setting 2 -.6, radius.5 Lineárny (setting 2 -.6, radius ) Lineárny (setting 2 -.6, radius.25 ) Lineárny (setting 2 -.6, radius.5 ) Obr. č. 19.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Prostejov a nastavenie 2-.6. 25 2 y =.5866x + 14.44 11747 R 2 =.4768 y =.5855x + 143.54 R 2 =.4924 y =.5697x + 148.11 R 2 =.514 15 1 5 5 1 15 2 25 setting 2 -.8, radius setting 2 -.8, radius.25 setting 2 -.8, radius.5 Lineárny (setting 2 -.8, radius ) Lineárny (setting 2 -.8, radius.25 ) Lineárny (setting 2 -.8, radius.5 ) Obr. č. 2.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Prostejov a nastavenie 2-.8. 35 3 25 2 15 1 5 y =.565x + 197.17 R 2 =.4847 y =.479x + 26.23 R 2 =.438 11952 y =.4845x + 251.82 R 2 =.4635 5 1 15 2 25 3 35 setting 1 -.4, radius setting 1 -.4, radius.25 setting 1 -.4, radius.5 Lineárny (setting 1 -.4, radius ) Lineárny (setting 1 -.4, radius.25 ) Lineárny (setting 1 -.4, radius.5 ) Obr. č. 21.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Gánovce a nastavenie 1-.4. 29
35 3 25 2 15 1 5 y =.5171x + 154.34 R 2 =.4787 y =.435x + 215.2 R 2 =.4356 11952 y =.4437x + 25.67 R 2 =.467 5 1 15 2 25 3 35 setting 1 -.6, radius setting 1 -.6, radius.25 setting 1 -.6, radius.5 Lineárny (setting 1 -.6, radius ) Lineárny (setting 1 -.6, radius.25 ) Lineárny (setting 1 -.6, radius.5 ) Obr. č. 22.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Gánovce a nastavenie 1-.6. 35 3 25 2 15 1 5 y =.412x + 165.14 R 2 =.3459 y =.3859x + 18.2 R 2 =.4262 11952 y =.3985x + 17.34 R 2 =.452 5 1 15 2 25 3 35 setting 1 -.8, radius setting 1 -.8, radius.25 setting 1 -.8, radius.5 Lineárny (setting 1 -.8, radius ) Lineárny (setting 1 -.8, radius.25 ) Lineárny (setting 1 -.8, radius.5 ) Obr. č. 23.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Gánovce a nastavenie 1-.8. 35 3 25 2 15 1 5 y =.568x + 192.35 R 2 =.4886 y =.4748x + 255.8 R 2 =.444 11952 y =.4878x + 246.76 R 2 =.4678 5 1 15 2 25 3 35 setting 2 -.4, radius setting 2 -.4, radius.25 setting 2 -.4, radius.5 Lineárny (setting 2 -.4, radius ) Lineárny (setting 2 -.4, radius.25 ) Lineárny (setting 2 -.4, radius.5 ) Obr. č. 24.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Gánovce a nastavenie 2-.4. 3
35 3 25 2 15 1 5 y =.5171x + 154.34 R 2 =.4787 y =.439x + 216.7 R 2 =.4376 11952 y =.4434x + 26.55 R 2 =.469 5 1 15 2 25 3 35 setting 2 -.6, radius setting 2 -.6, radius.25 setting 2 -.6, radius.5 Lineárny (setting 2 -.6, radius ) Lineárny (setting 2 -.6, radius.25 ) Lineárny (setting 2 -.6, radius.5 ) Obr. č. 25.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Gánovce a nastavenie 2-.6. 35 3 25 2 15 1 5 y =.4644x + 122.24 R 2 =.4641 y =.3865x + 181.8 R 2 =.4284 11952 y =.3983x + 171.26 R 2 =.459 5 1 15 2 25 3 35 setting 2 -.8, radius setting 2 -.8, radius.25 setting 2 -.6, radius.5 Lineárny (setting 2 -.8, radius ) Lineárny (setting 2 -.8, radius.25 ) Lineárny (setting 2 -.6, radius.5 ) Obr. č. 26.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Gánovce a 35 3 25 2 15 1 5 y =.5622x + 45.296 R 2 =.6614 y =.5758x + 61.57 R 2 =.6619 nastavenie 2-.8. 12843 y =.5764x + 43.23 R 2 =.673 5 1 15 2 25 3 35 setting 1 -.4, radius setting 1 -.4, radius.25 setting 1 -.4, radius.5 Lineárny (setting 1 -.4, radius ) Lineárny (setting 1 -.4, radius.25 ) Lineárny (setting 1 -.4, radius.5 ) Obr. č. 27.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Lorinz a nastavenie 1-.4. 31
35 3 25 2 15 1 5 y =.563x + 26.974 R 2 =.6531 y =.529x + 39.645 R 2 =.6554 12843 y =.522x + 24.696 R 2 =.6626 5 1 15 2 25 3 35 setting 1 -.6, radius setting 1 -.6, radius.25 setting 1 -.6, radius.5 Lineárny (setting 1 -.6, radius ) Lineárny (setting 1 -.6, radius.25 ) Lineárny (setting 1 -.6, radius.5 ) Obr. č. 28.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Lorinz a 35 3 25 2 15 1 5 y =.4494x + 14.46 R 2 =.6372 y =.4652x + 23.692 R 2 =.6428 nastavenie 1-.6. 12843 y =.4634x + 11.524 R 2 =.6486 5 1 15 2 25 3 35 setting 1 -.8, radius setting 1 -.8, radius.25 setting 1 -.8, radius.5 Lineárny (setting 1 -.8, radius ) Lineárny (setting 1 -.8, radius.25 ) Lineárny (setting 1 -.8, radius.5 ) Obr. č. 29.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Lorinz a nastavenie 1-.8. 35 3 25 2 15 1 5 y =.562x + 57.917 R 2 =.6785 y =.575x + 76.33 R 2 =.6775 12843 y =.5754x + 57.653 R 2 =.6862 5 1 15 2 25 3 35 setting 2 -.4, radius setting 2 -.4, radius.25 setting 2 -.4, radius.5 Lineárny (setting 2 -.4, radius ) Lineárny (setting 2 -.4, radius.25 ) Lineárny (setting 2 -.4, radius.5 ) Obr. č. 3.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Lorinz a nastavenie 2-.4. 32
35 3 25 2 15 1 5 y =.573x + 36.948 R 2 =.671 y =.525x + 52.96 R 2 =.67 12843 y =.52x + 36.912 R 2 =.6781 5 1 15 2 25 3 35 setting 2 -.6, radius setting 2 -.6, radius.25 setting 2 -.6, radius.5 Lineárny (setting 2 -.6, radius ) Lineárny (setting 2 -.6, radius.25 ) Lineárny (setting 2 -.6, radius.5 ) Obr. č. 31.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Lorinz a nastavenie 2-.6. 35 3 25 2 15 1 5 y =.4517x + 2.182 R 2 =.6558 y =.466x + 33.463 R 2 =.6589 12843 y =.4645x + 2.135 R 2 =.6658 5 1 15 2 25 3 35 setting 2 -.8, radius setting 2 -.8, radius.25 setting 2 -.8, radius.5 Lineárny (setting 2 -.8, radius ) Lineárny (setting 2 -.8, radius.25 ) Lineárny (setting 2 -.8, radius.5 ) Obr. č. 32.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Lorinz a nastavenie 2-.8. Vo väčšine prípadov dáva modelový CAPE vo všeobecnosti nižšie hodnoty. Istou výnimkou sú len stanice Prostejov a Gánovce, kde pre nižšie hodnoty je modelový CAPE nadhodnocovaný. Z preložených lineárnych funkcií vyplýva, že až tak veľmi nezáleží či berieme do úvahy jeden gridový bod, alebo priemer z blízkeho okolia. Pri všetkých šiestich nastaveniach spôsobu výpočtu CAPE sa indexy korelácie pohybovali nad,72 čo zodpovedá vysokému stupňu štatistickej závislosti, viac v tab. č. 3. Najväčšia miera tesnosti sa ukázala byť pri nastavení 2-.4. Ide teda o vypočítaný CAPE z najmenej stabilnej hladiny pri frakcií zrážok,4, v cykle sa teda zachováva 4 % zrážok. 33
1-.4 1135 11747 11952 12843 2-.4 1135 11747 11952 12843 r.739.692.696.813.735 r.729.692.699.824.736 r25.748.73.681.819.738 r25.74.72.684.828.739 r5.777.713.662.814.742 r5.771.713.666.823.743 avg:.738 avg:.739 1-.6 1135 11747 11952 12843 2-.6 1135 11747 11952 12843 r.73.692.692.88.731 r.721.693.692.819.731 r25.738.74.679.81.733 r25.733.73.679.823.735 r5.769.715.66.81.739 r5.766.714.662.819.74 avg:.734 avg:.735 1-.8 1135 11747 11952 12843 2-.8 1135 11747 11952 12843 r.721.691.589.798.699 r.713.691.681.81.724 r25.731.73.671.85.728 r25.725.72.671.816.729 r5.763.715.653.82.733 r5.76.714.655.812.735 avg:.72 avg:.729 Tab. č. 3.: Prehľad indexov korelácie pre jednotlivé nastavenia a priemerného indexu korelácie. Po vypočítaní strednej absolútnej odchýlky podľa vzťahu MAE = 1 / N F i Oi, (1) kde F i je vypočítaná hodnota z modelu a O i vypočítaná hodnota z TEMPu sa ukazuje nastavenie 2-.4 opäť ako najvyhovujúcejšie, tab. č. 4. Má priemerne najmenšiu odchýlku. Mean absolute error 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 1135 r 678.2878 731.3385 781.438 69.6352 736.4396 784.133 r25 678.747 734.5741 781.9798 687.52 736.9996 784.5389 r5 684.2639 741.1735 79.149 691.2889 742.792 791.1821 11747 r 36.4846 286.8435 277.7848 35.7587 286.8217 277.7848 r25 3.6952 281.863 276.4 299.9139 281.8596 276.4783 r5 296.2774 274.5476 269.2141 295.4691 273.7357 268.2745 11952 r 366.6333 368.1341 385.1294 363.1694 368.1341 385.1294 r25 374.8281 378.8659 393.8795 371.3539 378.2358 393.125 r5 39.795 391.7225 48.683 386.95 391.6758 47.3795 12843 r 386.293 424.5439 477.5576 377.3192 419.26 472.123 r25 372.8697 412.3351 467.9734 365.1351 48.3181 463.6129 r5 365.744 49.44 465.7447 358.6225 45.4632 462.241 Tab. č. 4: Prehľad absolútnej strednej hodnoty odchýlok. 3.1.2 Výstup z UTC Pri porovnávaní hodnôt z polnočného výstupu boli použité hodnoty modelového CAPE z polnočného behu modelu a prognózy 24 hodín dopredu. Závislosti modelového CAPE (os Y) od CAPE vypočítaného zo správy TEMP (os X) v J/kg. 34
2 18 16 14 12 1 8 6 4 2 y =.697x + 14.27 R 2 =.2124 y =.5961x + 86.61 R 2 =.2458 1135 y =.556x + 81.787 R 2 =.2872 5 1 15 2 setting 1 -.4, radius setting 1 -.4, radius.25 setting 1 -.4, radius.5 Lineárny (setting 1 -.4, radius ) Lineárny (setting 1 -.4, radius.25 ) Lineárny (setting 1 -.4, radius.5 ) Obr. č. 33.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Viedeň a nastavenie 1-.4. y =.5619x + 73.248 1135 2 18 16 14 12 1 8 6 4 2 R 2 =.2445 y =.5133x + 62.366 R 2 =.2489 y =.427x + 38.312 R 2 =.344 5 1 15 2 setting 1 -.6, radius setting 1 -.6, radius.25 setting 1 -.6, radius.5 Lineárny (setting 1 -.6, radius ) Lineárny (setting 1 -.6, radius.25 ) Lineárny (setting 1 -.6, radius.5 ) Obr. č. 34.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Viedeň a 2 18 16 14 12 1 8 6 4 2 y =.4781x + 52.934 R 2 =.2482 y =.4341x + 43.63 R 2 =.2522 y =.427x + 38.312 R 2 =.344 nastavenie 1-.6. 1135 5 1 15 2 setting 1 -.8, radius setting 1 -.8, radius.25 setting 1 -.8, radius.5 Lineárny (setting 1 -.8, radius ) Lineárny (setting 1 -.8, radius.25 ) Lineárny (setting 1 -.8, radius.5 ) Obr. č. 35.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Viedeň a nastavenie 1-.8. 35
2 18 16 14 12 1 8 6 4 2 y =.7973x + 175.97 R 2 =.2449 y =.7673x + 166.61 R 2 =.2614 1135 y =.72x + 168.78 R 2 =.2696 5 1 15 2 setting 2 -.4, radius setting 2 -.4, radius.25 setting 2 -.4, radius.5 Lineárny (setting 2 -.4, radius ) Lineárny (setting 2 -.4, radius.25 ) Lineárny (setting 2 -.4, radius.5 ) Obr. č. 36.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Viedeň a nastavenie 2-.4. y =.722x + 137.18 1135 2 18 16 14 12 1 8 6 4 2 R 2 =.2416 y =.681x + 129.35 R 2 =.2653 y =.6248x + 13.66 R 2 =.282 2 4 6 8 1 12 14 16 18 2 setting 2 -.6, radius setting 2 -.6, radius.25 setting 2 -.6, radius.5 Lineárny (setting 2 -.6, radius ) Lineárny (setting 2 -.6, radius.25 ) Lineárny (setting 2 -.6, radius.5 ) Obr. č. 37.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Viedeň a nastavenie 2-.6. 2 18 16 14 12 1 8 6 4 2 y =.6155x + 13.92 R 2 =.2413 y =.5962x + 97.37 R 2 =.272 1135 y =.5512x + 97.699 R 2 =.2921 2 4 6 8 1 12 14 16 18 2 setting 2 -.8, radius setting 2 -.8, radius.25 setting 2 -.8, radius.5 Lineárny (setting 2 -.8, radius ) Lineárny (setting 2 -.8, radius.25 ) Lineárny (setting 2 -.8, radius.5 ) Obr. č. 38.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Viedeň a nastavenie 2-.8. 36
2 18 16 14 12 1 8 6 4 2 y = 1.1342x + 145.75 R 2 =.2622 y = 1.52x + 152.72 R 2 =.2588 11747 y = 1.1556x + 149.46 R 2 =.2814 5 1 15 2 setting 1 -.4, radius setting 1 -.4, radius.25 setting 1 -.4, radius.5 Lineárny (setting 1 -.4, radius ) Lineárny (setting 1 -.4, radius.25 ) Lineárny (setting 1 -.4, radius.5 ) Obr. č. 39.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Prostejov a nastavenie 1-.4. 2 18 16 14 12 1 8 6 4 2 y = 1.298x + 19.88 R 2 =.2974 y =.9136x + 116.1 R 2 =.2977 11747 y = 1.529x + 112.95 R 2 =.324 2 4 6 8 1 12 14 16 18 2 setting 1 -.6, radius setting 1 -.6, radius.25 setting 1 -.6, radius.5 Lineárny (setting 1 -.6, radius ) Lineárny (setting 1 -.6, radius.25 ) Lineárny (setting 1 -.6, radius.5 ) Obr. č. 4.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Prostejov a nastavenie 1-.6. 2 18 16 14 12 1 8 6 4 2 y =.9239x + 8.362 R 2 =.3399 y =.8223x + 85.997 R 2 =.3489 11747 y =.957x + 82.937 R 2 =.372 2 4 6 8 1 12 14 16 18 2 setting 1 -.8, radius setting 1 -.8, radius.25 setting 1 -.8, radius.5 Lineárny (setting 1 -.8, radius ) Lineárny (setting 1 -.8, radius.25 ) Lineárny (setting 1 -.8, radius.5 ) Obr. č. 41.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Prostejov a nastavenie 1-.8. 37
2 18 16 14 12 1 8 6 4 2 y = 1.77x + 277.26 R 2 =.1364 y =.978x + 279.33 R 2 =.137 11747 y = 1.984x + 283.4 R 2 =.1462 2 4 6 8 1 12 14 16 18 2 setting 2 -.4, radius setting 2 -.4, radius.25 setting 2 -.4, radius.5 Lineárny (setting 2 -.4, radius ) Lineárny (setting 2 -.4, radius.25 ) Lineárny (setting 2 -.4, radius.5 ) Obr. č. 42.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Prostejov a nastavenie 2-.4. 2 18 16 14 12 1 8 6 4 2 y =.9872x + 229.68 R 2 =.1476 y =.891x + 23.44 R 2 =.1416 11747 y = 1.72x + 234.9 R 2 =.1566 2 4 6 8 1 12 14 16 18 2 setting 2 -.6, radius setting 2 -.6, radius.25 setting 2 -.6, radius.5 Lineárny (setting 2 -.6, radius ) Lineárny (setting 2 -.6, radius.25 ) Lineárny (setting 2 -.6, radius.5 ) Obr. č. 43.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Prostejov a nastavenie 2-.6. 2 18 16 14 12 1 8 6 4 2 y =.92x + 187.65 R 2 =.1618 y =.811x + 186.96 R 2 =.1564 11747 y =.9185x + 19.76 R 2 =.1711 2 4 6 8 1 12 14 16 18 2 setting 2 -.8, radius setting 2 -.8, radius.25 setting 2 -.6, radius.5 Lineárny (setting 2 -.8, radius ) Lineárny (setting 2 -.8, radius.25 ) Lineárny (setting 2 -.6, radius.5 ) Obr. č. 44.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Prostejov a nastavenie 2-.8. 38
1 9 8 7 6 5 4 3 2 1 y =.3385x + 38.69 R 2 =.396 11952 y =.5451x + 73.817 R 2 =.485 y =.6111x + 9.857 R 2 =.513 5 1 15 2 25 3 35 4 45 5 setting 1 -.4, radius setting 1 -.4, radius.25 setting 1 -.4, radius.5 Lineárny (setting 1 -.4, radius ) Lineárny (setting 1 -.4, radius.25 ) Lineárny (setting 1 -.4, radius.5 ) Obr. č. 45.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Gánovce a nastavenie 1-.4. 1 9 8 7 6 5 4 3 2 1 y =.258x + 25.768 R 2 =.363 11952 y =.4382x + 54.394 R 2 =.445 y =.4868x + 68.96 R 2 =.452 5 1 15 2 25 3 35 4 45 5 setting 1 -.6, radius setting 1 -.6, radius.25 setting 1 -.6, radius.5 Lineárny (setting 1 -.6, radius ) Lineárny (setting 1 -.6, radius.25 ) Lineárny (setting 1 -.6, radius.5 ) Obr. č. 46.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Gánovce a nastavenie 1-.6. 1 9 8 7 6 5 4 3 2 1 11952 y =.179x + 17.111 y =.3348x + 4.71 y =.3674x + 52.252 R 2 =.37 R 2 =.384 R 2 =.369 5 1 15 2 25 3 35 4 45 5 setting 1 -.8, radius setting 1 -.8, radius.25 setting 1 -.8, radius.5 Lineárny (setting 1 -.8, radius ) Lineárny (setting 1 -.8, radius.25 ) Lineárny (setting 1 -.8, radius.5 ) Obr. č. 47.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Gánovce a nastavenie 1-.8. 39
1 9 8 7 6 5 4 3 2 1 11952 y =.926x + 125.71 y = 1.78x + 174.9 R 2 =.633 R 2 =.721 y = 1.232x + 194.25 R 2 =.886 5 1 15 2 25 3 35 4 45 5 setting 2 -.4, radius setting 2 -.4, radius.25 setting 2 -.4, radius.5 Lineárny (setting 2 -.4, radius ) Lineárny (setting 2 -.4, radius.25 ) Lineárny (setting 2 -.4, radius.5 ) Obr. č. 48.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Gánovce a nastavenie 2-.4. 1 9 8 7 6 5 4 3 2 1 y =.7887x + 97.113 R 2 =.597 11952 y =.8993x + 14.67 R 2 =.656 y = 1.43x + 158.55 R 2 =.82 5 1 15 2 25 3 35 4 45 5 setting 2 -.6, radius setting 2 -.6, radius.25 setting 2 -.6, radius.5 Lineárny (setting 2 -.6, radius ) Lineárny (setting 2 -.6, radius.25 ) Lineárny (setting 2 -.6, radius.5 ) Obr. č. 49.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Gánovce a nastavenie 2-.6. 1 9 8 7 6 5 4 3 2 1 y =.6487x + 74.68 R 2 =.535 11952 y =.7428x + 111.44 R 2 =.589 y =.8179x + 127.1 R 2 =.75 5 1 15 2 25 3 35 4 45 5 setting 2 -.8, radius setting 2 -.8, radius.25 setting 2 -.8, radius.5 Lineárny (setting 2 -.8, radius ) Lineárny (setting 2 -.8, radius.25 ) Lineárny (setting 2 -.8, radius.5 ) Obr. č. 5.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Gánovce a nastavenie 2-.8. 4
2 18 16 14 12 1 8 6 4 2 y =.7943x + 198.29 R 2 =.1184 12843 y =.7467x + 189.25 R 2 =.1181 y =.7263x + 176.25 R 2 =.1325 1 2 3 4 5 6 7 8 9 1 setting 1 -.4, radius setting 1 -.4, radius.25 setting 1 -.4, radius.5 Lineárny (setting 1 -.4, radius ) Lineárny (setting 1 -.4, radius.25 ) Lineárny (setting 1 -.4, radius.5 ) Obr. č. 51.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Lorinz a nastavenie 1-.4. 2 18 16 14 12 1 8 6 4 2 y =.6321x + 165.29 R 2 =.96 12843 y =.5879x + 156.57 R 2 =.943 y =.5693x + 144.48 R 2 =.151 1 2 3 4 5 6 7 8 9 1 setting 1 -.6, radius setting 1 -.6, radius.25 setting 1 -.6, radius.5 Lineárny (setting 1 -.6, radius ) Lineárny (setting 1 -.6, radius.25 ) Lineárny (setting 1 -.6, radius.5 ) Obr. č. 52.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Lorinz a nastavenie 1-.6. 2 18 16 14 12 1 8 6 4 2 12843 y =.4725x + 14.15 y =.4343x + 131.29 R 2 =.76 R 2 =.679 y =.4215x + 119.79 R 2 =.761 1 2 3 4 5 6 7 8 9 1 setting 1 -.8, radius setting 1 -.8, radius.25 setting 1 -.8, radius.5 Lineárny (setting 1 -.8, radius ) Lineárny (setting 1 -.8, radius.25 ) Lineárny (setting 1 -.8, radius.5 ) Obr. č. 53.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Lorinz a nastavenie 1-.8. 41
2 18 16 14 12 1 8 6 4 2 y = 1.65x + 274.89 R 2 =.1648 12843 y =.9738x + 269.31 R 2 =.1678 y =.9687x + 256.69 R 2 =.1916 1 2 3 4 5 6 7 8 9 1 setting 2 -.4, radius setting 2 -.4, radius.25 setting 2 -.4, radius.5 Lineárny (setting 2 -.4, radius ) Lineárny (setting 2 -.4, radius.25 ) Lineárny (setting 2 -.4, radius.5 ) Obr. č. 54.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Lorinz a nastavenie 2-.4. 2 18 16 14 12 1 8 6 4 2 12843 y =.8382x + 231.48 y =.871x + 225.7 R 2 =.1399 R 2 =.1423 y =.86x + 213.33 R 2 =.1647 1 2 3 4 5 6 7 8 9 1 setting 2 -.6, radius setting 2 -.6, radius.25 setting 2 -.6, radius.5 Lineárny (setting 2 -.6, radius ) Lineárny (setting 2 -.6, radius.25 ) Lineárny (setting 2 -.6, radius.5 ) Obr. č. 55.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Lorinz a nastavenie 2-.6. 2 18 16 14 12 1 8 6 4 2 y =.676x + 193.13 R 2 =.1139 12843 y =.65x + 186.96 R 2 =.1162 y =.6516x + 174.99 R 2 =.1362 1 2 3 4 5 6 7 8 9 1 setting 2 -.8, radius setting 2 -.8, radius.25 setting 2 -.8, radius.5 Lineárny (setting 2 -.8, radius ) Lineárny (setting 2 -.8, radius.25 ) Lineárny (setting 2 -.8, radius.5 ) Obr. č. 56.: Závislosť modelového CAPE od CAPE zo správy TEMP pre Lorinz a nastavenie 2-.8. 42
Pri nočnej konvekcií je badať relatívne nízku mieru závislosti. Značným problémom modelového výpočtu sa javia prípady nulovej hodnoty CAPE zo správy TEMP kde naproti tomu model istú hodnotu dáva. Vo všeobecnosti, nastavenie kedy sa výpočet začína od najnižšej modelovej hladiny (nastavenie 1) je použiteľnejší. Miera štatistickej závislosti v porovnaní s dennými hodnotami je nižšia ale pomerne vyrovnaná pri všetkých kombináciách nastavení. Koeficienty korelácie ukazujú na mierny stupeň závislosti, tab. č. 5. Najvyšší koeficient je u nastavenia 1-.6. Je to prípad kedy sa výpočet začína na najnižšej modelovej hladine pri 6 % zachovaní zrážok v cykle. 1-.4 1135 11747 11952 12843 2-.4 1135 11747 11952 12843 r.461.512.199.344.379 r.495.369.252.46.38 r25.496.53.22.344.398 r25.511.382.269.41.393 r5.536.59.226.364.49 r5.519.362.298.438.44 avg.:.395 avg.:.392 1-.6 1135 11747 11952 12843 2-.6 1135 11747 11952 12843 r.494.545.191.31.385 r.492.384.244.374.374 r25.499.566.211.37.396 r25.515.396.256.377.386 r5.552.546.213.324.49 r5.529.376.283.46.399 avg.:.396 avg.:.386 1-.8 1135 11747 11952 12843 2-.8 1135 11747 11952 12843 r.498.583.175.266.381 r.491.42.231.337.366 r25.52.68.196.261.392 r25.52.414.243.341.379 r5.552.591.192.276.43 r5.54.395.266.369.393 avg.:.392 avg.:.379 Tab. č. 5.: Prehľad indexov korelácie pre jednotlivé nastavenia a priemerného indexu korelácie. Nízke koeficienty korelácie sú zapríčinené nenulovými hodnotami modelových výstupov v čase, keď hodnota CAPE z aerologického merania je nulová. V najlepšom prípade bolo v priemere len 54 % prípadov, kedy pri nulovom CAPE z TEMPu bol nulový aj modelový CAPE. Presnejšie modelový CAPE nepresahoval hodnotu 5 J/kg. Tu sa ukazuje ako najlepšie nastavenie 1-.8. Výpočet je teda z najnižšej modelovej hladiny pri 8 % zachovaní zrážok v cykle, detailnejšie v tab. č. 6. Stredná absolútna odchýlka vypočítaná podľa vzťahu (1) je v priemere nižšia ako pri denných hodnotách, tab. č. 7. Najmenšia je pri nastavení 1-.8. 43
r r25 r5 r r25 r5 r r25 r5 1-.4 1-.4 1-.4 1-.6 1-.6 1-.6 1-.8 1-.8 1-.8 1135.4.4.39.4.4.39.4.4.39 11747.59.57.53.6.59.57.66.64.63 11952.64.54.52.67.62.56.68.67.6 12843.38.37.37.41.39.38.41.39.38 avg.:.5.47.45.52.5.48.54.53.5 r r25 r5 r r25 r5 r r25 r5 2-.4 2-.4 2-.4 2-.6 2-.6 2-.6 2-.8 2-.8 2-.8 1135.33.35.34.35.36.35.38.38.38 11747.48.47.45.53.52.51.55.54.54 11952.48.43.43.52.45.43.56.47.43 12843.29.28.29.29.3.3.33.35.35 avg.:.4.38.38.42.41.4.46.44.42 Tab. č. 6.: Prehľad úspešnosti modelu predpovedať nulovú hodnotu. Mean absolute error 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 1135 r 159 136 12 219 185 159 r25 148 125 113 25 17 144 r5 128 11 14 196 164 136 11747 r 157 12 89.1 283 235 192 r25 161 123 92 289 239 195 r5 158 12 92.9 282 232 19 11952 r 56.9 42.6 36.5 143 113 89.4 r25 17 84.5 66.7 28 17 136 r5 92 71.5 56.1 188 154 123 12843 r 257 231 214 325 281 244 r25 241 217 2 313 267 229 r5 221 194 18 292 246 25 Tab. č. 7.: Prehľad absolútnej strednej hodnoty odchýlok. 44
3.2 Vyhodnotenie metódy spätného dohľadávania Spracovanie prebiehalo zvlášť pre každú oblasť. Vyhodnocovala sa vzdialenosť maxima zrážok z analýzy INCA a maxima CAPE zistených na základe metodiky popísanej v predchádzajúcej kapitole. Zo štatistického súboru boli vyradené hodnoty neistých polôh maxím zrážok a to v takom prípade ak boli od seba vzdialené viac ako 1 kilometrov. Ďalšou podmienkou pre zaradenie do súboru bolo, aby pri nulovej hodnote zrážok bol CAPE menší ako 5 J/kg. Táto podmienka prihliada na skutočnosť, že napriek pomerne vysokej hodnote dostupnej potenciálnej energii nedošlo v danej oblasti k tvorbe konvektívnych zrážok. Celkový počet porovnávaných termínov pre jednotlivú oblasť a nastavenie je 22. km 58 57 56 55 54 53 52 51 5 49 48 Priemerná vzdialenosť pre oblasť 1 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Priemerna vzdialenost km 58 57 56 55 54 53 52 51 5 49 48 Nastavenie km 58 57 56 55 54 53 52 51 5 49 48 Priemerná vzdialenosť pre oblasť 2 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Priemerna vzdialenost Nastavenie Obr. č. 57.: Priemerná vzdialenosť maxima zrážok od maxima CAPE pre oblasti 1 a 2. Priemerná vzdialenosť pre oblasť 3 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Priemerna vzdialenost Nastavenie km 58 57 56 55 54 53 52 51 5 49 48 Priemerná vzdialenosť pre oblasť 4 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Priemerna vzdialenost Nastavenie Obr. č. 58.: Priemerná vzdialenosť maxima zrážok od maxima CAPE pre oblasti 3 a 4. 45
km 58 57 56 55 54 53 52 51 5 49 48 Priemerná vzdialenosť pre oblasť 5 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Priemerna vzdialenost Nastavenie km 58 57 56 55 54 53 52 51 5 49 48 Priemerná vzdialenosť pre oblasť 6 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Priemerna vzdialenost Nastavenie Obr. č. 59.: Priemerná vzdialenosť maxima zrážok od maxima CAPE pre oblasti 5 a 6. Počet vyradených hodnôt na základe stanovených podmienok (vzdialenosť maxím zrážok viac ako 1 kilometrov a nulovej hodnoty zrážok a maximum CAPE viac ako 5 J/kg) je v rámci nastavení značne podobný, pričom prevažujú počty vyradených na základe prvej z podmienok. Oblasť 6 má najviac vyradených práve na základe druhej podmienky, zároveň má na základe prvej podmienky vyradených viac ako polovicu hodnôt. Najnižší počet vyradených na základe neurčitosti je v oblasti 3, tab. č. 8. Nastavenie Oblasť 1 Oblasť 2 Oblasť 3 Oblasť 4 Oblasť 5 Oblasť 6 1-.4 81/21 81/6 35/4 69/11 94/17 111/84 1-.6 81/21 81/6 36/4 7/11 94/18 113/81 1-.8 81/19 79/6 36/4 7/12 94/18 115/75 2-.4 81/21 82/7 35/4 69/11 93/17 112/84 2-.6 81/21 82/6 36/4 7/11 93/18 112/81 2-.8 81/21 8/6 36/4 7/12 93/18 113/76 Tab. č. 8.: Počet vyradených: v dôsledku neurčitosti polohy/počet nulového úhrnu zrážok a nenulového CAPE. Minimálna a maximálna hodnota vzdialenosti maxím CAPE a maxím z analýzy INCA je takmer identická bez ohľadu na nastavenie výpočtu hodnoty CAPE. Rozloženie polí je teda približne rovnaké. Ukazuje to však na to, že zrážky sa začínajú objavovať od 4,2 kilometra od maxima CAPE viac v tab. č. 9. Nastavenie Oblasť 1 Oblasť 2 Oblasť 3 Oblasť 4 Oblasť 5 Oblasť 6 1-.4 8.36 17.48 4.58 4.21 6.5 11.96 1-.6 8.36 17.48 8.24 4.21 6.5 11.96 1-.8 8.36 17.48 8.24 4.21 6.5 11.96 2-.4 8.36 17.48 4.58 4.21 6.5 11.96 2-.6 8.36 17.48 8.24 4.21 6.5 11.96 2-.8 8.36 17.48 8.24 4.21 6.5 11.96 Tab. č. 9.: Najmenšia vzdialenosť maxima zrážok a maxima CAPE v kilometroch. 46
Pri všetkých nastaveniach existuje minimálna hodnota CAPE pre zvolené intervaly hodinových zrážkových úhrnov. S prihliadnutím na nastavenie si teda môžeme dovoliť tvrdiť, či sa daný úhrn zrážok vyskytne alebo nie. Horná hranica hodnoty CAPE už takéto ohraničenie neposkytuje. Vyskytli sa prípady s vysokými hodnotami CAPE a malým úhrnom zrážok. Minimum CAPE pri danom úhrne závisí od pomeru zrážok zachovaných v cykle pri jeho výpočte, pri rovnakom pomere je hodnota minimálneho CAPE rovnaká aj keď je rôzna počiatočná integračná hladina, tab. č. 1. Nastavenie min. CAPE pri úhrne <2mm min. CAPE pri úhrne >2mm min. CAPE pri úhrne >3mm min. CAPE pri úhrne >4mm 1-.4 273 391 764 1-.6 196 35 662 1-.8 144 23 562 2-.4 273 391 764 2-.6 196 35 662 2-.8 144 23 562 Tab. č. 1.: Minimálna hodnota CAPE pri danom úhrne v J/kg. Priemerná vzdialenosť maxím v kilometroch pre celú doménu, po zohľadnení obidvoch podmienok sa pohybuje od 51,92 až po 52,38 kilometra. S prihliadnutím na vzdialenosť gridových bodov je to zanedbateľný rozdiel, obr. č. 6. 58 57 56 55 54 53 52 51 5 49 48 km Priemerná vzdialenosť pre celú doménu 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Priemerná vzdialenosť Nastavenie Obr. č. 6.: Priemerná vzdialenosť maxím pre celé doménu. Pre jednotlivé nastavenia sa ukazuje rozloženie vzdialenosti podobné. Najviac zrážok sa vyskytuje vo vzdialenosti nad 55 kilometrov, čiže na okraji prehľadávanej oblasti. Najkratšia vzdialenosť, ktoré sa prehľadáva od maxima INCA cca 56 kilometrov. Nie sú to teda vzdialenosti maxím, nakoľko maximum sa môže nachádzať ďalej ako je prehľadávaná oblasť. Viac ako jedna tretina maxím hodinových úhrnov sa vyskytuje vo 47
vzdialenosti 35 až 55 kilometrov od maxima CAPE. O niečo viac ako polovica všetkých maxím zrážok je do vzdialenosti 55 kilometrov, tab. č. 11. Vzdialenosť do 2 km Vzdialenosť od 2 do 35 km Vzdialenosť od 35 do 55 km Vzdialenosť nad 55 km Veľkosť súboru 1-.4 5 % 11 % 36 % 48 % 667 1-.6 5 % 11 % 36 % 48 % 664 1-.8 5 % 1 % 37 % 49 % 669 2-.4 5 % 11 % 36 % 48 % 666 2-.6 5 % 11 % 36 % 48 % 665 2-.8 5 % 1 % 37 % 48 % 67 Tab. č. 11.: Percentuálne rozloženie vzdialeností pre jednotlivé nastavenia pre celú doménu. Nastavenie 48
3.3 Vyhodnotenie metódy dohľadávania maxima Spracovanie prebehlo zvlášť pre každú oblasť, na rozdiel od predchádzajúcej metódy ale nebolo možné použiť hodnoty spolu pre celé Slovensko. Dôvodom bolo priradenie jednej hodnoty CAPE dvom maximám zrážok zo susedných oblastí. To predchádzajúca metóda vylučovala. Vypočítaná je preto priemerná vzdialenosť maxima CAPE a maxima INCA z priemerných hodnôt pre jednotlivé oblasti. Rozdiely medzi nastaveniami sú niekoľkonásobne menšie, ako je rozlíšenie modelu, obr. č. 61. 62 6 58 56 54 52 km Priemerná vzdialenosť pre jednotlivé nastavenia 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie Obr. č. 61.: Priemerná vzdialenosť pre jednotlivé nastavenia. Priemerné hodnoty pre jednotlivé oblasti a jednotlivé nastavenia sú vyobrazené v obr. č. 62. Priemerná hodnota pre jedno nastavenie bola 5,37 km pre nastavenie 1-.4, 5,35 km pre nastavenie 1-.6, 5,2 km pre nastavenie 1-.8, 49,92 kilometra pre nastavenie 2-.4, 49,76 km pre 2-.6 a 49,86 km pre 2-.8. Rozdiely sú veľmi malé a na základe týchto hodnôt nie je možné preferovať nejaké nastavenie. km 63 62 61 6 59 58 57 56 55 54 53 Priemerná vzdialenosť pre jednotlivé nastavenia a oblasti 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie Oblasť 1 Oblasť 2 Oblasť 3 Oblasť 4 Oblasť 5 Oblasť 6 Obr. č. 62.: Priemerná vzdialenosť v kilometroch pre jednotlivé nastavenie a jednotlivé oblasti. 49
Pri prihliadaní na množstvo zrážok za hodinu mali oblasti 1, 2 a 6 najmenšie priemerné vzdialenosti maxím pri úhrnoch nad 4 milimetrov, v oblasti 6 bol tento úhrn len v jednom prípade. V oblasti 3 sa zrážky nad 4 milimetrov nevyskytli. Pre oblasť 6 sa zrážky od 3 do 4 milimetrov nevyskytli. J/kg 7 6 5 4 3 2 1 Oblasť 1 km 7 6 5 4 priemerná vzdialenosť avg. cape max cape zrážky do 2 mm min cape priemerná vzdialenosť avg. cape zrážky nad 2 mm max cape min cape priemerná vzdialenosť avg. cape zrážky nad 3 mm max cape min cape priemerná vzdialenosť avg. cape zrážky nad 4 mm max cape min cape 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie Obr. č. 63.: Priemerná vzdialenosť, priemerný CAPE, maximálny CAPE, minimálny CAPE pre hodinové úhrny do 2 mm, nad 2 mm, nad 3 mm, nad 4 mm v oblasti 1. J/kg 7 6 5 4 3 2 1 Oblasť 2 km 7 6 5 4 priemerná vzdialenosť avg. cape max cape zrážky do 2 mm min cape priemerná vzdialenosť avg. cape zrážky nad 2 mm max cape min cape priemerná vzdialenosť avg. cape zrážky nad 3 mm max cape min cape priemerná vzdialenosť avg. cape zrážky nad 4 mm max cape min cape 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie Obr. č. 64.: Priemerná vzdialenosť, priemerný CAPE, maximálny CAPE, minimálny CAPE pre hodinové úhrny do 2 mm, nad 2 mm, nad 3 mm, nad 4 mm v oblasti 2. 5
J/kg 7 6 5 4 3 2 1 Oblasť 3 km 7 6 5 4 priemerná vzdialenosť avg. cape max cape zrážky do 2 mm min cape priemerná vzdialenosť avg. cape zrážky nad 2 mm max cape min cape priemerná vzdialenosť avg. cape zrážky nad 3 mm max cape min cape priemerná vzdialenosť avg. cape zrážky nad 4 mm max cape min cape 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie Obr. č. 65.: Priemerná vzdialenosť, priemerný CAPE, maximálny CAPE, minimálny CAPE pre hodinové úhrny do 2 mm, nad 2 mm, nad 3 mm, nad 4 mm v oblasti 3. J/kg 7 6 5 4 3 2 1 Oblasť 4 km 7 6 5 4 priemerná vzdialenosť avg. cape max cape zrážky do 2 mm min cape priemerná vzdialenosť avg. cape zrážky nad 2 mm max cape min cape priemerná vzdialenosť avg. cape zrážky nad 3 mm max cape min cape priemerná vzdialenosť avg. cape zrážky nad 4 mm max cape min cape 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie Obr. č. 66.: Priemerná vzdialenosť, priemerný CAPE, maximálny CAPE, minimálny CAPE pre hodinové úhrny do 2 mm, nad 2 mm, nad 3 mm, nad 4 mm v oblasti 4. 51
J/kg 7 6 5 4 3 2 1 Oblasť 5 km 7 6 5 4 priemerná vzdialenosť avg. cape max cape zrážky do 2 mm min cape priemerná vzdialenosť avg. cape zrážky nad 2 mm max cape min cape priemerná vzdialenosť avg. cape zrážky nad 3 mm max cape min cape priemerná vzdialenosť avg. cape zrážky nad 4 mm max cape min cape 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie Obr. č. 67.: Priemerná vzdialenosť, priemerný CAPE, maximálny CAPE, minimálny CAPE pre hodinové úhrny do 2 mm, nad 2 mm, nad 3 mm, nad 4 mm v oblasti 5. J/kg 7 6 5 4 3 2 1 Oblasť 6 km 7 6 5 4 priemerná vzdialenosť avg. cape max cape zrážky do 2 mm min cape priemerná vzdialenosť avg. cape zrážky nad 2 mm max cape min cape priemerná vzdialenosť avg. cape zrážky nad 3 mm max cape min cape priemerná vzdialenosť avg. cape zrážky nad 4 mm max cape min cape 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie Obr. č. 68.: Priemerná vzdialenosť, priemerný CAPE, maximálny CAPE, minimálny CAPE pre hodinové úhrny do 2 mm, nad 2 mm, nad 3 mm, nad 4 mm v oblasti 6. V prílohe B sú uvedené jednotlivé početnosti pre výskyt zrážok do 2 km, od 2 do 4 km, od 4 do 6 km, od 6 do 8 km a 8 a viac kilometrov pre jednotlivé nastavenia a oblasti. 74 až 76 % všetkých prípadov vzdialenosti maxima CAPE od maxima INCA sa objaví do vzdialenosti 8 kilometrov, v závislosti od nastavenia. V oblasti 6 je to až 82 %. V oblasti 1, 4, 5 a 6 je viac ako 3 % hodnôt vo vzdialenosti 6 až 8 kilometrov. Oblasť 3 má najviac hodnôt (okolo 3 %) vo vzdialenosti 4 až 6 kilometrov. Pri oblasti 2 je 6 % vo vzdialenosti 4 až 8 kilometrov. 52
3.4 Vyhodnotenie kombinovanej metódy Pri kombinovanej metóde som výsledky spracoval v rámci celého Slovenska. Umožnila mi to práve kombinácia predchádzajúcich dvoch metód. Vďaka prvej metóde boli vyradené hodnoty vzdialeností od dvoch maxím zrážok, ktoré boli spočítané od jednej maximálnej hodnoty CAPE. Kombináciou metód však vznikol problém pri spätnom dohľadávaní. Prehľadáva sa veľké okolie maxima CAPE a často dochádza k prekračovaniu domény. Zvýšila sa tak hodnota neurčitosti. Podmienka pre vyradenie bola, ak sa súradnice prvého maxima z INCA, nerovnali súradniciam z druhého hľadania maxima zrážok. Táto metóda mala značný odpad. Do spracovania sa dostalo od 229 do 235 (v závislosti od nastavenia) z pôvodných 1212 hodnotených prípadov. Dôvodom je veľká oblasť pri spätnom dohľadávaní. Priemerná vzdialenosť pre celú doménu je uvedená v tab. č. 12. Nastavenie Priemerná vzdialenosť v kilometroch Veľkosť súboru 1-.4 54.2 23 1-.6 53.99 23 1-.8 54.33 229 2-.4 54.32 232 2-.6 53.68 235 2-.8 54. 235 Tab. č. 12.: Priemerná vzdialenosť v kilometroch, maxima hodinového úhrnu od maxima CAPE pre celú doménu. Percentuálne rozloženie vzdialeností od maxima CAPE po maximum INCA ukazuje, že približne 56 % (v závislosti od nastavenia výpočtu CAPE) sa pohybuje medzi 4-tym až 8-tym kilometrom. O niečo viac ako 16 % prípadov leží na okraji prehľadávanej oblasti, viď. tab. č. 13. Skutočné maximum CAPE leží za okrajom prehľadávanej oblasti. Najkratšia vzdialenosť od maxima INCA na okraj prehľadávanej oblasti je 82 kilometrov. Od 2 do Nastavenie Do 2 km 4 km Od 4 km do 6 km Od 6 km do 8 km 8 km a viac 1-.4 9% 2% 29% 27% 16% 1-.6 9% 2% 28% 27% 16% 1-.8 9% 19% 28% 27% 17% 2-.4 9% 19% 28% 27% 17% 2-.6 9% 21% 28% 27% 16% 2-.8 9% 2% 29% 27% 16% Tab. č. 13.: Percentuálne rozloženie vzdialeností pre jednotlivé nastavenia pre celú doménu. 53
Hodnota minimálneho CAPE v tejto metóde s prihliadnutím na úhrn rastie, okrem nastavenia, pri ktorom sa zachováva 4 % zrážok. Napríklad hodinový úhrn nad 4 milimetrov sa nevyskytol pri CAPE menšom ako cca 73 J/kg, pri žiadnom z nastavení v rámci celej domény. Najväčšia priemerná vzdialenosť sa vyskytovala pri úhrne od 2 do 3 milimetrov, pri všetkých nastaveniach výpočtu CAPE, najmenšia bola pri úhrne nad 4 milimetrov, obr. č. 69. J/kg 6 5 4 3 2 1 Oblasť celého Slovenska km 6 5 priemerná vzdialenosť avg. cape zrážky do 2 mm max cape min cape priemerná vzdialenosť avg. cape zrážky nad 2 mm max cape min cape priemerná vzdialenosť avg. cape max cape min cape priemerná vzdialenosť avg. cape max cape min cape zrážky nad 3 mm zrážky nad 4 mm 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie Obr. č. 69.: Priemerná vzdialenosť, priemerný CAPE, maximálny CAPE, minimálny CAPE pre hodinové úhrny do 2 mm, nad 2 mm, nad 3 mm, nad 4 mm pre oblasť celej domény. Priemerná vzdialenosť pre jednotlivé oblasti sa pohybuje od 46 kilometrov pre oblasť 6, až po 59 kilometrov pre oblasť 3. V jednotlivých oblastiach sa mení priemerná vzdialenosť v závislosti od metódy výpočtu CAPE. V oblasti 6 je priemerná hodnota vzdialenosti rovnaká pre všetky nastavenia CAPE, obr. č. 7. 54
7 km Priemerná vzdialenosť pre jednotlivé oblasti a nastavenia 6 5 4 3 2 1 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 1 2 3 4 5 6 Oblasť Obr. č. 7.: Priemerná vzdialenosť v kilometroch pre jednotlivé nastavenie a jednotlivé oblasti. Percentuálne rozloženie podľa vzdialenosti pre jednotlivé oblasti a nastavenia sú rozdielne v závislosti od oblasti. V oblasti 1 je najväčší počet vzdialeností maxím medzi 2-tym až 4-tym kilometrom. Pre oblasť 2 je početnosť najväčšia pre vzdialenosť 4 až 6 kilometrov. Do tohto intervalu spadá približne 38 % hodnôt. Oblasť 4 má najväčšie početnosti v závislosti od nastavenia medzi 2 až 6 kilometrom. U oblasti 5 je najdominantnejšia početnosť pre vzdialenosť 6 až 8 kilometrov. Do tejto oblasti spadá 45 % až 48 % všetkých hodnôt (v závislosti od nastavenia). V poslednej oblasti, číslo 6, je najviac prípadov vo vzdialenosti 4 až 6 kilometrov. S prihliadnutím na veľkosť súboru pre jednotlivé oblasti, tab. č. 14, treba jeho veľkosť brať do úvahy. Pri niektorých oblastiach je rozdiel jedného prípadu aj 6 %. Tento problém vznikol použitou metódou a pre túto metódu by bolo vhodnejšie použiť väčší rozsah vyhodnocovaných dátumov. 5% 45% 4% 35% 3% 25% 2% 15% 1% 5% % Oblasť 1 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie do 2 km 2-4 km 4-6 km 6-8 km 8 km a viac Obr. č. 71.: Percentuálne rozloženie vzdialeností pre jednotlivé nastavenia a oblasti 1. 55
5% 45% 4% 35% 3% 25% 2% 15% 1% 5% % Oblasť 2 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie do 2 km 2-4 km 4-6 km 6-8 km 8 km a viac Obr. č. 72.: Percentuálne rozloženie vzdialeností pre jednotlivé nastavenia a oblasti 2. 5% 45% 4% 35% 3% 25% 2% 15% 1% 5% % Oblasť 3 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie do 2 km 2-4 km 4-6 km 6-8 km 8 km a viac Obr. č. 73.: Percentuálne rozloženie vzdialeností pre jednotlivé nastavenia a oblasti 3. 5% 45% 4% 35% 3% 25% 2% 15% 1% 5% % Oblasť 4 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie do 2 km 2-4 km 4-6 km 6-8 km 8 km a viac Obr. č. 74.: Percentuálne rozloženie vzdialeností pre jednotlivé nastavenia a oblasti 4. 5% 4% 3% 2% 1% % Oblasť 5 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie do 2 km 2-4 km 4-6 km 6-8 km 8 km a viac Obr. č. 75.: Percentuálne rozloženie vzdialeností pre jednotlivé nastavenia a oblasti 5. 56
5% 45% 4% 35% 3% 25% 2% 15% 1% 5% % Oblasť 6 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie do 2 km 2-4 km 4-6 km 6-8 km 8 km a viac Obr. č. 76.: Percentuálne rozloženie vzdialeností pre jednotlivé nastavenia a oblasti 6. Nastavenie Oblasť 1 Oblasť 2 Oblasť 3 Oblasť 4 Oblasť 5 Oblasť 6 1-.4 48 5 4 71 27 17 1-.6 48 5 39 71 28 17 1-.8 48 5 36 69 31 17 2-.4 48 51 4 71 27 17 2-.6 48 51 39 74 28 17 2-.8 48 51 36 71 31 17 Tab. č. 14.: Rozsah súboru pre kombinovanú metódu. 57
3.5 Vyhodnotenie metódy unášanej častice Vzdialenosť medzi maximom CAPE a maximom hodinového úhrnu zrážok bola počítaná na základe vyššie spomenutej metodiky. Vyradené boli údaje s nulovým úhrnom zrážok. Priemerná vzdialenosť pre jednotlivé nastavenia pre celé Slovensko sa ukázala byť veľmi podobná. Rozdiel medzi najväčšou a najmenšou hodnotou priemernej vzdialenosti maxima CAPE a maxima INCA, pre rôzne nastavenia CAPE, bol približne 6 metrov, čo je vzhľadom na gridovú sieť zanedbateľné. Priemerná vzdialenosť sa tak pohybovala na úrovni 79 kilometrov, obr. č. 77. km Celé Slovensko 8 79 78 77 76 75 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie Obr. č. 77.: Priemerná vzdialenosť maxima INCA od maxima CAPE pre celú doménu. Priemerná vzdialenosť vzhľadom na smer prúdenia počítaného podľa vzťahu (1), sa pre daný smer vetra medzi jednotlivými nastaveniami výpočtu CAPE markantne nelíšila. Výnimku tvorí len nastavenie 1-.4, kde pri juhozápadných smeroch vetra je priemerná vzdialenosť približne o 1 kilometrov menšia ako pri ostatných nastaveniach. Najväčšia priemerná vzdialenosť sa ukázala byť práve pri prúdení severozápadného smeru, kde sa priemerná vzdialenosť medzi maximami pohybovala na úrovni 8 kilometrov, nepatrne variovala v závislosti od nastavenia, obr. č. 78. Percentuálne najviac prevládalo JZ prúdenie, ktoré tvorilo približne 47 % prípadov smeru prúdenia, SZ prúdenie tvorilo 36 % prípadov, SV prúdenie 13 % a JV prúdenie 4 %. 58
Vzdialenosť vzhľadom na smer km 1 8 6 4 2 1-.4 1-.6 1-.8 2-.4 2-.6 2-.8 Nastavenie JZ prúdenie SZ prúdenie SV prúdenie JV prúdenie Obr. č. 78.: Vzdialenosť maxima INCA od maxima CAPE v závislosti od smeru prúdenia. V oblasti 4 je priemerná vzdialenosť jednotlivých maxím s prihliadnutím na smer prúdenia najmenšia. V priemere sa objavujú zrážky vo vzdialenosti 63 kilometrov, bližšie pri JZ prúdení, cca 37 kilometrov, najďalej pri SV prúdení 91 kilometrov. Najďalej je to v oblasti 5, kde sú maximá priemerne vzdialené 78 kilometrov. Pri SZ prúdení je to v tejto oblasti najďalej, okolo 92 km, najbližšie pri JV 65 kilometrov. Najväčšia priemerná vzdialenosť sa vyskytla v oblasti 6, kde pri SZ prúdení to je až 15 kilometrov, obr. č. 79. Priemerná vzdialenosť vzhľadom na smer a oblasť km 1 8 6 4 2 1 2 3 4 5 6 Oblasť JZ prúdenie SZ prúdenie SV prúdenie JV prúdenie Obr. č. 79.: Priemerná vzdialenosť maxima INCA od maxima CAPE vzhľadom na prevládajúci smer vetra a oblasť. Pri prihliadaní na úhrny sú opäť rozdiely medzi nastaveniami zanedbateľné. Spracované sú teda ich priemery vzhľadom na jednotlivé oblasti a smery prúdenia. Hodinové úhrny boli rozdelené do štyroch skupín. Úhrn do 2 mm, od 2 do 3 mm, od 3 do 4 mm a nad 4 mm (v grafoch označované ako <2, >2, >3, >4), obr. č. 8. V niektorých oblastiach sa pre daný smer prúdenia úhrn nevyskytol. 59
14 12 1 8 6 4 2 14 12 1 8 6 4 2 km km JV prúdenie 1 2 3 4 5 6 Oblasť SV prúdenie 1 2 3 4 5 6 Oblasť <2 >2 >3 >4 <2 >2 >3 >4 14 12 1 8 6 4 2 14 12 1 8 6 4 2 km JZ prúdenie <2 1 2 3 4 5 6 Oblasť SZ prúdenie 1 2 3 4 5 6 Oblasť Obr. č. 8.: Priemerné vzdialenosti maxima INCA a maxima CAPE vzhľadom na oblasť, veľkosť úhrnu zrážok a smer prúdenia. V prílohe C je zobrazená tabuľka s minimálnymi a priemernými hodnotami CAPE pre daný smer prúdenia, oblasť a úhrn zrážok za hodinu v závislosti od nastavenia. Podobne ako pri predchádzajúcej metóde, minimálna hodnota CAPE rastie s hodinovým úhrnom zrážok. km V závislosti od oblasti sa mení počet prípadov s maximom úhrnu zrážok v danej vzdialenosti. Priemerne najviac sa zrážky objavujú medzi 1 až 12-tym kilometrom, v tejto vzdialenosti sa nachádza aj minimálna vzdialenosť od maxima CAPE na okraj prehľadávanej oblasti. V oblasti 4 je 26 % zrážok od 2 do 4 km. V oblasti 1 sa do 4 kilometrov objaví 32 % prípadov a 49 % do 6 kilometrov. V celkovom priemere sa 65 % zrážok vyskytne do vzdialenosti 1 kilometrov, 46 % do 8 kilometrov a 34 % do 6 kilometrov do maxima CAPE. Podrobnejšie uvedené v tab. č. 15. >2 >3 >4 <2 >2 >3 >4 6
pomer.3.28.26.24.22.2.18.16.14.12.1.8.6.4.2. Celé Slovensko 1 2 3 4 5 6 priemer Oblasť do 2 2-4 4-6 6-8 8-1 1-12 12 - Obr. č. 81.: Pomerné rozloženie početnosti pre jednotlivé vzdialenosti a pre jednotlivé oblasti. do 4 km do 6 km do 8 km do 1 km Veľkosť súboru Oblasť 1 32% 49% 57% 7% 119 Oblasť 2 19% 32% 5% 67% 161 Oblasť 3 12% 28% 42% 68% 129 Oblasť 4 26% 42% 52% 69% 89 Oblasť 5 17% 29% 4% 58% 126 Oblasť 6 12% 23% 36% 54% 97 Priemer 2% 34% 46% 65% Tab. č. 15.: Percento výskytu zrážkových maxím do danej vzdialenosti pre danú oblasť. 61
4. Záver V súčasnosti pri predpovedaní výskytu konvektívnych zrážok spojených s búrkovou činnosťou sa nahliada na index CAPE povrchne. Z modelových polí sa snaží meteorológ dospieť k záveru, či má atmosféra potenciál na vznik búrky alebo nie. Pri takejto predpovedi na daný deň, však ale používa viacero prvkov a modelov a nie vždy je schopný správne interpretovať všetky zdroje informácií. Cieľom tejto práce bolo nájsť optimálne nastavenie výpočtu hodnoty CAPE a zlepšiť tak prognózu konvektívnych zrážok. Vyhodnocovala sa hodnota modelová hodnota CAPE voči hodnote CAPE vypočítanej z aerologických meraní, a rozloženie modelového poľa CAPE voči analýze zrážok INCA. Na základe porovnaní hodnôt modelového CAPE s hodnotami z aerologických meraní vyplýva, že modelové hodnoty sú o niečo nižšie, ako skutočné počas denných hodín, ale korelácia je napriek tomu vysoká, priemerne je hodnota korelačného koeficientu,73. Najlepšie nastavenie výpočtu hodnoty CAPE sa na základe tohto ukazuje nastavenie 2-.4. Je to nastavenie, kedy výpočet CAPE začína z najnestabilnejšej hladiny a v cykle sa zachováva 4 % zrážok. Hodnota CAPE v nočných hodinách má veľmi zlú koreláciu voči hodnotám zo správy TEMP, korelačný koeficient je v priemere,39. Dôvodom zrejme nebude fakt, že bola braná predpoveď CAPE na 24 hodín, ale skutočnosť, že sa vyskytlo veľké množstvo prípadov, kedy bol CAPE z aerologického výstupu nulový a CAPE z modelu mal značne vysokú hodnotu. Nakoľko samotná hodnota CAPE hovorí len o dostupnej energií pre konvekciu v atmosfére, jednoznačná súvislosť so vzdialenosťou zrážok alebo úhrnom sa nepotvrdila. Korelačné koeficienty pri závislostiach sa pohybovali na úrovni,2 a menej, preto v tejto práci nie sú ani uverejnené. Dôvod takto nízkych koeficientov je, že na samotnú tvorbu konvektívnych zrážok vplýva viacero prvkov. Dôležitá nie je len samotná hodnota CAPE ale aj jeho tvar na termodynamickom diagrame. Jedným z dôležitých faktorov je aj vlhkosť v spodných a stredných hladinách, pri jej nízkych hodnotách sa vyššie úhrny zrážok nedajú očakávať. Vplyv orografie tiež nie je zanedbateľný, najmä v oblasti Slovenska, ktoré je orograficky pomerne zložité. Vylúčiť nie je možné ani prítomnosť hodnôt CIN, ktoré zabránili vzniku konvekcie produkujúcej búrky. Aj napriek chýbajúcej závislosti nám však môže pole CAPE poskytnúť informácie o možných výskytoch zrážok a aj rozdielnych prejavoch v závislosti od oblasti, kde sa 62
nachádza. Porovnávať nastavenia výpočtu CAPE pre plošné rozloženie zrážok nemá zmysel. Nie je spôsob ako potvrdiť správnosť nastavenia. Treba sa však zamerať na prejavy jednotlivých nastavení. Medzi jednotlivými nastaveniami, až na niektoré prípady, nie je taký veľký rozdiel. Značná je však priestorová variabilita vzhľadom na oblasť, ktorú sledujeme. Je preto nutné brať do úvahy, kde sa hodnota CAPE nachádza, aby bolo možné predpovedať výskyt konvektívnych zrážok. Potvrdzuje sa teda dôležitosť orografie a jej vplyve na predpoveď. Na základe výsledkov zo všetkých štyroch metód môžeme usúdiť, že v oblasti 1, sa zrážky v priemere vyskytujú od približne 5 do 65 kilometrov od maxima CAPE, pričom priemerná najkratšia vzdialenosť je pri SZ smere prúdenia a najdlhšia pri JV smere prúdenia. Pri hodnote CAPE pod 6 J/kg sa nevyskytujú úhrny nad 2 milimetrov a pri CAPE pod 8 J/kg úhrny pod 3 milimetrov za hodinu. Do 8 kilometrov sa vyskytuje približne 5 % až 7 % zrážok. V oblasti 2 sa v priemere zrážky vyskytujú od 5 do 7 kilometrov, pričom najkratšia priemerná vzdialenosť je pri SV smere, najdlhšia pri JV smere prúdenia. Do vzdialenosti 8 kilometrov sa vyskytne približne 5 % až 75 % zrážok. Priemerná hodnota CAPE rastie s úhrnom od približne 15 J/kg pri úhrne do 2 milimetrov až do hodnoty okolo 25 J/kg pri úhrnoch nad 4 mm za hodinu. Hodnota maximálneho CAPE pri danom intervale hodinového úhrnu klesala s rastúcim intervalom od 46 do 31 J/kg. Pri hodinovom úhrne nad 4 milimetrov bola hodnota minimálneho CAPE viac ako 1 až 15 J/kg, v závislosti od nastavenia a metódy. Oblasť 3 má priemerne zrážky vo vzdialenosti od 51 do 75 kilometrov, najkratšie vzdialenosti pri SV smere prúdenia, najdlhšie pri JZ smere prúdenia. Do vzdialenosti 2 kilometrov sa objavuje približne do 2 % zrážok, vo vzdialenosti nad 8 kilometrov viac ako 26 % až 4 %. V oblasti 4 sú priemerne zrážky vo vzdialenosti okolo 6 kilometrov, najkratšie vzdialenosti sú pri JZ smere prúdenia, najdlhšie pri SV smere prúdenia. Do 8 kilometrov sa vyskytne približne 77 % zrážok. V oblasti 5 sa zrážky vyskytujú v priemere vo vzdialenosti okolo 75 kilometrov od maxima CAPE, bližšie sú pri JV smere, ďalej pri SZ smere prúdenia. Hodnota minimálneho CAPE rastie so zvyšujúcim sa intervalom hodinových úhrnov. Pri CAPE približne od 2 do 4 J/kg je úhrn od 2 do 3 milimetrov, v intervale od 4 do 6 J/kg je úhrn zrážok od 3 do 4 milimetrov. Hodinový úhrn zrážok nad 4 milimetrov bol pri hodnotách CAPE od 8 do 12 J/kg. 63
Oblasť 6 mala pri väčšine metód vyšetrovaný najmenší počet vyhovujúcich prípadov. Priemerná vzdialenosť modelového maxima CAPE a analýzy zrážok INCA v tejto oblasti je od 45 do 75 kilometrov, kratšia bola priemerná vzdialenosť pri JV smere prúdenia, dlhšia pri SZ smere prúdenia. Pri hodnotení výsledkov je nutné prihliadať aj na použitú metodiku a slabé stránky každej metódy. Nie vždy musí konkrétna metóda trafiť tzv. bull's-eye. Veľké problémy majú v práci používané metódy pri výskyte viacerých aktívnych búrkových jadier v nie veľkej vzdialenosti od seba. Subjektívna analýza by bola možno presnejšia. Problém by však mohol tvoriť ľudský faktor. Zároveň by ale bolo značne časovo náročnejšie spracovávanie takého množstva termínov. Taktiež treba s rezervou pozerať na úhrny zrážok z analýzy INCA. Analýza dáva dostatočne presné priestorové lokalizácie maxím, no pri analýze úhrnov už môže dochádzať k značným odchýlkam. Analýza zrážok INCA je ešte stále vo vývoji. K iným prejavom hodnôt CAPE patria zmeny vetra v dôsledku downburstov. Stúpajúca častica nemôže stúpať do nekonečna, ale časom začne padať k zemi. Zaujímavejšie by bolo hodnotenie poľa CAPE pomocou vetra. Po technickej stránke ale je nutné mať dobré merania z Dopplerovského radaru. Pri súčasnej hustote siete radarov na Slovensku to však možné nie je. 64
Literatúra [1] Sobíšek, B.: Meteorologický slovník, výkladový a terminologický, Academia, Praha, 1993 [2] UCAR, The University Corporation for Atmospheric Research, program COMET - Cooperative Program for Operational Meteorology, Education and Training [3] Sulan J., Pěšice P., Staša P.: Výpočet konvekční dostupné potencialní energie CAPE a možnosti jeho vyuzití v provozu ČHMU, Meteorologické zprávy, roč. 57 (24), č. 3, s. 61 68. [4] Huntrieser, H., Schiesser, H. H., Schmid, W., Waldvogel, A.: Comparison of Traditional and Newly Developed Thunderstorm Indices for Switzerland. Weather Forecasting, vol. 12, s. 18-123, 1997. [5] Buck, A.L.: New Equations for Computing Vapor Pressure and Enhancement Factor. J. Appl. Meteor., 2, 1527 1532, 1981. [6] Benko, M.: Znos rádiosondy a jeho vplyv na asimiláciu dát v predpovedných modeloch, dizertačná práca, 24. [7] Neštiak, M.: INCA (Integrated Nowcasting through Comprehensive Analysis), 1. konferencia mladých meteorológov a klimatológov, Bratislava, 27. [8] Bluestein B. H.: Synoptic-dynamic meteorology in midlatitudes, volume II, Oxford University Press, Inc., New York, 1993. 65
Príloha A Rozloženie poľa CAPE, pole analýzy zrážok INCA a radarové snímky. 66
Pole CAPE vypočítané modelom ALADIN z 9.7.27, predpoveď na 7 hodín. 67
Hodinová analýza zrážok INCA z 9.7.27, úhrn o 8 UTC, snímok z radaru na Malom Javorníku z 9.7.27 o 7:3, produkt base. 68
Pole CAPE vypočítané modelom ALADIN z 11.8.27, predpoveď na 18 hodín. Hodinová analýza zrážok INCA z 11.8.27, úhrn o 19 UTC, snímok z radaru na Malom Javorníku z 11.8.27 o 18:3, produkt base. 69