Stretnutie s Hailo: uchádzame sa o vzdelávacie centrum pre edge AI — a chceme sa podieľať aj na vývoji

Osobne v Trenčíne sme rokovali s obchodným vedením spoločnosti Hailo o vybudovaní vzdelávacieho a aplikačného centra pre edge computing. Naším zámerom nie je len učiť, ako sa s procesormi Hailo pracuje, ale podieľať sa aj na vývoji — na referenčných návrhoch, portovaní modelov, metodike validácie kvantizácie a na bezpečnostnej vrstve, ktorú priemyselné nasadenie v Európe potrebuje.

Abstrakt

Inštitút pokročilých štúdií rokoval so spoločnosťou Hailo, izraelským výrobcom procesorov pre edge computing — inferenciu neurónových sietí priamo v zariadení (edge AI), o vybudovaní vzdelávacieho a aplikačného centra zameraného na návrh a stavbu systémov postavených na tejto platforme. Popri vzdelávaní deklarujeme záujem podieľať sa na vývoji — na referenčných hardvérových návrhoch pre priemyselné prostredie, na portovaní a optimalizácii modelov, na metodike overovania kvantizačnej straty a na bezpečnostnej a auditnej vrstve, bez ktorej sa dnes v Európe nedá nasadiť nič, čo spadá pod NIS2 alebo Akt o umelej inteligencii. Tento článok podrobne opisuje architektúru a portfólio Hailo, dôsledky, ktoré z tejto architektúry vyplývajú pre návrh systému a ktoré sme si overili vo vlastných projektoch, a kompetencie, o ktoré sa uchádzanie opiera — od nanometrových vrstiev na Fyzikálnom ústave SAV cez návrh a modelovanie mikroprocesorov a FPGA až po prevádzkované AI systémy s knižnicou vyše 462 modelov.

Kľúčové slová: edge AI · inferenčný akcelerátor · dataflow architektúra · kvantizácia INT8 · FPGA · vzdelávacie centrum · NIS2 · dátová suverenita

1. O čom bolo stretnutie

Rokovanie prebehlo osobne v Trenčíne so zástupcami obchodného vedenia spoločnosti Hailo. Ďakujeme im, že kvôli tomuto stretnutiu absolvovali takú dlhú cestu — osobná návšteva na mieste hovorí o vážnom záujme viac než akákoľvek prezentácia. Predmetom boli dva prepojené zámery.

Prvý — vzdelávacie centrum. Na Slovensku a v širšom stredoeurópskom priestore existuje výrazná medzera medzi tým, čo firmy o umelej inteligencii počujú, a tým, čo dokážu postaviť a udržať v prevádzke. Absolvent technickej univerzity vie natrénovať model v PyTorchi na notebooku. Podstatne menej ľudí vie ten istý model skompilovať na inferenčný akcelerátor, odmerať, o koľko sa po kvantizácii zhoršil, a navrhnúť skriňu, ktorá to odchodí päť rokov v hale s aerosólmi a teplotnými cyklami. Práve táto — inžinierska, nie výskumná — časť reťazca chýba.

Druhý — účasť na vývoji. Nechceme byť len prevádzkovateľom školiacej miestnosti. Máme záujem podieľať sa na vývoji: na referenčných návrhoch pre priemyselné nasadenie, na portovaní a optimalizácii modelov pre konkrétne vertikály, na nezávislej metodike merania kvantizačnej straty a na bezpečnostnej vrstve pre európsky regulačný rámec. Naše doterajšie projekty s touto platformou nevznikli ako demonštrácia, ale ako odpoveď na zadanie zákazníka — a práve tam sa ukázalo, kde sú v ekosystéme biele miesta.

Berieme to ako výzvu — technickú aj organizačnú. Postaviť centrum, ktoré naučí ľudí stavať funkčné systémy, a zároveň sa podieľať na vývoji platformy, na ktorej ich staviame, je presne ten typ úlohy, pre ktorý inštitút vznikol.

2. Hailo — kto to je a čo robí inak

2.1 Spoločnosť

Hailo je izraelská fabless polovodičová spoločnosť založená v roku 2017 (Orr Danon, Avi Baum, Hadar Zeitlin). Nevyrába univerzálne grafické akcelerátory ani serverové tréningové čipy — sústredí sa na edge computing: na zariadenia, kde model beží tam, kde vznikajú dáta, s rozpočtom v jednotkách wattov a bez pripojenia do cloudu. Podľa verejne dostupných údajov spoločnosť po sérii C (2024) pracuje s celkovým financovaním rádovo v stovkách miliónov dolárov a jej architektúra je nasadená v stovkách zákazníckych programov v automobilovom priemysle, bezpečnostných systémoch, Smart City, priemysle 4.0 a maloobchode.

2.2 Prečo dataflow, a nie ďalšia GPU

Kľúčová je architektúra, ktorú Hailo označuje ako structure-defined dataflow. Rozdiel oproti klasickému výpočtovému modelu je principiálny a stojí za to ho vysvetliť presne, pretože z neho vyplýva všetko ostatné — výkon, príkon aj obmedzenia.

Klasický von Neumannov model (CPU, do veľkej miery aj GPU): výpočtová jednotka je univerzálna, program aj dáta prúdia z pamäte cez zbernicu, a pri každej vrstve neurónovej siete sa váhy a medzivýsledky presúvajú medzi výpočtovým jadrom a externou pamäťou DRAM. Pri konvolučných sieťach je tento presun energeticky drahší než samotné násobenie. Prístup do externej DRAM stojí rádovo o dva rády viac energie než aritmetická operácia — a to je dôvod, prečo grafická karta pri inferencii spotrebuje stovky wattov.

Dataflow model (Hailo): sieť sa nevykonáva ako sekvencia inštrukcií, ale mapuje sa do štruktúry čipu. Kompilátor rozdelí graf modelu na vrstvy a každej pridelí vlastné výpočtové zdroje aj vlastnú lokálnu pamäť priamo na kremíku — podľa toho, koľko ktorá vrstva reálne potrebuje. Dáta potom tečú medzi vrstvami po čipe, nie tam a späť do DRAM. Hailo-8 nemá externú pamäť vôbec: všetka pamäť je integrovaná na čipe.

Dôsledky:

Kto niekedy robil návrh do FPGA, tu spozná známy vzorec: je to priestorový výpočet. Namiesto toho, aby sa jedna univerzálna jednotka v čase prepínala medzi úlohami, rozprestrie sa úloha do plochy kremíka a dáta cez ňu tečú. Rovnaké kompromisy — plocha verzus priepustnosť, hĺbka zreťazenia verzus latencia, umiestnenie a prepojenie zdrojov — sa objavujú aj tu. K tomu sa vrátime v časti o našich kompetenciách, pretože to nie je len analógia; je to priamo prenositeľná skúsenosť.

2.3 Portfólio

Podľa údajov výrobcu (stav k augustu 2026):

Doplňujúce parametre, ktoré rozhodujú o priemyselnom nasadení viac než TOPS:

• Teplotný rozsah: priemyselná trieda −40 °C až +85 °C, automobilová −40 °C až +105 °C. Moduly nepotrebujú aktívne chladenie — vojdú do rozvádzača pri linke.
• Kvalifikácia: vývojový proces A-SPICE L2, súlad s AEC-Q100 Grade 2 a ISO 26262 ASIL-B(D) pre automobilové nasadenia.
• Hostiteľ: x86 aj ARM, operačné systémy Linux, Windows, pri Hailo-10H aj Android.

Poznámka k číslam: TOPS je porovnávacia veličina, nie výkon konkrétneho modelu. Hovorí, koľko celočíselných operácií čip zvládne v ideálnom prípade, nie koľko snímok za sekundu prejde vaším modelom pri vašej rozlišovacej schopnosti. Používame ju na hrubé dimenzovanie; rozhodnutie sa vždy robí až po zmeraní konkrétneho modelu na konkrétnych dátach.

2.4 Softvérový reťazec

Softvér je pri tejto triede hardvéru polovica produktu — a v praxi je to práve tá polovica, ktorá rozhoduje o úspechu projektu. Hailo AI Software Suite tvoria štyri časti:

1. Dataflow Compiler (DFC) — prekladá model zo štandardných formátov (TensorFlow, TensorFlow Lite, Keras, PyTorch cez ONNX) do binárneho formátu čipu. Vykonáva grafovú optimalizáciu, kvantizáciu a — to je jadro veci — alokáciu a umiestnenie vrstiev na výpočtové zdroje čipu.
2. HailoRT — behové prostredie a ovládač. Ľahký, produkčný, dostupný ako otvorený zdrojový kód; C/C++ a Python API, beh na x86 aj ARM.
3. Model Zoo — knižnica predtrénovaných a predkompilovaných modelov vrátane prostredia na ich pretrénovanie. Vetva Model Zoo GenAI obsahuje predkompilované generatívne modely (LLM, VLM, ASR) pre Hailo-10H.
4. Príklady a integrácie — referenčné aplikácie (detekcia, čítanie EČV, viacstreamové pipeliny, reidentifikácia, segmentácia, odhad pózy, dlaždicovanie) a napojenie na bežné prostredia: GStreamer, ONNX Runtime, Ollama, REST rozhranie kompatibilné s OpenAI/Ollama.

Z vlastnej práce s týmto reťazcom poznáme dva detaily, ktoré určujú architektúru celého riešenia:

• DFC beží na x86_64 Linuxe. Nie na ARM. Kompilačný krok teda patrí na serverovú stranu — nie na vstavané zariadenie, nie na ARM-ovú vývojovú stanicu. Toto sme museli zohľadniť pri návrhu architektúry pre priemyselného zákazníka.
• Kalibračná sada musí byť reprezentatívna. Kvantizácia sa nastavuje podľa rozdelenia aktivácií na reálnych dátach; typicky rádovo 1 000 snímok z cieľovej prevádzky. Kalibrovať na verejnom datasete a nasadiť do haly je najbežnejšia a najdrahšia chyba.

A práve v tejto oblasti sa chceme aktivizovať: v nasadzovaní procesorov Hailo v našej klastrovej platforme IOAS Security Cluster (IOASC) — od výberu vyhotovenia a dimenzovania uzla cez kompiláciu a validáciu modelov až po prevádzku, dohľad a servis v teréne. Máme na čom stavať: IOASC je postavený na hardvérovo akcelerovanej inferencii a knižnici vyše 462 modelov, ktorých register od začiatku počíta s viacerými skompilovanými podobami pre rôzny cieľový hardvér.

3. Čo z architektúry vyplýva pre návrh systému

Špecializovaný akcelerátor je vedomá konštrukčná voľba: za vysokú účinnosť a stály čas inferencie sa platí tým, že sa časť práce presúva z prevádzky do fázy návrhu. Nasledujúce štyri body preto nie sú výhrady — sú to zadania pre projektanta. Formulovali sme ich pri návrhu reálneho systému pre priemyselného zákazníka (automatizované hodnotenie kapilárnej skúšky na výrobnej linke) a považujeme ich za povinnú súčasť každého poctivého návrhu:

1. Je to inferenčný obvod — tréning patrí na GPU. Akcelerátor model vykonáva; natrénovať ho treba inde. Ak zákazník potrebuje priebežné pretrénovanie pri driftu procesu (nová šarža chemikálie, starnúci zdroj svetla, zmena osvetlenia), nie je to jednorazová operácia, ale opakujúca sa prevádzková potreba a musí mať v návrhu vlastný hardvér a vlastný rozpočet.
2. Kvantizácia sa overuje meraním. Prechod z FP32 na INT8 (pri Hailo-10H na INT4) je práve to, čo dáva tejto architektúre jej účinnosť — a zároveň zmena, ktorú pri detekcii slabo svietiacich indikácií na tmavom pozadí treba odmerať, nie predpokladať. Do našich dodávok preto zaraďujeme porovnanie FP32 verzus skompilovaný model na tej istej evaluačnej sade ako preberacie kritérium.
3. Podporená je definovaná množina operácií. Modely na detekciu anomálií typu PatchCore/PaDiM sa preto v praxi delia: chrbtica (extraktor príznakov) beží na akcelerátore, pamäťová banka a výpočet vzdialenosti na CPU hostiteľa. Je to štandardné a funkčné usporiadanie, treba s ním však počítať pri dimenzovaní CPU a RAM — inak sa úzkym hrdlom stane hostiteľ.
4. Výkon sa tu získava návrhom, nie hrubou silou. Veľkosťou vstupu, dlaždicovaním, výberom architektúry, rozdelením úloh medzi čip a hostiteľa. Je to inžinierska práca — a presne preto má zmysel ju učiť a presne preto ju chceme robiť.

4. Naše kompetencie: štyri vrstvy, ktoré sa musia stretnúť

Systém postavený na inferenčnom akcelerátore je hraničnou disciplínou. Zlyháva vždy na rozhraní: fyzika snímania sa nestretne s návrhom obvodu, návrh obvodu sa nestretne s modelom, model sa nestretne s prevádzkou. Naše uchádzanie sa opiera o to, že tieto štyri vrstvy vieme obsadiť naraz — a to nie z prehľadovej literatúry, ale z vlastnej praxe.

4.1 Vrstva fyziky — nanometrové vrstvy a senzory

Zakladateľ inštitútu pôsobil vyše ôsmich rokov ako vedecký pracovník na Fyzikálnom ústave Slovenskej akadémie vied, kde sa venoval multivrstvovým magnetickým tenkovrstvovým štruktúram — systémom, v ktorých je funkčná vlastnosť určená hrúbkami vrstiev na úrovni jednotiek nanometrov a kvalitou ich rozhraní. Výsledkom je séria prác v časopisoch Vacuum, Thin Solid Films a Journal of Physics o pseudo spin-ventiloch ako snímacích prvkoch mechanického napätia a o vplyve rozloženia magnetického toku na gigantickú magnetorezistenciu v multivrstvách Ag/Co, ako aj dva udelené patenty na magnetostrikčné senzory (WIPO PCT WO2009088378, slovenský patent SK 50001/2008). Práca je citovaná skupinami pracujúcimi vo flexibilnej spintronike, vrátane citácie v Nature Electronics.

Prečo je to relevantné pre projekt o AI procesoroch? Z troch dôvodov:

• Rozumieme kremíku ako fyzikálnemu objektu, nie ako abstrakcii. Kto pracoval s naprašovaním vrstiev, rozhraniami a ich degradáciou, chápe, prečo je hustota výkonu, tepelný odvod a teplotný rozsah −40 až +85 °C tvrdé obmedzenie a nie údaj v tabuľke.
• Rozumieme začiatku dátovej cesty. Kvalita modelu je zhora ohraničená kvalitou snímania. Väčšina „zlyhaní AI”, ktoré vo firmách vidíme, je v skutočnosti zlyhaním senzoriky, optiky alebo osvetlenia — model len verne reprodukoval to, čo dostal.
• Vieme navrhnúť senzor, nielen ho kúpiť. GMR, spin-ventilové a TMR magnetické snímače, magnetostrikčné senzory, tenzometre, ultrazvuk, distribuované fiber-optické snímače (DFOS).

4.2 Vrstva číslicového návrhu — FPGA a modelovanie mikroprocesorov

Druhou vrstvou je návrh číslicových systémov: FPGA, vývoj a modelovanie mikroprocesorových architektúr, mixed-signal a RF návrh, návrh dosiek plošných spojov vrátane predbežného overenia elektromagnetickej kompatibility, vstavané systémy, RTOS firmvér a reťazce spracovania signálu v reálnom čase.

Táto skúsenosť je pre platformu Hailo priamo, nie metaforicky, prenositeľná:

Rozdiel medzi človekom, ktorý model „nejako skompiluje”, a človekom, ktorý vie, prečo sa práve táto vrstva nezmestila a ako sieť preskladať, je presne rozdielom medzi absolvovaným tutoriálom a inžinierskou kompetenciou. Toto chceme v centre učiť.

4.3 Vrstva modelov a MLOps

Prevádzkujeme knižnicu vyše 462 modelov strojového učenia v rámci platformy IntelliTwin a klastrového riešenia IOAS Security Cluster (IOASC) — s hardvérovo akcelerovanou inferenciou, viacnásobnými paralelnými kamerovými streamami na jednej fyzickej jednotke a kompletným cyklom MLOps: zber a kurátorstvo dát, deidentifikácia podľa GDPR, tréning, štruktúrovaný pruning, kvantizácia INT8 s kalibráciou, fúzia vrstiev, konverzia ONNX → cieľové behové prostredie vrátane Hailo-RT, evaluácia, registrácia modelu s úplnou rodokmeňovou stopou, postupné zavádzanie (canary) a aktívne učenie so spätnou väzbou operátorov.

Súčasťou registra modelov je aj compile_target a quantization_config — teda skutočnosť, že model existuje vo viacerých skompilovaných podobách pre rôzny cieľový hardvér, je v našej architektúre zabudovaná od začiatku, nie dolepená.

4.4 Vrstva nasadenia, bezpečnosti a súladu

Posledná vrstva je tá, ktorá v školeniach chýba najčastejšie a v praxi rozhoduje o tom, či sa systém vôbec smie nasadiť:

• Kybernetická bezpečnosť a NIS2 — architektúra so štruktúrovaným auditným záznamom, integrita logov, riadenie prístupu, viacfaktorové overenie, šifrovanie údajov v pokoji, zálohy s overenou obnovou, riadenie záplat. Prevádzkujeme vlastný bezpečnostný stack a bezpečnostné audity pre samosprávy aj firmy.
• Vzdialená správa nasadených zariadení — trvalý šifrovaný administratívny kanál, podpísané aktualizácie, možnosť reštartu a obnovy bez výjazdu k stroju. Zariadenie, ktoré sa nedá na diaľku aktualizovať, je z hľadiska životného cyklu chyba návrhu.
• Regulačný rámec — GDPR, Akt o umelej inteligencii, Akt o kybernetickej odolnosti (CRA), smernica o zodpovednosti za chybné výrobky. Vedieme kurzy prípravy na audit kybernetickej bezpečnosti a GDPR audit a vydávame certifikáty s overiteľným identifikátorom.
• Metodika a normy — pri priemyselných nasadeniach pracujeme s odvetvovými normami (napr. meranie ožiarenia UV-A podľa EN ISO 3059 pri kapilárnej skúške), pretože bez metrológie sa drift systému nezistí, len sa prehĺbi.

5. Kde to už beží

Uchádzanie sa neopiera o zámer, ale o nasadenia:

• IOAS Security Cluster / IntelliTwin — distribuovaná platforma pre analýzu obrazu z existujúcich mestských kamerových systémov, ktorá integruje už nainštalovanú infraštruktúru namiesto jej výmeny. Hardvérovo akcelerovaná inferencia, viac ako 462 modelov, agregácia a korelácia naprieč uzlami klastra.
• Priemyselná kontrola kvality — návrh systému pre automatizované hodnotenie kapilárnej skúšky (fluorescenčná penetračná defektoskopia) na výrobnej linke: monochromatický senzor s globálnou uzávierkou, filtrácia budiaceho UV-A žiarenia, dlaždicovanie snímky na detekciu indikácií pod 0,5 mm, inferencia na akcelerátore Hailo a rozdelenie anomálneho modelu medzi čip a hostiteľa. Súčasťou návrhu je požiadavka, aby výrobná fotodokumentácia neopustila areál zákazníka.
• Nedeštruktívne testovanie — prednáška Next-Gen Methods in NDT na konferencii ATG (2025), distribuované fiber-optické snímače, prediktívna údržba.
• Lokálne jazykové modely — prevádzka jazykových modelov na vlastnej infraštruktúre pre spracovanie dokumentov a dát klientov bez odosielania k poskytovateľom tretích strán. Táto skúsenosť je priamo prenositeľná na Hailo-10H, teda na generatívnu AI v edge computingu.

6. Návrh vzdelávacieho centra

6.1 Prečo edge AI a prečo teraz

Tri dôvody, prečo považujeme edge inferenciu za správnu tému vzdelávacieho centra práve v tomto regióne:

1. Dátová suverenita. Model bežiaci v edge computingu nemá dôvod odosielať surové dáta kamkoľvek. Pri zázname z kamier na verejnom priestranstve, pri výrobnej fotodokumentácii odberateľa alebo pri zdravotníckych údajoch to nie je vlastnosť navyše — je to podmienka, za ktorej sa projekt vôbec smie realizovať.
2. Energetika a ekonomika. Jednotky wattov namiesto stoviek. Pri desiatkach zariadení v teréne je to rozdiel medzi prevádzkovateľným a neprevádzkovateľným riešením — a rozdiel v tom, či zariadenie potrebuje aktívne chladenie, čo je najčastejšia príčina porúch v prašnom prostredí.
3. Chýbajúca kvalifikácia. Trénovať model dnes vie veľa ľudí. Postaviť z modelu systém, ktorý beží päť rokov bez zásahu, vie málokto — a práve tento profil trh dopytuje.

6.2 Kurikulum — sedem modulov

Navrhujeme sedem nadväzujúcich modulov, každý s laboratórnou časťou nad reálnym hardvérom a reálnymi dátami. Podiel praktickej práce nie je nižší než 60 %.

Modul M7 pripravujeme v intenzívnej spolupráci so spoločnosťou ATG, s ktorou na automatizovanom nedeštruktívnom skúšaní pracujeme dlhodobo — od prednášky Next-Gen Methods in NDT na jej konferencii (2025) až po návrh systému pre automatizované hodnotenie fluorescenčnej penetračnej skúšky priamo na výrobnej linke. Práve táto spolupráca dáva modulu to, čo sa v školiacej miestnosti nedá vymyslieť: reálne inšpekčné zadania, reálne snímky indikácií a reálne preberacie kritériá odberateľa.

6.3 Laboratórium

Vybavenie navrhujeme tak, aby účastník pracoval na tom, čo potom kúpi zákazník: pracovné stanice x86 s Dataflow Compilerom, moduly M.2 a mPCIe pre vstavané zostavy, serverová karta pre viacstreamové úlohy, modul pre generatívnu AI, kamerové stanovištia s riadeným osvetlením a machine-vision optikou, priemyselná sieť s napájaním po ethernete, klimatická komora na overenie teplotného rozsahu, tréningový server s GPU (pretože akcelerátor netrénuje) a plne oddelený laboratórny segment siete.

6.4 Certifikácia a väzba na akademický sektor

Nadväzujeme na existujúci systém: certifikát IOAS s overiteľným identifikátorom v online registri, zľavy pre firemné skupiny, možnosť uzavretých kurzov na mieru. Pre akademický sektor ponúkame formát prednášok a odborných seminárov, mentorstvo vysokoškolských študentov pri výskumných a projektových témach a spoločné semestrálne a diplomové zadania — riaditeľ inštitútu pôsobil jedenásť rokov ako vysokoškolský pedagóg na slovenských a českých technických univerzitách a v mentorstve študentov pokračuje.

6.5 Na čom staviame

Vzdelávanie nie je pre nás novou činnosťou. Prevádzkujeme katalóg siedmich štruktúrovaných odborných kurzov (kybernetická bezpečnosť, GDPR audit, príprava na audit KB, generatívny dizajn v elektrotechnike, moderné metódy spracovania komplexných signálov, zavádzanie AI vo firme, botnety), prednášame na konferenciách, poskytujeme konzultácie samosprávam a publikujeme otvorené odborné texty. Centrum pre edge AI je rozšírenie fungujúcej štruktúry, nie stavba na zelenej lúke.

7. Záujem podieľať sa na vývoji

Toto je druhá polovica nášho zámeru a považujeme ju za rovnako podstatnú ako vzdelávanie. Nasledujúce oblasti ponúkame ako konkrétny príspevok — vo všetkých máme buď hotové výstupy, alebo priamo prenositeľnú prax.

7.1 Referenčné návrhy hardvéru pre priemyselné prostredie

Modul je len súčiastka; medzi ňou a nasadením stojí nosná doska, chladenie, napájanie, krytie a kabeláž. Ponúkame návrh a overenie referenčných zostáv pre prostredia, kde bežné riešenia zlyhávajú — rozvádzač pri výrobnej linke (aerosóly, vibrácie, teplotné cykly), stožiar v teréne (napájanie mimo siete, kondenzácia, blesková ochrana), mobilné nasadenie. Vlastnými kompetenciami sú tu mixed-signal a PCB návrh s predbežným overením EMC, tepelný návrh vrátane generatívne optimalizovaných pasívnych chladičov a vstavaný firmvér.

7.2 Portovanie modelov a príspevky do ekosystému

Model Zoo pokrýva bežné úlohy počítačového videnia. Priemyselné vertikály v ňom chýbajú — detekcia indikácií v defektoskopii, hodnotenie povrchových chýb, čítanie technickej dokumentácie a dodacích listov v prevádzkových podmienkach, analytika odpadového hospodárstva, agrotechnické a environmentálne úlohy. Ponúkame portovanie, optimalizáciu a zverejnenie takýchto modelov a k nim prislúchajúcich spracovateľských reťazcov (GStreamer / TAPPAS) vrátane dokumentácie a evaluačných sád.

7.3 Nezávislá metodika validácie kvantizácie

Chýbajúcim článkom celého odvetvia je overiteľná odpoveď na otázku, o koľko sa model po kvantizácii zhoršil a či je to prípustné. Máme prax v evaluačných reťazcoch, anotačných databázach a atribúcii chýb na úroveň jednotlivých pravidiel z prevádzky vlastných systémov. Ponúkame vypracovanie a zverejnenie metodiky: zloženie evaluačnej sady, štatistická významnosť rozdielu, prahy prijateľnosti podľa triedy rizika, protokol o preberacej skúške použiteľný ako príloha zmluvy — teda presne to, čo dnes chýba pri verejnom obstarávaní aj pri auditoch podľa Aktu o umelej inteligencii.

7.4 Senzorová fúzia a netradičné modality

Väčšina ekosystému rieši kameru. Naša výskumná história je inde: magnetické a magnetostrikčné senzory, tenzometria, ultrazvuk, distribuované fiber-optické snímače. Zaujíma nás inferencia nad týmito modalitami v edge computingu — vyhodnotenie DFOS reťazca, spracovanie ultrazvukových A/B/C-scanov, klasifikácia vibračných signatúr pre prediktívnu údržbu. Je to prienik, v ktorom sa stretáva senzorika s akcelerovanou inferenciou a v ktorom vieme priniesť vlastný vecný vklad, nie prevzatý.

7.5 Generatívna AI v edge computingu

S Hailo-10H prestáva byť lokálny jazykový alebo vizuálno-jazykový model teoretickou možnosťou. Prevádzkujeme lokálne jazykové modely pre klientske dáta a zaujíma nás ich prenesenie do edge computingu: hlasové a textové rozhranie k priemyselnému systému bez cloudu, automatický popis nálezu, asistent pre operátora, spracovanie dokumentov v prostrediach, kde údaje nesmú opustiť areál. Sem patrí aj kvantifikácia toho, čo agresívna kvantizácia (INT4) urobí s kvalitou výstupu jazykového modelu — tá istá otázka ako v bode 7.3, len na inej triede modelov.

7.6 Bezpečnostná a auditná vrstva

Európsky trh dnes nekupuje výkon, ale doložiteľnosť. Ponúkame vývoj vrstvy, ktorá z inferenčného uzla robí auditovateľné zariadenie: štruktúrovaný bezpečnostný záznam v jednotnej schéme (čas, aktér, akcia, zdroj, výsledok, závažnosť) prenositeľný do SIEM, integrita záznamu, bezpečné zavádzanie a podpísané aktualizácie s využitím hardvérových prostriedkov platformy, správa zariadení na diaľku a doložený životný cyklus podľa CRA. Máme na to vlastný bezpečnostný stack a auditnú prax.

8. Ekonomika: čo sa v skutočnosti počíta

Pri rozhodovaní medzi akcelerátorom v edge computingu a serverovým riešením sa spravidla porovnávajú nesprávne veličiny. Toto je zoznam tých, ktoré rozhodujú:

9. Ďalšie kroky

Rokovanie so spoločnosťou Hailo pokračuje. Paralelne oslovujeme partnerov, ktorých účasť považujeme za predpoklad zmysluplného centra:

• technické univerzity — spoločné laboratórium, semestrálne kurzy, semestrálne a diplomové témy, mentorstvo študentov;
• priemyselné podniky — pilotné úlohy z reálnej výroby ako laboratórne zadania namiesto umelých príkladov;
• samosprávy a verejný sektor — bezpečné a dátovo suverénne nasadenie v mestskej infraštruktúre;
• integrátori a dodávatelia — školenie ich vlastných tímov a spoločné referenčné návrhy.

Ak vás niektorá z uvedených oblastí zaujíma — či už ako partnera vzdelávacieho centra, alebo ako účastníka spoločného vývoja — ozvite sa.

director@ioas.pro · +421 903 667 654 · kontaktný formulár

Literatúra a zdroje

1. Hailo. Hailo-8 AI Accelerator — product page and specifications. hailo.ai, 2026.
2. Hailo. Hailo-10H AI Accelerator — generative AI at the edge. hailo.ai, 2026.
3. Hailo. Hailo-15 AI Vision Processors. hailo.ai, 2026.
4. Hailo. Hailo AI Software Suite — Dataflow Compiler, HailoRT, Model Zoo, TAPPAS. hailo.ai, 2026.
5. Hailo. Hailo Model Zoo — GETTING_STARTED. GitHub, hailo-ai/hailo_model_zoo.
6. Anwarzai, B.; Áč, V.; Lúby, Š.; Majková, E.; Senderák, R. Pseudo spin-valve on plastic substrate as sensing elements of mechanical strain. Vacuum, roč. 84, č. 1, 2009, s. 108 – 110.
7. Lúby, Š.; Majková, E.; Debnárová, A.; Senderák, R.; Áč, V.; Anwarzai, B. Effect of magnetic flux distribution on GMR in Ag/Co multilayers. Thin Solid Films, roč. 433, 2003, s. 243 – 246.
8. Anwarzai, B. a kol. Magnetostrikčný senzor — WIPO PCT WO2009088378; slovenský patent SK 50001/2008.
9. IOAS. IOAS Security Cluster (IOASC) — architektúra, pipeline tvorby modelov, paralelné a distribuované počítanie. ioas.pro, 2025.
10. Európsky parlament a Rada. Nariadenie (EÚ) 2024/1689 (Akt o umelej inteligencii). Úradný vestník EÚ, 2024.
11. Európsky parlament a Rada. Smernica (EÚ) 2022/2555 (NIS2). Úradný vestník EÚ, 2022.
12. Európsky parlament a Rada. Nariadenie (EÚ) 2024/2847 (Akt o kybernetickej odolnosti). Úradný vestník EÚ, 2024.
13. ISO. EN ISO 3059 — Nedeštruktívne skúšanie: podmienky pozorovania pri kapilárnej a magnetickej práškovej skúške.

Ilustračná fotografia: Jakub Pabis / Pexels.

Technické parametre produktov Hailo sú prevzaté z verejne dostupnej dokumentácie výrobcu (stav august 2026) a slúžia na odborný výklad; záväzné údaje poskytuje výrobca. Skúsenosti s kompiláciou, kvantizáciou a rozdelením modelu medzi akcelerátor a hostiteľa pochádzajú z vlastných projektov IOAS.

© 2026 Branislav Anwarzai · Inštitút pokročilých štúdií. Text je možné citovať s uvedením zdroja.