Vi møtte den kommersielle ledelsen i selskapet Hailo personlig i Trenčín for å drøfte å bygge et opplærings- og anvendelsessenter for edge computing. Hensikten er ikke bare å lære bort hvordan man arbeider med disse prosessorene, men også å delta i selve utviklingen — i referansedesign, portering av modeller, en metodikk for å validere kvantisering og i det sikkerhetslaget industriell utrulling i Europa krever.
Sammendrag
Institutt for avanserte studier har hatt møte med Hailo, den israelske produsenten av prosessorer for edge computing — inferens av nevrale nett direkte i enheten (edge AI), om å bygge et opplærings- og anvendelsessenter viet til å designe og bygge systemer på denne plattformen. Ved siden av opplæringen erklærer vi interesse for å delta i utviklingen — i referansedesign av maskinvare for industrielle omgivelser, i portering og optimalisering av modeller, i en metodikk for å verifisere kvantiseringstapet og i det sikkerhets- og revisjonslaget som i dag er en forutsetning for alt som faller inn under NIS2 eller KI-forordningen i Europa. Artikkelen beskriver inngående arkitekturen og produktutvalget til Hailo, følgene denne arkitekturen har for systemdesignet, slik vi har verifisert dem i egne prosjekter, og den kompetansen søknaden hviler på — fra nanometertynne sjikt ved Fysisk institutt ved Det slovakiske vitenskapsakademiet, via design og modellering av mikroprosessorer og FPGA-arbeid, til KI-systemer i drift med et bibliotek på over 462 modeller.
Nøkkelord: edge AI · inferensakselerator · dataflytarkitektur · INT8-kvantisering · FPGA · opplæringssenter · NIS2 · datasuverenitet
1. Hva møtet handlet om
Samtalene ble holdt personlig i Trenčín med representanter for den kommersielle ledelsen i Hailo. Vi takker dem for å ha reist en så lang vei for dette møtet — et besøk på stedet sier mer om alvorlig interesse enn noen presentasjon kan. Samtalene dreide seg om to sammenknyttede hensikter.
Den første — opplæringssenteret. I Slovakia og i Sentral-Europa for øvrig er det et markant gap mellom det bedrifter hører om kunstig intelligens og det de faktisk klarer å bygge og holde i drift. En kandidat fra et teknisk universitet kan trene en modell i PyTorch på en bærbar maskin. Langt færre kan ta den samme modellen, kompilere den til en inferensakselerator, måle hvor mye den ble dårligere etter kvantisering, og konstruere et skap som holder i fem år i en hall med aerosoler og temperatursykluser. Det er nettopp denne delen av kjeden — ingeniørarbeidet, ikke forskningen — som mangler.
Den andre — deltakelse i utviklingen. Vi ønsker ikke bare å drive et kurslokale. Vi er interessert i å bidra i utviklingen: i referansedesign for industriell utrulling, i portering og optimalisering av modeller for konkrete bransjer, i en uavhengig metodikk for å måle kvantiseringstap og i et sikkerhetslag for det europeiske regelverket. Prosjektene våre på denne plattformen oppsto ikke som demonstrasjoner, men som svar på en kundes oppgave — og det var nettopp der de hvite flekkene i økosystemet ble synlige.
Vi ser på dette som en utfordring — like mye organisatorisk som teknisk. Å bygge et senter som lærer folk å bygge systemer som virker, og samtidig delta i utviklingen av plattformen vi bygger dem på, er nøyaktig den typen oppgave instituttet ble grunnlagt for.
2. Hailo — hvem de er og hva de gjør annerledes
2.1 Selskapet
Hailo er et israelsk fabless halvlederselskap grunnlagt i 2017 (Orr Danon, Avi Baum, Hadar Zeitlin). Selskapet lager verken universelle grafikkakseleratorer eller treningsbrikker for datasentre — det konsentrerer seg om edge computing: om enheter der modellen kjører der dataene oppstår, med et budsjett på noen få watt og uten skytilkobling. Ifølge offentlig tilgjengelige opplysninger arbeider selskapet etter serie C (2024) med en samlet finansiering i størrelsesorden hundrevis av millioner dollar, og arkitekturen er tatt i bruk i hundrevis av kundeprogrammer innen bil, sikkerhetssystemer, smarte byer, industri 4.0 og varehandel.
2.2 Hvorfor dataflyt og ikke enda en GPU
Det avgjørende er arkitekturen Hailo kaller structure-defined dataflow. Forskjellen fra den klassiske beregningsmodellen er prinsipiell og fortjener en presis forklaring, for alt annet følger av den — ytelse, effektforbruk og begrensninger.
Den klassiske von Neumann-modellen (CPU, og i stor grad også GPU): regneenheten er universell, program og data strømmer fra minnet over en buss, og for hvert lag i det nevrale nettet flyttes vekter og mellomresultater mellom regnekjernen og eksternt DRAM. For konvolusjonsnett er denne flyttingen energimessig dyrere enn selve multiplikasjonen. En aksess til eksternt DRAM koster i størrelsesorden to tierpotenser mer energi enn en aritmetisk operasjon — og det er grunnen til at et skjermkort bruker hundrevis av watt på inferens.
Dataflytmodellen (Hailo): nettet utføres ikke som en sekvens av instruksjoner, men avbildes inn i brikkens struktur. Kompilatoren deler modellgrafen opp i lag og tildeler hvert lag egne regneressurser og eget lokalt minne direkte på silisiumet — etter hvor mye laget faktisk trenger. Dataene flyter så mellom lagene over brikken, ikke fram og tilbake til DRAM. Hailo-8 har ikke eksternt minne i det hele tatt: alt minne er integrert på brikken.
Følgene:
| egenskap | følge av dataflytarkitekturen |
|---|---|
| Energieffektivitet | den dominerende delen av forbruket — overføringer til eksternt DRAM — faller bort. Resultatet er et størrelsesorden bedre forhold mellom ytelse og watt enn hos universelle akseleratorer. |
| Deterministisk latens | modellen har en reservert struktur på brikken og konkurrerer ikke om ressurser med andre oppgaver. Inferenstiden er konstant, ikke gjennomsnittlig. For en prosess som dokumenteres og må kunne belegges (produksjon, transport, sikkerhet), er forutsigbarhet mer verdt enn topp ytelse. |
| Pipelining på nettnivå | mens lag n regner på bilde k, behandler lag n−1 allerede bilde k+1. Gjennomstrømningen begrenses ikke av nettets dybde. |
| Hva det krever | modellen må kompileres og plasseres på forhånd. Brikken er ingen universalprosessor — den kjører ikke vilkårlig kode og kan ikke tilpasse seg underveis til et nett som ikke får plass i den. |
Den som noen gang har designet for FPGA, kjenner igjen mønsteret: dette er romlig beregning. I stedet for at én universell enhet veksler mellom oppgaver i tid, spres oppgaven ut over silisiumflaten og dataene flyter gjennom den. De samme avveiningene — areal mot gjennomstrømning, pipelinedybde mot latens, plassering og sammenkobling av ressurser — dukker opp også her. Vi kommer tilbake til dette i avsnittet om kompetansen vår, for det er ikke bare en analogi; det er direkte overførbar erfaring.
2.3 Produktutvalget
Etter produsentens opplysninger (per august 2026):
| produkt | regneytelse | minne | typisk effekt | utførelse | formål |
|---|---|---|---|---|---|
| Hailo-8 | 26 TOPS | fullt integrert på brikken (uten eksternt DRAM) | 2,5 W typisk | M.2 (Key M / B+M), mPCIe (Hailo-8R), PCIe-kort | kjernen i utvalget — deteksjon, klassifisering, segmentering, flerkamerasystemer |
| Hailo-8L | 13 TOPS | på brikken | enkelte watt | M.2 | inngangsnivå, prisfølsomme anvendelser |
| Hailo-8 Century | 52 – 208 TOPS (etter bestykning) | på brikken | 15 – 75 W | PCIe HHHL-kort ×8/×16 | serverkonsolidering — titalls parallelle strømmer i én maskin |
| Hailo-10H | 40 TOPS INT4 / 20 TOPS INT8 | LPDDR4/4X (eksternt, på grunn av store modeller) | 2,5 W typisk | M.2-modul og frittstående brikke | generativ KI i edge computing — språkmodeller (LLM) og visuelt-språklige modeller (VLM), ASR |
| Hailo-15 (15H / 15M / 15L) | 7 – 20 TOPS | LPDDR (15L fra så lite som 1 GB) | 15L < 3 W | SoC — synsprosessor | KI direkte i kameraet: ISP, HDR, støyreduksjon, videokoding og inferens i én krets |
Tilleggsparametere som avgjør industriell utrulling mer enn TOPS gjør:
- Temperaturområde: industriklasse −40 °C til +85 °C, bilklasse −40 °C til +105 °C. Modulene trenger ikke aktiv kjøling — de får plass i et skap ved linjen.
- Kvalifisering: utviklingsprosess etter A-SPICE L2, samsvar med AEC-Q100 Grade 2 og ISO 26262 ASIL-B(D) for bilanvendelser.
- Vert: x86 og ARM, operativsystemene Linux og Windows, for Hailo-10H også Android.
En merknad til tallene: TOPS er en sammenligningsstørrelse, ikke ytelsen til en konkret modell. Den sier hvor mange heltallsoperasjoner brikken klarer i det ideelle tilfellet, ikke hvor mange bilder i sekundet som går gjennom din modell ved din oppløsning. Vi bruker den til grov dimensjonering; beslutningen tas alltid først etter måling av den konkrete modellen på konkrete data.
2.4 Programvarekjeden
For denne maskinvareklassen er programvaren halve produktet — og i praksis nettopp den halvdelen som avgjør om prosjektet lykkes. Hailo AI Software Suite består av fire deler:
- Dataflow Compiler (DFC) — oversetter modellen fra standardformater (TensorFlow, TensorFlow Lite, Keras, PyTorch via ONNX) til brikkens binærformat. Den utfører grafoptimalisering, kvantisering og — kjernen i saken — tildeling og plassering av lag på brikkens regneressurser.
- HailoRT — kjøremiljø og driver. Lett, produksjonsklar, tilgjengelig som åpen kildekode; C/C++- og Python-API, kjører på x86 og ARM.
- Model Zoo — et bibliotek av forhåndstrente og forhåndskompilerte modeller sammen med et miljø for å trene dem videre. Grenen Model Zoo GenAI inneholder ferdigkompilerte generative modeller (LLM, VLM, ASR) for Hailo-10H.
- Eksempler og integrasjoner — referanseapplikasjoner (deteksjon, lesing av bilskilt, flerstrømspipeliner, reidentifisering, segmentering, positurestimering, fliselegging) og kobling til vanlige miljøer: GStreamer, ONNX Runtime, Ollama, REST-grensesnitt kompatibelt med OpenAI/Ollama.
Fra eget arbeid med denne kjeden kjenner vi to detaljer som bestemmer arkitekturen i hele løsningen:
- DFC kjører på x86_64-Linux. Ikke på ARM. Kompileringssteget hører derfor hjemme på serversiden — ikke på den innebygde enheten, ikke på en ARM-arbeidsstasjon. Dette måtte vi ta hensyn til da vi utformet arkitekturen for en industrikunde.
- Kalibreringssettet må være representativt. Kvantiseringen stilles inn etter fordelingen av aktiveringer på virkelige data; typisk i størrelsesorden 1 000 bilder fra den aktuelle installasjonen. Å kalibrere på et offentlig datasett og rulle ut i produksjonshallen er den vanligste og dyreste feilen.
Og det er nettopp på dette området vi vil bli aktive: i utrulling av Hailo-prosessorer i vår klyngeplattform IOAS Security Cluster (IOASC) — fra valg av utførelse og dimensjonering av noden, via kompilering og validering av modeller, til drift, overvåking og service ute i felten. Vi har noe å bygge på: IOASC hviler på maskinvareakselerert inferens og et bibliotek på over 462 modeller, der registeret fra starten forutsetter flere kompilerte utgaver for ulik målmaskinvare.
3. Hva arkitekturen betyr for systemdesignet
En spesialisert akselerator er et bevisst konstruksjonsvalg: den høye effektiviteten og den konstante inferenstiden betales med at en del av arbeidet flyttes fra driften og inn i designfasen. De fire punktene under er derfor ingen innvendinger — de er oppgaver for den prosjekterende. Vi formulerte dem da vi utformet et virkelig system for en industrikunde (automatisert vurdering av penetrantprøving på en produksjonslinje), og vi anser dem som en obligatorisk del av ethvert redelig design:
- Dette er en inferenskrets — treningen hører hjemme på GPU. Akseleratoren utfører modellen; den må trenes et annet sted. Trenger kunden løpende ettertrening ved prosessdrift (ny kjemikaliesats, aldrende lyskilde, endret belysning), er dette ingen engangsoperasjon, men et gjentakende driftsbehov og må ha egen maskinvare og eget budsjett i designet.
- Kvantiseringen bekreftes ved måling. Overgangen fra FP32 til INT8 (INT4 på Hailo-10H) er nettopp det som gir denne arkitekturen effektiviteten sin — og samtidig en endring som ved deteksjon av svakt lysende indikasjoner mot mørk bakgrunn må måles, ikke antas. Derfor tar vi inn i leveransene en sammenligning av FP32 mot den kompilerte modellen på det samme evalueringssettet som overtakelseskriterium.
- Et definert sett av operasjoner støttes. Anomalideteksjonsmodeller av typen PatchCore/PaDiM deles derfor i praksis: ryggraden (trekkuttrekkeren) kjører på akseleratoren, mens minnebanken og avstandsberegningen kjører på vertens CPU. Det er en vanlig og godt fungerende arbeidsdeling, men den må tas med i dimensjoneringen av CPU og RAM — ellers blir verten flaskehalsen.
- Ytelse vinnes her med design, ikke med rå kraft. Med inngangsstørrelse, fliselegging, valg av arkitektur og fordeling av arbeidet mellom brikke og vert. Det er ingeniørarbeid — og nettopp derfor er det verdt å undervise i, og nettopp derfor vil vi gjøre det.
4. Kompetansen vår: fire lag som må møtes
Et system bygget på en inferensakselerator er en grensedisiplin. Det svikter alltid i et grensesnitt: målefysikken møter ikke kretsdesignet, kretsdesignet møter ikke modellen, modellen møter ikke driften. Søknaden vår hviler på at vi kan bemanne alle fire lagene samtidig — og det ikke fra oversiktslitteratur, men fra egen praksis.
4.1 Fysikklaget — nanometertynne sjikt og sensorer
Instituttets grunnlegger var i over åtte år vitenskapelig ansatt ved Fysisk institutt ved Det slovakiske vitenskapsakademiet, der han arbeidet med magnetiske flerlags tynnfilmstrukturer — systemer der den funksjonelle egenskapen bestemmes av lagtykkelser på nivå med enkelte nanometer og av kvaliteten på grenseflatene. Resultatet er en rekke arbeider i Vacuum, Thin Solid Films og Journal of Physics om pseudo-spinventiler som følerelementer for mekanisk tøyning og om hvordan fordelingen av magnetisk fluks påvirker gigantisk magnetoresistans i Ag/Co-flerlag, samt to meddelte patenter på magnetostriktive sensorer (WIPO PCT WO2009088378, slovakisk patent SK 50001/2008). Arbeidet siteres av grupper innen fleksibel spinntronikk, blant annet med en sitering i Nature Electronics.
Hvorfor er dette relevant for et prosjekt om KI-prosessorer? Av tre grunner:
- Vi forstår silisium som et fysisk objekt, ikke som en abstraksjon. Den som har arbeidet med sputrede sjikt, grenseflater og degraderingen av dem, forstår hvorfor effekttetthet, varmebortledning og området −40 til +85 °C er en hard begrensning og ikke en linje i en tabell.
- Vi forstår begynnelsen av dataveien. Kvaliteten på en modell er begrenset ovenfra av kvaliteten på målingen. De fleste «KI-feilene» vi ser i bedrifter, er i virkeligheten feil i sensorikk, optikk eller belysning — modellen har bare gjengitt trofast det den fikk.
- Vi kan konstruere en sensor, ikke bare kjøpe den. GMR-, spinnventil- og TMR-magnetsensorer, magnetostriktive sensorer, strekklapper, ultralyd, distribuerte fiberoptiske sensorer (DFOS).
4.2 Det digitale designlaget — FPGA og modellering av mikroprosessorer
Det andre laget er design av digitale systemer: FPGA-arbeid, utvikling og modellering av mikroprosessorarkitekturer, mixed-signal- og RF-design, kretskortdesign med EMC-forhåndsverifisering, innebygde systemer, RTOS-fastvare og signalbehandlingskjeder i sanntid.
Denne erfaringen er overførbar til Hailo-plattformen direkte, ikke metaforisk:
| erfaring fra FPGA- og prosessordesign | anvendelse på en dataflytakselerator |
|---|---|
| Pipelining, gjennomstrømning mot latens | forståelse av hvorfor et dypere nett ikke behøver å bety lavere gjennomstrømning — og når det likevel gjør det |
| Plassering og sammenkobling av ressurser (place & route), arealutnyttelse | lesing av kompilatorens utdata — hvilket lag fikk ikke plass, hvilket er flaskehalsen, hvordan modellen bør bygges om |
| Systoliske matriser og romlig matrisemultiplikasjon | forståelse av hvordan konvolusjonen avbildes på brikkens struktur — kjernen i hele arkitekturen |
| Fastpunktsaritmetikk, ordbredder, feilforplantning | kvalifisert arbeid med INT8/INT4-kvantisering: hvor tapet oppstår, hvilket lag som er følsomt, hvor blandet presisjon lønner seg |
| RTL-verifikasjon, sykluspresise modeller, referansemodell mot implementasjon | metodikken for å sammenligne FP32 mot den kompilerte modellen — samme framgangsmåte, bare på et annet abstraksjonsnivå |
| Effektbudsjett, forsyningsintegritet, termisk design | dimensjonering av kabinett og kjøling for kontinuerlig drift i industrielle omgivelser |
Forskjellen mellom en som «på et vis kompilerer» en modell og en som vet hvorfor nettopp dette laget ikke fikk plass og hvordan nettet skal bygges om, er nøyaktig forskjellen mellom en gjennomført veiledning og ingeniørkompetanse. Det er dette vi vil undervise i ved senteret.
4.3 Modell- og MLOps-laget
Vi drifter et bibliotek på over 462 maskinlæringsmodeller innenfor plattformen IntelliTwin og klyngeløsningen IOAS Security Cluster (IOASC) — med maskinvareakselerert inferens, flere parallelle kamerastrømmer på én fysisk enhet og en komplett MLOps-syklus: innsamling og kuratering av data, personvernforordningskonform deidentifisering, trening, strukturert pruning, INT8-kvantisering med kalibrering, lagfusjon, konvertering ONNX → målkjøremiljø inkludert Hailo-RT, evaluering, modellregistrering med full opphavssporing, gradvis utrulling (canary) og aktiv læring med tilbakemelding fra operatørene.
Modellregisteret omfatter også compile_target og quantization_config — det vil si at det at en modell finnes i flere kompilerte utgaver for ulik målmaskinvare, er innebygd i arkitekturen vår fra starten, ikke påklistret.
4.4 Laget for utrulling, sikkerhet og samsvar
Det siste laget er det som oftest mangler i kurs, og det som i praksis avgjør om et system i det hele tatt kan settes i drift:
- Cybersikkerhet og NIS2 — arkitektur med strukturert revisjonsspor, loggintegritet, tilgangsstyring, flerfaktorautentisering, kryptering av lagrede data, sikkerhetskopier med verifisert gjenoppretting, oppdateringshåndtering. Vi drifter vår egen sikkerhetsstakk og utfører sikkerhetsrevisjoner for kommuner og bedrifter.
- Fjernadministrasjon av utplasserte enheter — en permanent kryptert administrasjonskanal, signerte oppdateringer, mulighet for omstart og gjenoppretting uten utrykning til maskinen. En enhet som ikke kan oppdateres eksternt, er en designfeil sett fra livsløpet.
- Regelverk — personvernforordningen, KI-forordningen, forordningen om cybermotstandsdyktighet (CRA), produktansvarsdirektivet. Vi holder kurs i forberedelse til cybersikkerhetsrevisjon og personvernrevisjon og utsteder sertifikater med verifiserbar identifikator.
- Metodikk og standarder — ved industrielle installasjoner arbeider vi med bransjestandarder (for eksempel måling av UV-A-bestråling etter EN ISO 3059 ved penetrantprøving), for uten måleteknikk oppdages ikke systemdriften, den bare forverres.
5. Hvor dette allerede kjører
Søknaden hviler ikke på hensikter, men på installasjoner:
- IOAS Security Cluster / IntelliTwin — en distribuert plattform for analyse av bilder fra eksisterende kommunale kamerasystemer, som integrerer allerede installert infrastruktur i stedet for å skifte den ut. Maskinvareakselerert inferens, mer enn 462 modeller, aggregering og korrelasjon på tvers av klyngens noder.
- Industriell kvalitetskontroll — design av et system for automatisert vurdering av fluorescerende penetrantprøving på en produksjonslinje: monokrom sensor med global lukker, filtrering av den eksiterende UV-A-strålingen, fliselegging av bildet for å oppdage indikasjoner under 0,5 mm, inferens på Hailo-akselerator og deling av anomalimodellen mellom brikke og vert. En del av designet er kravet om at kundens produksjonsfotodokumentasjon ikke skal forlate anlegget.
- Ikke-destruktiv prøving — foredraget Next-Gen Methods in NDT på ATG-konferansen (2025), distribuerte fiberoptiske sensorer, prediktivt vedlikehold.
- Lokale språkmodeller — drift av språkmodeller på egen infrastruktur for å behandle kunders dokumenter og data uten å sende dem til tredjepartsleverandører. Denne erfaringen er direkte overførbar til Hailo-10H, altså til generativ KI i edge computing.
6. Forslag til opplæringssenter
6.1 Hvorfor edge-KI og hvorfor nå
Tre grunner til at vi mener edge computing er det riktige temaet for et opplæringssenter nettopp i denne regionen:
- Datasuverenitet. En modell som kjører i edge computing, har ingen grunn til å sende rådata noe sted. For opptak fra kameraer i det offentlige rom, for en kundes produksjonsfotodokumentasjon eller for helsedata er dette ingen ekstra egenskap — det er betingelsen for at prosjektet i det hele tatt kan gjennomføres.
- Energi og økonomi. Enkelte watt i stedet for hundrevis. Med titalls enheter ute i felten er dette forskjellen mellom en driftbar og en ikke driftbar løsning — og forskjellen på om enheten trenger aktiv kjøling, som er den vanligste feilårsaken i støvete omgivelser.
- Den manglende kvalifikasjonen. Mange kan trene en modell i dag. Få kan bygge et system av en modell som går i fem år uten inngrep — og det er denne profilen markedet etterspør.
6.2 Læreplan — sju moduler
Vi foreslår sju påfølgende moduler, hver med laboratoriearbeid på virkelig maskinvare og virkelige data. Andelen praktisk arbeid er ikke under 60 %.
| modul | innhold | oppnådd kompetanse |
|---|---|---|
| M1 — Arkitektur for inferens i edge computing | von Neumann mot dataflyt, energikostnaden ved å flytte data, TOPS mot reell gjennomstrømning, latens mot gjennomstrømning, dimensjonering av oppgaven | deltakeren kan si om en gitt oppgave får plass på en gitt enhet — før kjøpet, ikke etterpå |
| M2 — Fra modell til binærfil | PyTorch → ONNX → Dataflow Compiler → HEF; kalibreringssett, kvantisering, lesing av kompilatorutdata, håndtering av ustøttede operasjoner, deling av modellen mellom brikke og vert | deltakeren kompilerer og ruller ut sin egen modell selvstendig |
| M3 — Måling og validering | metodikken FP32 mot kompilert modell, evalueringssett, mAP/F1, latens P50/P95/P99, driftdeteksjon, når en forverring er uakseptabel | deltakeren kan dokumentere at systemet oppfyller overtakelseskriteriet |
| M4 — Systemet rundt brikken | sensorikk og optikk, belysning og måleteknikk, industrielle grensesnitt og busser, termisk design, IP-grad, nettverkssegmentering, strømforsyning og UPS | deltakeren konstruerer et oppsett som tåler drift, ikke en demo |
| M5 — Drift, sikkerhet, samsvar | MLOps og modellregister, gradvis utrulling, fjernadministrasjon og signerte oppdateringer, revisjonsspor, NIS2, personvernforordningen, KI-forordningen | deltakeren setter et system i drift i et regulert miljø |
| M6 — Generativ KI i edge computing | Hailo-10H: språkmodeller (LLM), visuelt-språklige modeller (VLM) og talegjenkjenning lokalt, uten sky; INT4-kvantisering og virkningen på kvaliteten i utdataene, tale- og tekstgrensesnitt til et industrisystem, automatisk beskrivelse av et funn | deltakeren ruller ut en lokal språkmodell på enheten og måler kvaliteten på den |
| M7 — Automatisert ikke-destruktiv prøving (NDT) | prøvemetoder og digitaliseringen av dem (penetrant- og magnetpulverprøving, ultralyd, radiografi, visuell kontroll), belysning og måleteknikk etter EN ISO 3059, fliselegging av bildet og deteksjon av indikasjoner under 0,5 mm, modeller for anomalideteksjon, KI som andre vurdering for operatøren, båndet «krever oppmerksomhet», dokumentasjon og overtakelseskriterier, koblingen til personellkvalifisering (EN ISO 9712) | deltakeren utformer, validerer og dokumenterer KI-støtten til en inspeksjonsstasjon slik at den står seg overfor både revisor og kunde |
Modul M7 forbereder vi i tett samarbeid med selskapet ATG, som vi lenge har arbeidet med innen automatisert ikke-destruktiv prøving — fra foredraget Next-Gen Methods in NDT på deres konferanse (2025) til utformingen av et system for automatisert vurdering av fluorescerende penetrantprøving direkte på en produksjonslinje. Det er nettopp dette samarbeidet som gir modulen det man ikke kan finne på i et kurslokale: virkelige inspeksjonsoppgaver, virkelige bilder av indikasjoner og kundens virkelige overtakelseskriterier.
6.3 Laboratoriet
Utstyret utformer vi slik at deltakeren arbeider med det kunden siden kjøper: x86-arbeidsstasjoner med Dataflow Compiler, M.2- og mPCIe-moduler for innebygde oppsett, et serverkort for flerstrømsoppgaver, en modul for generativ KI, kamerastasjoner med styrt belysning og machine vision-optikk, et industrinett med strøm over Ethernet, et klimakammer for å verifisere temperaturområdet, en treningsserver med GPU (for akseleratoren trener ikke) og et fullstendig atskilt laboratoriesegment av nettet.
6.4 Sertifisering og kobling til akademia
Vi bygger på et eksisterende system: IOAS-sertifikat med verifiserbar identifikator i et nettregister, rabatter for bedriftsgrupper og mulighet for lukkede skreddersydde kurs. For akademia tilbyr vi forelesninger og fagseminarer, veiledning av studenter på forsknings- og prosjekttemaer og felles semester- og masteroppgaver — instituttets direktør var elleve år universitetslærer ved slovakiske og tsjekkiske tekniske universiteter og veileder fortsatt studenter.
6.5 Hva vi bygger på
Opplæring er ingen ny virksomhet for oss. Vi driver en katalog med sju strukturerte fagkurs (cybersikkerhet, personvernrevisjon, forberedelse til cybersikkerhetsrevisjon, generativt design i elektroteknikk, moderne metoder for behandling av sammensatte signaler, innføring av KI i bedriften, botnett), vi foreleser på konferanser, gir råd til kommuner og publiserer åpne fagtekster. Et senter for edge-KI er en utvidelse av en fungerende struktur, ikke bygging på bar bakke.
7. Interesse for å delta i utviklingen
Dette er den andre halvdelen av hensikten vår, og vi anser den som like vesentlig som opplæringen. Følgende områder tilbyr vi som konkret bidrag — på alle har vi enten ferdige resultater eller direkte overførbar praksis.
7.1 Referansedesign av maskinvare for industrielle omgivelser
En modul er bare en komponent; mellom den og utrullingen står bærekortet, kjølingen, strømforsyningen, kapslingen og kablingen. Vi tilbyr design og verifikasjon av referanseoppsett for omgivelser der vanlige løsninger svikter — skap ved produksjonslinjen (aerosoler, vibrasjon, temperatursykluser), mast i felten (strøm utenfor nettet, kondens, lynvern), mobil utrulling. Egen kompetanse her er mixed-signal- og kretskortdesign med EMC-forhåndsverifisering, termisk design inkludert generativt optimaliserte passive kjøleribber, og innebygd fastvare.
7.2 Portering av modeller og bidrag til økosystemet
Model Zoo dekker vanlige oppgaver innen datasyn. Industrielle bransjer mangler der — deteksjon av indikasjoner i defektoskopi, vurdering av overflatefeil, lesing av teknisk dokumentasjon og følgesedler under driftsforhold, analyse innen avfallshåndtering, agrotekniske og miljørelaterte oppgaver. Vi tilbyr å portere, optimalisere og publisere slike modeller sammen med de tilhørende behandlingskjedene (GStreamer / TAPPAS), inkludert dokumentasjon og evalueringssett.
7.3 Uavhengig metodikk for validering av kvantisering
Det manglende leddet i hele bransjen er et verifiserbart svar på spørsmålet om hvor mye modellen ble dårligere etter kvantisering, og om det er akseptabelt. Vi har praksis med evalueringskjeder, annoteringsdatabaser og attribuering av feil helt ned til enkeltregler — fra drift av egne systemer. Vi tilbyr å utarbeide og publisere en metodikk: sammensetning av evalueringssettet, statistisk signifikans for forskjellen, akseptterskler etter risikoklasse og en overtakelsesprotokoll som kan brukes som vedlegg til en kontrakt — altså nøyaktig det som i dag mangler både i offentlige anskaffelser og i revisjoner etter KI-forordningen.
7.4 Sensorfusjon og utradisjonelle modaliteter
Størstedelen av økosystemet handler om kameraet. Vår forskningshistorie ligger et annet sted: magnetiske og magnetostriktive sensorer, tøyningsmåling, ultralyd, distribuerte fiberoptiske sensorer. Vi er interessert i inferens over disse modalitetene i edge computing — vurdering av en DFOS-strekning, behandling av ultralyd-A/B/C-skann, klassifisering av vibrasjonssignaturer for prediktivt vedlikehold. Det er et skjæringspunkt der sensorikk møter akselerert inferens, og der vi kan bringe inn et eget faglig bidrag, ikke et lånt.
7.5 Generativ KI i edge computing
Med Hailo-10H slutter en lokal språkmodell eller visuelt-språklig modell å være en teoretisk mulighet. Vi drifter lokale språkmodeller på kundedata og er interessert i å flytte dem til edge computing: tale- og tekstgrensesnitt til et industrisystem uten sky, automatisk beskrivelse av et funn, assistent for operatøren, dokumentbehandling i miljøer der dataene ikke kan forlate anlegget. Hit hører også å tallfeste hva aggressiv kvantisering (INT4) gjør med kvaliteten på en språkmodells utdata — samme spørsmål som i punkt 7.3, bare for en annen modellklasse.
7.6 Sikkerhets- og revisjonslaget
Det europeiske markedet kjøper i dag ikke ytelse, men etterprøvbarhet. Vi tilbyr å utvikle det laget som gjør en inferensnode til en reviderbar enhet: strukturert sikkerhetslogg i et enhetlig skjema (tid, aktør, handling, ressurs, utfall, alvorlighet) som kan overføres til et SIEM, loggintegritet, sikker oppstart og signerte oppdateringer ved hjelp av plattformens maskinvarefunksjoner, fjernadministrasjon av enhetene og et dokumentert livsløp etter CRA. Vi har vår egen sikkerhetsstakk og revisjonspraksis til dette.
8. Økonomi: hva som faktisk teller
Når man velger mellom en akselerator i edge computing og en serverløsning, sammenlignes som regel feil størrelser. Dette er de som avgjør:
| størrelse | hvorfor den avgjør |
|---|---|
| Watt per strøm | bestemmer om oppsettet trenger aktiv kjøling — og dermed om det får en bevegelig del som går tett i støvete omgivelser |
| Latens P99, ikke gjennomsnittet | en prosess dokumenteres etter det verste, ikke det gjennomsnittlige tilfellet |
| Årlig kostnad for dataoverføring | å strømme video til skyen er en gjentakende kostnad; inferens på stedet fjerner den |
| Rettslig tillatelighet | for enkelte data er oversendelse ut av anlegget utillatelig til enhver pris — og da er prissammenligning uten mening |
| Kostnad ved ettertrening | en engangsinvestering i treningsmaskinvare mot en gjentakende avgift for andres regnekraft, pluss risikoen for at data forlater huset |
| Levetid og komponenttilgang | industrielt temperaturområde og langsiktig tilgjengelighet er en forutsetning for en enhet med ti års livsløp |
9. Videre skritt
Samtalene med Hailo fortsetter. Parallelt henvender vi oss til partnere hvis deltakelse vi anser som en forutsetning for et meningsfullt senter:
- tekniske universiteter — felles laboratorium, semesterkurs, semester- og masteroppgavetemaer, veiledning av studenter;
- industribedrifter — pilotoppgaver fra virkelig produksjon som laboratorieoppgaver i stedet for kunstige eksempler;
- kommuner og offentlig sektor — sikker og datasuveren utrulling i kommunal infrastruktur;
- integratorer og leverandører — opplæring av deres egne team og felles referansedesign.
Er noen av disse områdene av interesse — enten som partner i opplæringssenteret eller som deltaker i felles utvikling — ta kontakt.
director@ioas.pro · +421 903 667 654 · kontaktskjema
Litteratur og kilder
- Hailo. Hailo-8 AI Accelerator — produktside og spesifikasjoner. hailo.ai, 2026.
- Hailo. Hailo-10H AI Accelerator — generativ KI i edge computing. hailo.ai, 2026.
- Hailo. Hailo-15 AI Vision Processors. hailo.ai, 2026.
- Hailo. Hailo AI Software Suite — Dataflow Compiler, HailoRT, Model Zoo, TAPPAS. hailo.ai, 2026.
- Hailo. Hailo Model Zoo — GETTING_STARTED. GitHub, hailo-ai/hailo_model_zoo.
- Anwarzai, B.; Áč, V.; Lúby, Š.; Majková, E.; Senderák, R. Pseudo spin-valve on plastic substrate as sensing elements of mechanical strain. Vacuum, bd. 84, nr. 1, 2009, s. 108 – 110.
- Lúby, Š.; Majková, E.; Debnárová, A.; Senderák, R.; Áč, V.; Anwarzai, B. Effect of magnetic flux distribution on GMR in Ag/Co multilayers. Thin Solid Films, bd. 433, 2003, s. 243 – 246.
- Anwarzai, B. m.fl. Magnetostriktiv sensor — WIPO PCT WO2009088378; slovakisk patent SK 50001/2008.
- IOAS. IOAS Security Cluster (IOASC) — arkitektur, pipeline for modellbygging, parallell og distribuert databehandling. ioas.pro, 2025.
- Europaparlamentet og Rådet. Forordning (EU) 2024/1689 (KI-forordningen). Den europeiske unions tidende, 2024.
- Europaparlamentet og Rådet. Direktiv (EU) 2022/2555 (NIS2). Den europeiske unions tidende, 2022.
- Europaparlamentet og Rådet. Forordning (EU) 2024/2847 (forordningen om cybermotstandsdyktighet). Den europeiske unions tidende, 2024.
- ISO. EN ISO 3059 — Ikke-destruktiv prøving: observasjonsbetingelser ved penetrant- og magnetpulverprøving.
Illustrasjonsfoto: Jakub Pabis / Pexels.
De tekniske parameterne for Hailo-produktene er hentet fra produsentens offentlig tilgjengelige dokumentasjon (per august 2026) og tjener den faglige framstillingen; bindende opplysninger gis av produsenten. Erfaringene med kompilering, kvantisering og deling av modellen mellom akselerator og vert stammer fra IOAS’ egne prosjekter.
© 2026 Branislav Anwarzai · Institutt for avanserte studier. Teksten kan siteres med kildehenvisning.