Fra lokal IT-rådgivning til bare-metal AI

Forskning og avanserte systemer

Folkering OS

Et bare-metal AI-operativsystem skrevet fra grunnen av i Rust — som kjører store språkmodeller (opp til 7B parametere, inkludert 1.58-bits BitNet) direkte på maskinvaren uten Linux eller eksterne avhengigheter.

• Programmer kjører på grafikkortet uten å vite om det (29. august 2026) — operativsystemet finner regneløkker som kunne kjørt på grafikkortet, oversetter dem til kortets eget maskinspråk og sender dem dit, uten at programmet er endret. Hele jobben ligger i én kø — data inn, regn, svar ut, si fra — og prosessoren sover mens kortet regner, vekket av kortets eget signal. Hver eneste byte er kontrollert mot det prosessoren regnet ut selv.
• AI-regningen har fått sin egen kanal i grafikkortet, og maskinen henter seg inn selv (28. august 2026) — regningen og skrivebordet deler ikke lenger kø i grafikkortet, men har hver sin — med eget minne for alt de trenger. En utregning som låser seg tar derfor ikke skjermen med seg: motoren kan strømsykles og bygges opp igjen mens skjermen tegner, og en overvåker gjør det av seg selv når en utregning bruker mer enn et halvt sekund på noe som normalt tar to tusendeler.
• Hele veien fra nettet til ferdige setninger, på den fysiske maskinen (18. august 2026) — rundt 915 megabyte modellvekter for den komprimerte 2-milliarders modellen hentes over en vanlig nettverkskabel, legges rett i minnet uten å gå veien om en fil, og maskinen svarer med generert tekst. Kontrollsummen er bit-identisk med den fra testoppsettet, og farten er målt med en klokke utenfor maskinen — maskinens egen går for fort.
• Grafikkortet regner AI-en, og den komprimerte modellen slår vanlige desimaltall (14.–15. august 2026) — programmer kan nå levere regnestykker til grafikkortet, gjennom et grensesnitt der en app bare kan peke på minne den selv eier. Både matrisemultiplikasjon og 1.58-bits-formatet kjører på kortet, kontrollert mot prosessoren ned til siste bit. Den komprimerte varianten bruker en fjortendedel av minnet til vektene, og er ved de største oppgavene også raskere enn desimalvarianten på samme kort.