Hur mycket RAM behöver din laptop för att köra AI lokalt?

En kompakt AI-modell kan redan läsa text och bilder och besvara dina frågor på din egen laptop, utan att du behöver något molnkonto. Ladda ner qwen3.5:4b-q4_K_M (Qwen) i kväll. Filen är på 3,4 GB och modellen kan göra precis det på en vanlig laptop med 16 GB RAM. Det är en så kallad LLM, eller stor språkmodell. Hämta modellen med Ollama, ställ en fråga med 4K-kontext, och du kör en riktig AI-modell lokalt på hårdvara du redan har. Den kan läsa text och bilder, och det handlar om inferens, inte träning: ingen lär modellen något nytt här, den svarar bara.

En vag etikett som ”AI PC” på kartongen är ingen specifikation. Det som spelar roll är RAM, minnet som GPU:n kan använda, lagring och faktiskt mjukvarustöd. 16 GB minne är en verklig startpunkt för små AI-modeller, inte något att avfärda, men inte heller ett löfte om allt som står i specifikationsbladet. Mer minne ger mer kontext och bättre marginal för flera uppgifter samtidigt. Kort sagt: 16 GB räcker för att komma igång.

En modells nedladdningsstorlek och hur mycket RAM den använder när den körs är två olika saker. Att blanda ihop dem är det vanligaste misstaget när man letar laptop för AI. De 3,4 GB du laddar ner för qwen3.5:4b-q4_K_M är filen på disken. För att ladda modellen krävs riktigt minne. Detsamma gäller kontextfönstret, alltså den pågående konversation som modellen håller i minnet när den svarar, den så kallade KV-cachen. Själva motorn kräver också minne, liksom operativsystemet och andra appar som redan är igång.

Ollama använder som standard en kontext på 4 096 token, och du kan höja den. Kör du flera förfrågningar samtidigt ökar minnesbehovet för kontext ungefär i takt med antalet parallella förfrågningar. Ett specifikationsblad kan ange ett kontextfönster på 128K eller 256K token, men se det som modellens tak, inte som ett löfte om att din laptop med 16 GB kan använda allt på en gång.

Apple Silicon-chip använder enhetligt minne: CPU och GPU delar på samma pool på 16, 24 eller 32 GB, så det finns inget separat grafikminne som kan ta slut. En vanlig Windows- eller Linux-laptop med ett dedikerat NVIDIA-grafikkort fungerar annorlunda. Systemets RAM och grafikprocessorns eget VRAM är två separata pooler, och 16 GB system-RAM plus ett grafikkort med 8 GB är inte en enda pool på 24 GB som modellen fritt kan använda.

När en modell inte får plats helt i GPU:n körs en del av den på CPU:n i stället. Den typen av delvis avlastning kan göra att en modell som tekniskt går att ladda ändå känns märkbart långsammare. Kör så ser du exakt hur fördelningen mellan CPU och GPU ser ut för det som är laddat just nu.

Kapacitet är bara halva bilden. Hur snabbt minnet kan flytta data spelar lika stor roll. Apple anger 153 GB/s minnesbandbredd för MacBook Air M5, och bandbredd, inte bara storlek, är en viktig del av varför enhetligt minne känns snabbt i praktiken i stället för att bara vara tekniskt tillräckligt.

Kvantisering är det som ligger bakom nedladdningen på 3,4 GB: när en modells vikter lagras med lägre numerisk precision blir filen mindre, och Qwen3.5:s egen 9B-modell visar spannet tydligt. Samma 9B-modell laddas ner som 6,6 GB i Q4_K_M, 11 GB i Q8_0 och 19 GB i full BF16-precision. Samma modell, samma antal parametrar, tre väldigt olika nedladdningsstorlekar, och återigen gäller det filstorleken, inte hur mycket RAM som krävs när modellen körs.

Lägre precision kostar vanligtvis en del kvalitet, men hur mycket beror på uppgiften, inte på någon fast procentsats. En praktisk detalj innan du väljer Qwen som första modell: vissa användare upplever att modellens ”tänkande”-steg ger en tydlig fördröjning innan svaret kommer, jämfört med modeller som svarar mer direkt. Därför kan det vara värt att testa båda varianterna på dina egna uppgifter i stället för att utgå från att den ena helt enkelt är bättre.

NVIDIAs laptop-GPU:er delar namn med stationära grafikkort, och det namnet säger mindre än man kan tro. RTX 5060 Laptop GPU har 8 GB GDDR7-minne och ett angivet effektspann på 45 till 100 watt. RTX 5070 Ti Laptop GPU har 12 GB GDDR7 och 60 till 115 watt. Ett resultat på nätet för ett stationärt RTX 5070 Ti är inte samma sak som ett resultat för RTX 5070 Ti Laptop GPU, oavsett vad namnet antyder.

Det finns en andra fälla i samma namn. Två laptops kan båda ha en ”RTX 5070 Ti Laptop GPU” och ändå prestera olika under längre belastning: ett tunt och lätt chassi och ett tjockare och tyngre chassi hanterar värme olika, och samma GPU-namn garanterar inte samma verkliga hastighet när fläktarna har jobbat ett tag. Kontrollera alltid exakt mängd VRAM och laptopens egen effektkonfiguration, inte bara vilken GPU-familj den tillhör.

AMD:s processor Ryzen AI Max+ 395 stöder upp till 128 GB LPDDR5x-systemminne, beroende på hur den färdiga datorn är konfigurerad. Det är en annan minnesarkitektur som är värd att känna till, men med en viktig hake: i Ollamas Linux-lista för ROCm-stöd finns chippet med, medan det just nu inte finns med i ROCm-listan för Windows.

Det är en anledning att kontrollera exakt installerat minne, operativsystem, GPU-backend, drivrutin och hur Ollama fungerar på en specifik laptop innan man rekommenderar den, inte en anledning att avfärda chippet direkt. Se därför en laptop med mycket minne från AMD som en intressant alternativ arkitektur som förtjänar noggrann research, inte som det självklara förstaköpet för någon som är ny på att köra AI lokalt.

Ollama är det enklaste sättet att få en modell att börja svara på din egen dator: hämta en modell, kör den, och du har en lokal server som svarar på förfrågningar, utan att något molnkonto krävs för en modell du har laddat ner. Det är verktyget bakom alla exempel här.

LM Studio är ett grafiskt alternativ med egen modellbläddrare och chattfönster. Programmet anger sina egna minimikrav: minst 16 GB RAM på Mac eller Windows, AVX2-stöd krävs på Windows x64 och 4 GB dedikerat VRAM rekommenderas på Windows. Att sätta upp något av dem ordentligt är ett eget ämne.

En varning innan du litar på ett enskilt hastighetstal på nätet: det officiella verktyget llama-bench skiljer mellan hastighet för promptbearbetning och hastighet för generering, och visar variation mellan upprepade testkörningar i stället för bara en siffra. Ett foruminlägg som citerar ett enda tal för token per sekund säger sällan vilken av de två mätningarna som avses, eller hur många gånger testet kördes.

Innan du köper eller uppgraderar just för lokal AI, titta på detaljerna i stället för marknadsföringen.

Exakt GPU-modell och mängd VRAM. Inte bara GPU-familjen, utan den exakta laptopvarianten och hur mycket eget minne den har, eftersom samma namn kan dölja olika mängder VRAM.

Fastlött eller uppgraderingsbart RAM. Vissa laptops låter dig lägga till mer minne senare, många moderna tunna och lätta modeller gör det inte. Ta reda på vilket du köper.

Ledigt SSD-utrymme. Modellnedladdningar varierar från under en gigabyte till långt över tio, och en växande samling tar snabbt plats bredvid dina andra filer.

Värmebeteende under längre belastning. En modell som svarar på en fråga och en laptop som hanterar flera förfrågningar i rad är två olika tester. Fläktljud och strypt prestanda efter upprepade promptar säger mer än en enda snabb demo.

Stöd för operativsystem och drivrutiner. Kontrollera att just din kombination av GPU-backend och operativsystem stöds av Ollama eller LM Studio innan du utgår från det.

NPU-siffran i TOPS på kartongen är ingen garanti för genomströmning. Det är en marknadsföringssiffra, inte ett testresultat från motorn du faktiskt kommer att köra. En vag etikett som ”AI PC” ersätter inte någon av kontrollerna ovan.

Behöver jag en dedikerad GPU för att köra AI lokalt?

Nej. En liten modell kan köras på CPU eller integrerad grafik på många laptops med 16 GB, bara med större variation i hastighet än på en laptop med dedikerad GPU. Börja med en 2-4B-modell innan du utgår från att du över huvud taget behöver dedikerad grafik.

Fungerar 8 GB RAM?

Inte bekvämt för modellerna som tas upp här. 16 GB är den realistiska startpunkten när man räknar in att modellen, dess kontextfönster, motorn och operativsystemet delar på samma minne.

Är det samma sak att köra en modell lokalt som att träna en?

Nej. Allt ovan handlar om inferens: att ställa frågor till en redan tränad modell. Träning bygger en modell från grunden och kräver mycket mer hårdvara än någon av laptopsen här.

Garanterar mer RAM snabbare svar?

Nej. Mer minne ger mer marginal för större modeller, längre kontext och fler öppna appar, men den verkliga hastigheten beror på minnesbandbredd, GPU-backend och den specifika modellen, inte bara på mängden minne.

Är min data privat när modellen körs lokalt?

Ja, i den meningen att dina promptar stannar på din dator i stället för att gå till en molnleverantör. Ollama binder som standard till din egen laptop och skickar inga förfrågningar någon annanstans om du inte medvetet ställer in molnåtkomst.