|
|
@@ -0,0 +1,267 @@
|
|
|
+See on väga huvitav konfiguratsioon! Vaatame seda samm-sammult:
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+### ✅ **Riistvara ülevaade**
|
|
|
+
|
|
|
+- **Protsessor:** AMD Ryzen™ AI Max+ 395
|
|
|
+ See on uusima põlvkonna APU, mis sisaldab:
|
|
|
+ - **x86 CPU tuumad** (Zen 5 arhitektuur)
|
|
|
+ - **Integreeritud GPU** (RDNA 3.5)
|
|
|
+ - **AI kiirendi (NPU)** – sobib lokaalseks inference’iks ja optimeeritud AI töövoogudeks.
|
|
|
+- **Mälu:** 128 GB LPDDR5x-8000 (väga kiire, kuid **joodetud**, seega laiendatavus puudub).
|
|
|
+- **Salvestusruum:** 2 TB Crucial SSD (PCIe 4.0 NVMe) – piisav nii koduserveriks kui ka AI mudelite hoidmiseks.
|
|
|
+- **Form factor:** Mini-PC (Beelink GTR9 Pro) – kompaktne, madala energiatarbega.
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+### ✅ **Linuxi tugi**
|
|
|
+
|
|
|
+- AMD Ryzen platvormid on tavaliselt **väga hästi toetatud Linuxis**, eriti kernel 6.x ja uuemad.
|
|
|
+- Beelink seadmetel on tavaliselt:
|
|
|
+ - **Wi-Fi ja Bluetooth** – võib vajada uuemaid draivereid (soovitatav Ubuntu 24.04, Fedora 40 või Debian Testing).
|
|
|
+ - **GPU ja NPU tugi:** ROCm (AMD GPU compute) + PyTorch/TensorFlow AMD backend.
|
|
|
+ NPU tugi on veel piiratud, aga AMD töötab aktiivselt AI kiirenduse Linuxi integratsiooni kallal.
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+### ✅ **Sobivus koduse serveri ja AI/LLM tööks**
|
|
|
+
|
|
|
+- **Kodune server:**
|
|
|
+ - 128 GB RAM on suurepärane virtuaalmasinate, Docker konteinerite ja failiserveri jaoks.
|
|
|
+ - Väike form factor + madal energiatarve = ideaalne 24/7 tööks.
|
|
|
+- **AI ja LLM:**
|
|
|
+ - 128 GB RAM võimaldab jooksutada **suuri mudeleid CPU-l** (nt LLaMA 70B quantized).
|
|
|
+ - GPU (RDNA 3.5) sobib väiksemate mudelite jaoks, aga **ei konkureeri NVIDIA CUDA ökosüsteemiga**.
|
|
|
+ - Kui plaanid kasutada **PyTorch + ROCm**, siis AMD GPU tugi on olemas, kuid mõni AI raamistik võib vajada lisakonfiguratsiooni.
|
|
|
+ - NPU sobib **optimeeritud inference’iks**, mitte veel massiivseks treenimiseks.
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+### ✅ **Plussid ja miinused**
|
|
|
+
|
|
|
+**Plussid:**
|
|
|
+
|
|
|
+- Väga suur RAM (128 GB) → sobib LLM-dele ja teadustööks.
|
|
|
+- Kiire LPDDR5x ja NVMe SSD.
|
|
|
+- AMD AI kiirendi (NPU) + ROCm GPU tugi.
|
|
|
+- Kompaktne ja energiasäästlik.
|
|
|
+
|
|
|
+**Miinused:**
|
|
|
+
|
|
|
+- **Ei ole laiendatav** (RAM joodetud).
|
|
|
+- AMD ROCm ökosüsteem on vähem küps kui NVIDIA CUDA.
|
|
|
+- NPU tugi Linuxis alles areneb.
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+💡 **Soovitus:** Kui sinu teadustöö nõuab **suuri LLM-e ja GPU treeningut**, siis NVIDIA RTX 4090 või H100 on endiselt parem valik. Aga kui fookus on inference, analüüs ja kodune server, siis see masin on **väga tugev kandidaat**.
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+👉 Kas soovid, et ma koostaksin **täpse Linuxi installi ja optimeerimise juhendi** (draiverid, ROCm, Docker, AI raamistikud) just selle Beelink GTR9 Pro jaoks?
|
|
|
+Või hoopis **võrdluse NVIDIA-põhise lahendusega**?
|
|
|
+
|
|
|
+Siin on **detailne juhend Linuxi installimiseks ja optimeerimiseks Beelink GTR9 Pro jaoks**, et see sobiks koduse serveri ja AI/LLM töövoogude jaoks:
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+## ✅ **1. Valmistumine**
|
|
|
+
|
|
|
+- **Laadi alla ISO:** Soovitan **Ubuntu 24.04 LTS** või **Fedora 40** (uus kernel, hea AMD tugi).
|
|
|
+- **USB boot:** Kasuta `Rufus` või `Ventoy` USB pulga loomiseks.
|
|
|
+- BIOS-is:
|
|
|
+ - Lülita sisse **UEFI boot**.
|
|
|
+ - Lülita välja **Secure Boot** (AMD ROCm vajab seda).
|
|
|
+ - Kontrolli, et **SVM (Virtualization)** on lubatud (virtuaalmasinad, Docker).
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+## ✅ **2. Installatsioon**
|
|
|
+
|
|
|
+- Paigalda Linux tavapäraselt.
|
|
|
+- Soovitan **eraldada partitsioonid**:
|
|
|
+ - `/` – 100 GB
|
|
|
+ - `/home` – ülejäänud ruum
|
|
|
+ - `swap` – 16–32 GB (kuigi 128 GB RAMiga pole kriitiline)
|
|
|
+- Failisüsteem: **ext4** või **btrfs** (snapshots).
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+## ✅ **3. Draiverid ja optimeerimine**
|
|
|
+
|
|
|
+### **AMD GPU ja ROCm**
|
|
|
+
|
|
|
+- Installi ROCm:
|
|
|
+
|
|
|
+ sudo apt update
|
|
|
+
|
|
|
+ sudo apt install rocm-dev rocm-libs
|
|
|
+
|
|
|
+- Lisa PATH: echo 'export PATH=/opt/rocm/bin:$PATH' >> ~/.bashrc
|
|
|
+- Kontrolli GPU: rocminfo
|
|
|
+
|
|
|
+### **NPU (AI kiirendi)**
|
|
|
+
|
|
|
+- AMD töötab **Ryzen AI SDK** kallal, saad alla laadida AMD AI SDK.
|
|
|
+- Linuxi tugi on veel piiratud, aga inference optimeerimiseks saab kasutada **ONNX Runtime + DirectML** (Windowsis parem, Linuxis eksperimentaalne).
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+## ✅ **4. AI ja LLM keskkond**
|
|
|
+
|
|
|
+- Installi **Docker**: sudo apt install docker.io docker-compose
|
|
|
+- Installi **PyTorch ROCm tugi**: pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm6.0
|
|
|
+- Installi **HuggingFace Transformers**:
|
|
|
+
|
|
|
+ pip install transformers accelerate bitsandbytes
|
|
|
+
|
|
|
+- Optimeeri inference:
|
|
|
+ - Kasuta **quantized mudeleid** (4-bit või 8-bit).
|
|
|
+ - Näiteks:
|
|
|
+
|
|
|
+ from transformers import AutoModelForCausalLM, AutoTokenizer
|
|
|
+
|
|
|
+ model = AutoModelForCausalLM.from_pretrained("meta-llama/Llama-2-13b-chat-hf", device_map="auto")
|
|
|
+
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+## ✅ **5. Kodune server**
|
|
|
+
|
|
|
+- Installi **Cockpit** (veebihaldus): sudo apt install cockpit
|
|
|
+- Failiserver: **Samba** või **Nextcloud**.
|
|
|
+- Virtuaalmasinad: **KVM + libvirt**.
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+## ✅ **6. Jõudluse optimeerimine**
|
|
|
+
|
|
|
+- Lülita sisse **zram** (RAM compression).
|
|
|
+- Lisa **CPU governor**:
|
|
|
+
|
|
|
+ sudo apt install cpufrequtils
|
|
|
+
|
|
|
+ sudo cpufreq-set -g performance
|
|
|
+
|
|
|
+- Kontrolli termilist juhtimist (Beelinkil on vaikimisi hea jahutus, aga vajadusel lisa ventilaatori profiilid).
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+💡 **Kas soovid, et ma koostaksin valmis skripti, mis:**
|
|
|
+
|
|
|
+- Installib kõik vajalikud paketid (ROCm, Docker, PyTorch, HuggingFace)?
|
|
|
+- Optimeerib süsteemi AI tööks ja koduseks serveriks?
|
|
|
+
|
|
|
+Siin on **täielik juhend Pop!_OS 24.04 installimiseks ja optimeerimiseks Beelink GTR9 Pro jaoks**, et see sobiks nii koduse serveri kui ka AI/LLM töövoogude jaoks:
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+## ✅ **1. Ettevalmistus**
|
|
|
+
|
|
|
+- **Laadi alla Pop!_OS 24.04 ISO**: pop.system76.com
|
|
|
+- **Loo USB boot**:
|
|
|
+ - Kasuta `Rufus` (Windows) või `Ventoy` (Linux/Mac).
|
|
|
+- BIOS seadistused:
|
|
|
+ - **UEFI Boot**: lubatud.
|
|
|
+ - **Secure Boot**: keelatud (ROCm ja GPU compute vajavad seda).
|
|
|
+ - **SVM (Virtualization)**: lubatud (virtuaalmasinad, Docker).
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+## ✅ **2. Installatsioon**
|
|
|
+
|
|
|
+- Booti USB-lt ja vali **Clean Install**.
|
|
|
+- Soovitatav partitsioonide jaotus:
|
|
|
+ - `/` – 100 GB
|
|
|
+ - `/home` – ülejäänud ruum
|
|
|
+ - `swap` – 16–32 GB (pole kriitiline, sest RAM = 128 GB)
|
|
|
+- Failisüsteem: **ext4** (või btrfs, kui tahad snapshot’e).
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+## ✅ **3. Süsteemi uuendamine**
|
|
|
+
|
|
|
+Pärast installi:
|
|
|
+
|
|
|
+sudo apt update && sudo apt full-upgrade -y
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+## ✅ **4. AMD GPU ja ROCm tugi**
|
|
|
+
|
|
|
+Pop!_OS tuleb uuema kerneliga (6.8+), mis sobib AMD platvormile.
|
|
|
+
|
|
|
+Installi ROCm:
|
|
|
+
|
|
|
+sudo apt install rocm-dev rocm-libs
|
|
|
+
|
|
|
+Lisa PATH:
|
|
|
+
|
|
|
+echo 'export PATH=/opt/rocm/bin:$PATH' >> ~/.bashrc
|
|
|
+
|
|
|
+source ~/.bashrc
|
|
|
+
|
|
|
+Kontrolli GPU:
|
|
|
+
|
|
|
+rocminfo
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+## ✅ **5. AI ja LLM keskkond**
|
|
|
+
|
|
|
+Installi Python ja virtuaalne keskkond:
|
|
|
+
|
|
|
+sudo apt install python3-venv python3-pip
|
|
|
+
|
|
|
+python3 -m venv ~/ai-env
|
|
|
+
|
|
|
+source ~/ai-env/bin/activate
|
|
|
+
|
|
|
+Installi PyTorch ROCm tugi:
|
|
|
+
|
|
|
+pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm6.0
|
|
|
+
|
|
|
+Installi HuggingFace:
|
|
|
+
|
|
|
+pip install transformers accelerate bitsandbytes
|
|
|
+
|
|
|
+Näide LLM laadimisest:
|
|
|
+
|
|
|
+from transformers import AutoModelForCausalLM, AutoTokenizer
|
|
|
+
|
|
|
+tokenizer = AutoTokenizer.from_pretrained__("meta-llama/Llama-2-13b-chat-hf")_
|
|
|
+
|
|
|
+_model = AutoModelForCausalLM.from_pretrained("meta-llama/Llama-2-13b-chat-hf", device_map="auto")
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+## ✅ **6. Kodune server**
|
|
|
+
|
|
|
+- **Cockpit** (veebihaldus):
|
|
|
+
|
|
|
+sudo apt install cockpit
|
|
|
+
|
|
|
+- Failiserver: **Samba** või **Nextcloud**.
|
|
|
+- Virtuaalmasinad: **KVM + libvirt**:
|
|
|
+
|
|
|
+sudo apt install qemu-kvm libvirt-daemon-system virt-manager
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+## ✅ **7. Jõudluse optimeerimine**
|
|
|
+
|
|
|
+- **CPU governor**:
|
|
|
+
|
|
|
+sudo apt install cpufrequtils
|
|
|
+
|
|
|
+sudo cpufreq-set -g performance
|
|
|
+
|
|
|
+- **ZRAM** (RAM compression):
|
|
|
+
|
|
|
+sudo apt install zram-config
|
|
|
+
|
|
|
+---
|
|
|
+
|
|
|
+💡 **Kas soovid, et ma koostaksin valmis skripti, mis teeb kõik need sammud automaatselt (ROCm, Docker, PyTorch, HuggingFace, Cockpit, optimeerimine)?**
|
|
|
+
|