38 lines
1001 B
Markdown
38 lines
1001 B
Markdown
# Instrukcja budowania dla Intel Xeon (bez AVX) + NVIDIA GPU (MX Linux)
|
|
|
|
Ten build naprawia błąd `Illegal instruction` na starszych procesorach i wymusza użycie CUDA.
|
|
|
|
## Wymagania
|
|
* Zainstalowane `cuda-toolkit` (bez sterowników, jeśli już są w systemie).
|
|
* Pobrane repozytorium z `git submodule update --init --recursive`.
|
|
|
|
## 1. Symlinki (Naprawa ścieżek MX Linux)
|
|
MX Linux trzyma CUDA w niestandardowym miejscu. Wykonaj raz:
|
|
```bash
|
|
sudo mkdir -p /usr/local/cuda
|
|
sudo ln -sFn /usr/lib/cuda/include /usr/local/cuda/include
|
|
sudo ln -sFn /usr/lib/x86_64-linux-gnu/nvidia/current /usr/local/cuda/lib64
|
|
```
|
|
|
|
```bash
|
|
# Wyczyść stare
|
|
rm -rf build
|
|
|
|
# Konfiguracja
|
|
cmake -B build \
|
|
-DOLLAMA_CUDA=ON \
|
|
-DOLLAMA_VULKAN=OFF \
|
|
-DGGML_VULKAN=OFF \
|
|
-DCMAKE_DISABLE_FIND_PACKAGE_Vulkan=TRUE
|
|
|
|
# Kompilacja (1 wątek dla stabilności przy OC)
|
|
cmake --build build -j1
|
|
|
|
# Zbudowanie pliku wykonywalnego
|
|
go build .
|
|
```
|
|
|
|
```bash
|
|
sudo mv ollama /usr/bin/ollama
|
|
sudo chmod +x /usr/bin/ollama
|
|
``` |