1001 B

Raw Permalink Blame History

Instrukcja budowania dla Intel Xeon (bez AVX) + NVIDIA GPU (MX Linux)

Ten build naprawia błąd Illegal instruction na starszych procesorach i wymusza użycie CUDA.

Wymagania

Zainstalowane cuda-toolkit (bez sterowników, jeśli już są w systemie).
Pobrane repozytorium z git submodule update --init --recursive.

1. Symlinki (Naprawa ścieżek MX Linux)

MX Linux trzyma CUDA w niestandardowym miejscu. Wykonaj raz:

sudo mkdir -p /usr/local/cuda
sudo ln -sFn /usr/lib/cuda/include /usr/local/cuda/include
sudo ln -sFn /usr/lib/x86_64-linux-gnu/nvidia/current /usr/local/cuda/lib64

# Wyczyść stare
rm -rf build

# Konfiguracja
cmake -B build \
    -DOLLAMA_CUDA=ON \
    -DOLLAMA_VULKAN=OFF \
    -DGGML_VULKAN=OFF \
    -DCMAKE_DISABLE_FIND_PACKAGE_Vulkan=TRUE

# Kompilacja (1 wątek dla stabilności przy OC)
cmake --build build -j1

# Zbudowanie pliku wykonywalnego
go build .

sudo mv ollama /usr/bin/ollama
sudo chmod +x /usr/bin/ollama