diff --git a/NO_AVX_GUIDE.md b/NO_AVX_GUIDE.md new file mode 100644 index 000000000..52256f317 --- /dev/null +++ b/NO_AVX_GUIDE.md @@ -0,0 +1,38 @@ +# Instrukcja budowania dla Intel Xeon (bez AVX) + NVIDIA GPU (MX Linux) + +Ten build naprawia błąd `Illegal instruction` na starszych procesorach i wymusza użycie CUDA. + +## Wymagania +* Zainstalowane `cuda-toolkit` (bez sterowników, jeśli już są w systemie). +* Pobrane repozytorium z `git submodule update --init --recursive`. + +## 1. Symlinki (Naprawa ścieżek MX Linux) +MX Linux trzyma CUDA w niestandardowym miejscu. Wykonaj raz: +```bash +sudo mkdir -p /usr/local/cuda +sudo ln -sFn /usr/lib/cuda/include /usr/local/cuda/include +sudo ln -sFn /usr/lib/x86_64-linux-gnu/nvidia/current /usr/local/cuda/lib64 +``` + +```bash +# Wyczyść stare +rm -rf build + +# Konfiguracja +cmake -B build \ + -DOLLAMA_CUDA=ON \ + -DOLLAMA_VULKAN=OFF \ + -DGGML_VULKAN=OFF \ + -DCMAKE_DISABLE_FIND_PACKAGE_Vulkan=TRUE + +# Kompilacja (1 wątek dla stabilności przy OC) +cmake --build build -j1 + +# Zbudowanie pliku wykonywalnego +go build . +``` + +```bash +sudo mv ollama /usr/bin/ollama +sudo chmod +x /usr/bin/ollama +``` \ No newline at end of file