Robie pada 23 Mei 2025 07.23

2025-05-23T07:23:43Z

← Revisi sebelumnya		Revisi per 23 Mei 2025 07.23
Baris 92:		Baris 92:

	python3 server.py --model ../llama.cpp/models/ --listen		python3 server.py --model ../llama.cpp/models/ --listen
			[[Kategori:AI]]

Robie: Melindungi "Install llama.cp" ([Sunting=Hanya untuk pengurus] (selamanya) [Pindahkan=Hanya untuk pengurus] (selamanya))

2025-05-23T07:21:58Z

Melindungi "Install llama.cp" ([Sunting=Hanya untuk pengurus] (selamanya) [Pindahkan=Hanya untuk pengurus] (selamanya))

← Revisi sebelumnya

Revisi per 23 Mei 2025 07.21

Robie: ←Membuat halaman berisi '#!/bin/bash echo "🧹 Membersihkan sisa instalasi lama..." # Hapus folder jika sudah ada rm -rf ~/text-generation-webui rm -rf ~/llama.cpp echo "🔧 Memulai instalasi ulang..." # Update sistem sudo apt update && sudo apt upgrade -y # Instal dependensi dasar sudo apt install -y git wget build-essential cmake software-properties-common python3-software-properties # Tamb...'

2025-05-23T07:21:39Z

←Membuat halaman berisi '<nowiki>#</nowiki>!/bin/bash echo "🧹 Membersihkan sisa instalasi lama..." <nowiki>#</nowiki> Hapus folder jika sudah ada rm -rf ~/text-generation-webui rm -rf ~/llama.cpp echo "🔧 Memulai instalasi ulang..." <nowiki>#</nowiki> Update sistem sudo apt update && sudo apt upgrade -y <nowiki>#</nowiki> Instal dependensi dasar sudo apt install -y git wget build-essential cmake software-properties-common python3-software-properties <nowiki>#</nowiki> Tamb...'

Halaman baru

<nowiki>#</nowiki>!/bin/bash

echo "🧹 Membersihkan sisa instalasi lama..."

<nowiki>#</nowiki> Hapus folder jika sudah ada

rm -rf ~/text-generation-webui

rm -rf ~/llama.cpp

echo "🔧 Memulai instalasi ulang..."

<nowiki>#</nowiki> Update sistem

sudo apt update && sudo apt upgrade -y

<nowiki>#</nowiki> Instal dependensi dasar

sudo apt install -y git wget build-essential cmake software-properties-common python3-software-properties

<nowiki>#</nowiki> Tambahkan repo deadsnakes untuk Python baru

sudo add-apt-repository ppa:deadsnakes/ppa -y

<nowiki>#</nowiki> Instal Python 3.10

sudo apt install -y python3.10 python3-pip python3-venv python3-distutils

<nowiki>#</nowiki> Set Python 3.10 sebagai default

sudo update-alternatives --install /usr/bin/python3 python3 /usr/bin/python3.10 1

sudo update-alternatives --set python3 /usr/bin/python3.10

<nowiki>#</nowiki> Instal pip terbaru

curl <nowiki>https://bootstrap.pypa.io/get-pip.py</nowiki> -o get-pip.py

python3 get-pip.py

rm get-pip.py

<nowiki>#</nowiki> Clone repositori llama.cpp

cd ~

git clone <nowiki>https://github.com/ggml-org/llama.cpp</nowiki>

cd llama.cpp

<nowiki>#</nowiki> Build llama.cpp

mkdir -p build && cd build

cmake .. -DLLAMA_CURL=OFF

cmake --build . --target llama-cli

<nowiki>#</nowiki> Buat folder models

cd ..

mkdir -p models

cd models

<nowiki>#</nowiki> Download model Phi-3 Mini GGUF Q4_K_M

wget <nowiki>https://huggingface.co/SixOpen/Phi-3-mini-4k-instruct-Q4_K_M-GGUF/resolve/main/phi-3-mini-4k-instruct-q4_k_m.gguf</nowiki> -O phi-3-mini.gguf

<nowiki>#</nowiki> Kembali ke home

cd ~

<nowiki>#</nowiki> Clone text-generation-webui

git clone <nowiki>https://github.com/oobabooga/text-generation-webui</nowiki>

cd text-generation-webui

<nowiki>#</nowiki> Buat virtual environment

python3 -m venv venv

source venv/bin/activate || source venv/bin/activate.fish || echo "Aktivasi venv gagal"

<nowiki>#</nowiki> Instal dependensi penting

pip install rich gradio torch transformers accelerate requests

<nowiki>#</nowiki> Jalankan server

python3 server.py --model ../llama.cpp/models/ --listen

Install llama.cp - Riwayat revisi

Robie pada 23 Mei 2025 07.23

Robie: Melindungi "Install llama.cp" ([Sunting=Hanya untuk pengurus] (selamanya) [Pindahkan=Hanya untuk pengurus] (selamanya))