Ollama install ubuntu 20.04: Perbedaan antara revisi

Dari Dokumentasi Robie
Loncat ke navigasi Loncat ke pencarian
Tidak ada ringkasan suntingan
 
(1 revisi perantara oleh pengguna yang sama tidak ditampilkan)
Baris 38: Baris 38:
   }'
   }'
    
    
Download model ollama Indonesia
* [[LLM: ollama jayacode]]
* [[LLM: ollama bahasa-4b-chat]]
* [[LLM: ollama llama3.1-rag-indo]]





Revisi terkini sejak 25 November 2024 13.28

Sumber: https://www.jeremymorgan.com/blog/generative-ai/local-llm-ubuntu/

Pastikan:

  • OS bisa linux server, seperti ubuntu server.
  • Memory RAM pastikan cukup untuk menyimpan model-nya. Model llama3 butuh memory paling tidak 8GB.
  • Kalau mau lebih enak/lebih cepat sebaiknya pakai GPU, seperti nvidia telsa yang agak baru.


Install aplikasi pendukung

sudo su
apt install curl


Download

curl -fsSL https://ollama.com/install.sh | sh

Sebagai user biasa run & download model

ollama serve
ollama pull llama3
ollama run llama3


OPTIONAL: Sebagai super user,

sudo su
sudo snap install --beta open-webui


Contoh

curl http://localhost:11434/api/generate -d '{
  "model" : "llama3",
  "prompt" : "tell me a joke",
  "stream" : false
  }'
  

Download model ollama Indonesia


Referensi