Skip to content

Latest commit

 

History

History
243 lines (166 loc) · 7.27 KB

Validator-Clore.md

File metadata and controls

243 lines (166 loc) · 7.27 KB

Flock.io

image

💻 Sistem Gereksinimleri

Bileşenler Minimum Gereksinimler
CPU 4
RAM 8+ GB
Storage 200 GB SSD

Sunucu hazırlama Clore.ai

Gereklilikler

apt-get update && sudo apt-get upgrade
apt install curl git wget htop screen tmux build-essential jq make lz4 gcc unzip gcc clang cmake build-essential -y
wget https://repo.anaconda.com/archive/Anaconda3-2023.07-1-Linux-x86_64.sh
bash Anaconda3-2023.07-1-Linux-x86_64.sh

NOT: sayfanın aşağısına gelip yes yazıp enterla nereye kurayım diye soracak enterla. bidaha yes yazıp enterlıyacağız sorunca

image

source ~/.bashrc
conda list

Not: son kodu girince uzunca bir liste cıkıcak kuruldu.

image

👷 Başlangıç

Aşama 1

  • https://train.flock.io/stake adresine gidelim validator seçelim cüzdan bağladıktan sonra github bağlıyoruz. ve otomatik 30 adet geliyor zaten minimum stake miktarı bu
  • görev seçiyoruz. 30fml yazıyoruz approve ettikten sonra stake ediyoruz uyarılarda gpu dior ama resimelrde göreceğiniz üzere cpu da destekliyor. sağda confir demenizde gerekiyor çıkan uyarıya

image

image

image

image

image

Aşama 2

  • API keyimizi alalım sağ yukardan cüzdana tıkla api yazıyor tıklayıp api sayfasına geçelim ordaki bilgileri alalım ve bir metin belgesine kaydedelim

image

Aşama Misson imposible

image

  • Access tokene gelin. sol menude

image

  • Sağdaki seçenekten create token deyin yetkileri ayarlayın. ve oluşturun

image

image

  • Cıkan keyi kaydedelim.
  • Aşağıdaki yazanlar buyuk sunucuya kurulum yapacakalr içindir. lütfen dokumanın tamamını okuyun once.

image

Aşama 3

cd
git clone https://github.com/FLock-io/llm-loss-validator.git
cd llm-loss-validator
conda create -n llm-loss-validator python==3.10

NOT: yeni güncellenen paketler var yes diyelim

conda activate llm-loss-validator
pip install -r requirements.txt

NOT: aşağıya api keyimizi yazıyoruz. siteden aldığımız. ve Aşama Misson imposible uye olup hugginden aldığımız. flock io sitesinde stake etiğimizde sağda görev idsi yazıyor mesela resimde 10 görünüyor 10 yazıcan :D NOT: Aynı zamanda cihazın kalitesine göre 2 seçenek var. yüksek sistem neredeyse dedicate yarısından fazla güç kullanıyor modellerken

image

NOT: Screen içinde çalıştıralım. aşağıdaki kodla açıyoruz çıkarken ctrl+ad tekrar girmek için screen -r flock

screen -S flock
cd
cd llm-loss-validator
conda activate llm-loss-validator

Yüksek sistem

cd src
bash start.sh \
--hf_token BURAYA-HUGGİNG-KEY-YAZ \
--flock_api_key BURAYA-FLOCK-API-KEY-YAZ \
--task_id BURAYA-ID-YAZ \
--validation_args_file validation_config_cpu.json.example \
--auto_clean_cache False

image

Düşük sistem

cd src
bash start.sh \
--hf_token BURAYA-HUGGİNG-KEY-YAZ \
--flock_api_key BURAYA-FLOCK-API-KEY-YAZ \
--task_id BURAYA-ID-YAZ \
--validation_args_file validation_config_cpu.json.example \
--auto_clean_cache False \
--lora_only True

image

Flock servis olarak çalıştırma (Powered by MictoNode(Onur))

NOT: screen içinde çalışıyorsa gir durdur çık. NOT2: Alttaki kodlara gerek olmayabilir. Garanti olsun diye yazıldı.

cd
source ~/.bashrc
cd llm-loss-validator
conda activate llm-loss-validator

NOT: lütfen keyleri gerekli yerlere yazınız.

sudo tee /etc/systemd/system/flockd.service > /dev/null << EOF
[Unit]
Description=Flock Validator Service
After=network.target

[Service]
User=root
WorkingDirectory=/root/llm-loss-validator/src
Environment="PATH=/root/anaconda3/envs/llm-loss-validator/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
ExecStart=/bin/bash -c 'source /root/anaconda3/bin/activate llm-loss-validator && bash start.sh --hf_token BURAYA-HUGGİNG-KEY-YAZ --flock_api_key BURAYA-FLOCK-API-KEY-YAZ --task_id BURAYA-ID-YAZ --validation_args_file validation_config_cpu.json.example --auto_clean_cache True'
Restart=on-failure

[Install]
WantedBy=multi-user.target
EOF
sudo systemctl daemon-reload
sudo systemctl enable flockd
sudo systemctl start flockd
  • log komutu;
sudo journalctl -u flockd -f

Faydalı Linkler

Core Node

1500x500

Sorularınız olursa Telegram Sohbet Grubumuz Ve Discord Sunucumuza Katılabilirsiniz.