Hermes Agent 搭配 OmniRoute、Ollama Cloud 和 Parach 的部署實測

تجربه من از راه اندازی هرمس ایجنت به همراه omniroute , ollamacloud و پارچ

خب من مدتها بود که میخواستم یه ایجنت راه بندازم . اما محدودیت لپتاپم مانع میشد . اینطوری شد که یه سیستم قدیمی رو زنده کردم و تصمیم گرفتم تبدیلش کنم به یه ورک استیشن ai برای خونه . 

روش چندتا سرویس ai بالا آوردم که اینجا میخوام درباره ایجنت هرمس و ابزاری هایی که راه اندازیش رو ساده تر و قابل استفاده تر کردن صحبت کنم . 

قدم اول انتخاب توزیع مناسب 

خب این سیستم یه سیستم قدیمه با یه همچین مشخصاتی 

• مدل: AMD Phenom™ II X4 955 Processor
• تعداد هسته‌ها: ۴ هسته (۴ Core / ۴ Thread)
• فرکانس: حداکثر ۳۲۰۰ مگاهرتز
• معماری: x86_64
• کش L3: ۲۴
• 8 گیگ رم

خب از اونجایی که هم به یه توزیع رولینگ برای داشتن آپدیت های لبه نیاز داشتم هم به یه محیط دسکتاپ برای راحتی کار انتخابم پارچ با دسکتاپ xfce بود . 

تقریبا ۳ سال میشه که کاربر پارچ هست و اولین چیزی باعث شد سوییچ کردن از دبیان به پارچ برام لذت بخش باشه ، حذف شدن درد نصب نرم افزار های به روزه . 

این که مجبور باشی برای سیستم کاری و تستینگت هی مخزن اضافه  کنی یا با چیزایی مثل flatpack کار کنی کاملا پین این ده اس . 

خب پارچ این کارو برای من به شدت راحت کرده . 

خب الان سیستم با دسکتاپ و همه سرویس های ایجنت و وب و گیت وی  که ران شده روش حدودا 1.5 گیگ رم استفاده کرده که خیلی معقول و مناسبه 

مواد لازم برای راه اندازی ایجنت 

**omniroute 

https://github.com/diegosouzapw/OmniRoute

**خود هرمس امکان مدیریت مدل های زیادی رو داره و تا حد خوبی خودش میتونه خیلی از کارا رو انجام بده . اما برای کاربر ایرانی همیشه چیزاهایی بیشتر از امکانات مدیریتی ساده نیازه . 

اولین و مهم ترین امکانی رو که omni در اختیار من گذاشت این بود که میتونستم برای اتصال به پروایدر از پروکسی استفاده کنم .

ویژگی دیگش این بود که میتونست در دسترس بودن مدل هایی که پروایدار های مختلف میدن رو سریع توش تست کنید و درگیر آزمون خطا نباشید 

و ویژگی خیلی خیلی مهمتر این بود که من نمیخوام ماهانه میلیارد ها دلار بریزم تو حلقوم اینا پس مهم بود که بتونم چیزی پیدا کنم که در دسترس و رایگان باشه . 

omni این جدای از اینکه پروایدر های خیلی زیادی رو ساپورت میکنه ، یه قسمت داره که شما میتونی با وب کوکی به همون کلاد و جمینای و ...جپت و  سایر llm های دیفالت وصل بشی 

من تونستم کلاد و دیپسیک رو همون سشن بروزرم وصل کنم . ولی کلاد رو ترسیدم که بات تشخیص بده و اکانتم رو بن کنه . دیپسیک هم یه مشکلی که داشت برای جواب های که توش کد مینوشت یه سرویسی رو فراخوانی میکرد که  ایجنت نمیفهمید . ولی خب همچنان برای کارهای غیر کد نویسی خوبه . 

ولی اگه شما این محدودیت ها رو ندارید میتونید بقیه پروایدر های وب کوکی که در اختیارتون قرار میده رو هم تست کنید .

و در آخر پروایدری که مشکل منو حل کرد ollama cloud بود که تونستم با api بهش وصل بشم و ایجنت باهاش راحت و روونه که در بخش خودش توضیح میدم .

اگر هم به شماره خارج از ایران یا فیک نامبر تمیز دسترسی دارید از nvidia هم میتونید استفاده کنید . اونم مدل های رایگان و خوبی ارائه میده 

برای نصب omni رو پارچ هم دستور زیر مییتونید استفاده کنید :‌

npm install -g omniroute
omniroute

- قبلش npm رو نصب کنید . 

بغذ هم که ایجنتتون راه افتاد بگید براتون تبدیلش کنه به سرویس . فقط خودش فعالش نکه چون وسط فعال کردن خود omni میپره بیرون و کامنندتون نصفه میمونه . بگید دستور فعال کردن رو بهتون بده و خودتون دستی اجراش کنید 

ollamacloud 

(vpn فراموش نشه قاعدتا )

بعد یه api key بگیرید . 

از داخل پروایدر های omniroute پروایدر ollama cloude  رو پیدا کنید و یه کانکشن براش بسازید .

بعدش هم براش یه پروکسی ست کنید . من از هیدیفای که رو لپتاپ اصلیم هست فعلا استفاده کردم. ولی بعدا روی خود همین سیستم نصبش میکنم. 

اون زیر براتون مدل ها رو لیست میکنه و میتونید با زدن گزینه test all همه رو تست بکنید ببنید کدوما در دسترس هستن . 

حتما از پلی گراندی هم که میده استفاده کنید برای تست . چون بعضی وقتا یه مدل رو در دسترس نشون میده ولی اون مدل ممکنه جواب نده 

من برای مدل اصلی از gamma4 31b استفاده میکنم که کارم رو راه انداخته تا الان 

( هر جا هم هر کامپرشنی دیدید اعمال کنید . چه داخل omni چه داخل هرمس ) 

نصب هرمس 

با این کامند میتونید نصبش کنید

curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash

برای تنظیمات و اماده سازیش پیشنهاد میکنم قبلش این ویدئو از جادی رو ببینید . خوب توضیح میده 

https://www.youtube.com/watch?v=mGMRzB-c8NA

موقع انتخاب پروایدر کاستوم رو انتخاب کنید . api و آدرس omni رو بزنید . خودش مدل ها رو براتون لیست میکنه. 

خود هرمس یه داشبرد هم میتونه بده ولی روی لینوکس اینترفیس اصلی که ازش استفاده میکنه ترمیناله و چون من نمیخواستم دائم ssh بزنم و خب محیط ترمینال هم در کنار جذاب بودن توی این کار برام محدودیت های خودش رو داره . تصمیم گرفتم که یه کلاینت وب هم براش نصب کنم که کلاینت جذاب و راحتی بود . 

فقط اگر مثل من روی یه سیستم دیگه دارید نصب میکنید باید حواستون باشه که روی 0.0.0.0 رانش کنید

قسمت آپشنال : سینک شدن فایل ها با سیستم اصلی 

خب از اونجایی که من قراره کد بزنم با ایجنتم نیاز بود که مکانیزمی بچینم که به فایل های ایجنت روی سیستم اصلیم دسترسی داشته باشم که بتونم با ادیتور هم روش کار کنم . 

چندتا روش رو تست کردم و چیزی که با npm و ساختار بیلد من مشکل نداشت mutagen بود . که نمونه کامند های نصب و کانفیگش رو اینجا میذارم 

برای نصب :‌ روی هر دو سیستم باید نصب بشه

yay -S mutagen.io-bin

برای برقرای سینک :

mutagen sync create \
  --ignore="node_modules" \
  --ignore=".Trash-*" \
  --ignore=".git" \
  --ignore="dist" \
  --ignore="build" \
  sourceadress\
  user@server-ip:/path/on/server/

و دسترسی برقرار میشه