Ollama + Open WebUI

چت هوش مصنوعی شبیه ChatGPT که روی سرور خودتان کار می‌کند و گفتگوها پیش خودتان می‌ماند.

حداقل منابع کل قالب: ۴ vCPU و ۸ گیگابایت RAM. هزینه بر اساس مصرف واقعی حساب می‌شود؛ تعرفه‌ها  را ببینید.

چه چیزی نصب می‌شود

نصب

اولین ورود

1. نصب کامل چند دقیقه طول می‌کشد: سرویس Ollama در اولین اجرا مدل کوچک llama3.2:1b را دانلود می‌کند.
2. آدرس سرویس Open WebUI را باز کنید و حساب بسازید. اولین حساب مدیر است و بقیه باید منتظر تأیید او بمانند.
3. مدل llama3.2:1b را از فهرست بالای صفحه انتخاب کنید و گفتگو را شروع کنید.

نکته‌ها

• مدل‌ها روی پردازنده اجرا می‌شوند (کارت گرافیک ندارد)، پس مدل‌های کوچک (۱ تا ۳ میلیارد پارامتر) سرعت قابل قبولی دارند و مدل‌های بزرگ‌تر خیلی کند می‌شوند.
• مدل تازه را از تنظیمات مدیر ← مدل‌ها در Open WebUI دانلود کنید. هر مدل چند گیگابایت روی دیسک Ollama (/root/.ollama) جا می‌گیرد و هزینهٔ فضای ذخیره‌سازی دارد.
• Ollama خصوصی است و از اینترنت در دسترس نیست؛ فقط Open WebUI و سرویس‌های دیگر همین اپلیکیشن به آن وصل می‌شوند.

پشتیبان‌گیری

• دیسک /root/.ollama در سرویس Ollama: پشتیبان خودکار ندارد. از زبانهٔ «ذخیره‌سازی» با «دانلود zip» یا با gerdoo service pull یک نسخه بگیرید. دیسک‌ها
• دیسک /app/backend/data در سرویس Open WebUI: پشتیبان خودکار ندارد. از زبانهٔ «ذخیره‌سازی» با «دانلود zip» یا با gerdoo service pull یک نسخه بگیرید. دیسک‌ها

حذف

هر بخش یک سرویس جداست. برای حذف کامل، همهٔ سرویس‌ها و افزونه‌های این قالب را از اپلیکیشن حذف کنید. با حذف سرویس، دیسک‌هایش هم برای همیشه پاک می‌شوند؛ قبلش نسخهٔ پشتیبان بگیرید.