🤖 مثال RAG با استفاده از Qdrant

🤖 مثال RAG با استفاده از Qdrant

وکتور دیتابیس Qdrant یک پایگاه داده برداری (Vector Database) و موتور جستجوی برداری کدبازه که برای ذخیره و جستجوی بردارهای High-dimensional Embeddings طراحی شده. یک ابزار با قابلیت مدیریت حجم بالای داده‌های برداری و با ارائه API ساده ولی در عین حال قدرتمند (مثل gRPC و REST)، ما رو توی پیاده‌سازی سرویس‌های هوشمند و مبتنی بر جستجوی برداری کمک می‌کنن. کارهایی مثل RAG که توی پست‌های قبلی توضیح دادم... البته یه محیط گرافیکی تحت وب خوب هم همراه خودش داره.

حالا برگردیم به مثالی که چند پست قبل توضیح دادم و نمونه ساده‌اش رو توی مموری موقت دیدیم. یعنی RAG قیمت ارز (بهترین مثال برای ما ایرانی‌ها چون به‌روزترین مدل‌های هوش مصنوعی هم داده‌هاشون از نرخ ارز ما خاطرات دوردسته و پیش‌بینی‌اش هم محال؛ پس یقینا فقط RAG باید داشته باشیم براش 😁 )

همون مثال رو با Qdrant نوشتم. البته با PostgreSQL و pgvector هم نوشتم که هنوز فایل راهنماش کامل نشده... (به زودی ایشالا)

📱 📔 کد روی گیت‌هاب

خروجی اینطوریه که اول با داده‌های خام llama 3.2 (نسخه ۳ میلیارد پارامتر) مزخرف می‌نویسه، بعد میریم از bonbast.org نرخ ارز رو آنلاین می‌گیریم، توی وکتور دیتابیس ذخیره می‌کنیم و بعد دوباره همون سوال رو می‌پرسیم، ولی دیگه مزخرف نمی‌نویسه...)

به راحتی Qdrant رو با داکر می‌تونید روی ماشین خودتون اجرا کنید، ollama و مدل llama 3.2 (3b) هم همینطور.

💬 سوال؟ نظر؟ بحث؟