Semantic Gateway

درگاهی هوشمند برای درخواست‌های هوش مصنوعی با قدرت کش معنایی.

نقش من: در حال توسعه بک‌اند پروژه، شامل احراز هویت API Key، پردازش درخواست‌های Gateway، کش معنایی، اتصال به ارائه‌دهندگان مدل‌های زبانی و مدیریت Tenantها هستم. رابط کاربری کلاینت نیز با کمک هوش مصنوعی ساخته شده است.
سال: 2026
بستر: پروژه شخصی · در حال توسعه
ابزارها: Node.js
TypeScript
NestJS
PostgreSQL
Prisma

دمو زنده

01 / مسئله

نمای کلی

یک درگاه هوش مصنوعی در حال توسعه که بین اپلیکیشن‌های کلاینت و ارائه‌دهندگان مدل‌های زبانی قرار می‌گیرد. این سرویس با استفاده از شباهت معنایی، پاسخ‌های قابل استفاده مجدد را شناسایی می‌کند تا درخواست‌های تکراری به مدل‌ها کاهش پیدا کنند و یک رابط یکپارچه برای اتصال به مدل‌های هوش مصنوعی فراهم شود.

توسعه بک‌اند با NestJS و TypeScript.
استفاده از PostgreSQL و جست‌وجوی شباهت برداری برای کش معنایی.
پیاده‌سازی Redis برای دسترسی سریع به کش.
اتصال به ارائه‌دهندگان مدل‌های زبانی از طریق OpenRouter.
طراحی احراز هویت مبتنی بر API Key و پردازش درخواست‌ها با درنظرگرفتن Tenant.

اجزا چطور به هم وصل می‌شوند

01
کلاینت یک درخواست احراز هویت‌شده ارسال می‌کند
REST API · API Key
02
گیت‌وی کش معنایی را بررسی می‌کند
PostgreSQL · Vector Search
03
در صورت نبود پاسخ مناسب، درخواست به مدل ارسال می‌شود
OpenRouter · LLM
04
پاسخ بازگردانده شده و کش به‌روزرسانی می‌شود
Redis · PostgreSQL

ابزارها

Node.js
TypeScript
NestJS
PostgreSQL
Prisma
Redis
OpenRouter
Semantic Caching
Vector Search