هوش مصنوعی در وب‌اپلیکیشن؛ معماری امن، Eval و MLOps

اضافه‌کردن یک فراخوانی مدل به Backend چند ساعت زمان می‌برد؛ ساختن قابلیتی که در اینترنت ناپایدار، ورودی فارسی، بار واقعی و حالت خطا قابل اعتماد بماند، مسئله اصلی است. بسیاری از پروژه‌های AI نه به‌خاطر انتخاب مدل ضعیف، بلکه به‌خاطر Use case مبهم، Ground truth نامعلوم، داده بدون مجوز، API بدون Timeout، خروجی کنترل‌نشده و نبود مسیر Fallback شکست می‌خورند.

این راهنما برای توسعه‌دهنده، Product، Data/ML، Security و SRE نوشته شده است. هدف آن تبلیغ «AI در همه‌چیز» نیست؛ هدف این است که تشخیص دهید کجا Rule/Search/UX ساده کافی است، کجا ML کلاسیک یا مدل مولد ارزش دارد، و چگونه آن را از PoC به Web application قابل سنجش و قابل بازگشت ببرید.

هوش مصنوعی در وب‌اپلیکیشن دقیقاً چه معنایی دارد؟

«AI feature» می‌تواند از یک مدل Logistic regression کوچک تا سیستم Recommendation، Semantic search، OCR، تشخیص تقلب، خلاصه‌سازی، دستیار گفتگو یا Agent ابزارمحور باشد. این خانواده‌ها ورودی، Failure mode، معیار و معماری یکسان ندارند. LLM فقط یکی از گزینه‌هاست.

AI الزام نیست؛ با Baseline کم‌پیچیدگی شروع کنید

اگر شرط کسب‌وکار قطعی، قابل توضیح و کم‌تغییر است، Rule engine انتخاب بهتری است. اگر Keyword search نیاز را حل می‌کند، Semantic retrieval هنوز ارزش اضافه نکرده است. اگر کاربر به اطلاعات دقیق سفارش نیاز دارد، Query مستقیم پایگاه‌داده از تولید متن معتبرتر است.

برای برآورد TCO، Cost per accepted outcome و تصمیم Scale/Stop از راهنمای هزینه پیاده‌سازی AI استفاده کنید. Speed یک PoC، شاهد Production fit نیست؛ چارچوب Assumption و Evidence در راهنمای نمونه‌سازی سریع آمده است.

Gate صفر: Use-case contract بنویسید

Actor: چه کسی و با چه سطح دسترسی؟
Job: در چه موقعیتی چه پیشرفتی می‌خواهد؟
Input: چه داده‌ای، از کجا و با چه مجوزی؟
Output: چه Schema و چه تصمیمی را پشتیبانی می‌کند؟
Baseline: راه فعلی و کیفیت/زمان/هزینه آن چیست؟
Failure: خطای قابل قبول و خطای غیرقابل قبول چیست؟
Authority: مدل پیشنهاد می‌دهد یا اقدام می‌کند؟
Human gate: چه چیزی تأیید انسانی می‌خواهد؟
Fallback: در Timeout/Refusal/Outage چه می‌شود؟
Acceptance: حداقل Quality/Latency/Cost/Safety چیست؟
Owner: چه کسی Outcome و Residual risk را می‌پذیرد؟

مثلاً «چت‌بات هوشمند» Use case نیست. «پاسخ به پرسش وضعیت سفارش با داده همان کاربر، بدون تغییر سفارش، با Citation به رکورد و Escalation در ابهام» Contract قابل ارزیابی است.

Risk tier؛ میزان خودکارسازی را با پیامد خطا تنظیم کنید

NIST AI Resource Center منابع AI RMF و آزمون/ارزیابی/Verification/Validation را گردآوری می‌کند. این Framework تصمیم محصول را جایگزین نمی‌کند، اما برای مستندسازی Govern/Map/Measure/Manage و Risk owner مفید است.

Build، Buy یا مدل آماده؛ تصمیم روی Lifecycle است

زبان برنامه‌نویسی «بهترین مطلق» ندارد. Python، JavaScript/TypeScript، Java، Go، Rust یا C# می‌توانند بخشی از Stack باشند. معیار، Runtime، کتابخانه، Skill تیم، Latency، Operability و Supply chain است؛ نه محبوبیت یک زبان.

پنج الگوی معماری برای AI در وب

Hybrid خودبه‌خود «بهترین دو دنیا» نیست؛ ممکن است هر دو پیچیدگی را جمع کند. تصمیم را با Device matrix، P95 latency، حجم Model، Privacy boundary، Cost و Failure drill اثبات کنید.

Client-side inference؛ چه زمانی واقعاً مناسب است؟

اجرای مدل در مرورگر برای کارهای کوچک، تعاملی، Offline یا داده‌ای که نباید برای Inference ارسال شود جذاب است. اما Artifact مدل به دستگاه کاربر می‌رسد، Capability مرورگر یکسان نیست، Main thread ممکن است مسدود شود و «داده خارج نمی‌شود» فقط وقتی درست است که Telemetry، CDN، Plugin و کد دیگر آن را ارسال نکنند.

به‌جای ONNX.js قدیمی، مستندات فعلی ONNX Runtime Web بسته onnxruntime-web و Execution Providerهای WASM/WebGPU/WebNN را توضیح می‌دهد؛ Operator و Browser support یکسان نیست. TensorFlow.js نیز اجرای مدل در Browser و Node.js را پوشش می‌دهد. انتخاب باید با Prototype روی Deviceهای واقعی باشد.

Server-side model service؛ مرز قابل عملیات

برای مدل سنگین، داده Backend، Authorization متمرکز یا IP مدل، سرویس سمت سرور مناسب‌تر است. GPU الزام نیست؛ CPU، accelerator یا inference managed بر اساس Workload انتخاب می‌شود. Container و Kubernetes نیز «مرحله استاندارد» نیستند؛ یک سرویس ساده یا Job queue ممکن است برای بار واقعی کافی باشد.

Managed API؛ کلید را هرگز در Frontend قرار ندهید

Browser باید به Backend خودتان درخواست دهد و Backend با Secret manager به Provider وصل شود. Obfuscation، Environment variable سمت Client یا محدودیت Domain جای Secret boundary را نمی‌گیرد. Backend همچنین Authorization، Budget، Redaction، Timeout، Audit و Provider abstraction را اعمال می‌کند.

در نمونه OpenAI، راهنمای رسمی API SDK سمت سرور و Responses API را نشان می‌دهد. Capability و Model catalog تغییر می‌کنند؛ Alias یا Model را بر اساس Eval انتخاب و نسخه/تنظیم مؤثر را در Trace ثبت کنید، نه اینکه نام یک مدل را برای همیشه در Business logic پخش کنید.

Async و Batch؛ کار طولانی را داخل Request نگه ندارید

برای Indexing، پردازش فایل، Transcription طولانی، Enrichment و Generation سنگین، الگوی Job بهتر از HTTP باز است. کاربر Job ID می‌گیرد، Status را Poll یا از Event دریافت می‌کند و Cancel/Expiry دارد.

POST /ai/v1/jobs
→ 202 Accepted { job_id, status_url, expires_at }

State machine:
queued → running → succeeded
                 ↘ failed_retryable → queued
                 ↘ failed_terminal
queued/running → cancelled

Required:
idempotency_key, actor_id, purpose, input_ref,
model_policy, budget, timeout, result_schema_version

ماتریس انتخاب معماری

Data contract؛ قبل از Prompt، مسیر داده را رسم کنید

«API داده را Train نمی‌کند» به‌تنهایی Data review نیست. Retention، Application state، ابزار متصل، Region، Subprocessor و Feature می‌توانند متفاوت باشند. برای نمونه، مستند رسمی کنترل داده OpenAI رفتار را به تفکیک Endpoint و قابلیت شرح می‌دهد و باید هنگام طراحی دوباره خوانده شود. بودجه و Evidence چرخه حریم خصوصی در راهنمای حریم خصوصی داده آمده است.

API contract؛ AI را پشت Endpoint دامنه‌محور پنهان کنید

Frontend نباید Provider prompt یا response خام را بشناسد. Endpoint را بر اساس Job نام‌گذاری کنید: /support/answer-draft یا /catalog/search، نه /call-llm. قرارداد API کامل—Version، Auth، Idempotency، Error و Retry—در راهنمای طراحی Web API بررسی شده است.

POST /support/v1/answer-drafts
Authorization: user/session on server
Idempotency-Key: UUID
X-Request-ID: trace-safe ID

{
  "ticket_id": "opaque-id",
  "locale": "fa-IR",
  "intent": "order_status",
  "max_sources": 3
}

200 {
  "schema_version": "1.2",
  "status": "draft | abstained",
  "answer": "...",
  "source_refs": ["order:..."],
  "review_required": true
}

Structured Output شکل را محدود می‌کند، حقیقت را نه

برای خروجی برنامه‌پذیر از JSON Schema و Enum استفاده کنید. Structured Outputs در مستند OpenAI خروجی منطبق با Schema را توضیح می‌دهد؛ بااین‌حال مقدار داخل فیلد هنوز می‌تواند از نظر حقیقت، مجوز یا منطق کسب‌وکار غلط باشد. پس Refusal/Incomplete، Semantic validation، Authorization و Business invariant همچنان لازم‌اند.

Streaming؛ Latency ادراکی را با صحت اشتباه نگیرید

Streaming زمان اولین Token را کاهش می‌دهد، اما پاسخ کامل را سریع‌تر یا درست‌تر نمی‌کند. متن جزئی ممکن است تغییر معنا دهد یا قبل از Safety/Source check دیده شود. UI باید Draft بودن، Cancel، Disconnect، Resume و Final state را مدیریت کند.

تاب‌آوری: Timeout، Retry و Budget را طراحی کنید

Retry کور می‌تواند هزینه و اقدام تکراری بسازد. فقط خطای transient و عملیات Idempotent را با Backoff/Jitter تکرار کنید. Deadline باید از Browser تا Provider منتقل شود؛ Queue و Tool call نیز سهم Budget داشته باشند.

Threat model؛ مدل یک مرز اعتماد نیست

OWASP Top 10 for LLM Applications 2025 ریسک‌هایی مانند Prompt injection، افشای اطلاعات حساس، Improper output handling، Supply chain و Excessive agency را صورت‌بندی می‌کند. آن را Awareness/Threat input بدانید و Requirement قابل آزمون برای معماری خود بسازید.

NIST SP 800-218A شیوه‌های توسعه امن را برای مدل‌های مولد و Foundation model در چرخه نرم‌افزار تکمیل می‌کند. کنترل‌های API مانند Object/Function authorization، Inventory و Rate را نیز با راهنمای امنیت API پوشش دهید.

Prompt injection را با «Prompt قوی‌تر» حل نکنید

هر متن بازیابی‌شده از وب، فایل، ایمیل یا کاربر Untrusted است. Instruction سلسله‌مراتب مفید است، اما Policy enforceable باید بیرون مدل باشد. مدل نباید بتواند مجوز را افزایش دهد، URL دلخواه را Fetch کند، Query دلخواه اجرا کند یا Secret بخواند.

Model proposes:
{ tool: "get_order", arguments: { order_id: "..." } }

Application enforces:
1. tool is allowlisted for this workflow
2. actor is authenticated
3. order belongs to actor/tenant
4. fields are schema-valid and size-limited
5. request has budget and rate allowance
6. result is minimized before returning to model
7. high-impact action requires confirmation

Tool و Agent؛ اختیار را کمینه و قابل Replay کنید

Eval contract؛ قبل از Production بگویید «خوب» یعنی چه

Demo انتخابی معیار نیست. Dataset باید Job واقعی، نرخ وقوع، Edge case، داده فارسی، Attack و Failure پرهزینه را نمایندگی کند. Eval را Version کنید و هنگام تغییر Model، Prompt، Retrieval، Tool، Schema یا Policy دوباره اجرا کنید.

معیار را با Task انتخاب کنید

در Recommendation و Personalization، Click به‌تنهایی ارزش افزوده را ثابت نمی‌کند. طراحی Candidate/constraint/holdout و سنجش Incrementality در راهنمای شخصی‌سازی فروشگاه با AI آمده است.

بسته Eval فارسی و ایران

• ی/ک فارسی و عربی، نیم‌فاصله، فاصله و غلط رایج را پوشش دهید.
• رسمی، نیمه‌محاوره‌ای، محاوره و Code-switch فارسی/انگلیسی را Slice کنید.
• عدد فارسی/لاتین، موبایل، کدملی آزمایشی، Order ID، URL و Email را در BiDi بسنجید.
• ریال/تومان را با واحد صریح و Fixture مبلغ‌های بزرگ/اعشاری آزمایش کنید.
• تاریخ شمسی/میلادی، منطقه زمانی ایران و Deadline را مبهم نگذارید.
• نام شهر، برند، محصول و اصطلاح محلی را از داده مجاز و به‌روز بگیرید.
• نمونه‌های نبود اطلاعات و Abstention را به‌اندازه پاسخ‌های موفق تست کنید.
• Segmentهای کم‌حجم را در Average پنهان نکنید.

Progressive delivery؛ Model change هم Release است

Artifact، Prompt، Eval و Policy را در همان Delivery contract نسخه‌دار کنید. مسیر Build once، provenance، Feature flag، Canary و Rollback در راهنمای CI/CD امن تکمیل شده است.

Observability؛ Trace بدون متن خام هم ممکن است

برای Debug به Prompt کامل در Log نیاز ندارید. شناسه و Metadata کمینه ثبت کنید و محتوای حساس را پیش‌فرض حذف کنید. Telemetry را از Outcome جدا نکنید: Latency خوب با پاسخ بی‌فایده موفقیت نیست.

طراحی Signal/SLO، Trace correlation، Alert و Runbook عمومی سامانه را در راهنمای Observability وب ببینید.

Cost engineering؛ هزینه را به Outcome وصل کنید

Cost per accepted outcome =
(inference + retrieval + storage + egress + observability
 human review + retry + incident + platform labor)
/ accepted outcomes

نمونه ایرانی: پیش‌نویس پاسخ وضعیت سفارش

فرض کنید فروشگاه ایرانی می‌خواهد پاسخ Ticket «پول کم شد ولی سفارش ثبت نشد» را سریع‌تر کند. مدل نباید وضعیت پرداخت را حدس بزند یا Refund انجام دهد. Backend با مجوز همان کاربر، State سفارش و Payment را از Source of truth می‌خواند؛ داده کمینه و بدون شماره کارت را به Draft generator می‌دهد؛ خروجی به Source ref و Schema محدود می‌شود و Agent پشتیبانی تأیید می‌کند.

این معماری ممکن است با Rule/Template به نتیجه کافی برسد؛ مدل فقط وقتی باقی می‌ماند که بهبود کیفیت یا زمان را با Guardrail ثابت کند.

ملاحظات اجرا برای تیم ایرانی

• Eligibility کشور/شخصیت حقوقی، Terms، End use، Payment و Export restriction هر Provider را پیش از طراحی و سپس دوره‌ای بررسی کنید؛ با هویت، نشانی یا روش پرداخت جعلی محدودیت را دور نزنید.
• Latency و Availability را روی ISP/اپراتور/منطقه واقعی و در ساعت‌های مختلف اندازه بگیرید؛ نتیجه یک دیتاسنتر خارجی را تعمیم ندهید.
• برای Provider خارجی، Data path، Retention، Subprocessor، Support، Incident notice و Exit/export را قراردادی بررسی کنید.
• برای Self-hosting داخلی، تأمین Accelerator، برق، خنک‌سازی، Driver، Patch، Capacity و Recovery را وارد TCO کنید.
• Dataset فارسی مجاز، Label guideline و Reviewer حوزه‌ای بسازید؛ ترجمه Dataset انگلیسی کافی نیست.
• واحد پول، تقویم، منطقه زمانی، BiDi، فونت و متن محاوره‌ای بخشی از Acceptance contract هستند.
• Feature flag و Manual fallback را برای اختلال Provider/شبکه حفظ کنید.

RACI؛ مسئولیت بین Product، ML و Web گم نشود

چهار Runbook ضروری

۱. Provider یا Model outage

Circuit را باز کنید؛ Job جدید را Queue/Reject کنترل‌شده کنید؛ Feature را به Template/Search/Manual degrade دهید؛ Status و زمان Update بعدی را بگویید؛ Recovery را با Canary انجام دهید.

۲. افت کیفیت یا Drift

Slice و اولین نسخه معیوب را پیدا کنید؛ Prompt/model/index/tool تغییرات را مقایسه کنید؛ Rollback یا Scope را محدود کنید؛ نمونه Incident را به Regression set اضافه کنید.

۳. افشای داده یا Prompt injection

Tool/egress و Session مربوط را متوقف کنید؛ Credential را Rotate کنید؛ Evidence را با حداقل دسترسی حفظ کنید؛ Scope داده و افراد اثرپذیرفته را بررسی و فرایند Incident جاری را اجرا کنید.

۴. Cost/Quota runaway

Tenant/use-case/model را از Tagهای مصرف جدا کنید؛ Budget/loop/retry را متوقف کنید؛ درخواست‌های تکراری و Context growth را پیدا کنید؛ پس از Fix با Limit پایین و Alert زودهنگام بازگردید.

برنامه ۹۰روزه از مسئله تا Production

چک‌لیست نهایی ادغام AI در وب‌اپلیکیشن

• Use case، Actor، Outcome، Baseline و Failure پرهزینه روشن‌اند.
• Rule/Search/Manual baseline واقعاً مقایسه شده است.
• Risk tier، Authority، Human gate و Appeal تعیین شده‌اند.
• Client/Internal/Managed/Async/Hybrid با Benchmark انتخاب شده است.
• Secret فقط سمت سرور و Provider پشت Adapter دامنه‌محور است.
• Data purpose/class/minimize/location/retention/delete/owner ثبت شده‌اند.
• Schema، Semantic validation، Authorization و Business invariant جدا هستند.
• Timeout، Retry، Idempotency، Rate، Budget، Circuit و Fallback آزموده شده‌اند.
• Prompt injection، output handling، supply chain، exfiltration و agency Threat model دارند.
• Model/Prompt/Index/Tool/Schema/Policy و Dataset نسخه‌دارند.
• Golden، Edge، Persian، Adversarial، Regression و Drift suite اجرا شده‌اند.
• Shadow/Canary/Feature flag/Rollback و Runbook وجود دارند.
• Telemetry محتوای حساس را کمینه و Outcome/Cost/Safety را Join می‌کند.
• Eligibility، Terms، Payment، Data و Exit Provider برای ایران بررسی شده‌اند.

جمع‌بندی: مدل فقط یک Dependency است

وب‌اپلیکیشن قابل اعتماد حول Model demo ساخته نمی‌شود؛ حول Contract ساخته می‌شود. وقتی Input، Output، Authority، Data، Failure، Eval، Budget و Fallback روشن باشند، تعویض Provider یا Model یک تغییر کنترل‌شده است. وقتی این مرزها وجود ندارند، حتی بهترین مدل نیز فقط Failure surface را بزرگ‌تر می‌کند.

از کوچک‌ترین Job قابل اندازه‌گیری شروع کنید، Baseline را نگه دارید، فارسی و Edge case را جدی بگیرید و برای «نمی‌دانم» مسیر محصول بسازید. Production readiness یعنی سیستم در پاسخ درست، پاسخ غلط، Refusal، Timeout، Outage و تغییر مدل رفتار تعریف‌شده دارد.

پرسش‌های متداول

بهترین معماری برای هوش مصنوعی در وب‌اپلیکیشن چیست؟

بهترین مطلق وجود ندارد. Client-side برای مدل کوچک و نیاز Offline، Server برای کنترل و داده Backend، Managed API برای شروع سریع، Async برای کار طولانی و Hybrid برای تقسیم اثبات‌شده مناسب‌اند. تصمیم باید با Data boundary، P95 latency، Device، Cost، Capability و Fallback گرفته شود.

آیا اجرای مدل در مرورگر همیشه خصوصی‌تر و سریع‌تر است؟

خیر. Round trip حذف می‌شود و داده Inference می‌تواند محلی بماند، اما Download/Initialization، قدرت دستگاه، Main-thread، Battery و Telemetry بر سرعت و حریم خصوصی اثر دارند. Network audit و Benchmark روی Device واقعی لازم است.

چطور OpenAI API را به وب‌اپلیکیشن وصل کنیم؟

Frontend به Backend خودتان درخواست می‌دهد و Backend با Secret امن به API متصل می‌شود؛ کلید نباید در Browser باشد. Use-case endpoint، Authorization، Data minimization، Timeout/Budget، Structured Output، Validation، Eval و Fallback را پیش از Production اضافه و مستند رسمی جاری را بررسی کنید.

تفاوت Structured Output و پاسخ درست چیست؟

Structured Output شکل و نوع فیلدها را با Schema محدود می‌کند؛ درست‌بودن مقدار، مالکیت رکورد، مجوز اقدام و سازگاری با Business rule را تضمین نمی‌کند. Semantic/Referential/Policy validation باید بیرون مدل اجرا شود.

چه زمانی یک قابلیت AI آماده Production است؟

وقتی Acceptance contract را روی Eval نماینده و فارسی پاس کند، Threat/Data review داشته باشد، SLO و Cost guardrail برقرار باشند، Shadow/Canary موفق باشد و برای Bad output، Refusal، Timeout، Provider outage، Drift و Rollback مسیر آزموده‌شده وجود داشته باشد.