LLM خدمات (بڑے لینگویج
ماڈلز)

ہم اُس کام سے شروع کرتے ہیں جو واقعی کرنا ہے — وہ سوالات جن کا جواب آپ کی ٹیم بار بار دیتی ہے، وہ دستاویزات جنہیں کوئی پڑھ کر خلاصہ بناتا ہے، اور وہ ڈیٹا انٹری جو کسی کو پسند نہیں — اور ہر امیدوار کو حجم، غلطی کی گنجائش اور کامیابی کی پیمائش کے لحاظ سے پرکھتے ہیں۔ جہاں ایک سادہ ڈیٹابیس سوال، ایک قاعدہ یا ایک رپورٹ یہی کام بہتر اور سستے میں کر سکتی ہو، وہاں ہم آپ کے ماڈل پر خرچ کرنے سے پہلے یہ صاف کہہ دیتے ہیں۔

ہم یہ نقشہ بناتے ہیں کہ ماڈل کو کیا کچھ معلوم ہونا چاہیے: پروڈکٹ اور قیمت کا ڈیٹا، پالیسیاں، پرانے سپورٹ ریکارڈ، PDF فائلیں، اندرونی wiki، اور یہ کہ ہر ماخذ کتنی جلدی بدلتا ہے۔ اسی سے طے ہوتا ہے کہ سوال کے وقت کیا اٹھایا جائے، کس چیز کی پہلے صفائی ضروری ہے، اور کون سے فیلڈ کسی ماڈل فراہم کنندہ کو ہرگز نہیں بھیجے جائیں گے۔

پہلا چلتا ہوا ورژن محتاط prompt ڈیزائن اور آپ کے اپنے مواد پر pgvector embeddings کے ذریعے retrieval سے بنتا ہے — fine-tuning جان بوجھ کر نہیں، کیونکہ غلط جواب درست کرنے کا یہ شاذ ہی سستا ترین طریقہ ہے۔ چند ہفتوں میں آپ کے ہاتھ میں ایسا نمونہ ہوتا ہے جسے آپ اپنے مشکل ترین سوالات سے پرکھ سکیں، اور یہ صاف اندازہ ہو جاتا ہے کہ خیال چلے گا یا نہیں۔

ہم لکھ کر طے کرتے ہیں کہ درست جواب کسے کہیں گے — حقیقی سوالات کا ایک درجہ بند سیٹ جس کے ساتھ متوقع رویہ درج ہو — اور اسے ہر prompt، retrieval یا ماڈل کی تبدیلی پر دوبارہ چلاتے ہیں۔ اسی مرحلے پر guardrails بھی نافذ ہوتے ہیں: ماخذ کا حوالہ، شواہد نہ ہونے پر انکار، اسسٹنٹ کے اپنے اندرونی نظام کے بارے میں خاموشی، اور کسی دوسرے گاہک کا ڈیٹا دکھانے پر مکمل پابندی۔

Tool calling اسسٹنٹ کو زندہ سسٹمز سے جوڑ دیتی ہے تاکہ وہ اندازہ لگانے کے بجائے اصل آرڈر، اسٹاک اور ریکارڈ پڑھے، اور اسے وہیں پیش کیا جاتا ہے جہاں آپ کے صارفین پہلے سے موجود ہیں: ویب ویجٹ، اندرونی ڈیش بورڈ، WhatsApp یا Instagram۔ ناقابلِ واپسی اقدامات انسانی منظوری کے پیچھے رہتے ہیں؛ رابطے کی اس تہہ کی تفصیل ہمارے GPT اور Claude API انٹیگریشن صفحے پر موجود ہے۔

ہر درخواست اندر اور باہر جانے والے tokens کے ساتھ لاگ ہوتی ہے، اس لیے فی گفتگو اور فی فیچر لاگت پہلے ہی دن سے نظر آتی ہے، پہلے بل کا انتظار نہیں کرنا پڑتا۔ جب کوئی فراہم کنندہ ماڈل بند کرے یا اس سے بہتر جاری کرے، تو ہم امیدوار ماڈل پر evaluation سیٹ دوبارہ چلاتے ہیں، معیار اور لاگت کا موازنہ کرتے ہیں، اور ایک configuration تبدیلی کے پیچھے سوئچ کر دیتے ہیں جسے واپس بھی لیا جا سکتا ہے۔