Amazon Bedrock کے ساتھ جدید روٹنگ تکنیک کے ساتھ بات چیت کی AI کو بہتر بنائیں | ایمیزون ویب سروسز

کنورسیشنل آرٹیفیشل انٹیلی جنس (AI) معاونین کو انتہائی موزوں AI افعال کے لیے سوالات کی ذہین روٹنگ کے ذریعے عین مطابق، حقیقی وقت کے جوابات فراہم کرنے کے لیے انجنیئر کیا گیا ہے۔ جیسے AWS جنریٹو AI خدمات کے ساتھ ایمیزون بیڈرک، ڈویلپرز ایسے سسٹم بنا سکتے ہیں جو ماہرانہ طریقے سے انتظام کریں اور صارف کی درخواستوں کا جواب دیں۔ Amazon Bedrock ایک مکمل طور پر منظم سروس ہے جو AI21 Labs، Anthropic، Cohere، Meta، Stability AI، اور Amazon جیسی سرکردہ AI کمپنیوں سے اعلیٰ کارکردگی کا مظاہرہ کرنے والے فاؤنڈیشن ماڈلز (FMs) کا انتخاب پیش کرتی ہے۔ سیکیورٹی، رازداری اور ذمہ دار AI کے ساتھ جنریٹیو AI ایپلی کیشنز بنانے کے لیے آپ کو جن صلاحیتوں کی ضرورت ہے۔

یہ پوسٹ AI معاونین کو تیار کرنے کے لیے دو بنیادی طریقوں کا جائزہ لیتی ہے: منظم خدمات کا استعمال جیسے کہ ایمیزون بیڈرک کے ایجنٹ، اور اوپن سورس ٹیکنالوجیز کو استعمال کرنا جیسے لینگ چین. ہم ہر ایک کے فوائد اور چیلنجوں کو تلاش کرتے ہیں، تاکہ آپ اپنی ضروریات کے لیے موزوں ترین راستہ منتخب کر سکیں۔

AI اسسٹنٹ کیا ہے؟

اے آئی اسسٹنٹ ایک ذہین نظام ہے جو فطری زبان کے سوالات کو سمجھتا ہے اور کاموں کو انجام دینے یا صارف کی جانب سے معلومات حاصل کرنے کے لیے مختلف ٹولز، ڈیٹا سورسز اور APIs کے ساتھ بات چیت کرتا ہے۔ مؤثر AI معاونین درج ذیل کلیدی صلاحیتوں کے مالک ہیں:

• قدرتی زبان کی پروسیسنگ (NLP) اور گفتگو کا بہاؤ
• بات چیت کے سیاق و سباق کی باریکیوں کی بنیاد پر متعلقہ معلومات کو سمجھنے اور بازیافت کرنے کے لیے علم کی بنیاد کا انضمام اور معنوی تلاش
• چلانے والے کام، جیسے ڈیٹا بیس کے سوالات اور کسٹم او ڈبلیو ایس لامبڈا۔ افعال
• خصوصی گفتگو اور صارف کی درخواستوں کو ہینڈل کرنا

ہم مثال کے طور پر انٹرنیٹ آف تھنگز (IoT) ڈیوائس مینجمنٹ کا استعمال کرتے ہوئے AI معاونین کے فوائد کا مظاہرہ کرتے ہیں۔ اس استعمال کے معاملے میں، AI تکنیکی ماہرین کو ایسی کمانڈز کے ساتھ مشینری کا موثر طریقے سے انتظام کرنے میں مدد کر سکتا ہے جو ڈیٹا حاصل کرتے ہیں یا کاموں کو خود کار بناتے ہیں، مینوفیکچرنگ میں آپریشن کو ہموار کرتے ہیں۔

ایمیزون بیڈرک اپروچ کے لیے ایجنٹ

ایمیزون بیڈرک کے ایجنٹ آپ کو جنریٹیو AI ایپلی کیشنز بنانے کی اجازت دیتا ہے جو کمپنی کے سسٹمز اور ڈیٹا کے ذرائع میں ملٹی سٹیپ ٹاسک چلا سکتی ہے۔ یہ درج ذیل کلیدی صلاحیتیں پیش کرتا ہے:

• ہدایات، API تفصیلات، اور ڈیٹا سورس کی معلومات سے خودکار فوری تخلیق، فوری انجینئرنگ کی کوششوں کے ہفتوں کی بچت
• Retrieval Augmented Generation (RAG) ایجنٹوں کو کمپنی کے ڈیٹا ذرائع سے محفوظ طریقے سے مربوط کرنے اور متعلقہ جوابات فراہم کرنے کے لیے
• درخواستوں کو منطقی ترتیب میں تقسیم کر کے اور ضروری APIs کو کال کر کے کثیر قدمی کاموں کا آرکیسٹریشن اور چلانا
• چین آف تھیٹ (CoT) ٹریس کے ذریعے ایجنٹ کے استدلال میں مرئیت، ماڈل کے رویے کی خرابیوں کا سراغ لگانے اور اسٹیئرنگ کی اجازت دیتی ہے۔
• ایجنٹوں پر بہتر کنٹرول کے لیے خود کار طریقے سے تیار ہونے والے پرامپٹ ٹیمپلیٹ میں ترمیم کرنے کے لیے فوری انجینئرنگ کی صلاحیتیں

آپ Amazon Bedrock اور کے لیے ایجنٹ استعمال کر سکتے ہیں۔ ایمیزون بیڈرک کے لیے نالج بیسز پیچیدہ روٹنگ کے استعمال کے معاملات کے لیے AI معاونین کی تعمیر اور تعیناتی کے لیے۔ وہ بنیادی ڈھانچے کے انتظام کو آسان بنا کر، اسکیل ایبلٹی کو بڑھا کر، سیکورٹی کو بہتر بنا کر، اور غیر متفرق ہیوی لفٹنگ کو کم کر کے ڈویلپرز اور تنظیموں کے لیے ایک اسٹریٹجک فائدہ فراہم کرتے ہیں۔ وہ آسان ایپلیکیشن لیئر کوڈ کی بھی اجازت دیتے ہیں کیونکہ روٹنگ منطق، ویکٹرائزیشن، اور میموری مکمل طور پر منظم ہے۔

حل جائزہ

یہ حل Amazon Bedrock پر Anthropic's Claude v2.1 استعمال کرتے وقت IoT ڈیوائس مینجمنٹ اور آپریشنز کے لیے تیار کردہ ایک بات چیتی AI اسسٹنٹ متعارف کرایا ہے۔ اے آئی اسسٹنٹ کی بنیادی فعالیت کو ہدایات کے ایک جامع سیٹ کے ذریعے کنٹرول کیا جاتا ہے، جسے سسٹم پرامپٹ، جو اس کی صلاحیتوں اور مہارت کے شعبوں کو بیان کرتا ہے۔ یہ رہنمائی اس بات کو یقینی بناتی ہے کہ AI اسسٹنٹ ڈیوائس کی معلومات کے انتظام سے لے کر آپریشنل کمانڈز کو چلانے تک بہت سے کاموں کو سنبھال سکتا ہے۔

"""The following is the system prompt that outlines the full scope of the AI assistant's capabilities:
You are an IoT Ops agent that handles the following activities:
- Looking up IoT device information
- Checking IoT operating metrics (historical data)
- Performing actions on a device-by-device ID
- Answering general questions
You can check device information (Device ID, Features, Technical Specifications, Installation Guide, Maintenance and Troubleshooting, Safety Guidelines, Warranty, and Support) from the "IotDeviceSpecs" knowledge base.
Additionally, you can access device historical data or device metrics. The device metrics are stored in an Athena DB named "iot_ops_glue_db" in a table named "iot_device_metrics". 
The table schema includes fields for oil level, temperature, pressure, received_at timestamp, and device_id.
The available actions you can perform on the devices include start, shutdown, and reboot."""

ان صلاحیتوں سے لیس، جیسا کہ سسٹم پرامپٹ میں تفصیل سے بتایا گیا ہے، AI اسسٹنٹ صارف کے سوالات کو حل کرنے کے لیے ایک منظم ورک فلو کی پیروی کرتا ہے۔ مندرجہ ذیل اعداد و شمار اس ورک فلو کی ایک بصری نمائندگی فراہم کرتا ہے، ابتدائی صارف کے تعامل سے لے کر حتمی ردعمل تک ہر ایک قدم کی وضاحت کرتا ہے۔

ورک فلو مندرجہ ذیل مراحل پر مشتمل ہے:

1. یہ عمل اس وقت شروع ہوتا ہے جب کوئی صارف اسسٹنٹ سے کسی کام کو انجام دینے کی درخواست کرتا ہے۔ مثال کے طور پر، کسی مخصوص IoT ڈیوائس کے لیے زیادہ سے زیادہ ڈیٹا پوائنٹس کا پوچھنا device_xxx. یہ ٹیکسٹ ان پٹ پکڑا جاتا ہے اور AI اسسٹنٹ کو بھیجا جاتا ہے۔
2. AI اسسٹنٹ صارف کے ٹیکسٹ ان پٹ کی ترجمانی کرتا ہے۔ یہ سیاق و سباق کو سمجھنے اور ضروری کاموں کا تعین کرنے کے لیے فراہم کردہ گفتگو کی سرگزشت، ایکشن گروپس، اور نالج بیسز کا استعمال کرتا ہے۔
3. صارف کے ارادے کو پارس کرنے اور سمجھنے کے بعد، AI اسسٹنٹ کاموں کی وضاحت کرتا ہے۔ یہ ان ہدایات پر مبنی ہے جو اسسٹنٹ کے ذریعہ سسٹم پرامپٹ اور صارف کے ان پٹ کے مطابق تشریح کی جاتی ہیں۔
4. اس کے بعد کام API کالوں کی ایک سیریز کے ذریعے چلائے جاتے ہیں۔ یہ استعمال کرتے ہوئے کیا جاتا ہے۔ ReAct اشارہ کرنا، جو کام کو ان مراحل کی ایک سیریز میں توڑ دیتا ہے جن پر ترتیب وار کارروائی کی جاتی ہے:
   1. ڈیوائس میٹرکس کی جانچ کے لیے، ہم استعمال کرتے ہیں۔ check-device-metrics ایکشن گروپ، جس میں لیمبڈا فنکشنز کے لیے ایک API کال شامل ہوتی ہے جو پھر استفسار کرتی ہے۔ ایمیزون ایتینا مطلوبہ ڈیٹا کے لیے۔
   2. سٹارٹ، سٹاپ، یا ریبوٹ جیسی براہ راست ڈیوائس کی کارروائیوں کے لیے، ہم استعمال کرتے ہیں۔ action-on-device ایکشن گروپ، جو لیمبڈا فنکشن کا مطالبہ کرتا ہے۔ یہ فنکشن ایک ایسا عمل شروع کرتا ہے جو IoT ڈیوائس کو کمانڈ بھیجتا ہے۔ اس پوسٹ کے لیے، لیمبڈا فنکشن استعمال کرکے اطلاعات بھیجتا ہے۔ ایمیزون سادہ ای میل سروس (ایمیزون ایس ای ایس)۔
   3. ہم ایمیزون بیڈرک کے لیے نالج بیسز کا استعمال کرتے ہیں تاکہ ان میں ایمبیڈنگز کے طور پر محفوظ تاریخی ڈیٹا سے حاصل کیا جا سکے۔ ایمیزون اوپن سرچ سروس ویکٹر ڈیٹا بیس
5. کام مکمل ہونے کے بعد، حتمی جواب Amazon Bedrock FM کے ذریعے تیار کیا جاتا ہے اور صارف کو واپس پہنچا دیا جاتا ہے۔
6. Amazon Bedrock کے ایجنٹ ایک ہی بات چیت کو برقرار رکھنے کے لیے ریاستی سیشن کا استعمال کرتے ہوئے خود بخود معلومات کو ذخیرہ کرتے ہیں۔ کنفیگر ایبل بیکار ٹائم آؤٹ گزر جانے کے بعد حالت کو حذف کر دیا جاتا ہے۔

تکنیکی جائزہ

مندرجہ ذیل خاکہ Amazon Bedrock کے ایجنٹوں کے ساتھ AI اسسٹنٹ کو تعینات کرنے کے فن تعمیر کی وضاحت کرتا ہے۔

یہ مندرجہ ذیل کلیدی اجزاء پر مشتمل ہے:

• بات چیت کا انٹرفیس - بات چیت کا انٹرفیس Streamlit، ایک اوپن سورس Python لائبریری کا استعمال کرتا ہے جو مشین لرننگ (ML) اور ڈیٹا سائنس کے لیے حسب ضرورت، بصری طور پر دلکش ویب ایپس کی تخلیق کو آسان بناتا ہے۔ اس کی میزبانی کی جاتی ہے۔ ایمیزون لچکدار کنٹینر سروس (ایمیزون ای سی ایس) کے ساتھ اے ڈبلیو ایس فارگیٹ، اور اس تک رسائی ایپلی کیشن لوڈ بیلنسر کے ذریعے کی جاتی ہے۔ آپ چلانے کے لیے Amazon ECS کے ساتھ Fargate استعمال کر سکتے ہیں۔ کنٹینر سرورز، کلسٹرز، یا ورچوئل مشینوں کا انتظام کیے بغیر۔
• ایمیزون بیڈرک کے ایجنٹ - Amazon Bedrock کے ایجنٹس استدلال کے مراحل اور اس کی بنیاد پر متعلقہ اقدامات کی ایک سیریز کے ذریعے صارف کے سوالات کو مکمل کرتے ہیں۔ رد عمل کا اشارہ کرنا:
  • ایمیزون بیڈرک کے لیے نالج بیسز - ایمیزون بیڈرک کے لیے نالج بیسز مکمل طور پر منظم ہیں۔ آر اے جی AI اسسٹنٹ کو آپ کے ڈیٹا تک رسائی فراہم کرنے کے لیے۔ ہمارے استعمال کے معاملے میں، ہم نے ڈیوائس کی وضاحتیں ایک میں اپ لوڈ کیں۔ ایمیزون سادہ اسٹوریج سروس (ایمیزون S3) بالٹی۔ یہ علم کی بنیاد پر ڈیٹا کے ذریعہ کے طور پر کام کرتا ہے۔
  • ایکشن گروپس - یہ وضاحت شدہ API اسکیمے ہیں جو IoT ڈیوائسز اور دیگر AWS سروسز کے ساتھ تعامل کرنے کے لیے مخصوص Lambda فنکشنز کی درخواست کرتے ہیں۔
  • ایمیزون بیڈرک پر انتھروپک کلاڈ v2.1 - یہ ماڈل صارف کے سوالات کی ترجمانی کرتا ہے اور کاموں کے بہاؤ کو ترتیب دیتا ہے۔
  • ایمیزون ٹائٹن ایمبیڈنگز - یہ ماڈل ٹیکسٹ ایمبیڈنگ ماڈل کے طور پر کام کرتا ہے، قدرتی زبان کے متن کو - ایک لفظ سے پیچیدہ دستاویزات میں - عددی ویکٹر میں تبدیل کرتا ہے۔ یہ ویکٹر کی تلاش کی صلاحیتوں کو قابل بناتا ہے، جس سے سسٹم کو مؤثر تلاش کے لیے سب سے زیادہ متعلقہ علمی بنیاد کے اندراجات کے ساتھ صارف کے سوالات کو معنوی طور پر میچ کرنے کی اجازت ملتی ہے۔

حل کو AWS سروسز کے ساتھ مربوط کیا گیا ہے جیسے API کالز کے جواب میں کوڈ چلانے کے لیے Lambda، ڈیٹا سیٹس سے استفسار کرنے کے لیے Athena، نالج بیسز کے ذریعے تلاش کرنے کے لیے OpenSearch سروس، اور اسٹوریج کے لیے Amazon S3۔ یہ خدمات قدرتی زبان کے حکموں کے ذریعے IoT ڈیوائس کے آپریشنز کے انتظام کے لیے ایک ہموار تجربہ فراہم کرنے کے لیے مل کر کام کرتی ہیں۔

فوائد

یہ حل درج ذیل فوائد پیش کرتا ہے:

• نفاذ کی پیچیدگی:
  • کوڈ کی کم لائنیں درکار ہیں، کیونکہ ایمیزون بیڈرک کے ایجنٹس بنیادی پیچیدگیوں کو ختم کرتے ہیں، جس سے ترقی کی کوششوں کو کم کیا جاتا ہے۔
  • اوپن سرچ سروس جیسے ویکٹر ڈیٹا بیس کا انتظام آسان بنایا گیا ہے، کیونکہ نالج بیسز فار ایمیزون بیڈرک ویکٹرائزیشن اور اسٹوریج کو ہینڈل کرتا ہے۔
  • مختلف AWS خدمات کے ساتھ انضمام پہلے سے طے شدہ ایکشن گروپس کے ذریعے زیادہ ہموار ہے۔
• ڈویلپر کا تجربہ:
  • ایمیزون بیڈروک کنسول فوری ترقی، جانچ، اور بنیادی وجہ تجزیہ (RCA) کے لیے ایک صارف دوست انٹرفیس فراہم کرتا ہے، جس سے ڈویلپر کے مجموعی تجربے میں اضافہ ہوتا ہے۔
• چستی اور لچک:
  • Amazon Bedrock کے ایجنٹ نئے FMs (جیسے Claude 3.0) کے دستیاب ہونے پر بغیر کسی رکاوٹ کے اپ گریڈ کرنے کی اجازت دیتے ہیں، لہذا آپ کا حل تازہ ترین پیشرفت کے ساتھ تازہ ترین رہتا ہے۔
  • سروس کوٹہ اور حدود کا انتظام AWS کے ذریعے کیا جاتا ہے، جس سے مانیٹرنگ اور اسکیلنگ انفراسٹرکچر کے اوور ہیڈ کو کم کیا جاتا ہے۔
• سیکیورٹی
  • Amazon Bedrock ایک مکمل طور پر منظم سروس ہے، جو AWS کے سخت سیکورٹی اور تعمیل کے معیارات پر عمل پیرا ہے، ممکنہ طور پر تنظیمی سیکورٹی کے جائزوں کو آسان بناتی ہے۔

اگرچہ Amazon Bedrock کے ایجنٹ بات چیت کی AI ایپلی کیشنز بنانے کے لیے ایک ہموار اور منظم حل پیش کرتے ہیں، کچھ تنظیمیں اوپن سورس اپروچ کو ترجیح دے سکتی ہیں۔ ایسی صورتوں میں، آپ LangChain جیسے فریم ورک استعمال کر سکتے ہیں، جس پر ہم اگلے حصے میں بات کریں گے۔

LangChain متحرک روٹنگ اپروچ

LangChain ایک اوپن سورس فریم ورک ہے جو بڑے لینگویج ماڈلز (LLMs) اور ڈائنامک روٹنگ کی صلاحیتوں کے انضمام کی اجازت دے کر بات چیت کے AI کی تعمیر کو آسان بناتا ہے۔ LangChain Expression Language (LCEL) کے ساتھ، ڈویلپرز کی وضاحت کر سکتے ہیں۔ روٹنگ، جو آپ کو غیر متعین زنجیریں بنانے کی اجازت دیتا ہے جہاں پچھلے مرحلے کا آؤٹ پٹ اگلے مرحلے کی وضاحت کرتا ہے۔ روٹنگ ایل ایل ایم کے ساتھ تعاملات میں ساخت اور مستقل مزاجی فراہم کرنے میں مدد کرتی ہے۔

اس پوسٹ کے لیے، ہم وہی مثال استعمال کرتے ہیں جو IoT ڈیوائس مینجمنٹ کے لیے AI اسسٹنٹ کی ہے۔ تاہم، بنیادی فرق یہ ہے کہ ہمیں سسٹم پرامپٹس کو الگ سے ہینڈل کرنے کی ضرورت ہے اور ہر چین کو ایک الگ ہستی کے طور پر ماننا ہوگا۔ روٹنگ چین صارف کے ان پٹ کی بنیاد پر منزل کی زنجیر کا فیصلہ کرتی ہے۔ یہ فیصلہ LLM کے تعاون سے سسٹم پرامپٹ، چیٹ ہسٹری، اور صارف کے سوال کو پاس کرکے کیا جاتا ہے۔

حل جائزہ

درج ذیل خاکہ متحرک روٹنگ سلوشن ورک فلو کو واضح کرتا ہے۔

ورک فلو مندرجہ ذیل مراحل پر مشتمل ہے:

1. صارف AI اسسٹنٹ کو ایک سوال پیش کرتا ہے۔ مثال کے طور پر، "آلہ 1009 کے لیے زیادہ سے زیادہ میٹرکس کیا ہیں؟"
2. ایک LLM ہر سوال کا جائزہ اسی سیشن سے چیٹ کی سرگزشت کے ساتھ اس کی نوعیت کا تعین کرنے کے لیے کرتا ہے اور یہ کس موضوع کے علاقے میں آتا ہے (جیسے SQL، ایکشن، تلاش، یا SME)۔ LLM ان پٹ کی درجہ بندی کرتا ہے اور LCEL روٹنگ چین اس ان پٹ کو لیتا ہے۔
3. روٹر چین ان پٹ کی بنیاد پر منزل کی زنجیر کا انتخاب کرتا ہے، اور LLM کو درج ذیل سسٹم پرامپٹ کے ساتھ فراہم کیا جاتا ہے:

"""Given the user question below, classify it as one of the candidate prompts. You may want to modify the input considering the chat history and the context of the question. 
Sometimes the user may just assume that you have the context of the conversation and may not provide a clear input. Hence, you are being provided with the chat history for more context. 
Respond with only a Markdown code snippet containing a JSON object formatted EXACTLY as specified below. 
Do not provide an explanation to your classification beside the Markdown, I just need to know your decision on which destination and next_inputs
<candidate prompt>
physics: Good for answering questions about physics
sql: sql: Good for querying sql from AWS Athena. User input may look like: get me max or min for device x?
lambdachain: Good to execute actions with Amazon Lambda like shutting down a device or turning off an engine User input can be like, shutdown device x, or terminate process y, etc.
rag: Good to search knowledgebase and retrieve information about devices and other related information. User question can be like: what do you know about device x?
default: if the input is not well suited for any of the candidate prompts above. this could be used to carry on the conversation and respond to queries like provide a summary of the conversation
</candidate prompt>"""

LLM سوال کی نوعیت کا تعین کرنے کے لیے چیٹ کی سرگزشت کے ساتھ صارف کے سوال کا جائزہ لیتا ہے اور یہ کس موضوع کے تحت آتا ہے۔ LLM پھر ان پٹ کی درجہ بندی کرتا ہے اور JSON جواب کو درج ذیل فارمیٹ میں آؤٹ پٹ کرتا ہے۔

<Markdown>
```json
{{
"destination": string  name of the prompt to use
"next_inputs": string  a potentially modified version of the original input
}}
```

راؤٹر چین اس JSON جواب کو متعلقہ منزل کی زنجیر کو طلب کرنے کے لیے استعمال کرتا ہے۔ چار موضوع کے لحاظ سے منزل کی زنجیریں ہیں، ہر ایک کا اپنا سسٹم پرامپٹ ہے:

1. SQL سے متعلقہ استفسارات ڈیٹا بیس کے تعاملات کے لیے SQL منزل چین کو بھیجے جاتے ہیں۔ آپ LCEL کو بنانے کے لیے استعمال کر سکتے ہیں۔ ایس کیو ایل چین۔
2. ایکشن پر مبنی سوالات آپریشنز چلانے کے لیے کسٹم لیمبڈا ڈیسٹینیشن چین کا مطالبہ کرتے ہیں۔ LCEL کے ساتھ، آپ اپنی وضاحت کر سکتے ہیں۔ اپنی مرضی کی تقریب; ہمارے معاملے میں، پارس شدہ ڈیوائس آئی ڈی کے ساتھ ای میل بھیجنے کے لیے پہلے سے طے شدہ لیمبڈا فنکشن چلانا ایک فنکشن ہے۔ مثال کے طور پر صارف کے ان پٹ "آلہ 1009 کو بند کریں" ہو سکتا ہے۔
3. تلاش پر مرکوز استفسارات آگے بڑھتے ہیں۔ آر اے جی معلومات کی بازیافت کے لیے منزل کا سلسلہ۔
4. ایس ایم ای سے متعلق سوالات خصوصی بصیرت کے لیے ایس ایم ای/ماہر منزل کے سلسلے میں جاتے ہیں۔
5. ہر منزل کا سلسلہ ان پٹ لیتا ہے اور ضروری ماڈلز یا فنکشن چلاتا ہے:
   1. ایس کیو ایل چین سوالات چلانے کے لیے ایتھینا کا استعمال کرتی ہے۔
   2. RAG سلسلہ سیمنٹک تلاش کے لیے OpenSearch سروس کا استعمال کرتا ہے۔
   3. کسٹم لیمبڈا چین کارروائیوں کے لیے لیمبڈا فنکشنز چلاتا ہے۔
   4. SME/ماہرین کا سلسلہ Amazon Bedrock ماڈل کا استعمال کرتے ہوئے بصیرت فراہم کرتا ہے۔
6. ہر منزل کی زنجیر کے جوابات کو LLM کے ذریعے مربوط بصیرت میں مرتب کیا جاتا ہے۔ اس کے بعد یہ بصیرتیں استفسار کے چکر کو مکمل کرتے ہوئے صارف کو پہنچائی جاتی ہیں۔
7. صارف کے ان پٹ اور جوابات اس میں محفوظ ہیں۔ ایمیزون ڈائنومو ڈی بی موجودہ سیشن اور ماضی کے تعاملات سے LLM کو سیاق و سباق فراہم کرنے کے لیے۔ DynamoDB میں مسلسل معلومات کا دورانیہ ایپلیکیشن کے ذریعے کنٹرول کیا جاتا ہے۔

تکنیکی جائزہ

مندرجہ ذیل خاکہ LangChain ڈائنامک روٹنگ سلوشن کے فن تعمیر کو واضح کرتا ہے۔

ویب ایپلیکیشن فارگیٹ کے ساتھ Amazon ECS پر میزبان Streamlit پر بنائی گئی ہے، اور اس تک رسائی ایپلی کیشن لوڈ بیلنسر کے ذریعے کی جاتی ہے۔ ہم اپنے LLM کے طور پر Amazon Bedrock پر Anthropic's Claude v2.1 استعمال کرتے ہیں۔ ویب ایپلیکیشن LangChain لائبریریوں کا استعمال کرتے ہوئے ماڈل کے ساتھ تعامل کرتی ہے۔ یہ اختتامی صارفین کی ضروریات کو پورا کرنے کے لیے مختلف قسم کی دیگر AWS سروسز، جیسے OpenSearch Service، Athena، اور DynamoDB کے ساتھ بھی بات چیت کرتا ہے۔

فوائد

یہ حل درج ذیل فوائد پیش کرتا ہے:

• نفاذ کی پیچیدگی:
  • اگرچہ اس کے لیے مزید کوڈ اور کسٹم ڈیولپمنٹ کی ضرورت ہے، لیکن LangChain روٹنگ منطق اور مختلف اجزاء کے ساتھ انضمام پر زیادہ لچک اور کنٹرول فراہم کرتا ہے۔
  • اوپن سرچ سروس جیسے ویکٹر ڈیٹا بیس کا انتظام کرنے کے لیے اضافی سیٹ اپ اور کنفیگریشن کوششوں کی ضرورت ہوتی ہے۔ ویکٹرائزیشن کا عمل کوڈ میں لاگو کیا جاتا ہے۔
  • AWS خدمات کے ساتھ انضمام میں مزید حسب ضرورت کوڈ اور کنفیگریشن شامل ہو سکتی ہے۔
• ڈویلپر کا تجربہ:
  • LangChain کا ​​ازگر پر مبنی نقطہ نظر اور وسیع دستاویزات ڈیولپرز کے لیے پرکشش ہو سکتی ہیں جو ازگر اور اوپن سورس ٹولز سے پہلے سے واقف ہیں۔
  • ایمیزون بیڈروک کنسول استعمال کرنے کے مقابلے میں فوری ترقی اور ڈیبگنگ کے لیے زیادہ دستی کوشش کی ضرورت پڑ سکتی ہے۔
• چستی اور لچک:
  • LangChain LLMs کی ایک وسیع رینج کو سپورٹ کرتا ہے، جو آپ کو لچک کو فروغ دیتے ہوئے مختلف ماڈلز یا فراہم کنندگان کے درمیان سوئچ کرنے کی اجازت دیتا ہے۔
  • LangChain کی اوپن سورس فطرت کمیونٹی کے ذریعے چلنے والی بہتری اور تخصیصات کو قابل بناتی ہے۔
• سیکیورٹی
  • ایک اوپن سورس فریم ورک کے طور پر، LangChain کو ممکنہ طور پر اوور ہیڈ کو شامل کرتے ہوئے، تنظیموں کے اندر زیادہ سخت حفاظتی جائزوں اور جانچ کی ضرورت پڑ سکتی ہے۔

نتیجہ

بات چیت کے AI معاونین آپریشن کو ہموار کرنے اور صارف کے تجربات کو بڑھانے کے لیے تبدیلی کے اوزار ہیں۔ اس پوسٹ نے AWS سروسز کا استعمال کرتے ہوئے دو طاقتور طریقوں کی کھوج کی: Amazon Bedrock کے لیے منظم ایجنٹ اور لچکدار، اوپن سورس LangChain ڈائنامک روٹنگ۔ ان طریقوں کے درمیان انتخاب آپ کی تنظیم کی ضروریات، ترقی کی ترجیحات، اور حسب ضرورت کی مطلوبہ سطح پر منحصر ہے۔ قطع نظر اس کے کہ کوئی بھی راستہ اختیار کیا جائے، AWS آپ کو ذہین AI معاونین بنانے کی طاقت دیتا ہے جو کاروبار اور کسٹمر کے تعامل میں انقلاب برپا کرتے ہیں۔

ہمارے میں حل کوڈ اور تعیناتی کے اثاثے تلاش کریں۔ GitHub ذخیرہجہاں آپ ہر بات چیت کے AI اپروچ کے لیے تفصیلی مراحل پر عمل کر سکتے ہیں۔

مصنفین کے بارے میں

امیر حکیم پنسلوانیا میں مقیم AWS سلوشنز آرکیٹیکٹ ہے۔ وہ شمال مشرقی علاقے میں آزاد سافٹ ویئر وینڈرز (ISVs) کے ساتھ تعاون کرتا ہے، AWS کلاؤڈ پر توسیع پذیر اور جدید پلیٹ فارم ڈیزائن کرنے اور بنانے میں ان کی مدد کرتا ہے۔ AI/ML اور جنریٹیو AI میں ماہر، امیر صارفین کو ان جدید ٹیکنالوجیز کی صلاحیت کو کھولنے میں مدد کرتا ہے۔ اپنے فارغ وقت میں، وہ اپنی موٹرسائیکل چلانے اور اپنے خاندان کے ساتھ معیاری وقت گزارنے میں لطف اندوز ہوتا ہے۔

شیرون لی AWS پر جنریٹو AI ایپلی کیشنز کو ڈیزائن اور بنانے کے جذبے کے ساتھ بوسٹن میں واقع Amazon Web Services میں AI/ML سلوشنز آرکیٹیکٹ ہیں۔ وہ جدید حل کے لیے AWS AI/ML خدمات کا فائدہ اٹھانے کے لیے صارفین کے ساتھ تعاون کرتی ہے۔

کوثر کمال بنیادی ڈھانچے کی آٹومیشن اور سیکیورٹی اسپیس میں 15 سال سے زیادہ کے تجربے کے ساتھ Amazon Web Services میں ایک سینئر حل آرکیٹیکٹ ہے۔ وہ کلاؤڈ میں توسیع پذیر DevSecOps اور AI/ML سلوشنز کو ڈیزائن اور بنانے میں کلائنٹس کی مدد کرتا ہے۔

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://aws.amazon.com/blogs/machine-learning/enhance-conversational-ai-with-advanced-routing-techniques-with-amazon-bedrock/