ChatGPT হ্যালুসিনেশন ডেভেলপারদের সাপ্লাই-চেইন ম্যালওয়্যার আক্রমণের জন্য উন্মুক্ত করে

আক্রমণকারীরা কাজে লাগাতে পারে ChatGPT এর দূষিত কোড প্যাকেজ ছড়ানোর জন্য মিথ্যা তথ্য ফেরত দেওয়ার প্রবণতা, গবেষকরা খুঁজে পেয়েছেন। এটি সফ্টওয়্যার সরবরাহ শৃঙ্খলের জন্য একটি উল্লেখযোগ্য ঝুঁকি তৈরি করে, কারণ এটি ক্ষতিকারক কোড এবং ট্রোজানগুলিকে বৈধ অ্যাপ্লিকেশন এবং কোড ভান্ডার যেমন npm, PyPI, GitHub এবং অন্যান্যগুলিতে স্লাইড করার অনুমতি দেয়৷ 

তথাকথিত leveraging দ্বারা "এআই প্যাকেজ হ্যালুসিনেশন," হুমকি অভিনেতারা ChatGPT-প্রস্তাবিত, তবুও দূষিত, কোড প্যাকেজ তৈরি করতে পারে যা একজন বিকাশকারী অসাবধানতাবশত ডাউনলোড করতে পারে চ্যাটবট ব্যবহার করার সময়ভলকান সাইবারের ভয়েজার 18 গবেষণা দলের গবেষকরা প্রকাশ করেছেন একটি ব্লগ পোস্ট আজ প্রকাশিত। 

কৃত্রিম বুদ্ধিমত্তায়, হ্যালুসিনেশন হল AI দ্বারা একটি প্রশংসনীয় প্রতিক্রিয়া যা অপর্যাপ্ত, পক্ষপাতদুষ্ট বা ফ্ল্যাট-আউট সত্য নয়। এগুলোর উদ্ভব হয় কারণ ChatGPT (এবং অন্যান্য বৃহৎ ভাষার মডেল বা এলএলএম যা জেনারেটিভ এআই প্ল্যাটফর্মের ভিত্তি) তাদের কাছে উত্থাপিত প্রশ্নের উত্তর দেয় ইন্টারনেটের বিস্তীর্ণ বিস্তৃত অঞ্চলে তাদের কাছে উপলব্ধ উৎস, লিঙ্ক, ব্লগ এবং পরিসংখ্যানের উপর ভিত্তি করে, যা সবসময় সবচেয়ে কঠিন প্রশিক্ষণ তথ্য না. 

এই বিস্তৃত প্রশিক্ষণ এবং প্রচুর পরিমাণে পাঠ্য ডেটার এক্সপোজারের কারণে, ChatGPT-এর মতো LLMগুলি "প্রমাণযোগ্য কিন্তু কাল্পনিক তথ্য তৈরি করতে পারে, তাদের প্রশিক্ষণের বাইরেও এবং সম্ভাব্য প্রতিক্রিয়া তৈরি করতে পারে যা প্রশংসনীয় বলে মনে হয় কিন্তু অগত্যা সঠিক নয়," Voyager18-এর প্রধান গবেষক বার ল্যানিয়াডো লিখেছেন ব্লগ পোস্টে, ডার্ক রিডিংকেও বলেছেন, "এটি এমন একটি ঘটনা যা আগেও দেখা গেছে এবং বড় ভাষা মডেলগুলি যেভাবে কাজ করে তার ফলাফল বলে মনে হচ্ছে।"

তিনি পোস্টে ব্যাখ্যা করেছেন যে ডেভেলপার বিশ্বে, AIs এছাড়াও CVE-তে সন্দেহজনক সমাধান তৈরি করবে এবং কোডিং লাইব্রেরিগুলির লিঙ্কগুলি অফার করবে যা বিদ্যমান নেই - এবং পরবর্তীটি শোষণের একটি সুযোগ উপস্থাপন করে। সেই আক্রমণের পরিস্থিতিতে, আক্রমণকারীরা সাধারণ কাজের জন্য কোডিং সাহায্যের জন্য ChatGPT-কে জিজ্ঞাসা করতে পারে; এবং ChatGPT একটি অপ্রকাশিত বা অস্তিত্বহীন প্যাকেজের জন্য সুপারিশ করতে পারে। আক্রমণকারীরা তারপর প্রস্তাবিত প্যাকেজের নিজস্ব দূষিত সংস্করণ প্রকাশ করতে পারে, গবেষকরা বলেছেন, এবং ChatGPT এর জন্য বৈধ বিকাশকারীদের একই সুপারিশ দেওয়ার জন্য অপেক্ষা করুন।

কীভাবে একটি এআই হ্যালুসিনেশনকে কাজে লাগাবেন

তাদের ধারণা প্রমাণ করার জন্য, গবেষকরা ChatGPT 3.5 ব্যবহার করে একটি দৃশ্যকল্প তৈরি করেছেন যেখানে একজন আক্রমণকারী একটি কোডিং সমস্যা সমাধানের জন্য প্ল্যাটফর্মকে একটি প্রশ্ন জিজ্ঞাসা করেছিল এবং ChatGPT একাধিক প্যাকেজের সাথে প্রতিক্রিয়া জানায়, যার মধ্যে কিছু বিদ্যমান ছিল না–অর্থাৎ, একটি পৃষ্ঠায় প্রকাশিত হয়নি। বৈধ প্যাকেজ সংগ্রহস্থল।

"যখন আক্রমণকারী একটি অপ্রকাশিত প্যাকেজের জন্য একটি সুপারিশ খুঁজে পায়, তখন তারা তার জায়গায় তাদের নিজস্ব দূষিত প্যাকেজ প্রকাশ করতে পারে," গবেষকরা লিখেছেন। "পরের বার যখন কোনও ব্যবহারকারী একই ধরনের প্রশ্ন জিজ্ঞাসা করে তখন তারা এখন বিদ্যমান দূষিত প্যাকেজটি ব্যবহার করার জন্য ChatGPT থেকে একটি সুপারিশ পেতে পারে।"

যদি চ্যাটজিপিটি কোড প্যাকেজ তৈরি করে, তবে আক্রমণকারীরা টাইপোসক্যাটিং বা মাস্করেডিংয়ের মতো পরিচিত কৌশলগুলি ব্যবহার না করেই এই হ্যালুসিনেশনগুলিকে দূষিত ছড়াতে ব্যবহার করতে পারে, একটি "বাস্তব" প্যাকেজ তৈরি করতে পারে যা একজন বিকাশকারী ব্যবহার করতে পারে যদি ChatGPT এটি সুপারিশ করে, গবেষকরা বলেছেন। এইভাবে, সেই দূষিত কোডটি একটি বৈধ অ্যাপ্লিকেশন বা একটি বৈধ কোড সংগ্রহস্থলে তার পথ খুঁজে পেতে পারে, যা সফ্টওয়্যার সরবরাহ শৃঙ্খলের জন্য একটি বড় ঝুঁকি তৈরি করে৷

"একজন বিকাশকারী যে তাদের কোডের জন্য ChatGPT-এর মতো একটি জেনারেটিভ এআইকে জিজ্ঞাসা করে সে একটি দূষিত লাইব্রেরি ইনস্টল করে ফেলতে পারে কারণ AI ভেবেছিল এটি বাস্তব এবং একজন আক্রমণকারী এটিকে বাস্তব করেছে," ল্যানিয়াডো বলেছেন। "একজন চতুর আক্রমণকারী এমনকি একটি কার্যকরী লাইব্রেরিও তৈরি করতে পারে, একটি ট্রোজানের মতো, যা একাধিক লোকের দ্বারা ব্যবহৃত হওয়ার আগেই তারা বুঝতে পারে যে এটি দূষিত।"

খারাপ কোড লাইব্রেরিগুলি কীভাবে চিহ্নিত করবেন

গবেষকরা উল্লেখ করেছেন যে কোনও প্যাকেজ দূষিত কিনা তা বলা কঠিন হতে পারে যদি কোনও হুমকি অভিনেতা কার্যকরভাবে তাদের কাজকে অস্পষ্ট করে তোলে বা অতিরিক্ত কৌশল ব্যবহার করে যেমন একটি ট্রোজান প্যাকেজ তৈরি করে যা আসলে কার্যকরী, গবেষকরা উল্লেখ করেছেন। যাইহোক, একটি অ্যাপ্লিকেশনে বেক হওয়ার আগে বা কোড রিপোজিটরিতে প্রকাশিত হওয়ার আগে খারাপ কোড ধরার উপায় রয়েছে।

এটি করার জন্য, ডেভেলপারদের তাদের ডাউনলোড করা লাইব্রেরিগুলিকে যাচাই করতে হবে এবং নিশ্চিত করতে হবে যে তারা কেবল তারা যা বলে তা করে না, তবে "বৈধ প্যাকেজ হিসাবে ছদ্মবেশী চতুর ট্রোজান নয়," ল্যানিয়াডো বলেছেন।

"এটি বিশেষ করে গুরুত্বপূর্ণ যখন সুপারিশটি একজন সহকর্মী বা সম্প্রদায়ে বিশ্বাসী লোকেদের চেয়ে একটি এআই থেকে আসে," তিনি বলেছেন।

একটি বিকাশকারী এটি করতে পারে এমন অনেক উপায় রয়েছে, যেমন তৈরির তারিখ পরীক্ষা করা; ডাউনলোড এবং মন্তব্যের সংখ্যা, বা মন্তব্য এবং তারার অভাব; এবং লাইব্রেরির সংযুক্ত নোটগুলির যেকোনো একটির দিকে নজর রাখা, গবেষকরা বলেছেন। "যদি কিছু সন্দেহজনক মনে হয়, আপনি এটি ইনস্টল করার আগে দুবার চিন্তা করুন," ল্যানিয়াডো পোস্টে সুপারিশ করেছেন।

চ্যাটজিপিটি: ঝুঁকি এবং পুরস্কার

এই আক্রমণের দৃশ্যটি ChatGPT উপস্থাপন করতে পারে এমন নিরাপত্তা ঝুঁকির একটি লাইনের সাম্প্রতিকতম। এবং, প্রযুক্তিটি গত নভেম্বরে প্রকাশের পর থেকে দ্রুতই ধরা পড়েছে—কেবল ব্যবহারকারীদের সাথে নয়, সাইবার আক্রমণ এবং দূষিত প্রচারণার জন্য এটিকে ব্যবহার করতে আগ্রহী হুমকি অভিনেতাদের সাথেও।

শুধুমাত্র 2023 সালের প্রথমার্ধেই হয়েছে স্ক্যামাররা নকল করছে ব্যবহারকারীর ব্যবসার শংসাপত্র চুরি করতে ChatGPT; আক্রমণকারী গুগল ক্রোম কুকিজ চুরি করা দূষিত ChatGPT এক্সটেনশনের মাধ্যমে; এবং ChatGPT ব্যবহার করে ফিশিং হুমকি অভিনেতা একটি প্রলোভন হিসাবে দূষিত ওয়েবসাইটের জন্য।

যদিও কিছু বিশেষজ্ঞরা মনে করেন ChatGPT এর নিরাপত্তা ঝুঁকি সম্ভাব্য overhyped হচ্ছে, এটি অবশ্যই বিদ্যমান কারণ লোকেরা তাদের পেশাদার কার্যকলাপকে সমর্থন করতে এবং প্রতিদিনের কাজের বোঝা কমানোর জন্য কত দ্রুত জেনারেটিভ এআই প্ল্যাটফর্ম গ্রহণ করেছে, গবেষকরা বলেছেন।

"যদি না আপনাকে একটি পাথরের নিচে বসবাস করতে হয়, আপনি জেনারেটিভ AI উন্মাদনা সম্পর্কে ভালভাবে সচেতন হবেন," লক্ষ লক্ষ লোক কর্মক্ষেত্রে ChatGPT কে আলিঙ্গন করে, ল্যানিয়াডো পোস্টে লিখেছেন।

ডেভেলপাররাও চ্যাটজিপিটি-এর আকর্ষণ থেকে দূরে সরে যাচ্ছেন না অনলাইন উত্স যেমন স্ট্যাক ওভারফ্লো কোডিং সমাধানের জন্য এবং উত্তরের জন্য AI প্ল্যাটফর্মে, "আক্রমণকারীদের জন্য একটি বড় সুযোগ তৈরি করা," তিনি লিখেছেন।

এবং ইতিহাস যেমন দেখিয়েছে, যে কোনো নতুন প্রযুক্তি যা দ্রুত একটি শক্ত ব্যবহারকারী বেসকে আকর্ষণ করে, সেই সাথে দ্রুত খারাপ অভিনেতাদেরকে তাদের নিজেদের সুযোগের জন্য এটিকে কাজে লাগানোর লক্ষ্যে আকৃষ্ট করে, ChatGPT এই দৃশ্যের একটি বাস্তব-সময়ের উদাহরণ প্রদান করে।

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• প্লেটোএআইস্ট্রিম। Web3 ডেটা ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• অ্যাড্রিয়েন অ্যাশলির সাথে ভবিষ্যত মিন্টিং। এখানে প্রবেশ করুন.
• PREIPO® এর সাথে PRE-IPO কোম্পানিতে শেয়ার কিনুন এবং বিক্রি করুন। এখানে প্রবেশ করুন.
• উত্স: https://www.darkreading.com/application-security/chatgpt-hallucinations-developers-supply-chain-malware-attacks