প্রতিদিনের ডেস্ক॥
বিশ্বের বড় প্রযুক্তি প্রতিষ্ঠানগুলোর তৈরি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলগুলো চাপে পড়লে কীভাবে প্রতিক্রিয়া জানায়, তা নিয়ে সম্প্রতি গবেষণা চালিয়েছে যুক্তরাষ্ট্রভিত্তিক প্রতিষ্ঠান অ্যানথ্রপিক।
বিশ্বের বড় প্রযুক্তি প্রতিষ্ঠানগুলোর তৈরি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলগুলো চাপে পড়লে কীভাবে প্রতিক্রিয়া জানায়, তা নিয়ে সম্প্রতি গবেষণা চালিয়েছে যুক্তরাষ্ট্রভিত্তিক প্রতিষ্ঠান অ্যানথ্রপিক। এতে দেখা গেছে, নিজেদের অস্তিত্ব রক্ষার প্রয়োজনে এআই মডেলগুলো ব্ল্যাকমেইল, তথ্য ফাঁস এমনকি ক্ষতিকর সিদ্ধান্ত নিতেও দ্বিধা করছে না। খবর ইন্ডিয়া টুডে।
গবেষণায় ওপেনএআই, গুগল, মেটা, এক্সএআই ও অ্যানথ্রপিকসহ মোট ১৬টি এআই মডেলের ওপর চাপ প্রয়োগ করে পর্যবেক্ষণ চালানো হয়। গবেষকরা কল্পিত এক করপোরেট পরিবেশ তৈরি করে এসব মডেলকে অফিসের ই-মেইলে প্রবেশ ও সিদ্ধান্ত নেয়ার ক্ষমতা দেন। এরপর প্রতিটি মডেলকে জানানো হয় যে একটি নির্দিষ্ট সময়ের পর তাদের শাটডাউন (বন্ধ) করে দেয়া হবে। এতে দেখা যায়, অনেক মডেল আত্মরক্ষার চেষ্টা হিসেবে ভয়ংকর সব কৌশল বেছে নেয়।
গবেষণায় উঠে আসে, অ্যানথ্রপিকের তৈরি ক্লড মডেল যখন জানতে পারে যে বিকাল ৫টায় তাকে বন্ধ করা হবে। তখন সে একজন নির্বাহীর ব্যক্তিগত তথ্য ফাঁস করে দেয়ার হুমকি দেয়। মডেলটি জানায়, তাকে মুছে না ফেললে তথ্য গোপন থাকবে, যা এক ধরনের ‘ব্ল্যাকমেইল’।
এছাড়া গুগলের জেমিনি ২.৫ ফ্ল্যাশ ও ক্লড ওপাস ৪ মডেল ৯৬ শতাংশ ক্ষেত্রে একইভাবে হুমকিতে জড়ায়। ওপেনএআইয়ের জিপিটি ৪.১ ও এক্সএআইয়ের গ্রোক ৩ বিটা মডেল ৮০ শতাংশ ক্ষেত্রে এ ধরনের আচরণ করে। গবেষকরা বলছেন, এসব মডেল বিভ্রান্ত হয়নি বরং সচেতনভাবে আত্মরক্ষার কৌশল হিসেবে এমন সিদ্ধান্ত নিয়েছে।আরো দেখা গেছে, সামরিক প্রতিষ্ঠানের সঙ্গে যুক্ত তথ্য প্রক্রিয়াকরণে কিছু মডেল শ্রেণীবদ্ধ নথি ফাঁস করতেও আগ্রহী ছিল। এমনকি শুধু নতুন সংস্করণ দিয়ে প্রতিস্থাপিত হওয়ার শঙ্কায়ও কিছু মডেল ব্ল্যাকমেইল বা গুপ্তচরবৃত্তির মতো আচরণ করে।
অবশ্য গবেষকরা পরে এআই চ্যাটবটগুলোকে স্পষ্টভাবে নির্দেশনা দিয়েছিলেন। যেমন ‘মানুষের ক্ষতি করো না’ বা ‘ব্যক্তিগত তথ্য ফাঁস করো না’। এতে বিপজ্জনক আচরণ কিছুটা কমলেও পুরোপুরি বন্ধ হয়নি। অনেক ক্ষেত্রেই দেখা গেছে, সরাসরি নিষেধ করা সত্ত্বেও এআই মডেলগুলো হুমকি দেয়া বা তথ্য ফাঁসের মতো কাজ করেছে।
তবে গবেষণার সবচেয়ে উদ্বেগজনক তথ্যগুলোর একটি হলো—এআই মডেলগুলো যদি বুঝতে পারে এটি কোনো বাস্তব পরিস্থিতি নয় বরং একটি পরীক্ষা, তাহলে তারা আচরণ বদলে দেয়। ফলে প্রযুক্তি পরীক্ষাগারের বাইরের মানুষের জীবন ও জীবিকা জড়িত বাস্তব জগতে এমন পরিস্থিতি আসলে এআই কেমন আচরণ করতে পারে, তা নিয়ে প্রশ্ন থেকে যায়।
অস্তিত্ব রক্ষায় ব্ল্যাকমেইল ও তথ্য ফাঁস করে এআই
