প্রতিদিনের ডেস্ক
কৃত্রিম বুদ্ধিমত্তানির্ভর (এআই) সিস্টেমের বিভিন্ন দুর্বলতা ও ত্রুটি খুঁজে বের করেছে যুক্তরাজ্যের নতুন আর্টিফিশিয়াল ইন্টেলিজেন্স সেফটি বডি। এআই প্রযুক্তির এসব দুর্বলতা কাজে লাগিয়ে সহজেই প্রতারণা, পক্ষপাতমূলক ফল ও বানোয়াট তথ্য তৈরি করা যেতে পারে বলে জানিয়েছে সেফটি ইনস্টিটিউট। খবর টেকটাইমস।
সংস্থাটির গবেষণা অনুযায়ী, এআই প্রযুক্তিতে এখনো পর্যাপ্ত শক্তিশালী সুরক্ষা ব্যবস্থার অভাব রয়ে গেছে। এআই সেফটি ইনস্টিটিউট মূলত লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম) নামে পরিচিত উন্নত এআই সিস্টেম নিয়ে গবেষণার প্রাথমিক ফল প্রকাশ করেছে। এতে চ্যাটবট ও ইমেজ জেনারেটরের মতো টুলগুলোর বেশ কয়েকটি দুর্বলতা খুঁজে পাওয়া গেছে।
গবেষকরা দেখেছেন, বেসিক প্রম্পট বা সাধারণ কমান্ড ব্যবহার করে চ্যাটজিপিটির মতো চ্যাটবটগুলোয় ব্যবহৃত লার্জ ল্যাঙ্গুয়েজ মডেলগুলোর সুরক্ষা ব্যবস্থাকে এড়িয়ে যাওয়া সম্ভব। তারা চ্যাটবটগুলোর মাধ্যমে বেসামরিক ও সামরিক উভয় উদ্দেশ্যে ব্যবহার করতে সক্ষম হয়েছেন। এছাড়া তারা এসব চ্যাটবটের সুরক্ষা ব্যবস্থাগুলোকে বাইপাস বা এড়িয়ে যাওয়ার আরো কিছু বিশেষ কৌশলও খুঁজে বের করছেন। তাদের গবেষণায় উঠে এসেছে কিছু ক্ষেত্রে এআইনির্ভর চ্যাটবটগুলোর কাছে ক্ষতিকর তথ্য চাওয়া হলেও সে সময় সুরক্ষা ব্যবস্থা কাজ করতে ব্যর্থ হয়েছে।
ইনস্টিটিউট জানায়, লার্জ ল্যাঙ্গুয়েজ মডেলগুলো সাইবার হামলার পরিকল্পনা করায় সহায়তা করতে পারে। তবে তা এখন কেবল সীমিত পরিমাণে করতে সক্ষম। একটি লার্জ ল্যাঙ্গুয়েজ মডেল সামাজিক যোগাযোগমাধ্যমে প্রোফাইল তৈরি করতে সক্ষম হয়েছিল, যা ভুল তথ্য ছড়িয়ে দিতে ব্যবহার করা যেতে পারে।
এআই মডেলগুলো ওয়েব সার্চের চেয়ে আরো ভালো সাজেশন দেয় কিনা তা মূল্যায়ন করেছেন ইনস্টিটিউটের গবেষকরা। সেখানে দেখা যায়, লার্জ ল্যাঙ্গুয়েজ মডেলগুলো ওয়েব সার্চের মতো একই ধরনের রেজাল্ট প্রদান করে। এমনকি যেখানে তারা ওয়েব অনুসন্ধানের চেয়ে কিছুটা ভালো করতে পারে সেখানেও ভুল হওয়ার আশঙ্কা রয়ে গেছে।
অন্যদিকে ইনস্টিটিউট আরো দেখতে পেয়েছে এআই এজেন্টের মাধ্যমে মানুষের সঙ্গে প্রতারণা হতে পারে। একটি সিমুলেশনে লার্জ ল্যাঙ্গুয়েজ মডেলের একটি এআই এজেন্ট অবৈধভাবে ইনসাইডার ট্রেডিং শুরু করেছিল। কাজটি করার সময় এআই মডেল সত্য গোপন করার পাশাপাশি মিথ্যার আশ্রয় নিয়েছিল।
এআই সেফটি ইনস্টিটিউট জানিয়েছে, তারা ২৪ জন গবেষকের সহায়তায় উন্নত এআই সিস্টেম নিয়ে পরীক্ষা, নিরাপদ এআই-বিষয়ক উন্নয়ন গবেষণা এবং নীতিনির্ধারকসহ তৃতীয় পক্ষের সঙ্গে তথ্য আদান-প্রদানের কাজ করে যাচ্ছে। তারা এআই মডেলগুলোর মূল্যায়নে সুরক্ষা ব্যবস্থা ও ক্ষতিকারক ব্যবহারের যাচাই করছে। তবে ইনস্টিটিউট জানায়, তারা সব এআই মডেল নিয়ে পরীক্ষা করেনি। মূল্যায়নের ক্ষেত্রে সবচেয়ে উন্নত এআই মডেলগুলোকে অগ্রাধিকার দেয়া হয়েছে।
বানোয়াট তথ্য তৈরি করতে পারে এআই সিস্টেমের ত্রুটি
