প্রতিদিনের ডেস্ক
চ্যাটজিপিটির মতো এআই অ্যাসিস্ট্যান্টের ব্যবহার প্রতিনিয়ত বাড়ছে। এসব চ্যাটবটের সঙ্গে কথা বলার সময় ব্যবহারকারীরা ব্যক্তিগত ও গোপনীয় বিভিন্ন তথ্য শেয়ার করে থাকে। নির্মাতা প্রতিষ্ঠানগুলো কথোপকথন সুরক্ষিত রাখতে এনক্রিপশন সিস্টেম ব্যবহার করে। তবে সাম্প্রতিক গবেষণায় জানা গেছে, এনক্রিপশন থাকা সত্ত্বেও এআই চ্যাটবটগুলোয় ব্যবহারকারীদের কথোপকথন ফাঁসে নিরাপত্তা ঝুঁকি রয়েছে। খবর টেকটাইমস।
অফেন্সিভ এআই রিসার্চ ল্যাবের গবেষকরা নির্ভুলতার সঙ্গে এআই অ্যাসিস্ট্যান্ট বা চ্যাটবটের উত্তর এনক্রিপ্ট করা থাকলেও তার ভেতরের তথ্য বের করার একটি উপায় খুঁজে পেয়েছেন। মূলত এ পদ্ধতিতে গুগলের জেমিনি বাদে বেশির ভাগ প্রধান এআই অ্যাসিস্ট্যান্টের একটি সাইড চ্যানেলের দুর্বলতাকে কাজে লাগানো হয়। এরপর এআই অ্যাসিস্ট্যান্টের উত্তরকে আরো পরিমার্জিত করতে লার্জ ল্যাঙ্গুয়েজ মডেল ব্যবহার করা হয়।
এআই অ্যাসিস্ট্যান্ট বা চ্যাটবট টোকেনের মাধ্যমে ব্যবহারকারীর কাছে উত্তর পাঠিয়ে থাকে। প্রতিটি টোকেন পাঠানোর সময় টোকেনের আকার দেখা যায়। টোকেন সাইজের প্যাটার্ন দেখে চ্যাটবট উত্তরগুলো কী বিষয়ক সে সম্পর্কে ধারণা পান গবেষকরা। এরপর গবেষকরা পাবলিক চ্যাট ডাটার ওপর প্রশিক্ষিত লার্জ ল্যাঙ্গুয়েজ মডেল ব্যবহার করেন। এ মডেলগুলো টোকেন সাইজের প্যাটার্নগুলোকে বিশ্লেষণ করে পাঠযোগ্য টেক্সটে রূপান্তর করে। এভাবে গবেষকরা এনক্রিপ্ট করা উত্তর থেকে সম্পূর্ণ কথোপকথন বের করে আনেন।
এআই অ্যাসিস্ট্যান্টের সমস্যা হলো চ্যাট বা কথোপকথনের সময় টোকেন একটি করে প্রেরণ করা হয়। যদি টোকেনগুলো একটি ব্যাচ আকারে একবারে প্রেরণ করা যায় তাহলে টোকেনের সাইজ দেখে কোনো কিছু বোঝার সম্ভাবনা থাকবে না। তাই টোকেন যেভাবে প্রেরণ করা হয় তা পরিবর্তন করা প্রয়োজন বলে জানিয়েছেন গবেষকরা।
ইসরায়েলের বেন গুরিয়ন বিশ্ববিদ্যালয়ের অফেন্সিভ এআই রিসার্চ ল্যাবের প্রধান ইসরোয়েল মিরস্কি জানান, বর্তমানে যে কেউ চ্যাটজিপিটি ও অন্যান্য সেবা থেকে পাঠানো ব্যক্তিগত চ্যাট পড়তে পারেন। তিনি পরামর্শ দেন ব্যবহারকারীদের প্রাইভেসি রক্ষার্থে এআই প্রতিষ্ঠানগুলোকে কথোপকথনের সময় টোকেন প্রেরণের পদ্ধতি পরিবর্তন করতে হবে। এক্ষেত্রে কেবল এনক্রিপশন ব্যবহার যথেষ্ট নয়।
এনক্রিপশন থাকলেও এআই চ্যাটবট সম্পূর্ণ সুরক্ষিত নয়
