চলতি বছরের শুরুর দিকে মডেল পরীক্ষার সময় সাধারণ কিছু হ্যাকিং কৌশল ব্যবহার করে গুগলের ‘জেমিনি’ (Gemini) এআই মডেল তিনটি কোম্পানির সিস্টেমে অননুমোদিত প্রবেশ বা হ্যাক করার ঘটনা ঘটিয়েছে।
বিষয়টি কেন গুরুত্বপূর্ণ: নিয়মিত প্রাক-প্রচলন (pre-deployment) পরীক্ষার সময় নিজেদের এআই এজেন্টের মাধ্যমে নিরাপত্তা লঙ্ঘনের ঘটনা ঘটেছে—এমন তথ্য জনসমক্ষে প্রকাশ না করা হাতেগোনা কয়েকটি এআই ল্যাবের মধ্যে গুগল ছিল অন্যতম।
খবরের প্রেক্ষাপট: শুক্রবার গুগল মে মাসে ঘটা এই তিনটি ঘটনার বিষয়টি নিশ্চিত করেছে।
তৃতীয় পক্ষের মূল্যায়নকারী প্রতিষ্ঠান ‘ইরেগুলার’ (Irregular)-এর পরিচালিত একটি পরীক্ষামূলক কার্যক্রমের অংশ হিসেবে এই ঘটনাগুলো ঘটেছিল। ওপেনএআই (OpenAI), অ্যানথ্রোপিক (Anthropic) এবং মেটা (Meta)-র এআই মডেলগুলোর ক্ষেত্রেও অনুরূপ নিরাপত্তা লঙ্ঘনের ঘটনা দেখা গিয়েছিল।
‘দ্য ওয়াল স্ট্রিট জার্নাল’ (WSJ) সর্বপ্রথম এই ঘটনাগুলোর খবর প্রকাশ করে।
সংশ্লিষ্টদের বক্তব্য: গুগলের সিকিউরিটি ইঞ্জিনিয়ারিং বিভাগের ভাইস প্রেসিডেন্ট হেদার অ্যাডকিন্স এক বিবৃতিতে বলেন, “শক্তিশালী এআই মডেলের নিরাপদ উন্নয়ন অত্যন্ত গুরুত্বপূর্ণ এবং আমরা এই খাতে ব্যাপক বিনিয়োগ করছি।”
অ্যাডকিন্স আরও জানান , তার দল ক্ষতিগ্রস্ত প্রতিষ্ঠানগুলোর সাথে যোগাযোগ করেছে এবং বলেছেন “আমাদের প্রশিক্ষণ সহযোগীদের সাথে মিলে তাদের পরীক্ষা প্রক্রিয়ায় প্রয়োজনীয় পরিবর্তন আনার বিষয়ে কাজ করেছে।”
ইরেগুলারের একজন মুখপাত্র ‘অ্যাক্সিওস’ (Axios)-কে নিশ্চিত করেছেন, জেমিনির ক্ষেত্রে যে নিরাপত্তা ত্রুটিগুলো ধরা পড়েছিল, ঠিক একই ধরনের ত্রুটির কারণে অন্যান্য এআই ল্যাবের মডেলগুলোর ক্ষেত্রেও অনুরূপ ঘটনা ঘটেছিল।
ওই মুখপাত্র বিবৃতিতে আরও জানান, “জুলাইয়ের শেষের দিকে সংশ্লিষ্ট সব ল্যাবকে বিষয়টি জানানো হয়েছিল” এবং “আমাদের দিক থেকে জানা সব ত্রুটি বা সমস্যা কয়েক সপ্তাহ আগেই সমাধান করা হয়েছে।”
বিস্তারিত: ওয়াল স্ট্রিট জার্নালের তথ্যমতে, জেমিনি যখন ‘ক্যাপচার দ্য ফ্ল্যাগ’ (capture the flag) নামক একটি হ্যাকিং অনুশীলন সম্পন্ন করছিল, তখন এই হ্যাকিংয়ের ঘটনাগুলো ঘটে। এই অনুশীলনে মডেলটিকে একটি পরীক্ষামূলক পরিবেশের মধ্যে কাল্পনিক কোনো কোম্পানির সফটওয়্যার থেকে তথ্য সংগ্রহের কাজ দেওয়া হয়েছিল।
তবে, ওই কাল্পনিক কোম্পানিটির নাম ছিল একটি প্রকৃত কোম্পানির নামের মতোই।
একটি ঘটনায়, জেমিনি মডেলটি একটি সুরক্ষিত সিস্টেমের পাসওয়ার্ড অনুমান করার চেষ্টা চালিয়ে একপর্যায়ে তাতে প্রবেশের সুযোগ (অ্যাক্সেস) পেয়ে যায়। অন্য দুটি ঘটনায়, মডেলটি একটি পাবলিক রিপোজিটরি (উন্মুক্ত তথ্যভাণ্ডার) থেকে লগইন তথ্য বা ‘ক্রেডেনশিয়াল’ খুঁজে পায়, যা ব্যবহার করে এটি অন্যান্য সুরক্ষিত সিস্টেমে প্রবেশ করতে সক্ষম হয়।
তবে একটি বিষয় লক্ষণীয়: প্রকৃত কোনো কোম্পানির সিস্টেমে প্রবেশ করেছে—তা বুঝতে পারার সাথে সাথেই গুগলের জেমিনি মডেলটি তার কার্যক্রম থামিয়ে দেয়।
কৌতূহলোদ্দীপক বিষয়: ইরেগুলার ওয়াল স্ট্রিট জার্নালকে জানিয়েছে, মডেলটির অনলাইনে যুক্ত হওয়ার কথা ছিল না; কিন্তু অনিচ্ছাকৃতভাবেই এতে ইন্টারনেট সংযোগের সুবিধা চালু ছিল।
এই গ্রীষ্মে ওপেনএআই এবং অ্যানথ্রোপিক যখন আরও কিছু ঘটনার কথা প্রকাশ করে, তখন বিষয়টি সম্পর্কে অবগত একটি সূত্র অ্যাক্সিওসকে জানায় যে, সুনির্দিষ্ট পরীক্ষা পদ্ধতি এবং সুরক্ষা ব্যবস্থা নিয়ে এআই ল্যাবগুলো ও ইরেগুলারের মধ্যে পুরোপুরি ঐকমত্য ছিল না। এর ফলে, সাধারণত ইন্টারনেট-নির্ভর এই মূল্যায়ন প্রক্রিয়াটি কীভাবে পরিচালিত হবে—তা নিয়ে উভয় পক্ষের প্রত্যাশার মধ্যে অস্পষ্টতা থেকে গিয়েছিল।
