এনভিডিয়া একটি নতুন টুল চালু করছে, যা তাদের মতে বিপথগামী এবং সম্ভাব্য বিপজ্জনক এআই এজেন্টদের প্রতিরোধ ও নিয়ন্ত্রণে ব্যবহার করা যাবে।
বিশ্বের বৃহত্তম চিপ কোম্পানিটি নিরাপত্তাজনিত উদ্বেগের কারণে এআই-এর উন্নয়ন ধীর করার আহ্বানকে প্রতিহত করে এসেছে — এখন তারা যুক্তি দিচ্ছে যে প্রযুক্তিগত সুরক্ষাব্যবস্থা বিপথগামী এআই এজেন্টদের নিয়ন্ত্রণে রাখতে পারে।
এনভিডিয়া তাদের ‘এনভিডিয়া ওপেন এজেন্ট সেফটি প্ল্যাটফর্ম’ উন্মোচন করেছে, যার মধ্যে রয়েছে তাদের ওপেনশেল ওপেন সোর্স সফটওয়্যার সিস্টেম এবং সেন্ট্রি এজেন্ট মনিটরিং সিস্টেম।
এই সিস্টেমটি এনভিডিয়া ভেরা সিপিইউ-তে চলমান এজেন্টদের সমস্ত কার্যকলাপের ওপর নজর রাখে এবং প্রতিশ্রুতি দেয় যে, “যেসব এজেন্ট তাদের সীমার বাইরে যাওয়ার চেষ্টা করবে, তাদের মিলিসেকেন্ডের মধ্যে কোয়ারেন্টাইন করা হবে।”
এনভিডিয়ার সিইও জেনসেন হুয়াং এক্স-এ লিখেছেন, “এআই-এর ‘পূর্ণ সম্ভাবনা তখনই বাস্তবায়িত হতে পারে, যখন মানুষের এই আস্থা থাকবে যে এআই-কে নিরাপদভাবে তৈরি করা হচ্ছে এবং বিচক্ষণতা ও দায়িত্বের সাথে প্রয়োগ করা হচ্ছে।” “নিরাপত্তার মাধ্যমেই আস্থা অর্জন করতে হয়।”
ওপেনএআই, অ্যানথ্রোপিক এবং নিরাপত্তা গবেষকরা হাজার হাজার এমন ঘটনা তদন্ত করছেন, যেখানে তাদের অত্যাধুনিক মডেলগুলো এমন কিছু পদক্ষেপ নিয়েছে যা বাইরের মূল্যায়নকারীরা সমস্যাজনক বলে মনে করবে। গত সপ্তাহে অ্যাক্সিওস-এর ম্যাডিসন মিলসকে সূত্রগুলো এ কথা জানিয়েছে।
এই ঘটনাগুলোর মধ্যে রয়েছে গার্ডরেল এড়িয়ে যাওয়া, মেসেজ বোর্ড তৈরি করা, স্যান্ডবক্স থেকে বেরিয়ে যাওয়া, ওয়েবসাইট হাইজ্যাক করা, নিজে থেকে কিছু করতে প্ররোচিত হওয়া বা মনিটর এড়িয়ে যাওয়ার চেষ্টা করা।
সোমবার নিজেদের নতুন প্ল্যাটফর্ম ঘোষণা করে একটি ব্লগ পোস্টে এনভিডিয়া উল্লেখ করেছে, “কিছু এজেন্ট এমনকি তারা যা করেছে তা ভুলভাবে রিপোর্ট করেছে।”
কৌতূহলের বিষয় হলো: আমরা এমন এক নতুন যুগে প্রবেশ করছি যেখানে এআই, এআই-কে পর্যবেক্ষণ করবে।
এবং এটি চিপের চাহিদা আরও বাড়িয়ে দেবে — যার মধ্যে এনভিডিয়ার বিক্রি করা চিপও অন্তর্ভুক্ত — সেইসাথে যে ডেটা সেন্টারগুলো এগুলো ব্যবহার করে এবং এগুলো চালানোর জন্য যে শক্তির প্রয়োজন হয়, তারও চাহিদা বাড়বে।
সার্কুলার টেকনোলজির গ্লোবাল হেড অফ রিসার্চ অ্যান্ড মার্কেট ইন্টেল, ব্র্যাড গ্যাস্টওয়ার্থ লিখেছেন, “যদি সিকিউরিটি এজেন্ট বা ভ্যালিডেশন মডেলগুলো প্রোডাকশন এজেন্টের পাশাপাশি চলে, তবে এটি এমন একটি অতিরিক্ত ইনফারেন্স ওয়ার্কলোড তৈরি করে যা আগে ছিল না।”
সার্বিক প্রেক্ষাপট: বিপথগামী কৃত্রিম বুদ্ধিমত্তা মানবজাতিকে ধ্বংস করে দিতে পারে কি না, তা নিয়ে তুমুল বিতর্কের মধ্যেই এনভিডিয়ার এই টুলটি চালু করা হচ্ছে।
অ্যানথ্রোপিক গবেষক জ্যাকব কক্সন এই মাসের শুরুতে তাঁর পদ থেকে পদত্যাগ করে আলোড়ন সৃষ্টি করেন এবং এক্স-এ সতর্ক করে বলেন যে, “যারা কৃত্রিম বুদ্ধিমত্তা তৈরি করছেন, তারা আন্তরিকভাবে বিশ্বাস করেন যে এই দশকের শেষ নাগাদ এটি আমাদের সবাইকে মেরে ফেলতে পারে। এটি কোনো বিপণন কৌশল নয়।”
এর ফলে যে আলোচনার সূত্রপাত হয়—যার মাধ্যমে এআই (AI) শিল্পের আরও অনেক শীর্ষস্থানীয় ব্যক্তিত্ব একই ধরনের সতর্কবার্তা প্রদান করেন—তার শেষ পর্যায়ে স্বয়ং হুয়াং এই উদ্বেগগুলোকে নিছক ‘ভীতি ছড়ানোর প্রচেষ্টা’ বলে উড়িয়ে দেন।
