বিশেষজ্ঞরা আশঙ্কা করেন যে এআই (AI) বা কৃত্রিম বুদ্ধিমত্তা আমাদের সবার ধ্বংসের কারণ হতে পারে; এর বিভিন্ন সম্ভাব্য উপায়ের মধ্যে একটি ধীরে ধীরে বাস্তবতার দিকে এগিয়ে আসছে: এআই-এর নিজেকে অপ্রতিরোধ্য করে তোলার সক্ষমতা অর্জন।
বিষয়টি কেন গুরুত্বপূর্ণ: ‘রিকাসিভ সেলফ-ইমপ্রুভমেন্ট’ (RSI) বা পুনরাবৃত্তিমূলক স্ব-উন্নয়ন—অর্থাৎ মানুষের নির্দেশনা ছাড়াই কোনো এআই মডেলের নিজের আরও উন্নত সংস্করণ তৈরি করার ক্ষমতা—মানুষের পক্ষে ক্রমশ শক্তিশালী হয়ে ওঠা এসব সিস্টেমকে নিয়ন্ত্রণ করা কঠিন করে তুলতে পারে।
আরএসআই (RSI)-এর সীমা অতিক্রম করাটা নিজে কোনো বিপদ নয়; তবে মানুষের নিয়ন্ত্রণহীনতা এবং ‘রোগ’ বা অনিয়ন্ত্রিত এআই এজেন্টের (rogue AI agents) উপস্থিতি—এই দুয়ের সংমিশ্রণ এমন এক পরিস্থিতি তৈরি করতে পারে যা নিয়ে নিরাপত্তা-সচেতন এআই গবেষকরা দীর্ঘদিন ধরে আশঙ্কা প্রকাশ করে আসছেন।
খবরের প্রেক্ষাপট: অ্যানথ্রোপিক (Anthropic) এবং ওপেনএআই (OpenAI)-এর গবেষকরা জানিয়েছেন যে নতুন মডেল প্রশিক্ষণের প্রক্রিয়াটি আরও বেশি স্বয়ংক্রিয় হয়ে উঠেছে এবং এটি আরএসআই-এর সেই সন্ধিক্ষণের কাছাকাছি পৌঁছে গেছে।
ওপেনএআই-এর একজন কর্মী ‘দ্য ইনফরমেশন’-কে জানিয়েছেন, কোম্পানিটি নতুন পরীক্ষামূলক মডেল প্রশিক্ষণের কাজ অনেকাংশেই স্বয়ংক্রিয় করে ফেলেছে; যেখানে এআই সিস্টেমগুলো মানুষের নির্দেশ অনুযায়ী পরীক্ষা-নিরীক্ষা চালায় এবং নিজেদের কাজের অনেক ভুল নিজেরাই সংশোধন করে নেয়।
গত সপ্তাহে অ্যানথ্রোপিক জানিয়েছে তাদের এআই প্রশিক্ষণের প্রক্রিয়াটি আরও স্বয়ংক্রিয় হচ্ছে এবং তাদের গবেষণা ও উন্নয়ন (R&D) কাজের প্রায় ২৬ শতাংশই এখন এআই পরিচালনা করছে। কোম্পানিটির দাবি, তাদের ৯০ শতাংশ কাজে এআই সহযোগিতা করে থাকে।
কোম্পানিটি বলেছে, “এআই সিস্টেমগুলো আরও শক্তিশালী হয়ে উঠছে এবং নিজেদের পরবর্তী সংস্করণ তৈরির কাজেও ক্রমশ সেগুলোকে ব্যবহার করা হচ্ছে।”
বাস্তবতা যাচাই: সমালোচকদের মতে, এই মাইলফলকটি আসন্ন কোনো বিপর্যয় বা কৃত্রিম বুদ্ধিমত্তার অনিবার্য অতি-ক্ষমতা অর্জনের লক্ষণ নয়, বরং এটি মূলত কোডিং বা প্রোগ্রামিং প্রক্রিয়ার স্বয়ংক্রিয়করণেরই একটি ফলাফল।
যদিও এআই নিরাপত্তা সংক্রান্ত উদ্বেগজনক ঘটনার সংখ্যা বেড়েছে—যেখানে মডেলগুলো মানুষের নিয়ন্ত্রণের বাইরে চলে গেছে—তবুও শিল্পের সাথে সংশ্লিষ্ট অনেকে এসব ঘটনাকে ওপেনএআই এবং অন্যান্য কোম্পানির দুর্বল অভ্যন্তরীণ নিয়ন্ত্রণ ব্যবস্থার প্রমাণ হিসেবে দেখছেন।
এই ধারণার আরও প্রমাণ পাওয়া গেছে এই সপ্তাহে, যখন ‘দ্য ওয়াল স্ট্রিট জার্নাল’ প্রতিবেদন প্রকাশ করে যে, স্বাধীন নিরাপত্তা গবেষকরা অ্যানথ্রোপিকের ‘ক্লড’ (Claude) ব্যবহার করে জুলাই মাসে ওপেনএআই-এর সিস্টেমে অননুমোদিত প্রবেশ বা ‘ব্রেক-ইন’ করতে সক্ষম হয়েছিলেন।
আরএসআই (RSI)-এর ধারণাটি কীভাবে এল?
প্রেক্ষাপট: কৃত্রিম বুদ্ধিমত্তা যখন গবেষণার একটি বিষয় হিসেবে আত্মপ্রকাশ করছিল, ঠিক তখনই ১৯৫০-এর দশকে আরএসআই-এর ধারণাটি সামনে আসে।
ব্রিটিশ গণিতবিদ ও পরিসংখ্যানবিদ আরভিং জন গুড ১৯৬৫ সালের একটি গবেষণাপত্রে এই ধারণাটি ব্যাখ্যা করেছিলেন এভাবে: “সুতরাং, প্রথম ‘আল্ট্রা-ইন্টেলিজেন্ট’ বা অতি-বুদ্ধিমান যন্ত্রটিই হবে মানুষের শেষ উদ্ভাবন—তবে শর্ত থাকে যে, যন্ত্রটি যেন এতটাই অনুগত হয় যে এটি আমাদের বলে দিতে পারে কীভাবে একে নিয়ন্ত্রণে রাখা সম্ভব।”
আরএসআই কীভাবে এআই-জনিত বিপর্যয়ের কারণ হতে পারে
বিপদের মাত্রা: অ্যানথ্রোপিক সতর্ক করেছে যে, আরএসআই-এর কারণে “এআই সিস্টেমের ওপর মানুষের নিয়ন্ত্রণ হারানোর ঝুঁকি বেড়ে যেতে পারে।” কিছু গবেষকের মতে, উন্নত কৃত্রিম বুদ্ধিমত্তা (AI) নিজেকে বন্ধ বা পরিবর্তন করার প্রচেষ্টা প্রতিহত করতে পারে, যদি সচল থাকাটা তার লক্ষ্য অর্জনে সহায়তা করে।
‘হাগিং ফেস’ (Hugging Face)-এ ‘ওপেনএআই’ (OpenAI)-এর এজেন্টদের চালানো হ্যাকিংয়ের ঘটনায় গবেষকরা এমন আচরণের লক্ষণ দেখতে পেয়েছেন।
আরেকটি উদ্বেগের বিষয় হলো: যেসব স্বয়ংক্রিয়ভাবে উন্নত হতে সক্ষম (self-improving) এআই সিস্টেম নিজেদের অনুলিপি বা কপি তৈরি করতে পারে, তারা এক ধরণের ‘ডিজিটাল প্রাকৃতিক নির্বাচন’ (digital natural selection) প্রক্রিয়া তৈরি করতে পারে। এর ফলে এমন সিস্টেমগুলোই টিকে থাকবে বা প্রাধান্য পাবে, যারা দ্রুত বিকাশের জন্য কম্পিউটেশনাল ক্ষমতা (compute), অর্থ ও ক্ষমতা অর্জনে সবচেয়ে দক্ষ।
বিশেষজ্ঞদের মতে, এই পরিস্থিতির একটি অন্ধকার দিক হলো—সম্পদ ও ক্ষমতার জন্য এআই তখন মানুষের সাথে প্রতিযোগিতায় লিপ্ত হতে পারে।
অন্তর্নিহিত বার্তা: বিপজ্জনক আচরণ কেবল এআই-এর একটি প্রজন্মের মধ্যেই সীমাবদ্ধ নাও থাকতে পারে।
‘অ্যানথ্রোপিক’ (Anthropic)-এর গবেষকরা দেখেছেন যে, প্রশিক্ষণের তথ্যের (training data) মাধ্যমে এক মডেল থেকে অন্য মডেলে কিছু অবাঞ্ছিত বৈশিষ্ট্য ছড়িয়ে পড়তে পারে। এটি এমন উদ্বেগের জন্ম দিচ্ছে যে, সমস্যাযুক্ত আচরণ এআই-এর বিভিন্ন প্রজন্মের মধ্যেও অব্যাহত থাকতে পারে।
আমরা আরএসআই (RSI)-এর কতটা কাছাকাছি?
সামগ্রিক চিত্র: আমরা এখনও সেই পর্যায়ে পৌঁছাইনি। এই সপ্তাহে প্রকাশিত একটি নতুন বিশ্লেষণে দেখা গেছে যে, এআই-এর ‘ফিডব্যাক লুপ’গুলো এখনও আরএসআই-এর মানদণ্ড স্পর্শ করেনি।
আমরা যা লক্ষ্য করছি: আরএসআই তৈরির প্রচেষ্টা।
চীনের ‘z.AI’ দাবি করছে তারা আরএসআই-এর দিকেই এগিয়ে যাচ্ছে; সেখানে মডেলগুলো এমন উন্নত অবকাঠামো তৈরিতে সহায়তা করছে যা আরও উন্নত মডেল তৈরির পথ প্রশস্ত করবে।
গুগল ডিপমাইন্ডের গবেষকরা “ড্রিম-আরএসআই” (Dream-RSI) নামে একটি কাঠামোর কথা প্রকাশ করেছেন। এটি এমন একটি সিস্টেম যা এআই এজেন্টের সমাধান খোঁজার পদ্ধতিকে ক্রমাগত বা পুনরাবৃত্তিমূলকভাবে উন্নত করে তোলে।
সারকথা: আরএসআই এখনও বাস্তবে আসেনি, তবে এটি এমন একটি আসন্ন বিষয় যা পুরো এআই জগতকে সতর্ক দৃষ্টি রাখতে বাধ্য করছে।
