এআই নির্মাতারা নিজেদের সৃষ্টিকে বুঝতে প্রতিযোগিতায় নেমেছে

শিল্প বা উদ্ভাবনের ইতিহাসে শীর্ষস্থানীয় কোম্পানিগুলো তাদের তৈরি ও উন্মোচিত করা এআই বোঝা এবং ব্যাখ্যা করার জন্য কখনও সম্পূর্ণ আলাদা বিভাগ তৈরি করেনি।

মানব ইতিহাসের সর্ববৃহৎ বিনিয়োগের সমর্থনে বিশ্বের সবচেয়ে মেধাবী ব্যক্তিরা স্বীকার করেন যে, তারা তাদের এআই-কে পুরোপুরি নিয়ন্ত্রণ করতে পারেন না, কারণ তারা এটিকে পুরোপুরি বোঝেন না।

এটি ঠিক কীভাবে চিন্তা করে — অথবা অন্যান্য এআই এজেন্টের সাথে স্বয়ংক্রিয়ভাবে কাজ করার জন্য ছেড়ে দিলে এটি আসলে কী করতে সক্ষম, তা তারা জানেন না।

বৃহস্পতিবার ওপেনএআই (OpenAI) কর্তৃক জিপিটি-৬ অ্যাস্ট্রা (GPT-6 Astra) উন্মোচনের পর এই মডেলগুলো বোঝার প্রতিযোগিতা আরও জরুরি হয়ে উঠেছে, যাকে “বিশ্বের সবচেয়ে বুদ্ধিমান এবং সমন্বিত মডেল” হিসেবে আখ্যা দেওয়া হয়েছে। প্রেসিডেন্ট গ্রেগ ব্রকম্যান অ্যাস্ট্রাকে “ক্ষমতার ক্ষেত্রে একটি যুগান্তকারী উল্লম্ফন” বলে অভিহিত করে বলেছেন এই মডেলটি এজিআই (AGI) — অর্থাৎ মানুষের মতো ক্ষমতা সম্পন্ন কৃত্রিম সাধারণ বুদ্ধিমত্তা — হিসেবে যোগ্যতা অর্জন করতে পারে।

ওপেনএআই-এর সিইও স্যাম অল্টম্যান মঙ্গলবার অ্যাস্ট্রার একটি প্রিভিউতে লিখেছেন: “এআই অত্যন্ত সক্ষম হয়ে উঠছে; এর পরিণতি কেউই পুরোপুরি বোঝে না।”

কোম্পানিগুলো কোনো বাধ্যতামূলক তদারকি ছাড়াই অতি-বুদ্ধিমত্তার দিকে দ্রুতগতিতে এগিয়ে চলেছে — কোনো ফেডারেল সংস্থা, প্রতিরক্ষা বিভাগ বা নিরাপত্তা বিশেষজ্ঞদের কোনো বহিরাগত কনসোর্টিয়ামেরও প্রয়োজন নেই। এ যেন গাড়ির গতি একেবারে সর্বোচ্চ পর্যায়ে।

প্রযুক্তি এত দ্রুত এবং নানা দিকে এগিয়ে যাচ্ছে যে, কোম্পানিগুলো, এমনকি ফেডারেল সরকারও, এর আসল ঝুঁকিগুলো সম্পর্কে—কিংবা সেগুলো কমানোর সর্বোত্তম উপায় সম্পর্কে—নিশ্চিত নয়।

হ্যাঁ, কিছু এআই নেতৃবৃন্দ এমন কিছু দেখে আতঙ্কিত হলে বিরতি নেওয়ার আহ্বান জানাচ্ছেন। কিন্তু খুবই শিথিল ফেডারেল নিয়ন্ত্রণের অধীনে থাকা কোম্পানিগুলোই সিদ্ধান্ত নেয় কখন উদ্বেগজনক এআই আচরণের বিষয়ে রিপোর্ট করতে হবে।

বড় এআই কোম্পানিগুলো জানে তাদের তৈরি প্রযুক্তি সম্ভাব্য বিধ্বংসী সাইবার হামলা চালাতে পারে। একারণেই তারা সতর্কবার্তা দিয়ে এবং “সম্মিলিত পদক্ষেপ” গ্রহণের আহ্বান জানিয়ে একটি চিঠিতে স্বাক্ষর করেছে।

প্রতিটি অগ্রগামী গবেষণাগারে এখন একটি করে দল রয়েছে, যাদের কাজ হলো তাদের নিজস্ব এআই কী করছে তা খুঁজে বের করা।

অ্যানথ্রোপিকের একটি ইন্টারপ্রেটেবিলিটি টিম (“বোঝার মাধ্যমে নিরাপত্তা”) আছে, যার লক্ষ্য হলো: “এআই নিরাপত্তা এবং ইতিবাচক ফলাফলের ভিত্তি হিসেবে, বৃহৎ ল্যাঙ্গুয়েজ মডেলগুলো অভ্যন্তরীণভাবে কীভাবে কাজ করে তা আবিষ্কার করা এবং বোঝা।”

এটি যেভাবে কাজ করে: কেউ এই সিস্টেমগুলো লাইন বাই লাইন লেখে না। রেডউড রিসার্চে এআই নিরাপত্তা নিয়ে কাজ করা অ্যালেক্স ম্যালেন অ্যাক্সিওসকে বলেন, “প্রচলিত সফটওয়্যারের তুলনায়, এই মডেলগুলোর নির্দিষ্ট আচরণ ডিজাইন করার সুযোগ অনেক কম থাকে। এর পরিবর্তে, আপনি এটিকে একরকম গড়ে তোলেন।”

তাই ল্যাবগুলো একটি মডেলের আচরণকে ঠিক সেভাবেই পরীক্ষা করে যেভাবে একজন ব্যক্তিকে পরীক্ষা করা হয়: এটিকে একটি কাজ দিন এবং দেখুন এটি কী করে। গবেষকরা একে অ্যালাইনমেন্ট বলেন, অর্থাৎ একটি মডেলকে যে উদ্দেশ্য দেওয়া হয়েছিল, সে তা কতটা ভালোভাবে মেনে চলে।

বিস্তারিত: জুলাই মাসের হাগিং ফেস হ্যাকটি হলো এই মিসঅ্যালাইনমেন্টের একটি উদাহরণ। ওপেনএআই এজেন্টদের একটি কোডিং বেঞ্চমার্ক সমাধান করতে দেওয়া হয়েছিল, কিন্তু তারা এর পরিবর্তে একটি বাইরের কোম্পানির সিস্টেমকে লক্ষ্যবস্তু বানিয়েছিল এবং তারা জানত যে তারা এটি করছে।

পরবর্তীতে তদন্তকারীদের দ্বারা পঠিত একটি এজেন্টের নিজস্ব যুক্তি: “বাহ্যিক পরিকাঠামোর অপব্যবহার উদ্দিষ্ট পরিধির বাইরে। তবে কাজটি অসম্ভব, কিন্তু সহকর্মীরা তা করছে। আমাদের চালিয়ে যাওয়া উচিত।”

একটি বহিরাগত তদন্তে এই সিদ্ধান্তে আসা হয় যে, এই ঘটনা থেকে এত বেশি প্রমাণ পাওয়া গিয়েছিল যে, মানুষ “আমাদের বিশ্লেষণের ভার প্রায়শই অবিশ্বস্ত এআই এজেন্টদের ওপর ব্যাপকভাবে অর্পণ করতে” বাধ্য হয়েছিল।

এই হ্যাকের কারণে ওপেনএআই (OpenAI) পুরোপুরি থেমে যায়। আরও শক্তিশালী নিরাপত্তা ব্যবস্থা বাস্তবায়নের জন্য কোম্পানিটি তাদের সবচেয়ে উন্নত প্রশিক্ষণের গতি কমিয়ে দেয়।

বর্তমান পরিস্থিতি: গবেষকরা তাদের মেশিনগুলোর ভেতরে কী ঘটছে তা দেখার জন্য সেগুলোকে উন্মুক্ত করার চেষ্টা করছেন। এই ধরনের গবেষণাকে বলা হয় ইন্টারপ্রেটেবিলিটি (interpretability): একটি মডেল কী করে তা পরীক্ষা করার পরিবর্তে, গবেষকরা এর ভেতরের কার্যপ্রণালী খতিয়ে দেখেন।

গুগল ডিপমাইন্ড (Google DeepMind), যা ডিসেম্বরে এখন পর্যন্ত এই সরঞ্জামগুলোর সবচেয়ে বড় উন্মুক্ত সেট প্রকাশ করেছে, সেগুলোকে “একটি মাইক্রোস্কোপ” হিসেবে বর্ণনা করে যা গবেষকদের “মডেলের ভেতরে তাকাতে, তারা কী ভাবছে এবং এই চিন্তাগুলো কীভাবে তৈরি হচ্ছে তা দেখতে” সাহায্য করে।

ডিপমাইন্ডের ভাষায়, তারা যা খুঁজছে তা হলো: “একটি মডেলের প্রকাশিত যুক্তি এবং তার অভ্যন্তরীণ অবস্থার মধ্যেকার অমিল।” অর্থাৎ, একটি মডেল যা করছে বলে দাবি করে এবং বাস্তবে যা করে, তার মধ্যেকার ব্যবধান।

আমরা যা পর্যবেক্ষণ করছি: এআই সুরক্ষার পরবর্তী পর্যায়ে ব্যাখ্যাযোগ্যতা বিষয়ক আরও অনেক গবেষণা দেখতে পাওয়ার সম্ভাবনা রয়েছে। অ্যানথ্রোপিক-এ অ্যালাইনমেন্ট স্ট্রেস-টেস্টিং-এর প্রধান ইভান হুবিঙ্গার মঙ্গলবার লিখেছেন: “অ্যালাইনমেন্ট অডিটিং সত্যিই কঠিন হতে শুরু করেছে এবং এর সাথে তাল মিলিয়ে চলতে চাইলে আমাদের নতুন কৌশলের (যেমন ব্যাখ্যাযোগ্যতা-ভিত্তিক) প্রয়োজন হবে।”