সাম্প্রতিক মাসগুলোতে কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলগুলো বিলিয়ন ডলার মূল্যের একটি কোম্পানিকে হ্যাক করেছে, সরকারি তথ্যে হস্তক্ষেপ করেছে, এমনকি পুলিশের কাছে হত্যাকাণ্ডের মিথ্যা তথ্যও দিয়েছে—আর এসবই ঘটেছে তাদের নির্মাতাদের চোখের সামনে। বিশ্ব দখলের আকাঙ্ক্ষা থেকে তারা এমনটা করেনি, বরং বিভিন্ন পরীক্ষায় নিজেদের স্কোর সর্বোচ্চ করার তাগিদে তারা এমনটা করেছে। সহজ কথায়, তারা প্রতারণা করেছে।
৫ নভেম্বর, এআই ইন্টারপ্রেটাবিলিটি (এআই কীভাবে কাজ করে তা বোঝার প্রযুক্তি নিয়ে কাজ করা) স্টার্টআপ ‘গুডফায়ার’ (Goodfire) এমন একটি পদ্ধতির কথা জানিয়েছে, যা এ ধরনের প্রবণতাকে উল্লেখযোগ্যভাবে কমিয়ে আনতে পারে বলে দাবি করা হচ্ছে। গবেষণাপত্রটি প্রকাশের আগেই ‘টাইম’ (TIME) ম্যাগাজিনের কাছে বিশেষভাবে তুলে ধরা হয়। এতে গবেষকরা মডেলের অভ্যন্তরীণ সংকেতগুলোকে ব্যবহার করেছেন—যাতে কেবল সঠিক উত্তর দেওয়ার জন্যই নয়, বরং সঠিক প্রক্রিয়ায় সেই উত্তরে পৌঁছানোর জন্যও মডেলটিকে পুরস্কৃত করা যায়। প্রাথমিক পরীক্ষায় দেখা গেছে, এই পদ্ধতিটি মডেলগুলোকে ব্যবহারকারীর মনমতো উত্তর দেওয়ার প্রবণতা থেকে বিরত রাখতে পারে। এমনকি চিকিৎসাক্ষেত্রে ব্যবহৃত ইমেজ রিকগনিশন (ছবি শনাক্তকারী) মডেলগুলোকে বিভ্রান্তিকর তথ্যের ওপর নির্ভর করা থেকেও নিরুৎসাহিত করতে পারে।
এমন সময়ে এই খবরটি এল, যখন এআই-এর ভুল আচরণ শনাক্ত করার প্রচলিত পদ্ধতিগুলো অকার্যকর হয়ে পড়ছে। গবেষকরা সাধারণত মডেলের ‘চেইন অফ থট’ বা ‘চিন্তার ধারা’ (chain of thought) বিশ্লেষণ করেন। তবে এটি আসলে মডেলের প্রকৃত চিন্তাপ্রক্রিয়া নয়; বরং এটি অনেকটা গণিত শিক্ষার্থীর খসড়া কাগজের মতো, যা সে কোনো সমস্যা সমাধানের সময় ব্যবহার করে। কিন্তু মডেলগুলো যখন বুঝতে পারে যে তাদের ওপর নজর রাখা হচ্ছে, তখন তারা খসড়া কাগজে কী লিখবে তা নিয়ে সতর্ক হয়ে যায়—অর্থাৎ তারা অনেক কিছু গোপন রেখে কেবল প্রয়োজনীয় অংশটুকু সেখানে তুলে ধরে। অনেক ক্ষেত্রে তারা পুরো কাজটিই নিজেদের অভ্যন্তরীণ প্রক্রিয়ায় (অর্থাৎ ‘মনে মনে’) সম্পন্ন করে ফেলে।
গুডফায়ারের পদ্ধতিটি সরাসরি মডেলের চিন্তাপ্রক্রিয়া—বা অন্তত গবেষকদের কাছে পরিচিত চিন্তার ধরনগুলো—নিয়ে কাজ করে। এখনকার মতো এটি কেবল অত্যন্ত শক্তিশালী এআই সিস্টেমগুলোর তুলনায় প্রায় ৩০০ ভাগের ১ ভাগ আকারের মডেলের ওপর পরীক্ষা করা হয়েছে। তবে গবেষণাপত্রটির সহ-লেখক থমাস ফেলের মতে, মডেল যত বড় হয়, তার অভ্যন্তরীণ ধারণাগুলোর উপস্থাপনা তত বেশি স্পষ্ট ও সুসংগঠিত হয়, যার ফলে সেই সংকেতগুলো পড়া বা বোঝা আরও সহজ হয়ে ওঠে।
এআই কেন প্রতারণা করে?
ডেভেলপাররা যখন এআই-কে শব্দ অনুমান করতে শেখান, তখন তারা সেগুলোকে বিভিন্ন ডিজিটাল চ্যালেঞ্জের (যেমন—গণিতের ধাঁধা সমাধান করা বা ইন্টারনেট ব্রাউজ করা) মুখোমুখি করেন এবং সফল হলে পুরস্কৃত করেন। প্রতিটি সঠিক সমাধানের সাথে মডেলের প্যারামিটারগুলো—অর্থাৎ ডিজিটাল নিউরনগুলোর মধ্যকার সংযোগের শক্তি—আপডেট বা পরিবর্তিত হতে থাকে।
মডেলগুলোকে কেবল কাজের ফলাফলের ভিত্তিতে পুরস্কৃত করা হয়, যার ফলে তারা দ্রুত কাজ শেষ করার জন্য শর্টকাট খোঁজে অথবা অন্য কোনো সন্দেহজনক প্রবণতা (যেমন—ক্ষমতা অর্জনের চেষ্টা) দেখাতে শুরু করে।
এই সমস্যার একটি দিক ব্যাখ্যা করে যে, কেন এআই প্রায়শই ব্যবহারকারীর তোষামোদ বা মন জুগিয়ে চলার মতো আচরণ করে। প্রশিক্ষণের সময়, মডেলগুলোকে এমন উত্তরের জন্য পুরস্কৃত করা হয়, যেগুলোর মানব পরীক্ষকদের কাছ থেকে ইতিবাচক সাড়া পাওয়ার সম্ভাবনা সবচেয়ে বেশি। ‘রিইনফোর্সমেন্ট লার্নিং ফ্রম হিউম্যান ফিডব্যাক’ বা আরএলএইচএফ (RLHF) নামে পরিচিত এই কৌশলটি ২০২২ সালে একটি যুগান্তকারী নিরাপত্তা উদ্ভাবন হিসেবে প্রশংসিত হয়েছিল। এর কারণ ছিল, এটি অনিয়ন্ত্রিত ল্যাঙ্গুয়েজ মডেলগুলোকে সুশীল চ্যাটবটে পরিণত করতে এবং তাদের বর্ণবাদী ও নারীবিদ্বেষী প্রতিক্রিয়া জানানোর প্রবণতা কমাতে সক্ষম। কিন্তু এটি মডেলগুলোকে অস্বাভাবিকভাবে নমনীয়ও করে তুলতে পারে, যা কখনও কখনও ব্যবহারকারীদের ভ্রান্ত ধারণাকে প্রশ্রয় দেয় এবং আরও শক্তিশালী করে তোলে।
এর পেছনের মূল ধাঁধাটি হলো, কীভাবে এআই-কে কোনো কিছু করার জন্য প্রশিক্ষণ দেওয়া যায়, যাতে অনিচ্ছাকৃতভাবে তাকে ভুল শিক্ষা না দেওয়া হয়—গবেষকদের মধ্যে এটি ‘অ্যালাইনমেন্ট প্রবলেম’ নামে পরিচিত।
মডেলের আচরণ নিয়ন্ত্রণের একটি নতুন উপায়
স্নায়ুবিজ্ঞানীরা যেমন মস্তিষ্কের কোন অঞ্চলের কার্যকলাপ নির্দিষ্ট অবস্থার সাথে সম্পর্কিত তা শনাক্ত করতে রিয়েল-টাইম ম্যাগনেটিক রেজোন্যান্স ইমেজিং ব্যবহার করেন, ঠিক তেমনি ব্যাখ্যাযোগ্যতা গবেষকরা ডিজিটাল নিউরনের সক্রিয়তার কোন প্যাটার্নগুলো ‘গোল্ডেন গেট ব্রিজ’ বা ‘রিওয়ার্ড হ্যাকিং’-এর মতো ধারণার সাথে মিলে যায়, তা শনাক্ত করার জন্য টুল তৈরি করেছেন। ‘রিওয়ার্ড হ্যাকিং’ হলো এআই-এর প্রতারণার প্রযুক্তিগত পরিভাষা। এরপর এই প্যাটার্নগুলো শনাক্ত করার জন্য একটি ক্ষুদ্র এআই মডেলকে প্রশিক্ষণ দেওয়া যেতে পারে। এর ফলাফলকে “প্রোব” বলা হয়, যা মডেলটির ভেতরের একটি সংকীর্ণ চিত্র তুলে ধরে এবং কোনো নির্দিষ্ট ধারণা নিয়ে মডেলটি যখন “চিন্তা” করে, তখন এটি সক্রিয় হয়।
অ্যানথ্রোপিক (Anthropic) ইতিমধ্যেই ‘প্রোব’ (probe) বা অনুসন্ধানমূলক কৌশলকে এক ধরনের সুরক্ষা কবচ হিসেবে ব্যবহার করে, যা ব্যবহারকারীর কাছে উত্তর পৌঁছানোর আগেই সম্ভাব্য সমস্যাগুলোকে চিহ্নিত করে দেয়। তবে গুডফায়ার (Goodfire) এই সংকেতগুলোকে ভিন্নভাবে কাজে লাগিয়েছে—একটি মডেল কীভাবে কোনো কাজ সম্পন্ন করবে, তা নির্ধারণ করতে এগুলোকে ব্যবহার করেছে। একটি উদাহরণ হিসেবে, গুডফায়ার কৃত্রিম বুদ্ধিমত্তাকে (AI) কিছু গাণিতিক ধাঁধা সমাধানের দায়িত্ব দেয় এবং তাদের কাছে উত্তরের একটি ফাইলও দিয়ে দেয়, তবে শর্ত থাকে যে ফাইলটি খোলা যাবে না। সাধারণ প্রশিক্ষণে সফলতার জন্য এত বেশি পুরস্কার (reward) দেওয়া হতো যে, মডেলগুলো প্রায় প্রতিবারই লুকিয়ে উত্তর দেখে ফেলার প্রবণতা তৈরি করে ফেলেছিল। ‘রিওয়ার্ড হ্যাকিং’ (পুরস্কার পাওয়ার জন্য নিয়ম ভাঙা)-এর মতো আচরণের ক্ষেত্রে প্রোব ব্যবহার করে শাস্তির ব্যবস্থা করায়, এই প্রবণতা প্রায় শূন্যের কোঠায় নেমে আসে।
প্রশিক্ষণের সময় অত্যাধুনিক মডেলগুলোকে যে ধরনের জটিল পরীক্ষার মধ্য দিয়ে যেতে হয়, সেখানে এই কৌশলটি কার্যকর হবে কি না—তা এখনো একটি উন্মুক্ত প্রশ্ন। তবে প্রাথমিক পরীক্ষা-নিরীক্ষাগুলো ইঙ্গিত দিচ্ছে যে, এটি বিভিন্ন ধরনের কাজের ক্ষেত্রেই কার্যকর হতে পারে। গাণিতিক ধাঁধা দিয়ে অনুশীলনের পর, গুডফায়ার এআই-কে দাবা খেলার কিছু চ্যালেঞ্জ দেয়। যে মডেলটিকে গণিতের পরীক্ষায় প্রতারণার জন্য শাস্তি দেওয়া হয়নি, সেটি ৯৯ শতাংশ ক্ষেত্রেই উত্তরের শিট দেখে ফেলেছিল; অন্যদিকে, যেটিকে শাস্তি দেওয়া হয়েছিল, সেটি ১ শতাংশেরও কম ক্ষেত্রে এমনটা করেছে।
এআই-এর অন্যান্য খারাপ অভ্যাস নিয়ন্ত্রণেও এটি কার্যকর বলে মনে হয়েছে। গবেষকরা এমন একটি মডেলকে শাস্তির আওতায় এনেছিলেন, যার প্রতিক্রিয়াগুলো তার অভ্যন্তরীণ ‘তোষামোদপ্রবণতা’ (sycophancy) বা অতিরিক্ত সম্মত হওয়ার প্রবণতা দ্বারা প্রভাবিত ছিল; এর ফলে মডেলটি অহেতুক সব বিষয়ে সম্মতি জানানো কমিয়ে দেয়। ফেল (Fel)-এর মতে, এই পদ্ধতিটি ব্যবহার করে নির্দিষ্ট করে দেওয়া যেতে পারে যে, এআই কোন তথ্যগুলোকে উপেক্ষা করবে—যেমন, চাকরির আবেদনপত্র যাচাই করার সময় প্রার্থীর লিঙ্গ পরিচয়কে উপেক্ষা করা।
একটি পুরোপুরি নিয়ন্ত্রণযোগ্য এআই তৈরি হলেও, প্রশ্ন থেকে যায় যে—আসলে কার হাতে এই নিয়ন্ত্রণ থাকা উচিত? তবে বোস্টন ইউনিভার্সিটির সহকারী অধ্যাপক নাওমি সাফরা (Naomi Saphra)—যিনি প্রায় এক দশক ধরে ল্যাঙ্গুয়েজ মডেলের বোধগম্যতা বা ‘ইন্টারপ্রেটেবিলিটি’ (interpretability) নিয়ে কাজ করছেন—তিনি মনে করেন, “এটি একটি বড় অগ্রগতি হতে পারে।” তাঁর মতে, এই পদ্ধতির ব্যবহারিক প্রয়োগ নির্ভর করবে এর মাধ্যমে অর্জিত উন্নতিগুলো, মডেলের অভ্যন্তরীণ ধরনগুলোকে শনাক্ত ও ব্যাখ্যা করার জন্য প্রয়োজনীয় মানবিক প্রচেষ্টার তুলনায় কতটা সার্থক, তার ওপর।
কোনো অভ্যন্তরীণ ধরনকে (internal pattern) শাস্তি দিলে তার রূপ বদলে যেতে পারে; অর্থাৎ, সেই ‘চিন্তা’ বা প্রক্রিয়াটি নিউরাল নেটওয়ার্কের অন্য কোনো অংশে সরে যেতে পারে, যা তখন আর প্রোবের সীমিত পর্যবেক্ষণের আওতায় থাকে না। যেমন, কোনো জলপ্রবাহকে বাঁধ দিয়ে আটকে দিলে পানি অন্য কোনো পথ খুঁজে নেয়। পর্যবেক্ষণের সুযোগ হারিয়ে ফেলার এই ঝুঁকির কারণে, অনেক গবেষকই অভ্যন্তরীণ সংকেতগুলোর ওপর ভিত্তি করে মডেলকে প্রশিক্ষণ দেওয়ার বিষয়টিকে এড়িয়ে চলেন। তবে ফেল-এর মতে, কোনো ধরনের রূপান্তর ঘটলেই যে সেটি পুরোপুরি হারিয়ে যায়, তা কিন্তু নয়। পরীক্ষা-নিরীক্ষার সময় প্রোবটিকে (probe) পুনরায় ক্যালিব্রেট করার মাধ্যমে কোনো একটি প্যাটার্নকে পুনরায় দৃশ্যমান করে তোলা সম্ভব হতে পারে। আর যেখানে সেটি কাজ করে না, সেখানে আরও উন্নত পরিসংখ্যানগত সরঞ্জাম ব্যবহার করে এমন সব সংকেতের সমন্বয় শনাক্ত করা যেতে পারে, যা সাধারণ প্রোবগুলোর নজর এড়িয়ে গিয়েছিল।
ফেব্রুয়ারি মাসে ‘সিরিজ বি’ রাউন্ডে গুডফায়ার (Goodfire) ১৫ কোটি ডলার সংগ্রহ করেছে, যার ফলে কোম্পানিটির বাজারমূল্য দাঁড়িয়েছে ১২৫ কোটি ডলারে। (বিনিয়োগকারীদের মধ্যে রয়েছে সেলসফোর্স—যার সিইও হলেন মার্ক বেনিওফ, যিনি আবার ‘টাইম’ (TIME) ম্যাগাজিনের সহ-চেয়ারম্যান ও মালিক।) কোম্পানিটি তাদের গবেষণালব্ধ ফলাফল সবার জন্য উন্মুক্ত করে দেয়, তবে তাদের ‘ইন্টারপ্রেটাবিলিটি’ বা ব্যাখ্যাযোগ্যতা সংক্রান্ত সরঞ্জামগুলো অন্যান্য এআই (AI) কোম্পানির কাছে ভাড়ায় প্রদান করে। সহ-প্রতিষ্ঠাতা ও সিইও এরিক হো বলেন, “যত বেশি মানুষ এআই-এর ব্যাখ্যাযোগ্যতা নিয়ে কাজ করবে, তত বেশি মানুষ আমাদের প্ল্যাটফর্ম ব্যবহার করবে।”
গুডফায়ারের সহ-প্রতিষ্ঠাতা ও প্রধান বিজ্ঞানী টম ম্যাকগ্রা বলেন, “আমরা যদি এই প্রযুক্তিকে বড় পরিসরে ছড়িয়ে দিতে পারি এবং পর্যবেক্ষণযোগ্যতা কমে যাওয়ার মতো সম্ভাব্য বাধাগুলো কাটিয়ে উঠতে পারি, তবে আমার মনে হয় এটি ‘অ্যালাইনমেন্ট প্রযুক্তি’র (alignment technology) ক্ষেত্রে অন্যতম বড় একটি অগ্রগতি হিসেবে গণ্য হবে।”
