চারটি কৃত্রিম বুদ্ধিমত্তা বিশেষজ্ঞ তাদের কাজ একটি খোলা চিঠিতে উদ্ধৃত করার পরে উদ্বেগ প্রকাশ করেছেন – ইলন মাস্ক দ্বারা সহ-স্বাক্ষর করা – গবেষণায় জরুরি বিরতির দাবি করে।
22 শে মার্চ তারিখের চিঠিতে এবং শুক্রবারের মধ্যে 1,800 টিরও বেশি স্বাক্ষর সহ, মাইক্রোসফ্ট-সমর্থিত OpenAI-এর নতুন GPT-4-এর চেয়ে “আরও শক্তিশালী” সিস্টেমগুলির বিকাশে ছয় মাসের সার্কিট-ব্রেকারের জন্য আহ্বান জানিয়েছে, যা করতে পারে মানুষের মত কথোপকথন রাখুন, গান রচনা করুন এবং দীর্ঘ নথির সংক্ষিপ্তসার করুন।
GPT-4 এর পূর্বসূরি ChatGPT গত বছর প্রকাশের পর থেকে, প্রতিদ্বন্দ্বী কোম্পানিগুলো একই ধরনের পণ্য চালু করতে ছুটে এসেছে।
খোলা চিঠিতে বলা হয়েছে “মানব-প্রতিযোগীতামূলক বুদ্ধিমত্তা” সহ AI সিস্টেমগুলি মানবতার জন্য গভীর ঝুঁকি তৈরি করে, বিশ্ববিদ্যালয়ের শিক্ষাবিদদের পাশাপাশি OpenAI, Google এবং এর সহযোগী ডিপমাইন্ডের বর্তমান এবং প্রাক্তন কর্মচারীদের 12 টি গবেষণার উল্লেখ করে।
মার্কিন যুক্তরাষ্ট্র এবং ইউরোপীয় ইউনিয়নের সুশীল সমাজের গোষ্ঠীগুলি ওপেনএআই-এর গবেষণায় লাগাম লাগাতে আইন প্রণেতাদের চাপ দিয়েছে। OpenAI তাৎক্ষণিকভাবে মন্তব্যের অনুরোধের জবাব দেয়নি।
সমালোচকরা ফিউচার অফ লাইফ ইনস্টিটিউট কে অভিযুক্ত করেছেন, চিঠিটির পিছনে সংস্থা যা প্রাথমিকভাবে মাস্ক ফাউন্ডেশন দ্বারা অর্থায়ন করা হয়, AI সম্পর্কে আরও তাৎক্ষণিক উদ্বেগের চেয়ে কল্পনাপ্রসূত অ্যাপোক্যালিপ্টিক পরিস্থিতিকে অগ্রাধিকার দেয়, যেমন বর্ণবাদী বা যৌনতাবাদী পক্ষপাতগুলি মেশিনে প্রোগ্রাম করা হচ্ছে।
উদ্ধৃত গবেষণার মধ্যে “অন দ্য ডেঞ্জারস অফ স্টোকাস্টিক প্যারটস” ছিল, মার্গারেট মিচেলের সহ-লেখক একটি সুপরিচিত গবেষণাপত্র, যিনি আগে গুগলে নৈতিক এআই গবেষণার তত্ত্বাবধান করেছিলেন।
মিচেল, এখন এআই ফার্ম হাগিং ফেসের একজন প্রধান নৈতিক বিজ্ঞানী, চিঠিটির সমালোচনা করেছেন, রয়টার্সকে বলেছেন এটি “জিপিটি 4 এর চেয়ে বেশি শক্তিশালী” হিসাবে গণনা করা অস্পষ্ট ছিল।
“প্রদত্ত হিসাবে অনেকগুলি প্রশ্নবিদ্ধ ধারণাকে বিবেচনা করে, চিঠিটি AI এর উপর অগ্রাধিকারের একটি সেট এবং একটি বর্ণনার উপর জোর দেয় যা FLI এর সমর্থকদের উপকার করে,” তিনি বলেছিলেন। “এখন সক্রিয় ক্ষতি উপেক্ষা করা একটি বিশেষাধিকার যা আমাদের মধ্যে কিছু নেই।”
তার সহ-লেখক টিমনিট গেব্রু এবং এমিলি এম. বেন্ডার টুইটারে চিঠিটির সমালোচনা করেছেন, পরবর্তীতে এর কিছু দাবিকে “অনহিঙ্গিত” বলে উল্লেখ করেছেন।
এফএলআইয়ের প্রেসিডেন্ট ম্যাক্স টেগমার্ক রয়টার্সকে বলেছেন, প্রচারণাটি ওপেনএআই-এর কর্পোরেট সুবিধাকে বাধা দেওয়ার চেষ্টা নয়।
“এটা বেশ হাসিখুশি। আমি দেখেছি লোকে বলছে, ‘ইলন মাস্ক প্রতিযোগিতার গতি কমানোর চেষ্টা করছেন,'” তিনি বলেন, চিঠির খসড়া তৈরিতে মাস্কের কোনো ভূমিকা ছিল না। “এটি একটি কোম্পানি সম্পর্কে নয়।”
এখন ঝুঁকি
শিরি ডোরি-হাকোহেন, কানেকটিকাট বিশ্ববিদ্যালয়ের একজন সহকারী অধ্যাপক, চিঠিতে তার কাজের উল্লেখ করা নিয়েও বিষয়টি নিয়েছিলেন। গত বছর সহ-লেখক একটি গবেষণা পত্রের যুক্তি ছিল যে AI এর ব্যাপক ব্যবহার ইতিমধ্যেই গুরুতর ঝুঁকি তৈরি করেছে।
তার গবেষণা যুক্তি দিয়েছিল এআই সিস্টেমের বর্তমান ব্যবহার জলবায়ু পরিবর্তন, পারমাণবিক যুদ্ধ এবং অন্যান্য অস্তিত্বের হুমকি সম্পর্কে সিদ্ধান্ত গ্রহণকে প্রভাবিত করতে পারে।
তিনি রয়টার্সকে বলেছিলেন: “এই ঝুঁকিগুলিকে আরও বাড়িয়ে তুলতে AI-এর মানব-স্তরের বুদ্ধিমত্তা পৌঁছানোর দরকার নেই।”
“অস্তিত্বহীন ঝুঁকি রয়েছে যা গুরুত্বপূর্ণ, কিন্তু হলিউড-স্তরের একই ধরনের মনোযোগ পায় না।”
সমালোচনার বিষয়ে মন্তব্য করতে চাওয়া হলে, এফএলআই-এর টেগমার্ক বলেন, এআই-এর স্বল্প-মেয়াদী এবং দীর্ঘমেয়াদী উভয় ঝুঁকিকেই গুরুত্ব সহকারে নেওয়া উচিত।
তিনি রয়টার্সকে বলেন, “যদি আমরা কাউকে উদ্ধৃত করি, তাহলে এর মানে আমরা দাবি করি যে তারা সেই বাক্যটিকে সমর্থন করছে। এর মানে এই নয় যে তারা চিঠিটিকে অনুমোদন করছে, বা আমরা যা তারা মনে করে সবই সমর্থন করি,” তিনি রয়টার্সকে বলেন।
ক্যালিফোর্নিয়া-ভিত্তিক সেন্টার ফর এআই সেফটির পরিচালক ড্যান হেনড্রিকস, যাকে চিঠিতে উদ্ধৃত করা হয়েছিল, তিনি এর বিষয়বস্তুর পক্ষে দাঁড়িয়েছিলেন, রয়টার্সকে বলেছিলেন কালো রাজহাঁসের ঘটনাগুলি বিবেচনা করা বুদ্ধিমানের কাজ – যেগুলি অসম্ভাব্য, তবে এর বিধ্বংসী পরিণতি হবে।
খোলা চিঠিতে আরও সতর্ক করা হয়েছে জেনারেটিভ এআই সরঞ্জামগুলি “প্রপাগান্ডা এবং অসত্য” দিয়ে ইন্টারনেটকে প্লাবিত করতে ব্যবহার করা যেতে পারে।
ডোরি-হ্যাকোহেন বলেছেন মাস্কের পক্ষে এটি স্বাক্ষর করা “বেশ ধনী” ছিল, তার প্ল্যাটফর্মটি অধিগ্রহণের পরে টুইটারে ভুল তথ্যের একটি রিপোর্ট করা উদ্ধৃতি উল্লেখ করে, নাগরিক সমাজ গ্রুপ কমন কজ এবং অন্যান্যদের দ্বারা নথিভুক্ত।
টুইটার শীঘ্রই তার গবেষণা ডেটা অ্যাক্সেসের জন্য একটি নতুন ফি কাঠামো চালু করবে, সম্ভাব্যভাবে এই বিষয়ে গবেষণাকে বাধাগ্রস্ত করবে।
“এটি সরাসরি আমার ল্যাবের কাজকে প্রভাবিত করেছে এবং অন্যরা ভুল- এবং বিভ্রান্তি অধ্যয়ন করে এটি করেছে,” ডরি-হাকোহেন বলেছিলেন। “আমরা আমাদের পিঠের পিছনে এক হাত বাঁধা দিয়ে কাজ করছি।”
মাস্ক এবং টুইটার মন্তব্যের জন্য অনুরোধের সাড়া দেয়নি।