30 অগাস্ট – ব্রিটিশ কর্মকর্তারা সংস্থাগুলিকে তাদের ব্যবসায় কৃত্রিম বুদ্ধিমত্তা-চালিত চ্যাটবটগুলিকে একীভূত করার বিষয়ে সতর্ক কর বলছেন গবেষণায় ক্রমবর্ধমানভাবে দেখানো হয়েছে যে তারা ক্ষতিকারক কাজ সম্পাদন করতে প্রতারিত হতে পারে।
বুধবার প্রকাশিত হওয়ার কারণে এক জোড়া ব্লগ পোস্টে, ব্রিটেনের ন্যাশনাল সাইবার সিকিউরিটি সেন্টার (এনসিএসসি) বলেছে বিশেষজ্ঞরা এখনও অ্যালগরিদমগুলির সাথে আবদ্ধ সম্ভাব্য নিরাপত্তা সমস্যাগুলির সাথে আঁকড়ে ধরেননি যা মানব-শব্দ মিথস্ক্রিয়া তৈরি করতে পারে।
এআই-চালিত সরঞ্জামগুলি চ্যাটবট হিসাবে প্রাথমিকভাবে ব্যবহার করা হচ্ছে যা কেউ কেউ কেবল ইন্টারনেট অনুসন্ধান নয় বরং গ্রাহক পরিষেবার কাজ এবং বিক্রয় কলগুলিকে স্থানচ্যুত করার কল্পনা করে।
NCSC বলেছে এটি ঝুঁকি বহন করতে পারে, বিশেষ করে যদি এই ধরনের মডেলগুলি অন্যান্য উপাদান সংস্থার ব্যবসায়িক প্রক্রিয়াগুলিতে প্লাগ করা হয়। শিক্ষাবিদ এবং গবেষকরা বারবার চ্যাটবটগুলিকে দুর্বৃত্ত কমান্ড খাওয়ানোর মাধ্যমে বা তাদের অন্তর্নির্মিত রেললাইনগুলিকে ফাঁকি দেওয়ার জন্য বোকা বানানোর উপায় খুঁজে পেয়েছেন।
উদাহরণস্বরূপ, একটি ব্যাঙ্ক দ্বারা নিয়োজিত একটি AI-চালিত চ্যাটবট একটি অননুমোদিত লেনদেন করার জন্য প্রতারিত হতে পারে যদি কোনও হ্যাকার তাদের প্রশ্নের সঠিক কাঠামো তৈরি করে।
পরীক্ষামূলক সফ্টওয়্যার প্রকাশের কথা উল্লেখ করে NCSC তার ব্লগ পোস্টগুলির একটিতে বলেছে, “এলএলএম ব্যবহার করে এমন সংস্থাগুলিকে সতর্কতা অবলম্বন করতে হবে, একইভাবে তারা হবে যদি তারা বিটাতে থাকা কোনও পণ্য বা কোড লাইব্রেরি ব্যবহার করে।”
“তারা সেই পণ্যটিকে গ্রাহকের পক্ষে লেনদেনের সাথে জড়িত হতে নাও দিতে পারে, এবং আশা করি এটি সম্পূর্ণরূপে বিশ্বাস করবে না। অনুরূপ সতর্কতা এলএলএম-এর ক্ষেত্রে প্রযোজ্য হওয়া উচিত।”
ওপেনএআই-এর চ্যাটজিপিটি-এর মতো এলএলএম-এর উত্থানের সঙ্গে বিশ্বজুড়ে কর্তৃপক্ষ ঝাঁপিয়ে পড়েছে, যেগুলি ব্যবসাগুলি বিক্রয় এবং গ্রাহক যত্ন সহ বিস্তৃত পরিসরে পরিষেবার মধ্যে অন্তর্ভুক্ত করছে। এআই-এর নিরাপত্তার প্রভাবগুলিও এখনও ফোকাসে আসছে, মার্কিন যুক্তরাষ্ট্র এবং কানাডার কর্তৃপক্ষ বলছে তারা হ্যাকারদের প্রযুক্তি গ্রহণ করতে দেখেছে।
