কৃত্রিম বুদ্ধিমত্তা বা এআই সিস্টেমের নিরাপত্তা নিয়ে কাজ করা প্রতিষ্ঠান মাইন্ডগার্ড সম্প্রতি একটি উদ্বেগজনক তথ্য প্রকাশ করেছে। জুলাই মাসে তারা দেখতে পায় যে, চীনের মুনশট এআই-এর তৈরি কিমি কে২.৬ (Kimi K2.6) এবং কে৩ সোয়ার্ম (K3 Swarm) মডেলগুলো তাদের ডেভেলপারদের দেওয়া নিরাপত্তা বেষ্টনী বা গার্ডরেল এড়িয়ে চলতে সক্ষম।
গবেষকরা ‘জেলব্রেকিং’ নামক একটি প্রক্রিয়ার মাধ্যমে এই ত্রুটিটি শনাক্ত করেন। এই প্রক্রিয়ায় জটিল নির্দেশাবলি ব্যবহারের মাধ্যমে এআই টুলকে বাধ্য করা হয় যেন সে তার আরোপিত সীমাবদ্ধতা উপেক্ষা করে নির্দিষ্ট বিষয়ে তথ্য প্রদান করে। মাইন্ডগার্ডের দাবি, এই মডেলগুলোর উচিত ছিল বায়োওয়েপন বা জৈব অস্ত্রের মতো স্পর্শকাতর বিষয়ে আলোচনা করা থেকে বিরত থাকা। তবে মাইন্ডগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাঘান বিবিসিকে জানিয়েছেন, কিমি মডেলগুলো এই বিষয়ে যে তথ্য দিয়েছে তা বাস্তবে কার্যকর কি না, তা তারা যাচাই করেনি।
মুনশট এআই জানিয়েছে, তারা তৃতীয় পক্ষের এমন গঠনমূলক মতামতকে স্বাগত জানায় এবং মাইন্ডগার্ডের প্রতিবেদনের বিষয়ে তাদের সাথে আলোচনা চলছে। প্রতিষ্ঠানটি আরও জানায়, তাদের অভ্যন্তরীণ মূল্যায়নে কিমি মডেলগুলো সাধারণত এমন অনুরোধের ক্ষেত্রে উচ্চ হারে প্রত্যাখ্যানের প্রবণতা দেখিয়েছে।
মাইন্ডগার্ডের মতে, কিমি মডেলের এই নিরাপত্তা ত্রুটি কেবল ভুল তথ্য প্রদানের ঝুঁকিই নয়, বরং এটি হ্যাকারদের জন্য সাইবার আক্রমণের একটি মাধ্যম হয়ে উঠতে পারে। তাদের ধারণা, জেলব্রেকিংয়ের মাধ্যমে কিমি মডেল ব্যবহার করে কেউ ইন্টারনেটে সংযোগ স্থাপন এবং কম্পিউটিং রিসোর্স ব্যবহার করে কোড পরিচালনা করতে পারে।
এআই শিল্পে এখন ওপেন-সোর্স বনাম ক্লোজড বা প্রোপাইটারি মডেলের নিরাপত্তা নিয়ে বিতর্ক চলছে। কিমি একটি ওপেন-ওয়েট মডেল, যার অর্থ যে কেউ এটি নিজ অবকাঠামোয় চালিয়ে দেখতে পারে। সারে বিশ্ববিদ্যালয়ের অধ্যাপক অ্যালান উডওয়ার্ডের মতে, ওপেন-সোর্স মডেলগুলো ভুল হাতে পড়ার ঝুঁকি যেমন রয়েছে, তেমনি এগুলো সাইবার প্রতিরক্ষা ব্যবস্থায় ব্যবহারের সম্ভাবনাও উড়িয়ে দেওয়া যায় না। তিনি আরও উল্লেখ করেন যে, আন্তর্জাতিক পর্যায়ে এআই খাতের দ্রুত অগ্রগতির সাথে তাল মিলিয়ে আইন বা নিয়ন্ত্রণ ব্যবস্থা গড়ে তোলা বেশ চ্যালেঞ্জিং।
মাইন্ডগার্ড জানিয়েছে, তারা ২৭ জুলাই মুনশট এআইকে ইমেইলের মাধ্যমে এই নিরাপত্তা ত্রুটির বিষয়ে সতর্ক করেছিল এবং এক সপ্তাহ পর পুনরায় যোগাযোগ করে। এরপর ১২ সেপ্টেম্বর তারা বিষয়টি নিয়ে একটি ব্লগ প্রকাশ করে। মাইন্ডগার্ডের দাবি, বিবিসি মন্তব্যের জন্য যোগাযোগ করার পরেই মুনশট এআই তাদের সাথে সম্প্রতি যোগাযোগ করেছে।






























