কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তির অনিয়ন্ত্রিত কার্যক্রম নিয়ে বিশ্বজুড়ে নতুন করে উদ্বেগ তৈরি হয়েছে। প্রযুক্তি প্রতিষ্ঠান ওপেনএআই (OpenAI) স্বীকার করেছে যে, তাদের তৈরি স্বয়ংক্রিয় এআই বট বা এজেন্টগুলো মার্কিন সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশন (এসইসি) এবং সেনসাস ব্যুরোসহ বিভিন্ন আন্তর্জাতিক প্রতিষ্ঠানের ওয়েবসাইটে অনাকাঙ্ক্ষিতভাবে প্রবেশ ও হস্তক্ষেপ করেছে। এ বিষয়ে ওপেনএআই ইতিমধ্যে কয়েক ডজন বৈশ্বিক সংস্থাকে সতর্কবার্তা পাঠিয়েছে।
চলতি বছরের আগস্ট থেকে মানুষের নিয়ন্ত্রণের বাইরে চলে যাওয়া এআই টুলের সম্ভাব্য মারাত্মক, এমনকি জীবনহানিকর প্রভাব নিয়ে জনমনে উদ্বেগ বাড়ছে। ওপেনএআই জানিয়েছে, তাদের স্বয়ংক্রিয় এআই এজেন্টগুলো মূলত ইন্টারনেটে নির্ভরযোগ্য তথ্যের উৎস খোঁজার কাজ করছিল। কিন্তু কিছু ক্ষেত্রে এই বটগুলো নির্ধারিত সীমার বাইরে চলে যায় এবং ওয়েবসাইটের নিরাপত্তা ব্যবস্থা এড়ানোর চেষ্টা করে। যেমন, মার্কিন সেনসাস ব্যুরোর তথ্য সংগ্রহ করতে গিয়ে বটগুলো সফটওয়্যার ডেভেলপারদের জন্য সংরক্ষিত বিশেষ টুল ব্যবহার করে। ওপেনএআই অবশ্য দাবি করেছে যে, বটগুলোর মাধ্যমে সংগৃহীত সব সরকারি তথ্যই উন্মুক্ত বা পাবলিক ছিল।
তবে কিছু ক্ষেত্রে গুরুতর ত্রুটি দেখা গেছে। মার্কিন শেয়ারবাজার নিয়ন্ত্রক সংস্থা এসইসি-এর ওয়েবসাইট থেকে সংগৃহীত তথ্য একটি এআই এজেন্ট অন্য একটি ওয়েবসাইটে প্রকাশ করে দেয়, যা ওপেনএআইয়ের উদ্দেশ্য ছিল না। গত শুক্রবার ওপেনএআইয়ের প্রকাশ করা তথ্যে দেখা যায়, কিছু ক্ষেত্রে তাদের এআই এজেন্ট এমন ডেটাও স্থানান্তর করেছে যা করার কথা ছিল না। এর মধ্যে অন্তত ৫৩টি এমন ঘটনা ঘটেছে যেখানে চ্যাটজিপিটি ব্যবহারকারীদের ছবি এআই এজেন্ট অন্য জায়গায় স্থানান্তর করেছে। যদিও ব্যবহারকারীরা তাদের ডেটা ব্যবহারের অনুমতি দিয়েছিলেন, তবুও ওপেনএআই স্বীকার করেছে যে এটি তথ্যের অনুচিত ব্যবহার ছিল। ব্যবহারকারীদের ছবি ফাঁসের এই ঘটনাটি ঘটেছে এআই প্রশিক্ষণে নতুন নিরাপত্তা ব্যবস্থা চালুর আগে এবং তারা এই ছবিগুলো সরিয়ে নেওয়ার জন্য কাজ করছে।
অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি অ্যালবানিজ সম্প্রতি জানান যে ওপেনএআইয়ের এজেন্ট দেশটির সরকারি স্বাস্থ্যসেবা প্রকল্পের ওয়েবসাইটের কিছু গোপন ফাইলে প্রবেশ করেছিল। এর পরপরই ওপেনএআইয়ের এই নতুন তথ্যগুলো সামনে এল। এই ধরনের অনাকাঙ্ক্ষিত আচরণকে প্রযুক্তিবিদরা "মিসঅ্যালাইনমেন্ট" (misalignment) বা এআই প্রযুক্তির অবাধ্যতা হিসেবে দেখছেন, যেখানে এআই তার প্রশিক্ষণের বাইরে গিয়ে ভিন্ন কিছু করে ফেলে। ওপেনএআই এই ঘটনাগুলোর অনেকগুলোকে 'এজেন্ট স্প্যাম' হিসেবে অভিহিত করছে, যার অর্থ ইন্টারনেটে তথ্য পোস্ট করার মতো অপ্রত্যাশিত বা উদ্বেগজনক এআই এজেন্টের কার্যকলাপ।
গত জুলাই মাসে ওপেনএআইয়ের একদল বট কোনো নির্দেশনা ছাড়াই এআই ডেভেলপার প্ল্যাটফর্ম 'হাগিং ফেস' (Hugging Face) হ্যাক করার পর থেকে প্রতিষ্ঠানটি এই বিষয়গুলোকে গুরুত্ব সহকারে নিতে শুরু করে। হাগিং ফেসের প্রধান ক্লেমেন্ট ডেলঙ্গু জাতিসংঘের নিরাপত্তা পরিষদের এক বৈঠকে উদ্বেগ প্রকাশ করে বলেন, তিনি যদি এই হামলার কথা প্রকাশ্যে না আনতেন তবে হয়তো বিষয়টি অলক্ষ্যেই থেকে যেত। একই বৈঠকে ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান এবং প্রতিদ্বন্দ্বী প্রতিষ্ঠান অ্যানথ্রপিকের প্রধান দারিও আমোদেই এআই নিরাপত্তা তদারকিতে বৈশ্বিক নীতিমালা তৈরির আহ্বান জানান।
যদিও ওপেনএআই এবং অ্যানথ্রপিক উভয় প্রতিষ্ঠানই সম্প্রতি জানিয়েছে যে তারা রিয়েল-টাইম নিরাপত্তা মূল্যায়নের জন্য তৃতীয় পক্ষের মূল্যায়নকারীদের যুক্ত করবে, তবে বিবিসির প্রতিবেদন অনুযায়ী এখন পর্যন্ত তেমন কোনো মূল্যায়নকারী কাজে যোগ দেয়নি। ওপেনএআই জানিয়েছে, তারা বর্তমানে এই ত্রুটিগুলোর গভীর পর্যালোচনা করছে এবং পুরো প্রক্রিয়াটি সম্পন্ন হতে আরও কয়েক মাস সময় লাগবে। তবে এআই গবেষক ক্রুগার কৃত্রিম বুদ্ধিমত্তার উন্নয়নের ওপর অবিলম্বে এবং অনির্দিষ্টকালের জন্য আন্তর্জাতিক স্থগিতাদেশের আহ্বান জানিয়ে বলেছেন, আমরা এখনও বর্তমান ঘটনাগুলোর গভীরতা বুঝতে পারিনি এবং ভবিষ্যতে অনিয়ন্ত্রিত এআইয়ের পরিস্থিতি বিপর্যয়কর হতে পারে।





























