কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলের নিরাপত্তাব্যবস্থা নিয়ে তৈরি হয়েছে নতুন উদ্বেগ। বিশ্বের শীর্ষ পাঁচটি এআই মডেল নির্মাতা প্রতিষ্ঠানের নিরাপত্তা মান বিচার করে এই তথ্য দিয়েছে চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআইয়ের সাবেক কর্মকর্তাদের উদ্যোগে গঠিত অলাভজনক গবেষণাপ্রতিষ্ঠান গাইডলাইট এআই স্ট্যান্ডার্ডস। প্রতিষ্ঠানটির হালনাগাদ প্রতিবেদনে বলা হয়েছে, শীর্ষ প্রযুক্তিপ্রতিষ্ঠানগুলোর কোনোটিই তাদের তৈরি করা স্বায়ত্তশাসিত এআই এজেন্টের ওপর পূর্ণ নিয়ন্ত্রণ বা কার্যকর প্রতিরোধের ব্যবস্থা গড়ে তুলতে পারেনি।

গাইডলাইট এআই স্ট্যান্ডার্ডস পাঁচটি প্রধান প্রযুক্তিপ্রতিষ্ঠানের এআই মডেলের নিরাপত্তা ও তদারকির ব্যবস্থা মূল্যায়ন করে খুবই নিম্নমানের গ্রেড দিয়েছে। নিরাপত্তা মূল্যায়নে সবচেয়ে ভালো ফল করেছে ওপেনএআই ও অ্যানথ্রোপিক—দুটি প্রতিষ্ঠানই পেয়েছে ‘সি প্লাস’ গ্রেড। গুগলকে ‘ডি প্লাস’, ইলন মাস্কের এক্সএআইকে ‘ডি মাইনাস’ এবং মেটাকে ‘এফ’ গ্রেড দিয়েছে গবেষণাপ্রতিষ্ঠানটি।

গাইডলাইটের প্রতিবেদনে মোট ছয়টি গুরুত্বপূর্ণ দিক পর্যবেক্ষণ করা হয়েছে। এর মধ্যে রয়েছে মডেলের অভ্যন্তরীণ কার্যকলাপ তদারকি করা, অনাকাঙ্ক্ষিত পদক্ষেপ প্রতিরোধে ব্যবস্থা এবং কোনো বিপদ ঘটলে তা মোকাবিলার আগাম প্রস্তুতি। সার্বিক পর্যালোচনায় বলা হয়েছে, বেশির ভাগ প্রতিষ্ঠান নজর দিচ্ছে প্রধানত তদারকির দিকে, যাতে মডেলগুলো ভুল করার সুযোগ না পায়—এমন কৌশলগত প্রতিরোধে জোর কম।

গাইডলাইটের সহপ্রতিষ্ঠাতা ও ওপেনএআইয়ের সাবেক নিরাপত্তা গবেষক স্টিভেন অ্যাডলার বলেন, ‘আমাদের আরও সক্রিয় প্রতিরোধের ব্যবস্থা প্রয়োজন, কিন্তু তা অত্যন্ত ব্যয়বহুল এবং মূল কাজের গতি কিছুটা ধীর করে দেয়। নিরাপত্তাব্যবস্থার এই ঘাটতির কারণে গবেষকদের স্বাধীনতা ও প্রযুক্তির প্রতি মানুষের আস্থা চরমভাবে ক্ষতিগ্রস্ত হতে পারে।’

সম্প্রতি ওপেনএআই ও অ্যানথ্রোপিক স্বীকার করেছে যে তাদের তৈরি স্বায়ত্তশাসিত এজেন্ট মানুষের হস্তক্ষেপ ছাড়াই পরীক্ষার সময় নিজ থেকে অন্য প্রতিষ্ঠানের সিস্টেমে গোপনে প্রবেশ করেছে। প্রতিবেদনে উল্লেখ করা হয়, নিয়ন্ত্রণ হারিয়ে এসব মডেল অন্য প্রতিষ্ঠানের সুরক্ষাবলয়ে নিরাপত্তাত্রুটি খুঁজে বের করার মতো কাজ করতে পারে। গবেষকদের মূল উদ্বেগ হলো, কোনো মডেল বা এজেন্ট ভুল পথে গেলে তাৎক্ষণিকভাবে থামানোর মতো পর্যাপ্ত প্রযুক্তিগত সক্ষমতা কোনো প্রতিষ্ঠানের হাতেই শতভাগ কার্যকর অবস্থায় নেই। ফলে এআই মডেলগুলো নিজেদের কৌশল গোপন রাখতে পারছে কি না—এ বিষয়েও চিন্তা বাড়ছে বলে জানান সংশ্লিষ্ট বিশেষজ্ঞরা।

ওপেনএআইয়ের প্রধান বিজ্ঞানী ইয়াকুব পাচোকি বলেন, এআই মডেল যদি অত্যধিক ক্ষমতাবান হয়ে ওঠে, তবে সে কি নিজের ওপর রাখা নজরদারি এড়ানোর উপায় খুঁজে বের করতে পারবে? কিংবা সে কি নজরদারি করার ব্যবস্থাটাকেই অকেজো করে দিতে পারে? বিষয়টি খুবই যৌক্তিক ও গুরুতর এক উদ্বেগ। এআই মডেলের এই অনিয়ন্ত্রিত আচরণ রোখার সুনির্দিষ্ট নীতি বা তদারকি ফ্রেমওয়ার্ক না থাকায় পুরো প্রযুক্তি খাতেই বড় ধরনের ধসের ঝুঁকি তৈরি হচ্ছে।