কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলের সক্ষমতা বৃদ্ধির সাথে সাথে এর অপব্যবহারের ঝুঁকিও বাড়ছে। এই ঝুঁকি মোকাবিলা এবং ব্যবসায়িক গ্রাহকদের তথ্যের গোপনীয়তা নিশ্চিত করতে ‘প্রাইভেট সেফটি প্রসেসিং’ নামক এক নতুন নিরাপত্তাব্যবস্থা চালুর উদ্যোগ নিয়েছে চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই। বর্তমানে পরীক্ষামূলকভাবে এই ব্যবস্থাটি চালু করা হয়েছে।

ওপেনএআই-এর দেওয়া তথ্য অনুযায়ী, এই নতুন ব্যবস্থার মাধ্যমে বিভিন্ন এআই মডেলে ব্যবহারকারীদের সন্দেহজনক কার্যক্রম শনাক্ত করা হবে, তবে গোপনীয়তা রক্ষায় ওপেনএআই-এর কর্মীরা ব্যবহারকারীদের কোনো তথ্য দেখতে পারবেন না। বর্তমানে নির্বাচিত কয়েকজন গ্রাহকের ওপর এর কার্যকারিতা পরীক্ষা করা হচ্ছে। উল্লেখ্য, এই ব্যবস্থাটি প্রতিষ্ঠানটির জিরো ডেটা রিটেনশন (জেডডিআর) কাঠামোর ওপর ভিত্তি করে তৈরি। নতুন প্রজন্মের এআই মডেলগুলো দীর্ঘ সময় ধরে জটিল কাজ করতে পারে বলে অপব্যবহারের ধরনও জটিল হয়ে উঠেছে, যার ফলে তথ্যের গোপনীয়তা বজায় রেখে সন্দেহজনক প্রবণতা শনাক্ত করার প্রয়োজনীয়তা দেখা দিয়েছে।

প্রতিষ্ঠানটি জানিয়েছে, প্রাইভেট সেফটি প্রসেসিং এমনভাবে ডিজাইন করা হয়েছে যাতে জেডডিআর সুবিধা চালু থাকে। এর ফলে জেডডিআরের আওতায় ওপেনএআই-এর এপিআই ব্যবহার করে এআই এজেন্ট প্রতিটি সেশনের কার্যক্রম পর্যবেক্ষণ এবং সম্ভাব্য অপব্যবহার শনাক্ত করতে পারবে। স্বয়ংক্রিয় এই ব্যবস্থা কোনো কার্যক্রমকে সন্দেহজনক হিসেবে চিহ্নিত করলেও ওপেনএআই-এর কর্মীরা কথোপকথনের মূল তথ্য দেখতে পাবেন না; তারা কেবল কথোপকথনের ধরন সম্পর্কে একটি ‘সীমিত সংকেত’ পাবেন। সেই সংকেতের ভিত্তিতেই পরবর্তী পদক্ষেপ নেওয়া হবে।

তবে এই নিরাপত্তাব্যবস্থাটি ঠিক কীভাবে কাজ করবে, সে বিষয়ে বিস্তারিত কিছু জানায়নি ওপেনএআই। বিশেষ করে কোনো বৈধ কার্যক্রম ভুলবশত সন্দেহজনক হিসেবে চিহ্নিত হলে বা ‘ফলস পজিটিভ’ দেখা দিলে তা কীভাবে সামলানো হবে, তা এখনও স্পষ্ট নয়। তবে ওপেনএআই জানিয়েছে, ব্যবহারকারীরা স্বয়ংক্রিয় নিরাপত্তাব্যস্থার নেওয়া সিদ্ধান্তের বিরুদ্ধে আপিল করতে পারবেন।

নিরাপত্তাব্যবস্থা জোরদার করতে সম্প্রতি নিজেদের এআই মডেলের উন্নয়নের গতি সাময়িকভাবে কমিয়ে দিয়েছে ওপেনএআই। প্রতিষ্ঠানটির মতে, মডেলের সক্ষমতা বাড়ানোর পাশাপাশি সেগুলোর নিরাপত্তা, নজরদারি ও নিয়ন্ত্রণব্যবস্থা উন্নত করা প্রয়োজন। তাই শিগগিরই এআই মডেলের কার্যক্রম পর্যবেক্ষণের জন্য এই নতুন ব্যবস্থাটি পূর্ণাঙ্গভাবে চালু করা হবে।