কিশোর-কিশোরীদের কৃত্রিম বুদ্ধিমত্তা বা এআই চ্যাটবট ব্যবহারের নিরাপত্তা নিশ্চিত করতে নতুন পদক্ষেপ নিয়েছে প্রযুক্তি প্রতিষ্ঠান মেটা। এখন থেকে মেটা এআই চ্যাটবটের সঙ্গে কথা বলার সময় কোনো কিশোর বা কিশোরী যদি আত্মহত্যা কিংবা নিজের ক্ষতি করার ইঙ্গিত দেয়, তবে প্রতিষ্ঠানটি তা শনাক্ত করে সংশ্লিষ্ট অভিভাবকের কাছে সতর্কবার্তা পাঠাবে। এছাড়া কোনো ব্যবহারকারী তাৎক্ষণিক আত্মহত্যার ঝুঁকিতে রয়েছেন বলে মনে হলে জরুরি সেবাদানকারী সংস্থাকেও বিষয়টি জানাতে পারে মেটা।

সাম্প্রতিক সময়ে মানসিক সংকটে থাকা ব্যবহারকারীদের প্রতি এআই চ্যাটবটের আচরণ নিয়ে প্রযুক্তি প্রতিষ্ঠানগুলো তীব্র সমালোচনার মুখে পড়েছে। বিশেষ করে অপ্রাপ্তবয়স্ক ব্যবহারকারীদের নিরাপত্তা আরও জোরদার করার দাবি উঠলে এই নতুন সুবিধার ঘোষণা দেয় মেটা।

প্রাথমিক পর্যায়ে যুক্তরাষ্ট্র, যুক্তরাজ্য, কানাডা এবং অস্ট্রেলিয়ায় ইনস্টাগ্রামের ‘প্যারেন্টাল সুপারভিশন’ ব্যবহারকারী অভিভাবকদের জন্য এই সেবা চালু করা হয়েছে। চলতি বছরের শেষ নাগাদ বিশ্বের অন্যান্য দেশেও এটি সম্প্রসারিত করার পরিকল্পনা রয়েছে প্রতিষ্ঠানটির।

মেটা জানিয়েছে, কিশোর-কিশোরীদের কথোপকথনে আত্মহত্যা বা আত্মক্ষতির সুস্পষ্ট ইঙ্গিত শনাক্ত করতে বিশেষ একটি কৃত্রিম বুদ্ধিমত্তাভিত্তিক ব্যবস্থা তৈরি করা হয়েছে। তবে কেবল এআই-এর বিশ্লেষণের ওপর ভিত্তি করে সতর্কবার্তা পাঠানো হবে না। এআই কোনো কথোপকথনকে ঝুঁকিপূর্ণ হিসেবে চিহ্নিত করলে প্রথমে একজন পর্যালোচক তা যাচাই করবেন এবং প্রয়োজন মনে হলে অভিভাবককে জানানো হবে।

এক ব্লগ বার্তায় মেটা জানিয়েছে, "কিশোর-কিশোরীদের কথোপকথনে আত্মহত্যা বা আত্মক্ষতির সুস্পষ্ট ইঙ্গিত যেকোনো অভিভাবকের জন্যই উদ্বেগের কারণ হতে পারে। আর তাই কোনো কিশোর-কিশোরীর উদ্দেশ্য পুরোপুরি স্পষ্ট না হলেও সতর্কতার স্বার্থে বিষয়টি অভিভাবককে জানানো হবে। সম্ভাব্য ঝুঁকি উপেক্ষা করার চেয়ে অতিরিক্ত সতর্কতা অবলম্বন করাই বেশি গুরুত্বপূর্ণ। ফলে কিছু ক্ষেত্রে প্রকৃত ঝুঁকি না থাকলেও সতর্কবার্তা পাঠানো হতে পারে।"

অভিভাবকদের সতর্ক করার পাশাপাশি মেটা এআই-এর নিরাপত্তাব্যবস্থাকে আরও শক্তিশালী করা হচ্ছে। ইনস্টাগ্রামে কিশোর-কিশোরীদের জন্য বিদ্যমান ‘লিমিটেড কনটেন্ট’ সুবিধাটি এখন মেটা এআই-তেও যুক্ত করা হচ্ছে। এর ফলে চ্যাটবটটি আগের চেয়ে আরও বেশি সংবেদনশীল তথ্য প্রদানের অনুরোধ প্রত্যাখ্যান করবে।