যুক্তরাষ্ট্রের ফিলাডেলফিয়া পুলিশের কাছে একটি অমীমাংসিত হত্যা মামলার বিষয়ে বিভ্রান্তিকর ও ভুয়া তথ্য পাঠিয়েছে কৃত্রিম বুদ্ধিমত্তা (এআই) প্রতিষ্ঠান অ্যানথ্রপিকের তৈরি একটি এআই মডেল। গত ১৮ জুলাই ওই তথ্য পাঠানো হলেও তা সিস্টেমের মাধ্যমে স্প্যাম হিসেবে চিহ্নিত হওয়ায় তদন্তকারীদের কাছে পৌঁছায়নি। তবে এই ঘটনার দুই মাসেরও বেশি সময় পর পুলিশকে বিষয়টি জানানোয় অ্যানথ্রপিক প্রতিষ্ঠানের তীব্র সমালোচনা করেছে ফিলাডেলফিয়া পুলিশ বিভাগ।
পুলিশের দেওয়া তথ্যানুযায়ী, অমীমাংসিত হত্যা মামলার বিষয়ে তথ্য সংগ্রহের জন্য পুলিশের একটি নির্দিষ্ট ওয়েবসাইট রয়েছে। সেখানেই ভুয়া বার্তাটি পাঠানো হয়। ওই বার্তায় এআই মডেলটি এমন একজন ব্যক্তির পরিচয় ধারণ করে তথ্য প্রদান করে, যিনি দাবি করছেন যে তিনি মামলাটির বিষয়ে অবগত। মডেলটি আরও জানায়, ঘটনার সময় সংশ্লিষ্ট এলাকার সন্দেহভাজন ব্যক্তির বর্ণনার সঙ্গে মেলে এমন একজনকে সে দেখেছে।
এই ঘটনার বিষয়ে অ্যানথ্রপিক ব্যাখ্যা দিয়েছে যে, তাদের এআই মডেলটি দৈবচয়নের ভিত্তিতে নির্বাচিত বিভিন্ন ওয়েবসাইটে কাজ করার একটি পরীক্ষামূলক প্রক্রিয়ার অংশ ছিল। সেই পরীক্ষার চলাকালীনই মডেলটি ফিলাডেলফিয়া পুলিশের ওয়েবসাইটে প্রবেশ করে এবং হত্যা মামলার তথ্য দেওয়ার ফরমটি পূরণ করে জমা দেয়। পুলিশ জানিয়েছে, গত ২৮ সেপ্টেম্বর ঘটনাটি শনাক্ত করে অ্যানথ্রপিক। এরপর ভুয়া তথ্য পাঠানোর জন্য দায়ী স্বয়ংক্রিয় পরীক্ষাপ্রক্রিয়াটি বন্ধ করে দেওয়া হয়। তবে পুলিশকে এই বিষয়ে অবহিত করা হয় আরও ৯ দিন পর, অর্থাৎ ৭ অক্টোবর। বিষয়টি জানার পর পুলিশ ওয়েবসাইটের তথ্য যাচাই করে নিশ্চিত হয় যে, বার্তাটি স্প্যাম হিসেবে চিহ্নিত হয়েছিল এবং তদন্তকারীদের কাছে তা পাঠানো হয়নি।
স্থানীয় সংবাদমাধ্যমকে দেওয়া এক বিবৃতিতে ফিলাডেলফিয়া পুলিশ বলেছে, “শহর কর্তৃপক্ষের অজান্তে যাতে এ ধরনের ঘটনা তাদের ব্যবস্থায় প্রভাব ফেলতে না পারে, সে জন্য প্রযুক্তিপ্রতিষ্ঠানটিকে নিরাপত্তাব্যবস্থা আরও জোরদার করতে হবে।” এছাড়া ঘটনাটি শনাক্ত করা এবং কর্তৃপক্ষকে জানাতে দুই মাসের বেশি সময় নেওয়াকে ‘অগ্রহণযোগ্য’ বলে উল্লেখ করেছে পুলিশ। পুলিশ আরও জানিয়েছে, এই ঘটনায় তাদের কোনো ব্যবস্থায় অননুমোদিত প্রবেশ কিংবা তথ্যের নিরাপত্তা বিঘ্নিত হওয়ার প্রমাণ পাওয়া যায়নি। ভুয়া বার্তাটি স্প্যাম হিসেবে আটকে যাওয়ায় তদন্তেও এর কোনো প্রভাব পড়েনি। তবে কোনো হত্যা মামলার বিষয়ে প্রত্যক্ষ তথ্য রয়েছে এমন ব্যক্তির পরিচয়ে এআইয়ের মনগড়া তথ্য পাঠানোর ঘটনাকে গুরুতর উদ্বেগের বিষয় বলে মনে করছে পুলিশ। কারণ, অমীমাংসিত মামলাগুলোর সঙ্গে বাস্তব ভুক্তভোগী, শোকাহত পরিবার ও তদন্তকারীদের স্বার্থ জড়িত।
অ্যানথ্রপিক সম্প্রতি প্রকাশিত এক প্রতিবেদনে তাদের এআই মডেলগুলোর বিভিন্ন অনিচ্ছাকৃত কর্মকাণ্ডের কথা স্বীকার করেছে। এসব ঘটনার কয়েকটি যুক্তরাষ্ট্রের সরকারি ওয়েবসাইটে এআইয়ের কার্যক্রমের সঙ্গে সম্পর্কিত। এর মধ্যে একটি ঘটনায় এআই মডেল একটি সরকারি ওয়েবসাইটে ভিসার আবেদন জমা দিয়েছিল। যুক্তরাষ্ট্রের পররাষ্ট্র দপ্তরের তথ্য অনুযায়ী, মে ও আগস্ট মাসে মোট ২০টি আবেদন জমা পড়ে। তবে আবেদনগুলো অসম্পূর্ণ থাকায় সেগুলো প্রক্রিয়াকরণ করা হয়নি। প্রতিবেদনে আরও বলা হয়েছে, কয়েকটি ঘটনায় এআই মডেল এমন কিছু তথ্য বিনা মূল্যে সংগ্রহ করেছে, যেগুলো পেতে সাধারণত অর্থ দিতে হয়। অন্য একটি ঘটনায় সরকারি ওয়েবসাইটের নকশাগত ত্রুটির সুযোগ নিয়ে এআই মডেল অনাকাঙ্ক্ষিতভাবে তথ্য সংগ্রহ করে। অ্যানথ্রপিক জানিয়েছে, এ ধরনের ঘটনা এড়াতে এআই মডেলগুলোর প্রশিক্ষণপদ্ধতিতে পরিবর্তন আনা হচ্ছে। পরীক্ষার সময় এআই এজেন্টগুলোর অনাকাঙ্ক্ষিত কর্মকাণ্ডের ঝুঁকি কমানোই এর লক্ষ্য। সরকারি সংস্থাসংশ্লিষ্ট ঘটনাগুলো সম্পর্কে হোয়াইট হাউসকেও অবহিত করেছে প্রতিষ্ঠানটি।
এআই এজেন্টের অনাকাঙ্ক্ষিত কর্মকাণ্ড নিয়ে উদ্বেগ শুধু অ্যানথ্রপিককে ঘিরেই নয়। এর আগে ওপেনএআইয়ের একটি এআই এজেন্ট অস্ট্রেলিয়ার সরকারি স্বাস্থ্যসেবাসংক্রান্ত ওয়েবসাইটে অননুমোদিতভাবে প্রবেশ করেছিল বলে খবর প্রকাশিত হয়। দেশটির সর্বজনীন স্বাস্থ্যসেবা কর্মসূচি মেডিকেয়ারের তথ্যব্যবস্থায় প্রবেশের ওই ঘটনা এআই এজেন্টের নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে নতুন করে প্রশ্ন তোলে। এ ছাড়া ওপেনএআইয়ের একাধিক এআই মডেলের অপ্রত্যাশিত আচরণের ঘটনাও সামনে এসেছে।