কৃত্রিম বুদ্ধিমত্তা বা এআই-এর পরিধি এখন আর কেবল সাধারণ প্রশ্নের উত্তর প্রদান, ই-মেইল ড্রাফটিং কিংবা ছবি তৈরির মধ্যেই সীমাবদ্ধ নেই। বর্তমানে এআই এজেন্টের মাধ্যমে প্রতিষ্ঠানের অত্যন্ত গোপনীয় তথ্য বিশ্লেষণ, জটিল সফটওয়্যার পরিচালনা এবং মানুষের সরাসরি হস্তক্ষেপ ছাড়াই স্বয়ংক্রিয়ভাবে বিভিন্ন কাজ সম্পন্ন করা সম্ভব হচ্ছে। তবে প্রযুক্তির এই ক্রমবর্ধমান সক্ষমতার পাশাপাশি এর ওপর অন্ধভাবে নির্ভর করার ঝুঁকিও প্রবলভাবে বাড়ছে। এই বিষয়ে বিশ্ববাসীকে সতর্ক করে মাইক্রোসফটের প্রধান নির্বাহী কর্মকর্তা (সিইও) সত্য নাদেলা জানিয়েছেন, এআইকে অন্ধভাবে বিশ্বাস করবেন না, এটি অভ্যন্তরীণ ঝুঁকির কারণ হতে পারে। তিনি মনে করেন, এআই-এর সর্বোচ্চ উপযোগিতা নিশ্চিত করার পাশাপাশি এর প্রতিটি কার্যক্রম নিয়ন্ত্রণের জন্য অত্যন্ত কার্যকর ও শক্তিশালী সুরক্ষা ব্যবস্থা গড়ে তোলা এখন সময়ের দাবি।
সম্প্রতি সামাজিক যোগাযোগমাধ্যম এক্সে এক পোস্টে সত্য নাদেলা উল্লেখ করেন যে, কোনো এআই মডেলকে আপাতদৃষ্টিতে নিরাপদ মনে হলেও তার ওপর পুরোপুরি আস্থা রাখা উচিত নয়। বিশেষ করে যখন কোনো এআই এজেন্ট প্রতিষ্ঠানের সংবেদনশীল তথ্যের অ্যাক্সেস পায় এবং স্বাধীনভাবে গুরুত্বপূর্ণ সিদ্ধান্ত গ্রহণ বা কাজ সম্পন্ন করতে পারে, তখন বাড়তি সতর্কতা অবলম্বন করা অপরিহার্য। উক্ত পোস্টে নাদেলা কৃত্রিম বুদ্ধিমত্তাকে ‘সুপার ইন্টেলিজেন্স’ হিসেবে অভিহিত করেছেন।
নাদেলার বিশ্লেষণ অনুযায়ী, এআই মডেল নির্মাতা প্রতিষ্ঠানগুলো নিরাপত্তার যে প্রতিশ্রুতি দেয়, কেবল তার ওপর নির্ভর করা যথেষ্ট নয়। একটি এআই মডেলকে নিরাপদ হিসেবে ডিজাইন করা হলেও সব ধরনের পরিস্থিতিতে সেটি প্রত্যাশিত আচরণ করবে, এমন কোনো গ্যারান্টি নেই। অনেক ক্ষেত্রে মডেলটি অপ্রত্যাশিত সিদ্ধান্ত নিতে পারে অথবা এর বিদ্যমান নিরাপত্তাব্যবস্থা কোনোভাবে ক্ষতিগ্রস্ত হতে পারে। তাই এআই-এর কাছ থেকে বিশ্লেষণ বা পরামর্শ নেওয়া গেলেও, সেটি ঠিক কোন তথ্যগুলো ব্যবহার করতে পারবে এবং কী ধরনের কাজ সম্পন্ন করার ক্ষমতা রাখবে, তা একটি পৃথক ও স্বতন্ত্র নিয়ন্ত্রণব্যবস্থার মাধ্যমে নির্ধারণ করে দিতে হবে।
একটি এআই মডেলের মাধ্যমে অন্য একটি মডেলের কাজ যাচাই করার প্রক্রিয়ার বিষয়েও সতর্কবার্তা দিয়েছেন নাদেলা। তাঁর মতে, যদি স্বাধীন যাচাইয়ের কোনো ব্যবস্থা না থাকে, তবে একটি মডেল অন্যটির ভুল শনাক্ত করতে ব্যর্থ হতে পারে। এর ফলে একাধিক মডেল ব্যবহার করার পরেও ভুল সিদ্ধান্ত নেওয়া বা নিরাপত্তাঝুঁকির সম্মুখীন হওয়ার সম্ভাবনা থেকে যায়। এই সমস্যা সমাধানে এআই-এর আচরণ নিয়মিত পর্যবেক্ষণ করা, কাজের অনুমতি সীমিত রাখা এবং নির্ধারিত সীমার বাইরে যাওয়ার সুযোগ বন্ধ করার ব্যবস্থা করতে হবে। পাশাপাশি, কোনো এআই ব্যবস্থা ব্যর্থ হলে বা এর নিরাপত্তা বিঘ্নিত হলে দ্রুত সেই তথ্য প্রকাশ করার আহ্বান জানিয়েছেন তিনি। এতে করে অন্যান্য প্রতিষ্ঠানগুলোও এই অভিজ্ঞতা থেকে শিক্ষা নিয়ে নিজেদের সুরক্ষাব্যবস্থা আরও উন্নত করতে পারবে।
বর্তমানে বিভিন্ন করপোরেট ও ব্যবসায়িক প্রতিষ্ঠানে এআই এজেন্টের ব্যবহার দ্রুত বাড়ছে। তথ্য বিশ্লেষণ থেকে শুরু করে সফটওয়্যার পরিচালনা এবং নানা জটিল কাজ সম্পন্ন করার দায়িত্ব দেওয়া হচ্ছে এসব এজেন্টকে। এতে একদিকে যেমন সময় ও শ্রমের সাশ্রয় হচ্ছে, তেমনি কাজের গতিও বহুগুণ বৃদ্ধি পেয়েছে। তবে এআই যদি কোনো ভুল সিদ্ধান্ত নেয় কিংবা অনাকাঙ্ক্ষিত কোনো পদক্ষেপ গ্রহণ করে, তবে তার পরিণতি কতটা ভয়াবহ হতে পারে, সেই প্রশ্নটি এখন অত্যন্ত গুরুত্বপূর্ণ হয়ে দাঁড়িয়েছে। প্রচলিত সফটওয়্যারের ক্ষেত্রে কোনো ত্রুটি দেখা দিলে সাধারণত সংশ্লিষ্ট কোড পরীক্ষা করে সমস্যার মূল কারণ শনাক্ত করা সম্ভব হয়। কিন্তু একটি এআই মডেল কেন নির্দিষ্ট একটি উত্তর দিল বা কেন বিশেষ কোনো পদক্ষেপ নিল, তা সব সময় সহজে বোঝা যায় না। ফলে মডেলের সিদ্ধান্তের পেছনের যৌক্তিক কারণ অনুসন্ধান করা এবং সম্ভাব্য ঝুঁকি মোকাবিলা করা অনেক ক্ষেত্রে কঠিন হয়ে উঠতে পারে।