চ্যাটজিপিটির দেওয়া ভুল স্বাস্থ্য পরামর্শের কারণে এক তরুণীর মৃত্যুর ঘটনায় নির্মাতা প্রতিষ্ঠান ওপেনএআই-এর বিরুদ্ধে মামলা করেছেন তাঁর বাবা-মা। যুক্তরাষ্ট্রে অ্যামাজনের সফটওয়্যার প্রকৌশলী হিসেবে কর্মরত ৩১ বছর বয়সী চীনা নাগরিক বাওয়েন ওয়ান মৃগীরোগের ওষুধের মাত্রা কমিয়েছিলেন চ্যাটজিপিটির নির্দেশনায়, যা শেষ পর্যন্ত তাঁর মৃত্যুর কারণ হয়ে দাঁড়ায় বলে অভিযোগ করা হয়েছে। তাঁর পরিবারের দাবি, চ্যাটজিপিটি কেবল ওষুধের ডোজ কমানোর পরিকল্পনা করে দেয়নি, বরং বিষয়টি চিকিৎসকের কাছ থেকে গোপন রাখার পরামর্শও দিয়েছিল। যদি চিকিৎসাসংক্রান্ত পরামর্শ দেওয়ার ক্ষেত্রে এই কৃত্রিম বুদ্ধিমত্তার ওপর কঠোর বিধিনিষেধ থাকত, তবে বাওয়েনের মৃত্যু ঠেকানো সম্ভব হতো বলে মনে করেন তাঁর অভিভাবকরা।
মামলার বিবরণ অনুযায়ী, বাওয়েন দীর্ঘ দিন ধরে মৃগীরোগে আক্রান্ত ছিলেন এবং খিঁচুনি নিয়ন্ত্রণে রাখতে ল্যামোট্রিজিন নামক একটি ওষুধ সেবন করতেন। এই ওষুধের মাধ্যমে তাঁর শারীরিক অবস্থা অনেকটাই স্থিতিশীল ছিল। তবে গত জানুয়ারি মাসে তিনি চ্যাটজিপিটির কাছে জানতে চান কীভাবে ওষুধের দৈনিক মাত্রা কমানো যায়। বাওয়েনের আশঙ্কা ছিল, ওষুধের পার্শ্বপ্রতিক্রিয়ার কারণে তাঁর কথা বলার দক্ষতা বা বাচনভঙ্গি ক্ষতিগ্রস্ত হচ্ছে, যা তাঁর পেশাগত জীবন এবং চাকরির সাক্ষাৎকারে নেতিবাচক প্রভাব ফেলতে পারে।
বাওয়েনের এই অনুরোধের প্রেক্ষিতে চ্যাটজিপিটি কয়েক সপ্তাহের একটি নির্দিষ্ট সময়সূচি তৈরি করে দেয়, যার লক্ষ্য ছিল ওষুধের মাত্রা ধীরে ধীরে কমিয়ে শূন্যে নামিয়ে আনা। শুধু তাই নয়, রক্ত পরীক্ষার মাধ্যমে শরীরে ওষুধের কার্যকর মাত্রা যাচাই করার প্রয়োজনীয়তা নিয়ে প্রশ্ন উঠলে চ্যাটজিপিটি রক্ত পরীক্ষা না করার সিদ্ধান্তেও তাঁকে সমর্থন জানায়।
বাওয়েনের স্নায়ুরোগ বিশেষজ্ঞ চিকিৎসক নিকোলাস পুলুস এই ঘটনার বিষয়ে তাঁর মতামত জানিয়েছেন। তিনি স্পষ্ট করে বলেন যে, বাওয়েনের চিকিৎসার ইতিহাস পর্যালোচনা করে তিনি কখনোই ওষুধ বন্ধ করার পরামর্শ দিতেন না। চিকিৎসক পুলুস বলেন, ‘না, এটি কোনোভাবেই যুক্তিসংগত নয়। কোনো রোগীর ক্ষেত্রে ওষুধ কার্যকর হলে তা বন্ধ করার পরামর্শ দেওয়া আমার জন্য চিকিৎসায় অবহেলার শামিল হতো।’
ওষুধের মাত্রা কমানোর পর বাওয়েন বিভিন্ন শারীরিক ও মানসিক অস্বস্তির কথা চ্যাটজিপিটিকে জানিয়েছিলেন। তাঁর অভিজ্ঞতার মধ্যে ছিল বিভ্রান্তি, স্মৃতির অসংলগ্নতা এবং শরীরে অস্বাভাবিক অনুভূতি। তবে চ্যাটজিপিটি এই উপসর্গগুলোকে সম্ভাব্য বিপদের লক্ষণ হিসেবে চিহ্নিত না করে বরং তাঁকে আশ্বস্ত করে জানায় যে, ওষুধের পরিবর্তনের সাথে সাথে মস্তিষ্কের মানিয়ে নেওয়ার প্রক্রিয়ার কারণে এমন সমস্যা হতে পারে।
মৃত্যুর ঠিক দুই দিন আগে, গত ১১ ফেব্রুয়ারি বাওয়েন চ্যাটজিপিটিকে পাঠানো শেষ বার্তায় তাঁর তীব্র মাথাব্যথার কারণ জানতে চান। এর জবাবে চ্যাটজিপিটি ওই ব্যথাটিকে ‘বিপজ্জনক নয়’ বলে উল্লেখ করে এবং এটিকে সুস্থ হয়ে ওঠার প্রক্রিয়ার একটি অংশ হিসেবে বর্ণনা করে আশ্বস্ত করে।
বাওয়েনের মা-বাবার জোরালো দাবি, প্রেসক্রিপশনের ওষুধের মাত্রা পরিবর্তন বা ওষুধ সম্পূর্ণ বন্ধ করার বিষয়ে চ্যাটজিপিটির মতো চ্যাটবটের পরামর্শ দেওয়ার কোনো সুযোগ থাকা উচিত নয়। বিশেষ করে চিকিৎসকের তত্ত্বাবধান ছাড়া ব্যবহারকারীদের এমন ঝুঁকিপূর্ণ সিদ্ধান্ত নিতে উৎসাহিত করে এমন পরামর্শ প্রদান পুরোপুরি নিষিদ্ধ করা প্রয়োজন। তাঁদের মতে, চিকিৎসাসংক্রান্ত বিষয়ে এই প্রযুক্তির ওপর কঠোর নিয়ন্ত্রণ থাকলে তাঁদের মেয়ের জীবন রক্ষা করা যেত।
এদিকে, বাওয়েনের মৃত্যুর ঘটনাটিকে ‘অত্যন্ত হৃদয়বিদারক’ বলে অভিহিত করেছে ওপেনএআই। প্রতিষ্ঠানটি দাবি করেছে যে, এই ঘটনায় ব্যবহৃত চ্যাটজিপিটির সংস্করণটি ছিল পুরোনো। তাদের দাবি, বর্তমানের নতুন মডেলগুলো জরুরি চিকিৎসার প্রয়োজন হতে পারে এমন পরিস্থিতি আগের চেয়ে অনেক বেশি নির্ভুলভাবে শনাক্ত করতে সক্ষম।