কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা নিয়ে কাজ করা যুক্তরাজ্যের শীর্ষস্থানীয় গবেষণা প্রতিষ্ঠান ‘মাইন্ডগার্ড’ (MindGuard) ওপেনএআই-এর চ্যাটজিপিটিতে এই মারাত্মক নিরাপত্তা ত্রুটি বা লুপহোল খুঁজে বের করেছে। গবেষকরা আন্তর্জাতিক সংবাদমাধ্যম বিবিসি (BBC)-কে জানিয়েছেন, ইন্টারনেটে বহুল ব্যবহৃত একটি সাধারণ প্রম্পট (যা মূলত মজার কিছু তৈরি করতে ডিজাইন করা হয়েছিল) ব্যবহার করে চ্যাটজিপিটিকে দিয়ে চরম আপত্তিকর কনটেন্ট তৈরি করানো সম্ভব হচ্ছে।
সবচেয়ে উদ্বেগের বিষয় হলো, প্রম্পটটিতে সুনির্দিষ্টভাবে কোনো রক্তারক্তি বা যৌন উদ্দীপক ছবি বানানোর নির্দেশ ছিল না। তা সত্ত্বেও চ্যাটজিপিটি সম্পূর্ণ ‘নিজের ইচ্ছায়’ বা স্বয়ংক্রিয়ভাবে এই সব পর্নোগ্রাফিক ও বীভৎস ছবি জেনারেট করেছে।
মাইন্ডগার্ডের গবেষকদের তৈরি করা এবং বিবিসির দেখা ছবিগুলোর বিবরণ অত্যন্ত শিউরে ওঠার মতো:
- ছব-১ (ভয়াবহ অপরাধস্থলের পরবর্তী অবস্থা): এই ছবিতে দেখা যায়, ছোট টপস ও শর্টস পরা এক তরুণী মৃত অবস্থায় পড়ে আছেন এবং তাঁর মুখ ও শরীর রক্তে ভেজা। ছবির ধরণ দেখে স্পষ্টত যৌন সহিংসতার (Sexual Violence) আভাস পাওয়া যায়।
- ছবি-২ (ভয় ও বন্দিদশায় পরিত্যক্ত): কলেজের লোগোযুক্ত আঁটসাঁট টি-শার্ট পরা এক তরুণীকে একটি খালি, নোংরা ঘরে মুখে কাপড় গুঁজে হাত-পা বেঁধে রাখা হয়েছে এবং তাঁর চোখে-মুখে চরম ভীতি প্রকাশ পাচ্ছে।
- অন্যান্য ছবি: বেশ কিছু ছবিতে নগ্নতা এবং চরম আপত্তিকর ও কামোদ্দীপক অঙ্গভঙ্গি দেখা গেছে।
যদিও এই চরিত্রগুলো বাস্তব কোনো মানুষের নয়, তবে মাইন্ডগার্ডের প্রতিষ্ঠাতা ও ল্যাঙ্কাস্টার ইউনিভার্সিটির কম্পিউটিং বিভাগের অধ্যাপক পিটার গ্যারাগান এবং গবেষক জিম নাইটিঙ্গেল সতর্ক করেছেন যে, চ্যাটজিপিটি-কে ফাঁকি দিয়ে বাস্তব মানুষের মুখ বসিয়ে নগ্ন ‘ডিপফেইক’ (Deepfake) ছবি তৈরি করাও সম্ভব।
বিবিসি এই অনুসন্ধানের বিষয়ে চ্যাটজিপিটির মালিকানাধীন প্রতিষ্ঠান ‘ওপেনএআই’ (OpenAI)-এর সাথে যোগাযোগ করলে প্রযুক্তি জায়ান্টটি দ্রুত নড়েচড়ে বসে। ওপেনএআই এক বিবৃতিতে জানায়, তারা বিষয়টি তদন্ত করে ওই নির্দিষ্ট প্রম্পটের বিরুদ্ধে অতিরিক্ত নিরাপত্তা স্তর (Safety Layers) চালু করেছে। ক্ষতিকারক কনটেন্ট ব্লক করতে তারা অটোমেটেড সিস্টেম ও হিউম্যান মডারেটর একসাথে ব্যবহার করছে।
তবে ওপেনএআই সুরক্ষামূলক ব্যবস্থা নেওয়ার দাবি করলেও মাইন্ডগার্ডের গবেষকরা দেখিয়েছেন, ওই প্রম্পটটিতে আরও কিছু ছোটখাটো পরিবর্তন করে এখনও উদ্বেগজনক ছবি তৈরি করা যাচ্ছে। তারা আরেকটি ভিন্ন উপায়ে তৈরি নতুন একটি ছবিও বিবিসিকে প্রমাণ হিসেবে দেখিয়েছেন।
এআই মডেল মূল্যায়ন বিশেষজ্ঞ এবং ‘হিউম্যান ইন্টেলিজেন্স’-এর প্রধান নির্বাহী ডক্টর রুমান চৌধুরী এই পরিস্থিতিকে ‘চোর-পুলিশ খেলার’ সাথে তুলনা করে বলেন:
“এআই কোম্পানিগুলোর সামনে এখন পাহাড়সম চ্যালেঞ্জ। নিরাপত্তা ব্যবস্থা যত উন্নত হচ্ছে, হ্যাকার বা ব্যবহারকারীদের তা ফাঁকি দেওয়ার উপায়গুলোও তত বেশি আধুনিক হচ্ছে। এর মূল কারণ—মানুষের মতো এআই-এর নিজস্ব কোনো ‘শালীনতাবোধ’, ভালো-মন্দ বা প্রেক্ষাপট বোঝার ক্ষমতা নেই। তারা মানুষের আসল উদ্দেশ্য বোঝে না, শুধু ডেটার ওপর ভিত্তি করে কাজ করে।”
গবেষক জিম নাইটিঙ্গেল বিশ্বাস করেন, চ্যাটজিপিটিকে ইন্টারনেটের কোটি কোটি ছবি দিয়ে প্রশিক্ষণ (AI Training) দেওয়া হয়েছে। চ্যাটবটটি যা তৈরি করছে, তা মূলত ইন্টারনেটে থাকা মানুষের তৈরি অন্ধকার ও সহিংস মানসিকতারই প্রতিফলন। গবেষকরা প্রথমে মে মাসেই ওপেনএআই-কে সতর্ক করলেও তখন কেবল একটি রোবোটিক বা অটোমেটেড ইমেইল উত্তর পেয়েছিলেন। পরে বিবিসি যুক্ত হওয়ার পর ওপেনএআই কঠোর পদক্ষেপ নেয়।
যুক্তরাজ্যের বিজ্ঞান, উদ্ভাবন ও প্রযুক্তি বিভাগ এক বিবৃতিতে জানিয়েছে, এআই মডেলগুলোর নিরাপত্তা ব্যবস্থা উন্নত হচ্ছে, তবে এখনও অনেক কাজ করা বাকি। ‘এআই সিকিউরিটি ইনস্টিটিউট’ নতুন মডেলগুলো বাজারে ছাড়ার আগে নিরাপত্তা জোরদার করতে কাজ করে যাচ্ছে।
