ইলন মাস্কের মালিকানাধীন সামাজিক যোগাযোগ মাধ্যম এক্স-এর এআই চ্যাটবট ‘গ্রক’ এখন থেকে কোনো বাস্তব ব্যক্তির ছবিতে বিকিনি বা খোলামেলা পোশাক যোগ করতে পারবে না। গত কয়েক সপ্তাহ ধরে শিশুদের যৌন উত্তেজক ছবি এবং অনুমতি ছাড়া নগ্ন ছবি তৈরির তীব্র বিতর্কের মুখে পড়ে কোম্পানিটি এই কঠোর সিদ্ধান্ত নিয়েছে।
প্রযুক্তি সাইট এনগ্যাজেট-এর প্রতিবেদন অনুসারে, এক্স-এর সেইফটি অ্যাকাউন্ট থেকে জানানো হয়েছে যে তারা এমন একটি কারিগরি সুরক্ষা ব্যবস্থা চালু করেছে যা বাস্তব মানুষের ছবিতে কৃত্রিমভাবে অন্তর্বাস বা বিকিনি জাতীয় পোশাক যুক্ত করা বন্ধ করবে। এই নতুন নিয়ম গ্রক ব্যবহারকারী পেইড এবং আনপেইড—উভয় শ্রেণির জন্যই কার্যকর হবে বলে নিশ্চিত করা হয়েছে। 
এই পরিবর্তনটি কেবল এডিটিং ফিচারের মধ্যেই সীমাবদ্ধ নয়, বরং ছবি তৈরির সম্পূর্ণ সুবিধাতেও বড় ধরনের পরিবর্তন এনেছে মাস্কের এআই স্টার্টআপ ‘এক্সএআই’। এখন থেকে গ্রকের মাধ্যমে নতুন ছবি তৈরির সুবিধাটি কেবল প্রিমিয়াম সাবস্ক্রাইবার বা অর্থ দিয়ে সেবা কেনা ব্যবহারকারীদের জন্য নির্দিষ্ট করে দেওয়া হয়েছে। ফলে যারা সাবস্ক্রিপশন কেনেননি, তারা আর গ্রকের মাধ্যমে ছবি তৈরি করতে পারবেন না।
কোম্পানিটি আরও জানিয়েছে যে যেসব অঞ্চলে আইনত এ ধরনের কনটেন্ট নিষিদ্ধ, সেখানে বাস্তব মানুষের অন্তর্বাস বা খোলামেলা পোশাক পরা ছবি তৈরির সুবিধা পুরোপুরি বন্ধ রাখা হবে।
ক্যালিফোর্নিয়া অঙ্গরাজ্য কর্তৃপক্ষ এআই দিয়ে তৈরি অননুমোদিত নগ্ন ছবি ও শিশু নিপীড়নমূলক কনটেন্টের অভিযোগে এক্সএআই ও গ্রকের বিরুদ্ধে আনুষ্ঠানিক তদন্ত শুরু করার কয়েক ঘণ্টা পরই এক্স এই বিবৃতি দিল। ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল রব বোন্টা একটি বিশ্লেষণের তথ্য তুলে ধরে জানিয়েছেন, গত বছরের ক্রিসমাস থেকে ইংরেজি নববর্ষের মাঝামাঝি সময়ে গ্রক দিয়ে তৈরি ২০ হাজার ছবির মধ্যে অর্ধেকেরও বেশি ছিল স্বল্পবসনা মানুষের ছবি, যার মধ্যে কিছু ছবি শিশুদের ছিল।
এই ভয়াবহ তথ্যের প্রেক্ষাপটে বিশ্বজুড়ে নিয়ন্ত্রক সংস্থাগুলো গ্রকের বিরুদ্ধে সোচ্চার হয়েছে। ইতিপূর্বে মালয়েশিয়া ও ইন্দোনেশিয়া নিরাপত্তা উদ্বেগের কারণে গ্রক ব্লক বা বন্ধ করার পদক্ষেপ নিয়েছে এবং যুক্তরাজ্যেও চ্যাটবটটি নিয়ে তদন্ত চলছে।
ইলন মাস্ক অবশ্য দাবি করেছেন যে গ্রক কোনো অপ্রাপ্তবয়স্কের নগ্ন ছবি তৈরি করেছে এমন কোনো তথ্য তার জানা নেই। তিনি বলেন, গ্রকের সেটিংসে অপ্রাপ্তবয়স্কদের জন্য অনুপযুক্ত বিষয়গুলো চালু থাকলে তা বড়জোর কাল্পনিক প্রাপ্তবয়স্ক মানুষের নগ্নতা তৈরি করতে পারে, কিন্তু বাস্তব কোনো মানুষের নয়।
মাস্ক এই সুবিধাকে অ্যাপল টিভির ‘আর-রেটেড’ সিনেমার সঙ্গে তুলনা করেছেন। তবে এক্স জোর দিয়ে বলেছে যে শিশুদের যৌন নিপীড়নমূলক উপাদান এবং অনুমতি ছাড়া তৈরি নগ্ন ছবির বিষয়ে তাদের নীতি ‘জিরো টলারেন্স’। ইতিমধ্যে প্ল্যাটফর্মটি থেকে এই ধরনের নিয়ম লঙ্ঘনকারী বহু কনটেন্ট সরিয়ে ফেলা হয়েছে এবং কঠোর নজরদারি অব্যাহত রাখা হয়েছে।
সূত্র: এনগ্যাজেট
