ডিপফেক প্রতারণা: ভারতীয় নারীর পরিচয় নকল করে এআই দিয়ে উত্তেজক কনটেন্ট তৈরির অভিযোগ

সামাজিক যোগাযোগ মাধ্যমে ভাইরাল হওয়া কয়েকটা মুহূর্ত–– আর তাতেই ভারতের ইনস্টাগ্রাম সেনসেশন বেবিডল আর্চির ফলোয়ারের সংখ্যাটা মাত্র কয়েকদিনের মধ্যে দ্বিগুণ হয়ে পৌঁছে গিয়েছিল ১৪ লাখে।

ওই ভিডিওগুলোর একটায় লাল শাড়ি পরে রোমানিয়ার গান 'ডেম উন গ্র'-এর সুরে আকর্ষক ভঙ্গিতে নাচতে দেখা গিয়েছিল তাকে।

ওই সামাজিক মাধ্যমেই পোস্ট করা আরেক ছবিতে আমেরিকান অ্যাডাল্ট ফিল্ম স্টার কেন্দ্রা লাস্টের সঙ্গে পোজ তাকে দিতেও দেখা গিয়েছে।

হঠাৎই তার সম্পর্কে সবাই কৌতূহলী হয়ে ওঠে। গুগল সার্চে ট্রেন্ড করতে থাকে বেবিডল আর্চির নাম। অসংখ্য ফ্যান পেজ ও মিম তৈরি হয়ে যায়।

তবে তখনো একটা বিষয় প্রকাশ্যে আসা বাকি ছিল––ওই অনলাইন সেনসেশনের নেপথ্যে বাস্তবে কোনো নারী ছিলেন না। ইনস্টাগ্রাম অ্যাকাউন্টটা আসলে ভুয়া।

তবে সেখানে যার মুখ ব্যবহার করা হয়েছিল, তার সঙ্গে বাস্তবজীবনের এক নারীর অদ্ভুত মিল রয়েছে। তিনি আসামের ডিব্রুগড় শহরের একজন গৃহবধূ, তাকে আমরা এখানে সাঁচী নামে উল্লেখ করছি।

ঘটনার সত্যতা প্রকাশ্যে আসে সাঁচীর ভাই পুলিশে অভিযোগ দায়ের করার পর। গ্রেফতার করা হয় তার প্রাক্তন প্রেমিক প্রতীম বোরাকে।

এই তদন্তের নেতৃত্বে থাকা পুলিশ ঊর্ধ্বতন কর্মকর্তা সিজল আগরওয়াল বিবিসিকে বলেছেন, "সাঁচী এবং বোরার মধ্যে মনোমালিন্য হয়েছিল। তিনি কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে যে সাদৃশ্য তৈরি করেছিলেন, সেটা শুধু প্রতিশোধ নেওয়ার উদ্দেশ্যেই।"

মি. বোরা একজন মেকানিক্যাল ইঞ্জিনিয়ার। কৃত্রিম বুদ্ধিমত্তা নিয়ে উৎসাহী প্রীতম বোরা নিজে নিজেই সে বিষয়ে শিখেছেন।

সিজল আগারওয়াল জানিয়েছেন, সাঁচীর ব্যক্তিগত ছবি ব্যবহার করে একটা ভুয়া প্রোফাইল তৈরি করেছিলেন মি. বোরা।

আপাতত হেফাজতে রয়েছেন প্রীতম বোরা এবং এই বিষয়ে কোনো মন্তব্য করেননি।

বিবিসি তার পরিবারের সঙ্গে যোগাযোগ করেছিল। তাদের পক্ষ থেকে কিছু জানানো হলে এই প্রতিবেদনে উল্লেখ করে দেওয়া হবে।

বেবিডল আর্চি নামে ওই প্রোফাইল ২০২০ সালে তৈরি করা হয়েছিল। ২০২১ সালের মে মাসে প্রথমবার সেখানে কন্টেন্ট আপলোড করা হয়।

মিজ আগরওয়াল জানিয়েছেন, প্রথমদিকের ছবিগুলো সাঁচীর আসল ছবি ছিল যেগুলো বিকৃত করা হয়।

তার কথায়, "সময় পেরোনোর সঙ্গে সঙ্গে বোরা চ্যাটজিপিটি এবং ডিজাইনের মতো টুল ব্যবহার করে এআই সংস্করণ তৈরি করে। এরপর ডিপফেক ছবি ও ভিডিও তৈরি করে ওই হ্যান্ডেল ভরিয়ে দেয়।"

গত বছর থেকে এই অ্যাকাউন্টে লাইক-এর সংখ্যা বাড়তে শুরু করলেও চলতি বছরের এপ্রিল মাস থেকে জনপ্রিয়তা পেতে শুরু করে প্রোফাইলটা।

পুলিশের কাছে গত ১১ জুলাই রাতে সাঁচীর পরিবারের পক্ষ থেকে দুই অনুচ্ছেদের একটা সংক্ষিপ্ত অভিযোগপত্র দায়ের করা হয়েছিল। সঙ্গে প্রমাণ হিসাবে কিছু ফটোর প্রিন্টআউট এবং ভিডিও ছিল।

মিজ আগরওয়াল জানিয়েছেন, সেখানে কারো নাম উল্লেখ করা হয়নি, কারণ সাঁচীর পরিবারের কেউ জানতেন না এর নেপথ্যে কে থাকতে পারেন।

পুলিশের কাছে বেবিডল আর্চির নাম অচেনা ছিল না। মিজ আগরওয়াল জানিয়েছেন গণমাধ্যমে প্রকাশিত রিপোর্ট এবং মন্তব্য তাদের নজরে এসেছে যেখানে অনুমান করা হয়েছিল ওই অ্যাকাউন্ট এআই জেনারেটেড। তবে সেটা যে বাস্তব জীবনে কারও আদলে তৈরি তেমন কোনো ইঙ্গিত মেলেনি।

অভিযোগ পাওয়ার পর পুলিশ ইনস্টাগ্রামে চিঠি লিখে অ্যাকাউন্ট নির্মাতার বিস্তারিত তথ্য জানতে চায়।

"ইনস্টাগ্রাম থেকে তথ্য পাওয়ার পর আমরা সাঁচীকে জিজ্ঞাসা করি যে তিনি কোনো প্রতীম বোরাকে চেনেন কি না। তিনি বিষয়টা নিশ্চিত করার পর আমরা অ্যাড্রেস ট্র্যাক করে পার্শ্ববর্তী তিনসুকিয়া জেলায় তার খোঁজ পাই। এরপর ১২ই জুলাই সন্ধ্যায় আমরা তাকে গ্রেফতার করি।"

বিবিসি বাংলার হোয়াটসঅ্যাপ চ্যানেল ফলো করতে এখানে ক্লিক/ট্যাপ করুন

মিজ আগরওয়াল বলেন, "অ্যাকাউন্ট বাজেয়াপ্ত করার পর পুলিশ তার ল্যাপটপ, মোবাইল ফোন, হার্ড ড্রাইভ এবং ব্যাংকের নথিও বাজেয়াপ্ত করেছে।"

"লিংকট্রিতে (লিংক শেয়ারিং প্ল্যাটফর্ম) ওই অ্যাকাউন্টের তিন হাজার সাবস্ক্রিপশন ছিল। সেখান থেকে তিনি ১০ লাখ টাকা আয় করেছেন বলে মনে করা হচ্ছে। আমাদের ধারণা গ্রেফতারের আগে মাত্র পাঁচ দিনে তিনি তিন লাখ টাকা আয় করেছেন।"

মিজ আগরওয়াল বলেছেন যে সাঁচী "অত্যন্ত বিচলিত হয়ে পরেছিলেন। তবে তিনি এবং তার পরিবার কাউন্সেলিং করাচ্ছেন। তারা ভালো আছেন।

তিনি জানিয়েছেন, এই ধরনের ঘটনা আটকানোর কোনো উপায় নেই। পাশাপাশি এও যোগ করেছেন, "তবে আমরা যদি আরও আগে পদক্ষেপ নিতাম, তাহলে এতটা ছড়িয়ে পড়া থেকে আটকাতে পারতাম।"

"সাঁচীর এই সম্পর্কে কোনো ধারণা ছিল না, কারণ সামাজিক যোগাযোগ মাধ্যমে তার উপস্থিতি নেই। তার পরিবারের সবাইকেও এই অ্যাকাউন্ট থেকে ব্লক করে দেওয়া হয়েছে। বিষয়টা তাদের নজরে আসে ভাইরাল হওয়ার পর।"

এই বিষয়ে বিবিসির প্রশ্নের জবাব দেয়নি মেটা।

তবে মেটা সাধারণত নগ্নতা বা যৌন বিষয়বস্তু পোস্ট করার অনুমতি দেয় না। গত মাসে সিবিএস-এর এক প্রতিবেদনে উল্লেখ করা হয়েছিল যে মেটা সেই সমস্ত এআই টুলের বিজ্ঞাপন সরিয়ে নিয়েছে যার সাহায্যে বাস্তব জীবনে মানুষের ছবি ব্যবহার করে যৌনতাপূর্ণ ডিপফেক যুক্ত কন্টেন্ট বানানো যায়।

বেবিডল আর্চির নামে ওই ইনস্টাগ্রাম অ্যাকাউন্ট এখন আর জনসাধারণের জন্য উপলব্ধ নয়। সেখানে ২৮২টা পোস্ট ছিল।

যদিও সামাজিক মাধ্যমে তার ফটো এবং ভিডিওতে ভরা এবং একটা ইনস্টাগ্রাম অ্যাকাউন্টে সেগুলোর সব কটাই মজুদ রয়েছে বলে মনে হচ্ছে।

বিবিসি মেটার কাছে জানতে চেয়েছে, এই বিষয়ে তাদের কী পরিকল্পনা রয়েছে।

এআই বিশেষজ্ঞ ও আইনজীবী মেঘনা বল বলেন, সাঁচীর সঙ্গে যা ঘটেছে তা "ভয়ঙ্কর এবং এটা প্রতিরোধ করা প্রায় অসম্ভব"।

তিনি আদালতের দ্বারস্থ হতে পারেন এবং তাকে ভুলে যাওয়া হোক- সেই অধিকার চাইতে পারেন। আদালত তার নাম উল্লেখ করে প্রকাশিত প্রেস রিপোর্ট সরিয়ে ফেলার নির্দেশও দিতে পারে। কিন্তু ইন্টারনেট থেকে তার সমস্ত চিহ্ন মুছে ফেলা কঠিন।

ওই আইনজীবী ব্যাখ্যা করেছেন, সাঁচীর সঙ্গে যা ঘটেছে, তেমনটা প্রায়শই হয়। প্রতিশোধ নিতে মেয়েদের ছবি ও ভিডিও প্রায়ই ছড়িয়ে দেওয়া হয়।

"কৃত্রিম বুদ্ধিমত্তার কারণে এমনটা করা এখন সহজ। কিন্তু আমরা যতটা অনুমান করি ততটা সাধারণ নয় ওই ঘটনাগুলো। হতে পারে কলঙ্কের কারণে এগুলো কম রিপোর্ট করা হয় বা কাউকে যে নিশানা করা হচ্ছে সেটা তারা জানেন না, ঠিক যেমনটা এই ঘটনার ক্ষেত্রে হয়েছে," বলেছেন মেঘনা বল।

পাশাপাশি তিনি ব্যাখ্যা করেছেন, যারা ওই ভিডিও বা ছবি দেখেছেন, তাদের সামাজিক মাধ্যমে বা সাইবার ক্রাইম পোর্টালে এই নিয়ে রিপোর্ট করার বিষয়ে কোনো উৎসাহ ছিল না।

প্রতীম বোরার বিরুদ্ধে দায়ের করা মামলায় যৌন হয়রানি, অশ্লীল উপাদান প্রচার, মানহানি, সুনাম ক্ষুণ্ন করার জন্য জালিয়াতি, অন্যের পরিচয় দিয়ে প্রতারণা এবং সাইবার অপরাধ সম্পর্কিত আইনের বিভিন্ন ধারা প্রয়োগ করেছে পুলিশ। দোষী সাব্যস্ত হলে মি. বোরার ১০ বছর পর্যন্ত কারাদণ্ড হতে পারে।

সাম্প্রতিক সময়ে এই ঘটনাকে ঘিরে সামাজিক যোগাযোগ মাধ্যমে ক্ষোভের সৃষ্টি হয়েছে। এই জাতীয় মামলা মোকাবিলার জন্য কঠোর আইনের পক্ষে সওয়াল করেছেন অনেকে।

মিজ বলের মতে, এই জাতীয় মামলার সঙ্গে মোকাবিলার জন্য আইন রয়েছে, তবে জেনারেটিভ এআই প্রস্তুতকারক সংস্থাগুলোর সঙ্গে মোকাবিলা করার জন্য নতুন আইন আনার সুযোগ রয়েছে কি না তা দেখতে হবে।

তিনি বলেছেন, "আমাদের এটাও মনে রাখতে হবে যে ডিপফেক অপরিহার্যভাবে খারাপ নয়। সাবধানতার সঙ্গে আইন তৈরি করতে হবে, কারণ এগুলো বাকস্বাধীনতাকে আঘাত করার অস্ত্র হয়ে উঠতে পারে।"