এস এম ফাতিন শাদাব:

কৃত্রিম বুদ্ধিমত্তা বা এআই এখন শিক্ষা, চিকিৎসা ও সৃজনশীল শিল্পে নতুন সম্ভাবনার দুয়ার খুলেছে। কিন্তু একই প্রযুক্তি সোশ্যাল মিডিয়ায় অসাধু কনটেন্ট নির্মাতাদের হাতে পরিণত হয়েছে দ্রুত অর্থ উপার্জনের হাতিয়ারে। ফেসবুক, ইউটিউব শর্টস ও টিকটকের ফিডে এখন নিয়মিতই দেখা মেলে এআই-নির্মিত জেনেরিক অ্যানিমেশন, যার সঙ্গে ইচ্ছাকৃতভাবে জুড়ে দেওয়া হয় অশ্লীল বা দ্ব্যর্থক অডিও। সমস্যাটি অবশ্য কেবল অডিওতে সীমাবদ্ধ নয়। অশ্লীল অ্যানিমেশন, বাস্তবসদৃশ ডিপফেক ভিডিও এবং বিকৃত রুচির নানা কনটেন্ট মিলিয়ে এক গুরুতর ডিজিটাল সংকট তৈরি হয়েছে।

আন্তর্জাতিক গবেষণায় এই প্রবণতার পরিধি স্পষ্ট হয়েছে। ভিডিও এডিটিং প্ল্যাটফর্ম ক্যাপউইংয়ের ২০২৬ সালের জুনের প্রতিবেদন অনুযায়ী, টিকটকে নতুন অ্যাকাউন্টের For You ফিডের প্রথম ৫০০টি ভিডিওর মধ্যে ২৯৪টি, অর্থাৎ প্রায় ৫৯ শতাংশই "এআই স্লপ"। একই পরীক্ষায় ইউটিউব শর্টসে এই হার ছিল ২১ শতাংশ। এখানে "এআই স্লপ" বলতে বোঝানো হয়েছে ভিউ ও সাবস্ক্রাইবার বাড়ানোর উদ্দেশ্যে বিপুল পরিমাণে তৈরি করা নিম্নমানের স্বয়ংক্রিয় কনটেন্ট। সব স্লপ অশ্লীল নয়, তবে অশ্লীল ও বিভ্রান্তিকর ভিডিও এই বিশাল স্রোতেরই একটি ক্ষতিকর অংশ। শিশুদের কনটেন্টে পরিস্থিতি আরও উদ্বেগজনক: টিকটকের কিডস ক্যাটাগরির ২ হাজার ভিডিও পর্যালোচনায় ৫৭ শতাংশই এআই-জেনারেটেড বলে শনাক্ত হয়েছে 

এই কনটেন্ট ছড়িয়ে পড়ার পেছনে প্ল্যাটফর্মগুলোর অ্যালগরিদমের ভূমিকা বড়। অ্যালগরিদম কনটেন্টের মান যাচাই করে না, যাচাই করে দর্শকের আগ্রহ ও অবস্থানকাল। চমকপ্রদ বা বিকৃত কনটেন্টে মানুষ সাধারণত থেমে যায়, আর সেই থামাকেই ব্যবস্থা "সাফল্য" হিসেবে গণ্য করে। কেউ একবার সিনথেটিক ভিডিওতে সময় দিলে অ্যালগরিদম সেই ধরনের কনটেন্টই আরও বেশি সামনে আনে। তাই এক ক্লিকেই একজন ব্যবহারকারীর ফিড ক্রমশ এ ধরনের কনটেন্টে ভরে উঠতে পারে।  

সবচেয়ে বড় ঝুঁকিতে আছে শিশু-কিশোররা। এ নিয়ে যুক্তরাষ্ট্রে সক্রিয় হয়েছে অসংখ্য সংগঠন। ২০০-র বেশি সংগঠন ইউটিউবের কাছে দাবি জানিয়েছে, এআই-নির্মিত সব কনটেন্টে স্পষ্ট লেবেল দিতে হবে এবং ইউটিউব কিডস থেকে এ ধরনের ভিডিও নিষিদ্ধ করতে হবে। তাদের আশঙ্কা, এসব ভিডিও শিশুদের বাস্তবতার ধারণা বিকৃত করে এবং মনোযোগ নষ্ট করে। নীতিগত দুর্বলতাও এখানে স্পষ্ট। ইউটিউব কেবল "বাস্তবসদৃশ" সিনথেটিক কনটেন্ট প্রকাশের নির্দেশনা দেয়, স্পষ্টত অবাস্তব বা অ্যানিমেটেড কনটেন্টের ক্ষেত্রে নয়। ফলে কার্টুনের মোড়কে তৈরি অসংখ্য এআই ভিডিও কোনো লেবেল ছাড়াই শিশুদের কাছে পৌঁছে যাচ্ছে। 

অশ্লীল অ্যানিমেশনের চেয়েও ভয়াবহ রূপে সামনে আসছে ডিপফেক প্রযুক্তির অপব্যবহার। ইন্টারনেট ম্যাটার্সের এক গবেষণা অনুযায়ী, অনলাইনে প্রচলিত ডিপফেকের আনুমানিক ৯৮ শতাংশই যৌন প্রকৃতির, আর এসবের ৯৯ শতাংশে নারী ও কিশোরীরা লক্ষ্যবস্তু। এর পেছনে রয়েছে "নুডিফাই" অ্যাপ। এই অ্যাপগুলো জেনারেটিভ এআই ব্যবহার করে বাস্তবসদৃশ ভুয়া নগ্ন ছবি বা ভিডিও তৈরি করে, যা গ্রুপ চ্যাটের মাধ্যমে কয়েক ঘণ্টায় একটি পুরো স্কুলে ছড়িয়ে পড়তে পারে। সাধারণ সোশ্যাল মিডিয়া ছবিই এর কাঁচামাল হয়ে দাঁড়াচ্ছে, অর্থাৎ ক্ষতির শিকার হতে ব্যক্তির নিজের কোনো অসতর্কতা প্রয়োজন হয় না।  

প্ল্যাটফর্মগুলোর নজরদারিও এখানে প্রশ্নবিদ্ধ। টেক ট্রান্সপারেন্সি প্রজেক্টের ২০২৬ সালের এক অনুসন্ধানে দেখা গেছে, অ্যাপল ও গুগল তাদের অ্যাপ স্টোরে এ ধরনের অ্যাপের সন্ধান দিচ্ছে, এমনকি ৩১টি নুডিফাই অ্যাপকে শিশুদের উপযোগী বলে রেটিং দেওয়া হয়েছিল। প্রতিবেদন প্রকাশের পর অ্যাপল ১৫টি ও গুগল ৭টি অ্যাপ সরিয়ে নেয়। শিশুদের ক্ষেত্রে ক্ষতি আরও সুদূরপ্রসারী। জাতিসংঘ শিশু তহবিল ইউনিসেফ স্পষ্ট ভাষায় জানিয়েছে, এআই দিয়ে তৈরি বা পরিবর্তিত শিশুদের যৌন চিত্র শিশু যৌন নির্যাতনমূলক উপাদান হিসেবেই গণ্য হবে, এবং ডিপফেক নির্যাতনের ক্ষতি মোটেও কৃত্রিম নয়। যুক্তরাজ্যে ইন্টারনেট ওয়াচ ফাউন্ডেশন ও চাইল্ডলাইনের হটলাইনে ২০২৬ সালের প্রথম ছয় মাসেই ৪২০টি অভিযোগ জমা পড়েছে, যা ২০২৫ সালের পুরো বছরের ৩৯৭টির চেয়ে বেশি।  

এসব কনটেন্ট সহজে পার পেয়ে যাওয়ার অন্যতম কারণ প্ল্যাটফর্মগুলোর দুর্বল স্থানীয় মডারেশন। বাংলাসহ আঞ্চলিক ভাষার অডিও ও প্রেক্ষাপট বোঝার সক্ষমতা সীমিত, ফলে ছবি নিরীহ হলে এবং অডিওতে দ্ব্যর্থক শব্দ থাকলে স্বয়ংক্রিয় ব্যবস্থা অনেক সময় তা ধরতে ব্যর্থ হয়। এ ছাড়া উৎপাদন এখন প্রায় বিনা খরচের। একটি পেজ বন্ধ হলে অল্প সময়ে নতুন পেজ খুলে একই কাজ চালিয়ে যাওয়া সম্ভব।

এ সংকট মোকাবিলায় প্ল্যাটফর্মগুলোকে এআই-নির্মিত কনটেন্টে বাধ্যতামূলক ও স্পষ্ট লেবেল চালু করতে হবে, শিশুদের জন্য নির্ধারিত অংশ থেকে এ ধরনের কনটেন্ট সরাতে হবে এবং অপ্রাপ্তবয়স্কদের কাছে এর সুপারিশ বন্ধ করতে হবে। ডিপফেকের ক্ষেত্রে সরকারি পর্যায়ে আইনি কাঠামো শক্তিশালী করা জরুরি। ইউনিসেফও চায় শিশু যৌন নির্যাতনমূলক উপাদানের সংজ্ঞায় এআই-নির্মিত ছবি অন্তর্ভুক্ত করতে সব দেশে আইন সংশোধন করা হোক। একই সঙ্গে ব্যবহারকারী হিসেবে আমাদের দায়িত্বও রয়েছে। এ ধরনের কনটেন্টে লাইক, কমেন্ট বা শেয়ার, এমনকি সমালোচনার উদ্দেশ্যে শেয়ার করলেও, অ্যালগরিদমকে তা আরও ছড়াতে উৎসাহিত করে। তাই "Not interested" নির্বাচন করা এবং রিপোর্ট করাই কার্যকর পথ। অভিভাবকদের উচিত শিশুদের জন্য প্যারেন্টাল কন্ট্রোল সক্রিয় রাখা এবং তাদের সঙ্গে খোলামেলা আলোচনার পরিবেশ গড়ে তোলা, যাতে অস্বস্তিকর কিছু দেখলে তারা নির্দ্বিধায় জানাতে পারে। সন্তানদের ছবি অনলাইনে প্রকাশের ক্ষেত্রেও সতর্ক থাকা প্রয়োজন।

প্রযুক্তি নিজে ভালো বা মন্দ নয়, তার ব্যবহারই তাকে সেই চরিত্র দেয়। যতদিন বিকৃত ও অশ্লীল কনটেন্ট দিয়ে সহজে অর্থ উপার্জন সম্ভব থাকবে এবং অ্যালগরিদম তাকে পুরস্কৃত করবে, ততদিন এই প্রবণতা থামবে না। প্ল্যাটফর্মের জবাবদিহি, রাষ্ট্রের আইনি পদক্ষেপ এবং সচেতন ব্যবহারকারীর সম্মিলিত উদ্যোগ ছাড়া একটি নিরাপদ ডিজিটাল পরিসর গড়ে তোলা সম্ভব নয়। এখনই সক্রিয় না হলে এর মূল্য দিতে হবে পুরো সমাজকে, আর সবচেয়ে বেশি দিতে হবে আমাদের শিশুদের।