कुछ समय से आर्टिफिशियल इंटेलिजेंस (AI) टेक्नोलॉजी के विकास ने मनोरंजन जगत (Entertainment Industry) को बड़े पैमाने पर नई सम्भवनाओं को जन्म दिया है। खासकर AI के माध्यम से बन रहे बॉलीवुड, हॉलीवुड और साउथ इंडस्ट्री के कलाकारों की वीडियो और वौइस् नोट वाले कंटेंट, जो कि वास्तव में रियल दिखाई देते है, ऐसे ही कई वीडियो सोशल मीडिया पर वायरल हो रहे है। हालांकि यह प्रवृत्ति नैतिकता (Trend ethics), गोपनीयता, और कानून से जुड़े कई प्रश्न उठाती है। आज हम इस आर्टिकल के माध्यम से उन सभी कलाकारों के बारें में बात करने वाले है जिनके AI जेनरेटेड वीडियो बीते कुछ दिनों में वायरल हुए है और इस टेक्नोलॉजी के भविष्य के बारें पर विचार करेंगे।
बॉलीवुड की मशहूर एक्ट्रेस विद्या बालन AI जनरेटेड वीडियो की वजह से काफी परेशान और चिंता में दिखाई दी. उनका इस बारें में कहना था कि उनके कुछ AI से बनाए गए वीडियो सोशल मीडिया पर वायरल हुए है, उन्होंने इस तरह का कोई भी वीडियो नहीं बनाया है। वहीं उन्होंने अपने फैंस को भी इस तरह के वीडियोज से सावधान रहने के लिए भी बोला है।
विद्या ने इंस्टाग्राम पर एक वीडियो साझा किया था, जो कि एक AI वीडियो था। इस वीडियो के साथ उन्होंने कैप्शन में लिखते हुए कहा था ‘स्कैम अलर्ट। विद्या ने एक नोट भी शेयर किया, जिसमें उन्होंने अपनी बात को जारी रखते हुए लिखा, “इंस्टाग्राम एवं Whatsapp ऐप और अन्य सोशल मीडिया पर कई वीडियो सर्क्युलेट हो रहे हैं. मैं ये क्लियर करना चाहती हूं कि वो वीडियोज एआई जनरेटेड है और फर्जी हैं.”
विद्या बालन ने फैंस से कही थी ये बात?: विद्या ने अपनी पोस्ट को साझा करते हुए उसमे आगे लिखा था कि, “ऐसे वीडियोज के क्रिएशन में और उसे फैलाने में मेरा कोई हाथ नहीं है . मैं इस तरह के कंटेंट को किसी भी तरीके से एंडोर्स नहीं करती.'' वह आगे कहती है कि ''वीडियो में जो भी दावा किया जा रहा है उसे मुझसे नहीं जोड़ा जाना चाहिए, क्योंकि ऐसे वीडियो मेरी राय और काम को नहीं दर्शाते हैं. मैं हर किसी से ये अनुरोध करना चाहूंगी कि किसी भी चीज को शेयर करने से पहले वेरीफाई जरूर करें और इस तरह के AI कंटेंट से सावधान रहें.”
रश्मिका मंदाना का डीपफेक वीडियो: साउथ इंडियन एक्ट्रेस रश्मिका मंदाना भी डीपफेक जैसी वीडियो का शिकार हो चुकी है, नवंबर 2024 में सोशल मीडिया पर उनका एक वीडियो खूब वायरल हुआ, जिसमे उन्हें एक लिफ्ट में एंट्री करते हुए दिखाया गया था। यह वीडियो वास्तव में किसी और का था, लेकिन AI टेक्नोलॉजी के माध्यम से रश्मिका का चेहरा उस पर लगाया गया था। इस वीडियो के वायरल होने के पश्चात, रश्मिका ने सार्वजनिक रूप से इस पर नाराजगी व्यक्त की और संबंधित अधिकारियों से कार्रवाई की मांग की। बाद में, इस मामले के मुख्य आरोपी को गिरफ्तार कर लिया गया।
I feel really hurt to share this and have to talk about the deepfake video of me being spread online.
— Rashmika Mandanna (@iamRashmika) November 6, 2023
Something like this is honestly, extremely scary not only for me, but also for each one of us who today is vulnerable to so much harm because of how technology is being misused.…
अमिताभ बच्चन भी हो चुके है AI वीडियो का शिकार: बॉलीवुड के महानायक अमिताभ बच्चन का एक AI-जनरेटेड डीपफेक वीडियो कुछ समय पूर्व सोशल मीडिया पर वायरल हुआ, जिसमें उनकी छवि और आवाज़ का इस्तेमाल करके एक नकली वीडियो को बनाया गया था। इस वीडियो में, ऐसा लग रहा था कि बिग बी कुछ बोल रहे हैं, जबकि वास्तव में यह उनकी अनुमति के बिना क्रिएट किया गया था। इस घटना ने उनके प्रशंसकों और आम जनता के बीच चिंता को और भी ज्यादा बढ़ा दिया था, क्योंकि यह उनकी छवि के दुरुपयोग का स्पष्ट उदाहरण था। अमिताभ बच्चन ने इस पर नाराजगी जताई एवं इस तरह के वीडियो के खिलाफ कार्रवाई की अपील भी की।
संसद में AI-जनित वीडियो पर उठ चुका है मुद्दा: इसी वर्ष मार्च 2025 में, बीजेपी सांसद और बॉलीवुड एक्ट्रेस हेमा मालिनी ने लोकसभा में AI और डीपफेक तकनीकों के जरिए से फिल्मी हस्तियों के फर्जी वीडियो बनाए जाने का मुद्दा उठाया था। उन्होंने गवर्नमेंट से इस पर कार्रवाई की अपील भी की, यह बताते हुए कि इस तरह के वीडियो से फिल्मी हस्तियों की छवि को बड़ी हानि पहुंचा सकते है और उन्हें मानसिक तनाव हो सकता है। यह दर्शाता है कि AI-जनित वीडियो का मुद्दा अब राष्ट्रीय स्तर पर गंभीरता से लिया जा रहा है।
स्कारलेट जोहानसन हुई डीपफेक वीडियो का शिकार: इसी वर्ष फरवरी 2025 में, हॉलवुड की टॉप एक्ट्रेस और मॉडल स्कारलेट जोहानसन का एक AI-जनरेटेड वीडियो वायरल हुआ, जिसमें उन्हें और अन्य सेलिब्रिटीज को कान्ये वेस्ट की यहूदी-विरोधी टिप्पणियों का विरोध करते हुए दर्शाया गया था। इस वीडियो में जोहानसन के साथ साथ जेरी सीनफेल्ड, एडम सैंडलर, और अन्य प्रसिद्ध हस्तियों के AI-जनरेटेड वर्जन शामिल थे, जो 'हवा नगिला' गाने की धुन पर विरोध प्रदर्शन कर रहे थे। एक्ट्रेस स्कारलेट जोहानसन ने इस वीडियो पर नाराजगी जताते हुए AI के दुरुपयोग पर चिंता व्यक्त की और सरकार से इस पर नियंत्रण लगाने की अपील की है।
एडम सैंडलर और अन्य सेलिब्रिटीज: सोशल मीडिया पर वायरल हुए AI से बने वीडियो में एडम सैंडलर, जेरी सीनफेल्ड, और अन्य यहूदी सेलिब्रिटीज के AI-जनरेटेड वर्जन भी शामिल थे। इन हस्तियों की छवियों का गलत इस्तेमाल करके बनाया गया यह वीडियो सोशल मीडिया पर तेजी से वायरल हुआ और लोगों का ध्यान अपनी तरफ आकर्षित किया। हालांकि, इन सेलिब्रिटीज ने इस वीडियो को बनाने में अपनी सहमति नहीं दी थी, जिससे यह प्रश्न उठता है कि क्या बिना अनुमति के किसी की छवि या आवाज़ का उपयोग करना कितना नैतिक और कानूनी है।
AI-जनरेटेड वीडियो के नैतिक और कानूनी पहलू: AI और डीपफेक (Deepfake) टेक्नोलॉजी का इस्तेमाल करके बनाए गए वीडियो नैतिकता और कानूनीता से जुड़े कई प्रश्न को उठाते है। बिना किसी की मंजूरी के उनकी छवि या आवाज़ का उपयोग करना उनकी गोपनीयता का उल्लंघन करना है और इससे उनकी प्रतिष्ठा को नुकसान पहुंच सकता है। इसके साथ साथ इस तरह के वीडियो गलत सूचना फैलाने का जरिया बन सकते हैं, जिससे समाज में भ्रम और अविश्वास को बढ़ावा मिल सकता है।
वर्तमान में, भारत में इस तरह के मुद्दों से निपटने के लिए स्पष्ट कानूनी ढांचा नहीं है, लेकिन डिजिटल इंडिया अधिनियम और सूचना प्रौद्योगिकी अधिनियम के अंतर्गत कुछ प्रावधान मौजूद हैं जो इस तरह के कृत्यों को संबोधित कर सकते हैं। इस पर डॉक्टर वृन्दावन चंद्रा दास ने AI तकनीक पर बात करते हुए कहा है कि- AI और रोबोट का अविष्कार जिस गति से किया जा रहा है, उससे एक बात तो साफ़ है कि लोगों की नौकरी तो जरूर जाएगी, बिज़नेस भी खत्म हो जाएंगे, इसका कारण कोई और नहीं बल्कि ये AI ही है इस बारें में Elon musk ने भी कह दिया कि UK के प्राइममिनिस्टर को कि सबकी नौकरी छीन लेगा AI कोई भी व्यक्ति नौकरी नहीं कर सकेगा, केवल बैंकर के पास ही बिज़नेस होंगे लेकिन इसे भी रोबोट ही कण्ट्रोल करेंगे, उन्होंने अपनी बात को आगे बढ़ाते हुए कहा है कि- एकाउंटिंग क्या है? इसी बीच वीडियो में उन्होंने एक CS से पूछा की आपका सारा काम एक रोबोट नहीं कर सकता, आपसे अच्छी तरह से कर सकता है। डाटा आप लगाओगे उसे एक दिन लगेगा सारा डाटा चेक करने के लिए, शेयर कब, कहा और कैसे चल रहा है, आप तो चार साल का डाटा खोजते रह जाओगे लेकिन ये AI और रोबोट चंद मिनटों में सारा डाटा आपके सामने लेकर जाएगा। जो कि पूर्ण रूप से सही होगा, क्यूंकि रोबोट में किसी भी तरह कोई इमोशन नहीं होता जबकि मनुष्य में इमोशन है जिसकी वजह से वह कई बार गलती करता है। AI को लेकर अन्य विशेषज्ञों का मानना है कि इस क्षेत्र में और अधिक स्पष्ट और कठोर कानूनों की आवश्यकता है ताकि AI-जनित वीडियो के दुरुपयोग को रोका जा सके।
AI-जनित वीडियो का भविष्य और समाज पर पड़ रहा बुरा प्रभाव: AI तकनीक के निरंतर विकास के साथ, AI-जेनरेटेड वीडियो की गुणवत्ता और विश्वसनीयता हर दिन बढ़ती हुई दिखाई दे रही है। यह तकनीक मनोरंजन, शिक्षा, और विपणन जैसे क्षेत्रों में नए अवसर प्रदान कर सकती है। हालांकि, इसके साथ ही नैतिकता, गोपनीयता, और कानूनीता से जुड़े मुद्दे भी सुनने और देखने के लिए मिल रहे है। उदाहरण के लिए, कुछ कलाकार और डिज़ाइन कंपनियाँ AI का उपयोग करके बॉलीवुड अभिनेताओं को प्रतिष्ठित हॉलीवुड पात्रों के रूप में पेश कर रही हैं, जो कला और रचनात्मकता के नए आयाम को दर्शाता है। हालांकि, यह सुनिश्चित करना आवश्यक है कि इस तरह के प्रयोग नैतिक मानकों का पालन करें और संबंधित व्यक्तियों की सहमति से किए जाना चाहिए।
