साल 2024 में आर्टिफिशियल इंटेलिजेंस यानि एआई के जरिए डीपफेक वीडियो बनाकर अफवाह फैलाने का जाल भी देखा गया। जिसका लोकसभा और राज्यों के विधानसभा चुनाव में खूब इस्तेमाल हुआ और वो चर्चा का विषय भी रहा। एआई का इस्तेमाल ज्यादातर हाई-प्रोफाइल लोगों को गलत तरीके से फंसाने के लिए किया गया, जिसका मकसद अफवाह फैलाकर भ्रांतियां पैदा करना था। 

साल की शुरुआत एआई के जरिए बनाए गए क्रिकेट के दिग्गज सचिन तेंदुलकर के डीपफेक के जरिए हुई थी, जिसमें उन्हें सोशल मीडिया पर फर्जी तरीके से एक गेमिंग एप का प्रचार करते दिखाया गया था, जिसकी उन्होंने शिकायत भी दर्ज कराई थी। 

इतना ही नहीं डीपफेक के जरिए बॉलीवुड हस्तियों को भी निशाना बनाया गया। एक ऐसा ही डीपफेक वीडियो अमिताभ बच्चन का सामने आया था, जिसमें उन्हें फर्जी तरीके से यौन स्वास्थ्य से जुड़े उत्पादों का प्रचार करते हुए दिखाया गया था। लोकसभा चुनावों के दौरान सामने आई कई फेक वीडियो ने एआई से पैदा होने वाले दुष्परिणामों को लेकर कई चिंताओं को बढ़ाया। 

प्रधानमंत्री नरेंद्र मोदी ने बीजेपी के कई वरिष्ठ नेताओं के भाषणों को, एआई तकनीक के जरिए गलत ढंग से पेश करने को लेकर चिंता जाहिर की थी। क्योंकि इन डीपफेक वीडियो की वजह से विपक्ष सरकार पर हमलावर हुआ था। 

डीपफेक वीडियो और अफवाहों के बढ़ते खतरों को लेकर साल 2024 में ही डीपफेक एनालिसिस यूनिट की स्थापना की गई थी। पीड़ित लोग डीपफेक एनालिसिस यूनिट में संदिग्ध ऑडियो और वीडियो सामग्री की रिपोर्ट कर सकते हैं, ताकि वीडियो या ऑडियो की प्रामाणिकता को सत्यापित किया जा सके और भ्रामक जानकारी के प्रसार को कम किया जा सके।

हालांकि, भारत अभी तक एआई के जरिए बनाए जाने वाले डीप फेक फोटो, वीडियो या ऑडियो को रेगुलराइज करने के लिए कोई मजबूत कानूनी ढांचा नहीं बना पाया है। हालांकि भारत जैसे-जैसे नए साल में प्रवेश कर रहा है, ऑनलाइन मामलों को लेकर सतर्कता बहुत जरूरी है, खासकर उन चीजों को लेकर जिससे पब्लिक पर्सनालिटी जुड़ी हों।