केंद्र सरकार ने कृत्रिम बुद्धिमत्ता (एआई) से तैयार डीपफेक और अन्य कृत्रिम रूप से उत्पन्न सामग्री से होने वाले नुकसान से निपटने के लिए नियामक ढांचे को मजबूत किया है। आईटी नियमों में किए गए हालिया संशोधनों के तहत एआई-जनित सामग्री की स्पष्ट लेबलिंग और पता लगाने योग्य मेटाडेटा सुनिश्चित करना अनिवार्य किया गया है। साथ ही, सरकार या अदालत के आदेश के आधार पर गैरकानूनी सामग्री हटाने की समयसीमा 36 घंटे से घटाकर तीन घंटे कर दी गई है। यह जानकारी केंद्रीय इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी राज्य मंत्री जितिन प्रसाद ने 5 अगस्त 2026 को लोकसभा में दी।
डीपफेक के खतरों पर सरकार की नजर
सरकार ने कहा कि वह एआई से संचालित डीपफेक से पैदा होने वाले खतरों के प्रति सचेत है। इसमें कृत्रिम ऑडियो, वीडियो और लिखित सामग्री शामिल हैं। सरकार का उद्देश्य उपयोगकर्ताओं के लिए खुला, सुरक्षित, विश्वसनीय और जवाबदेह साइबरस्पेस सुनिश्चित करना है। इसी दिशा में मौजूदा कानूनों और नियमों के जरिए डीपफेक के विभिन्न पहलुओं से निपटने की व्यवस्था की गई है।
आईटी अधिनियम में कई प्रावधान
सूचना प्रौद्योगिकी अधिनियम, 2000 के तहत कंप्यूटर और कंप्यूटर सिस्टम को नुकसान पहुंचाने, कंप्यूटर संबंधी अपराध, पहचान की चोरी, प्रतिरूपण और निजता के उल्लंघन जैसे अपराधों के खिलाफ दंड का प्रावधान है। अश्लील या यौन रूप से स्पष्ट सामग्री के प्रकाशन और प्रसारण पर भी कार्रवाई की जा सकती है। अधिनियम की धारा 69ए के तहत विशिष्ट सूचना या लिंक तक पहुंच को अवरुद्ध करने और धारा 79 के तहत गैरकानूनी गतिविधियों में इस्तेमाल की जा रही जानकारी को हटाने की व्यवस्था है।
बीएनएस में भी कार्रवाई का प्रावधान
भारतीय न्याय संहिता (बीएनएस), 2023 में भी डीपफेक से जुड़े अपराधों पर कार्रवाई के प्रावधान हैं। धारा 319 के तहत प्रतिरूपण के जरिए धोखाधड़ी, जबकि धारा 336 के तहत धोखाधड़ी और किसी व्यक्ति को धोखा देने या उसकी प्रतिष्ठा को नुकसान पहुंचाने के उद्देश्य से झूठे इलेक्ट्रॉनिक रिकॉर्ड तैयार करने पर कार्रवाई की जा सकती है। धारा 353 गलत या भ्रामक बयान, अफवाह और रिपोर्ट के जरिए दुष्प्रचार फैलाने पर अंकुश लगाती है। संगठित साइबर अपराधों पर धारा 111 के तहत भी कार्रवाई संभव है।
आईटी नियमों में मध्यस्थों की जिम्मेदारी बढ़ी
आईटी नियम, 2021 के तहत मध्यस्थों को उचित सावधानी बरतना अनिवार्य है। उन्हें उपयोगकर्ताओं को ऐसी सामग्री होस्ट, अपलोड, प्रकाशित या साझा करने से रोकना होता है जो किसी अन्य व्यक्ति के अधिकारों का उल्लंघन करती हो, अश्लील या निजता का उल्लंघन करने वाली हो, बच्चों के लिए नुकसानदेह हो, घृणा या हिंसा को बढ़ावा देती हो या गलत सूचना फैलाती हो। एआई के जरिए किसी अन्य व्यक्ति का रूप धारण करने वाली सामग्री और राष्ट्रीय सुरक्षा या सार्वजनिक व्यवस्था के लिए खतरा पैदा करने वाली सामग्री भी इसके दायरे में आती है।
बड़े सोशल मीडिया प्लेटफॉर्म पर अतिरिक्त दायित्व
50 लाख या उससे अधिक पंजीकृत उपयोगकर्ताओं वाले महत्वपूर्ण सोशल मीडिया मध्यस्थों (एसएसएमआई) पर अतिरिक्त जिम्मेदारियां लागू हैं। उन्हें गैरकानूनी सामग्री के प्रसार का पता लगाने और उसे सीमित करने के लिए स्वचालित उपकरणों का इस्तेमाल करना होता है। साथ ही, अनुपालन रिपोर्ट प्रकाशित करने, स्थानीय अधिकारियों की नियुक्ति करने और कानून प्रवर्तन एजेंसियों के साथ समन्वय के लिए भारत में भौतिक पता उपलब्ध कराने जैसी व्यवस्थाएं भी अनिवार्य हैं।
एआई कंटेंट पर स्पष्ट लेबल और मेटाडेटा
10 फरवरी 2026 को आईटी नियमों में संशोधन के बाद एआई से उत्पन्न सामग्री को लेकर नियामक व्यवस्था और सख्त की गई। मध्यस्थों को एआई-जनित सामग्री पर स्पष्ट लेबलिंग और पता लगाने योग्य मेटाडेटा उपलब्ध कराना होगा, ताकि उपयोगकर्ता ऐसी सामग्री की पहचान कर सकें। इसका उद्देश्य धोखाधड़ी और एआई तकनीक के दुरुपयोग को रोकना है।
गैरकानूनी एआई सामग्री पर तत्काल कार्रवाई
संशोधित नियमों में बाल यौन शोषण सामग्री, बिना सहमति के अंतरंग तस्वीरें, प्रतिरूपण और अन्य हानिकारक एआई-जनित सामग्री को विशेष रूप से शामिल किया गया है। प्लेटफॉर्मों को ऐसी सामग्री की पहचान और रोकथाम के लिए तकनीकी उपाय अपनाने होंगे तथा जानकारी मिलने पर तत्काल कार्रवाई करनी होगी।
सामग्री हटाने की समयसीमा तीन घंटे
सरकार के अनुसार संशोधनों के बाद सरकार या अदालत के आदेश से प्राप्त वैध और तर्कसंगत सूचना के आधार पर गैरकानूनी जानकारी हटाने की समयसीमा 36 घंटे से घटाकर तीन घंटे कर दी गई है। शिकायत निवारण की कुछ संवेदनशील श्रेणियों के मामलों में भी समयसीमा घटाई गई है। नग्नता या पहचान छिपाने जैसे मामलों में संबंधित समयसीमा 72 घंटे से घटाकर 36 घंटे और कुछ अन्य मामलों में 24 घंटे से घटाकर दो घंटे की गई है।
एआई के दुरुपयोग को रोकने के लिए तकनीकी उपाय
मध्यस्थों को उचित और उपयुक्त तकनीकी उपाय अपनाने होंगे। इनमें स्वचालित उपकरण या अन्य उपयुक्त तंत्र शामिल हैं, ताकि उपयोगकर्ता ऐसी कृत्रिम रूप से उत्पन्न जानकारी बनाने, संशोधित करने, प्रकाशित करने, साझा करने या प्रसारित करने से रोके जा सकें जो लागू कानून का उल्लंघन करती हो। महत्वपूर्ण सोशल मीडिया मध्यस्थों को बलात्कार, बाल यौन शोषण या इससे संबंधित स्पष्ट अथवा अस्पष्ट सामग्री की पहचान के लिए भी तकनीकी तंत्र विकसित करने होंगे।
नियमों का पालन नहीं करने पर सुरक्षा खत्म
सरकार ने स्पष्ट किया है कि आईटी नियमों में निर्धारित कानूनी दायित्वों का पालन नहीं करने पर मध्यस्थों को आईटी अधिनियम की धारा 79 के तहत तृतीय पक्ष की सूचना से मिलने वाली छूट समाप्त हो सकती है। ऐसी स्थिति में वे मौजूदा कानूनों के तहत दंडात्मक कार्रवाई या अभियोजन का सामना कर सकते हैं।
शिकायतों के लिए अपील का प्रावधान
मध्यस्थों के लिए शिकायत अधिकारी नियुक्त करना और निर्धारित समयसीमा में शिकायतों का समाधान करना अनिवार्य है। शिकायत अधिकारी से समाधान नहीं मिलने पर उपयोगकर्ता शिकायत अपीलीय समिति (जीएसी) के समक्ष ऑनलाइन अपील कर सकते हैं। यह व्यवस्था कंटेंट मॉडरेशन से जुड़े निर्णयों में जवाबदेही और पारदर्शिता सुनिश्चित करने के लिए बनाई गई है।
पुलिस और राज्यों की भी अहम भूमिका
साइबर अपराधों की शिकायतों की जांच संबंधित कानून प्रवर्तन एजेंसियां करती हैं। संविधान की सातवीं अनुसूची के तहत पुलिस और सार्वजनिक व्यवस्था राज्य के विषय हैं। इसलिए साइबर अपराध समेत अपराधों की रोकथाम, जांच, पता लगाने और अभियोजन की प्राथमिक जिम्मेदारी राज्यों और केंद्र शासित प्रदेशों की है।
भारत एआई मिशन के तहत डीपफेक डिटेक्शन
सरकार ने 5 नवंबर 2025 को भारत एआई प्रशासन दिशानिर्देश जारी किए थे। इनमें सुरक्षित, विश्वसनीय और जिम्मेदार एआई के विकास एवं इस्तेमाल के लिए जोखिम आधारित और अनुपातिक ढांचा प्रस्तावित किया गया है। भारत एआई मिशन के सुरक्षित एवं विश्वसनीय एआई स्तंभ के तहत देशभर के शैक्षणिक संस्थानों में 13 जिम्मेदार एआई परियोजनाओं को मंजूरी दी गई है, जिनमें डीपफेक का पता लगाने वाली परियोजनाएं भी शामिल हैं।
आईआईटी में विकसित हो रही तकनीक
डीपफेक डिटेक्शन से जुड़ी पहलों में आईआईटी जोधपुर और आईआईटी मद्रास द्वारा विकसित मल्टी-एजेंट फ्रेमवर्क, ऑडियो-विजुअल जालसाजी पहचान प्रणाली और आईआईटी खड़गपुर की रियल-टाइम वॉयस डीपफेक डिटेक्शन प्रणाली शामिल हैं। इन पहलों का उद्देश्य एआई-जनित फर्जी सामग्री की पहचान करने की क्षमता को मजबूत करना है।
आई4सी और सहयोग पोर्टल से समन्वय
भारतीय साइबर अपराध समन्वय केंद्र (आई4सी) राज्यों में साइबर अपराध से संबंधित कार्रवाई का समन्वय करता है। यह आईटी अधिनियम और आईटी नियमों के तहत डीपफेक सहित गैरकानूनी सामग्री हटाने या उस तक पहुंच रोकने के लिए नोटिस जारी करने में मदद करता है। आई4सी का सहयोग पोर्टल संबंधित सरकारी निकायों और अधिकृत एजेंसियों को मध्यस्थों को केंद्रीकृत तरीके से निष्कासन नोटिस भेजने की सुविधा देता है।
साइबर अपराध रिपोर्टिंग पोर्टल पर शिकायत
नागरिक साइबर अपराध से जुड़ी घटनाओं की शिकायत राष्ट्रीय साइबर अपराध रिपोर्टिंग पोर्टल के माध्यम से कर सकते हैं। पोर्टल पर डीपफेक, वित्तीय धोखाधड़ी और सामग्री के दुरुपयोग से संबंधित शिकायतें दर्ज की जा सकती हैं। महिलाओं और बच्चों के खिलाफ साइबर अपराधों पर विशेष ध्यान दिया जाता है। साइबर अपराध से संबंधित वित्तीय धोखाधड़ी की शिकायत के लिए 1930 हेल्पलाइन भी उपलब्ध है।
समन्वय प्लेटफॉर्म से जांच को मजबूती
समन्वय प्लेटफॉर्म अपराधियों और अपराधों के बीच अंतरराज्यीय संबंधों का विश्लेषण कर साइबर धोखाधड़ी की जांच को मजबूत करता है। इसके ‘प्रतिबिंब’ मॉड्यूल के जरिए अपराधियों और अपराध तंत्र के स्थानों का मानचित्रण किया जाता है। सरकार के अनुसार, अब तक इसके माध्यम से 12,987 आरोपियों की गिरफ्तारी, 1,51,984 आपराधिक संबंधों की पहचान और 70,584 साइबर जांच सहायता अनुरोध दर्ज किए गए हैं।
मध्यस्थों को जारी की गईं सलाह
सरकार ने सोशल मीडिया समेत सभी मध्यस्थों को आईटी अधिनियम और आईटी नियमों के तहत उचित सावधानी बरतने को लेकर कई सलाह जारी की हैं। 9 फरवरी 2026 को धार्मिक मामलों से संबंधित सूचनाओं के जिम्मेदार प्रबंधन पर सलाह जारी की गई। 16 मार्च 2026 को अपमानजनक, मानहानिकारक, आपत्तिजनक और भ्रामक कृत्रिम रूप से उत्पन्न सामग्री के निर्माण, प्रकाशन और प्रसार को लेकर सलाह दी गई।
बिना सहमति की अंतरंग तस्वीरों पर एसओपी
बिना सहमति के अंतरंग तस्वीरों के ऑनलाइन प्रसार को रोकने के लिए 11 नवंबर 2025 को मानक संचालन प्रक्रिया (एसओपी) जारी की गई थी। इसमें पीड़ितों, मध्यस्थों और कानून प्रवर्तन एजेंसियों के लिए विस्तृत दिशानिर्देश हैं, ताकि बिना सहमति साझा की गई अंतरंग या रूपांतरित तस्वीरों समेत ऐसी सामग्री के खिलाफ त्वरित और एकसमान कार्रवाई सुनिश्चित की जा सके।
साइबर जागरूकता पर भी जोर
इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय नागरिकों और तकनीकी साइबर समुदाय के बीच जागरूकता बढ़ाने के लिए विभिन्न कार्यक्रम आयोजित करता है। इनमें हर साल अक्टूबर में साइबर सुरक्षा जागरूकता माह, फरवरी के दूसरे मंगलवार को सुरक्षित इंटरनेट दिवस, 1 से 15 फरवरी तक स्वच्छता पखवाड़ा और हर महीने के पहले बुधवार को साइबर जागरूकता दिवस शामिल हैं।
डीपफेक पर सर्ट-इन की सलाह
भारतीय कंप्यूटर आपातकालीन प्रतिक्रिया टीम (सर्ट-इन) एआई से जुड़े खतरों और उनसे बचाव के उपायों पर नियमित रूप से दिशानिर्देश जारी करती है। इनमें डीपफेक से जुड़े खतरे भी शामिल हैं। सर्ट-इन अपनी आधिकारिक वेबसाइट और सोशल मीडिया माध्यमों पर सुरक्षा संबंधी सुझाव, जागरूकता पोस्टर, इन्फोग्राफिक्स और वीडियो साझा करता है। नवंबर 2024 में भी उसने डीपफेक के खतरों और उनसे बचने के उपायों पर सलाह जारी की थी। (इनपुट: पीआईबी)
