डीपफेक पर शिकंजा कसने की तैयारी में केंद्र सरकार, IT नियमों में होगा बदलाव, जानें प्लान

नई दिल्ली: डिजिटल दुनिया में तेजी से बढ़ रहे डीपफेक वीडियो और कृत्रिम बुद्धिमत्ता (Artificial Intelligence- AI) के जरिये बनाए जा रहे फर्जी कंटेंट की समस्या को लेकर केंद्र सरकार ने गंभीरता दिखाई है. पिछले कुछ समय में ऐसे वीडियो और मीडिया कंटेंट की संख्या में भारी वृद्धि हुई है, जो दिखने में बिल्कुल असली लगते हैं लेकिन वास्तव में उनमें छेड़छाड़ की गई होती है. इस चुनौती का सामना करने के लिए सरकार ने इस तरह के आर्टिफिशियल इंटेलिजेंस जनित (AI-generated) कंटेंट पर नियंत्रण के लिए व्यापक और कड़े नियम बनाने की तैयारी शुरू कर दी है.

डीपफेक तकनीक के माध्यम से किसी व्यक्ति की आवाज, चेहरे या हावभाव को डिजिटल रूप से संशोधित या नकली रूप में पेश किया जाता है. इस तकनीक का दुरुपयोग न केवल व्यक्तिगत गोपनीयता के लिए खतरा पैदा करता है, बल्कि यह गलत सूचनाओं (misinformation), राजनीतिक हस्तक्षेप, धोखाधड़ी और साइबर अपराध के मामलों को भी बढ़ावा देता है. सोशल मीडिया प्लेटफॉर्म्स पर इस तरह के नकली वीडियो और ऑडियो क्लिप्स तेजी से फैलते हैं, जिससे जनता के बीच भ्रम और असुरक्षा की भावना बढ़ती है.

सरकार का नया नियामक प्रस्ताव

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने इस गंभीर समस्या को ध्यान में रखते हुए सूचना प्रौद्योगिकी नियमों (IT Rules) में संशोधन का प्रस्ताव तैयार किया है. इस प्रस्ताव का मुख्य उद्देश्य AI-जनित कंटेंट की पहचान को आसान बनाना और वास्तविक जानकारी से इसे अलग करना है, ताकि सोशल मीडिया और डिजिटल प्लेटफॉर्म्स पर फैले फर्जी कंटेंट को नियंत्रित किया जा सके.

प्रमुख नियम और शर्तें

इस नए मसौदे के तहत, भारत में ऐसे सोशल मीडिया प्लेटफॉर्म्स जिनके 50 लाख से अधिक सक्रिय यूजर हैं, उन्हें यह सुनिश्चित करना होगा कि जो भी कंटेंट यूजर अपलोड कर रहे हैं, वह सिंथेटिक (कृत्रिम) है या नहीं. यदि कंटेंट AI-जनित या डीपफेक है, तो उस पर स्पष्ट रूप से लेबल या मार्कर लगाना अनिवार्य होगा. यह मार्कर वीडियो स्क्रीन के कम से कम 10 प्रतिशत हिस्से को कवर करना चाहिए, या यदि ऑडियो क्लिप है तो उसकी शुरुआत के 10 प्रतिशत हिस्से में स्पष्ट रूप से सुना जाना चाहिए. प्लेटफॉर्म्स को इन मार्करों को हटाने, छुपाने या संशोधित करने की अनुमति नहीं होगी, जिससे उपयोगकर्ताओं को यह पता चल सके कि वे असली कंटेंट देख या सुन नहीं रहे हैं.

कानूनी सुरक्षा और जवाबदेही

नए नियमों में उन प्लेटफॉर्म्स को कानूनी संरक्षण भी प्रदान किया गया है, जो शिकायत मिलने पर या उचित जांच के बाद इस तरह के सिंथेटिक कंटेंट को हटाने या ब्लॉक करने के लिए सक्रिय रूप से कार्य करते हैं. इसका उद्देश्य डिजिटल मंचों की जवाबदेही बढ़ाना और उपयोगकर्ताओं को सुरक्षित डिजिटल अनुभव प्रदान करना है. साथ ही, यह संशोधन AI तकनीक के नवाचार को प्रोत्साहित करते हुए दुरुपयोग को रोकने का संतुलन बनाएगा.

प्रतिक्रिया और आगे की प्रक्रिया

सरकार ने इस मसौदे को जनता और संबंधित पक्षों के लिए 6 नवंबर तक खुला रखा है ताकि वे अपने सुझाव और आपत्तियां जमा कर सकें. इस प्रतिक्रिया प्रक्रिया के बाद ही अंतिम नियमों को लागू किया जाएगा.

क्यों आवश्यक है यह कदम?

यह कदम उस समय उठाया गया है जब जनरेटिव AI तकनीक, जैसे कि डीपफेक वीडियो, नकली आवाज़ें और संशोधित छवियां, तेजी से लोकप्रिय हो रही हैं. इन तकनीकों का गलत इस्तेमाल गलत सूचना फैलाने, पहचान छुपाने, चुनावों में हस्तक्षेप करने और वित्तीय धोखाधड़ी के लिए किया जा सकता है. विश्व भर में नीति निर्धारक इस चुनौती से निपटने के लिए गंभीर प्रयास कर रहे हैं, क्योंकि इन कृत्रिम मीडिया उपकरणों के दुरुपयोग से न केवल व्यक्तिगत और सामाजिक स्तर पर नुकसान होता है, बल्कि लोकतांत्रिक संस्थान और आर्थिक स्थिरता भी खतरे में पड़ सकती है.

ये भी पढ़ें- हर 4 में से 3 लोग जहरीली हवा के शिकार, जा चुकी है 79 लाख लोगों की जान, रिपोर्ट में बड़ा खुलासा