लुधियाना की न्यायिक मजिस्ट्रेट प्रथम श्रेणी विभा राणा की अदालत ने प्रमुख सोशल मीडिया प्लेटफॉर्म्स – जिसमें एक्स (पूर्व में ट्विटर), फेसबुक, यूट्यूब और विभिन्न डिजिटल समाचार आउटलेट शामिल हैं – को एक वरिष्ठ पंजाब आईपीएस अधिकारी की कथित तौर पर एक विवादा
.
ऑडियो के कृत्रिम रूप से उत्पन्न होने की चिंताओं का हवाला देते हुए, अदालत ने ऑनलाइन प्लेटफॉर्म पर उक्त सामग्री या किसी भी समान सामग्री के प्रसार,पुर्नपोस्टिंग या प्रकाशन पर रोक लगाने के लिए एक व्यापक आदेश जारी किया है।
आदेश में इन बातों पर दिया गया जोर आदेश में जोर दिया गया है कि “कोई भी व्यक्ति, समूह, पेज, हैंडलर या डिजिटल इकाई आपत्तिजनक सामग्री या समान प्रकृति की किसी भी सामग्री को पोस्ट, पुर्नपोस्ट , टैग, अपलोड या प्रसारित नहीं करेगी। यह निर्देश देविंदर सिंह कालड़ा द्वारा दायर एक याचिका के जवाब में आया है, जिन्हें “सामाजिक कार्यकर्ता” बताया गया है। कालड़ा ने सूचना प्रौद्योगिकी नियमों के नियम 3(1)(डी) और 3(2)(बी) और भारतीय नागरिक सुरक्षा संहिता की धारा 90 के तहत याचिका दायर की, जिसमें उन्होंने सोशल मीडिया प्लेटफॉर्म से “अपमानजनक और गैरकानूनी” सामग्री को हटाने की मांग की।
अपनी याचिका में, कालड़ा ने कहा कि वायरल ऑडियो एक वरिष्ठ पुलिस अधिकारी को बदनाम करने और जनता को गुमराह करने के इरादे से एआई-जनरेटेड वॉयस क्लोनिंग का परिणाम प्रतीत होता है।
याचिका में कहा गया है कि “क्लिप में हेरफेर के संकेत दिखते हैं – यांत्रिक स्वर, अप्राकृतिक मॉड्यूलेशन – जो आवाज संश्लेषण तकनीक का उपयोग करके प्रतिरूपण का सुझाव देता है।” अदालत ने कालड़ा की दलीलों को “अच्छी तरह से स्थापित और प्रेरक” करार देते हुए कहा कि ऑडियो में प्राकृतिक मानव भाषण की विशेषताओं का अभाव है।
आदेश में कहा गया है, “एक समान पिच, यांत्रिक स्वर और संवादी ताल की अनुपस्थिति आदेश में कहा गया है, “यह लक्षित ऑनलाइन चरित्र हनन के बराबर है,” चेतावनी देते हुए कहा गया है कि ऐसी सामग्री सार्वजनिक व्यवस्था को बिगाड़ सकती है और कानून प्रवर्तन एजेंसियों की संस्थागत अखंडता को नुकसान पहुंचा सकती है।
आदेश में फेसबुक और इंस्टाग्राम जैसे मेटा प्लेटफॉर्म को विवादित सामग्री के सभी संस्करणों को हटाने और उन तक पहुंच को ब्लॉक करने का निर्देश दिया गया है और यह सुनिश्चित करने के लिए कहा गया है कि कोई भी री पोस्ट या इसी तरह के अपलोड की अनुमति न हो।
YouTube को सभी संबंधित वीडियो हटाने का निर्देश दिया गया है, जिसमें री अपलोड, संपादित संस्करण, शार्ट्स और प्रतिक्रिया वीडियो शामिल हैं। X (पूर्व में Twitter) को संबंधित सामग्री वाले सभी ट्वीट और वीडियो हटाने होंगे। पंजीकृत और अपंजीकृत वेब-आधारित पोर्टल और मोबाइल ऐप सहित स्वतंत्र डिजिटल समाचार प्लेटफ़ॉर्म को भी तुरंत सामग्री हटाने का आदेश दिया गया है।
मोहाली साइबर को सौंपा आदेश का तत्काल अनुपालन करने का काम आदेश में इस बात पर ज़ोर दिया गया है कि कोई भी व्यक्ति या डिजिटल इकाई व्यक्तियों या संस्थानों, विशेष रूप से कानून प्रवर्तन को लक्षित करने वाली अप्रमाणित, असत्यापित या अपमानजनक सामग्री साझा नहीं करेगी। मोहाली में पंजाब पुलिस के राज्य साइबर अपराध प्रभाग को आदेश का तत्काल अनुपालन सुनिश्चित करने का काम सौंपा गया है।
