आईटी मंत्रालय ने आईटी नियमों में संशोधन के मसौदे पर 6 नवंबर तक प्रतिक्रिया या टिप्पणियां मांगी हैं।
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने सूचना प्रौद्योगिकी (आईटी) नियम, 2021 में संशोधन का मसौदा प्रस्तावित किया है, जिसका उद्देश्य एआई-जनित डीपफेक और कृत्रिम रूप से निर्मित सामग्री से उत्पन्न जोखिमों का समाधान करना है।
प्रस्तावित परिवर्तन स्पष्ट लेबलिंग और प्रमुख मार्करों को अनिवार्य करके उपयोगकर्ताओं को होने वाले नुकसान को रोकने पर केंद्रित हैं ताकि उपयोगकर्ताओं को कृत्रिम और प्रामाणिक सामग्री के बीच अंतर करने में मदद मिल सके, साथ ही प्रमुख सोशल मीडिया प्लेटफॉर्म्स की जवाबदेही भी बढ़े।
आईटी मंत्रालय ने जनरेटिव एआई टूल्स की बढ़ती उपलब्धता पर प्रकाश डाला, जिसके कारण कृत्रिम रूप से उत्पन्न सूचनाओं में वृद्धि हुई है, जिन्हें आमतौर पर डीपफेक के रूप में जाना जाता है। ये तकनीकें गंभीर जोखिम पैदा करती हैं, जिनमें गलत सूचना फैलाने, चुनावों में हेरफेर करने, व्यक्तियों का प्रतिरूपण करने या अन्य प्रकार के उपयोगकर्ता नुकसान पहुंचाने की क्षमता शामिल है।
आईटी मंत्रालय की वेबसाइट पर मसौदे के साथ दिए गए व्याख्यात्मक नोट में कहा गया है, “सोशल प्लेटफॉर्म पर डीपफेक ऑडियो, वीडियो और सिंथेटिक मीडिया के वायरल होने की हालिया घटनाओं ने जनरेटिव एआई की क्षमता को पुख्ता झूठ फैलाने में सक्षम बनाया है – जिसमें व्यक्तियों को ऐसे कार्यों या बयानों में चित्रित किया जाता है जो उन्होंने कभी नहीं किए। ऐसी सामग्री का इस्तेमाल गलत सूचना फैलाने, प्रतिष्ठा को नुकसान पहुँचाने, चुनावों में हेरफेर करने या उन्हें प्रभावित करने, या वित्तीय धोखाधड़ी करने के लिए किया जा सकता है।”
व्यापक सार्वजनिक परामर्श और संसदीय चर्चाओं के बाद, इलेक्ट्रॉनिकी और सूचना प्रौद्योगिकी मंत्रालय ने मध्यस्थों, विशेष रूप से सोशल मीडिया मध्यस्थों (50 लाख या उससे अधिक उपयोगकर्ताओं वाले प्लेटफॉर्म, जैसे मेटा) और महत्वपूर्ण सोशल मीडिया मध्यस्थों (एसएसएमआई) के उचित परिश्रम संबंधी दायित्वों को मज़बूत करने के लिए संशोधनों का मसौदा तैयार किया है।
ये संशोधन उन प्लेटफॉर्म पर भी लागू होते हैं जो कृत्रिम रूप से उत्पन्न सामग्री के निर्माण या संशोधन की सुविधा प्रदान करते हैं। मसौदे में “कृत्रिम रूप से उत्पन्न जानकारी” की एक नई परिभाषा पेश की गई है, जिसमें इसे ऐसी जानकारी के रूप में वर्णित किया गया है जो कृत्रिम रूप से या एल्गोरिथम के माध्यम से कंप्यूटर संसाधन का उपयोग करके इस तरह से बनाई, उत्पन्न, संशोधित या परिवर्तित की जाती है जो यथोचित रूप से प्रामाणिक या सत्य प्रतीत होती है।
प्रस्तावित नियमों के तहत, प्रमुख सोशल मीडिया प्लेटफ़ॉर्म को एक उपयोगकर्ता घोषणा प्राप्त करनी होगी जो यह पुष्टि करे कि अपलोड की गई सामग्री कृत्रिम रूप से उत्पन्न की गई है या नहीं। उन्हें इन घोषणाओं की पुष्टि के लिए उचित और आनुपातिक तकनीकी उपाय भी लागू करने होंगे और यह सुनिश्चित करना होगा कि ऐसी सामग्री स्पष्ट रूप से लेबल की गई हो या उसके साथ एक सूचना हो जो इसकी कृत्रिम प्रकृति को दर्शाती हो।
संशोधनों में यह अनिवार्य किया गया है कि लेबल या पहचानकर्ता प्रमुखता से प्रदर्शित किए जाएँ, जो दृश्य सामग्री के सतह क्षेत्र के कम से कम 10 प्रतिशत को कवर करते हों या ऑडियो सामग्री की प्रारंभिक 10 प्रतिशत अवधि में शामिल हों। इन लेबलों से सामग्री की कृत्रिम रूप से उत्पन्न के रूप में तत्काल पहचान संभव होनी चाहिए।
इसके अतिरिक्त, कृत्रिम सामग्री बनाने या संशोधित करने के लिए उपकरण प्रदान करने वाले मध्यस्थों को यह सुनिश्चित करना होगा कि ऐसी सामग्री में एक स्थायी विशिष्ट मेटाडेटा या पहचानकर्ता अंतर्निहित हो। यह पहचानकर्ता 10 प्रतिशत दृश्यता या श्रव्यता मानक का पालन करते हुए, स्पष्ट रूप से प्रदर्शित या प्रमुखता से श्रव्य होना चाहिए। नियम मध्यस्थों को इन लेबलों या पहचानकर्ताओं को संशोधित करने, दबाने या हटाने से स्पष्ट रूप से प्रतिबंधित करते हैं।
संशोधनों का उद्देश्य मध्यस्थों को उचित प्रयासों या उपयोगकर्ता की शिकायतों के आधार पर कृत्रिम रूप से उत्पन्न सामग्री को हटाने या उस तक पहुँच को अक्षम करने की अनुमति देकर उन्हें वैधानिक सुरक्षा प्रदान करना भी है। आईटी मंत्रालय के अनुसार, इसका उद्देश्य उपयोगकर्ता जागरूकता को बढ़ावा देना, पता लगाने की क्षमता को बढ़ाना और जवाबदेही सुनिश्चित करते हुए एआई-संचालित तकनीकों में नवाचार के लिए अनुकूल वातावरण को बढ़ावा देना है।
संशोधनों का मसौदा 6 नवंबर तक जनता की प्रतिक्रिया और टिप्पणियों के लिए खुला है। आईटी मंत्रालय ने गढ़ी हुई या कृत्रिम सामग्री, जैसे चित्र, वीडियो और ऑडियो क्लिप, जो अक्सर प्रामाणिक सामग्री से अलग नहीं होती हैं, से जुड़ी वैश्विक और घरेलू चिंताओं पर ज़ोर दिया।
इस तरह के डीपफेक का इस्तेमाल बिना सहमति के अंतरंग या अश्लील तस्वीरें बनाने, गढ़ी हुई राजनीतिक या समाचार सामग्री से जनता को गुमराह करने, या वित्तीय लाभ के लिए धोखाधड़ी और छद्मवेश धारण करने के लिए किया गया है। आईटी नियमों में प्रस्तावित बदलाव कृत्रिम रूप से उत्पन्न सामग्री की पहचान और प्रबंधन के लिए स्पष्ट दिशानिर्देश स्थापित करके इन चुनौतियों का समाधान करने का प्रयास करते हैं।
