माइक्रोसॉफ्ट के अलर्ट के बाद सरकार की सख्ती, AI कंटेंट और डीपफेक पर डिजिटल कंपनियों को चेताया

माइक्रोसॉफ्ट की चेतावनी के बाद सरकार अलर्ट मोड में आ गई है। आईटी मंत्रालय ने एआई से संबंधित एक नई एडवाइजरी जारी की है। जिसमें कहा गया है कि डिजिटल प्लेटफॉर्म को पूरी जवाबदेही लेनी होगी और वह ऐसा कहकर बच नहीं सकते कि यह एआई मॉडल "टेस्टिंग मोड" में हैं। एआई के संभावित दुरुपयोग से चिंतित, केंद्र ने पिछले महीने कहा था कि सोशल मीडिया मध्यस्थों को "किसी भी पूर्वाग्रह या भेदभाव की अनुमति नहीं देनी चाहिए या चुनावी प्रक्रिया की अखंडता को खतरे में नहीं डालना चाहिए।"

एडवाइजरी के अनुसार, "आईटी अधिनियम और/या आईटी नियमों के प्रावधानों का अनुपालन न करने पर मध्यस्थों या प्लेटफार्म या इसके यूजरों की पहचान होने पर संभावित दंडात्मक परिणाम होंगे, जिसमें आईटी अधिनियम और आपराधिक संहिता के कई अन्य कानूनों के तहत अभियोजन शामिल है, लेकिन यह इन्हीं तक सीमित नहीं है।"

पिछले महीने के अंत में माइक्रोसॉफ्ट के सह-संस्थापक बिल गेट्स और पीएम मोदी ने मुलाकात की थी। बातचीत में दौरान पीएम मोदी ने कहा था कि भारत जैसे लोकतांत्रिक देश में डीपफेक बड़ी चिंता का विषय है। पीएम मोदी ने जोर देकर कहा थाा, "मैंने एआई और इसके जोखिमों पर अग्रणी विचारकों के साथ बातचीत की है। इसकी पहचान के लिए वॉटरमार्क लगाना चाहिए"

प्रधानमंत्री ने बिल गेट्स से कहा था कि कोई लोगों को धोखा देने के लिए मेरी आवाज का दुरुपयोग भी कर सकता है और इस तरह के डीपफेक से बड़े पैमाने पर हंगामा हो सकता है। हमें डीपफेक पर 'क्या करें और क्या न करें' के बारे में मजबूती से विचार करने की जरूरत है।

द गार्जियन के अनुसार, अमेरिकी टेक फर्म ने कहा कि उसे आशंका है कि चीन के समर्थन वाले साइबर ग्रुप 2024 में हाई-प्रोफाइल चुनावों को निशाना बनाएंगे, जिसमें उत्तर कोरिया भी शामिल होगा। माइक्रोसॉफ्ट के मुताबिक चीनी हैकर्स मीम्स, वीडियो और ऑडियो के जरिए चुनावों को प्रभावित करने का प्रयास करेंगे। टेक दिग्गज के अनुसार, चीन वोटर्स को वांटने के लिए फर्जी सोशल मीडिया अकाउंट का उपयोग कर रहा है। यहां पढ़ें पूरी खबर