चित्र में कृत्रिम बुद्धिमत्ता (AI) द्वारा भारत में इंस्टाग्राम और मेटा पर यौन तथा हिंसक सामग्री के नियम कड़े किए जाने को दर्शाया गया है|

केंद्र सरकार के लगातार दबाव के बाद दिग्गज सोशल मीडिया कंपनी मेटा (Meta) ने भारत में अपने लोकप्रिय प्लेटफॉर्म इंस्टाग्राम के रिकमेंडेशन सिस्टम को काफी सख्त कर दिया है। इस बड़े बदलाव के बाद अब भारतीय यूजर्स को उनके फीड, रील्स और सजेस्टेड पोस्ट में यौन रूप से आपत्तिजनक और हिंसक सामग्री बहुत ही कम दिखाई देगी। कंपनी द्वारा उठाया गया यह कदम उपयोगकर्ताओं के डिजिटल अनुभव को सुरक्षित और बेहतर बनाने की दिशा में एक अहम प्रयास माना जा रहा है।

इस बदलाव के तहत इंस्टाग्राम अब उन पोस्ट्स के प्रसार पर विशेष लगाम लगाएगा, जिन्हें वे उन अकाउंट्स के जरिए देखते हैं जिन्हें उन्होंने फॉलो नहीं किया होता है। इसमें मुख्य फीड और रील्स में आने वाले तमाम सजेस्टेड कंटेंट भी शामिल हैं। कंपनी का मुख्य उद्देश्य यह सुनिश्चित करना है कि प्लेटफॉर्म पर किसी भी प्रकार के संवेदनशील, भड़काऊ या अवांछित कंटेंट की पहुंच आम यूजर्स तक आसानी से न पहुंच सके।

मेटा की नई नीति के अनुसार, यदि कोई पोस्ट कंपनी के कम्युनिटी गाइडलाइंस का सीधे तौर पर उल्लंघन नहीं करती है, तो वह प्लेटफॉर्म पर मौजूद तो रह सकती है, लेकिन इसका यह बिल्कुल मतलब नहीं होगा कि उस पोस्ट को ज्यादा से ज्यादा लोगों तक रिकमेंड भी किया जाए। यानी कंटेंट के प्लेटफॉर्म पर बने रहने के बावजूद एल्गोरिदम उसकी रीच को सीमित कर देगा और उसे वायरल होने से रोकने के लिए उसकी सिफारिश नहीं की जाएगी।

कंपनी ने अपनी कार्यप्रणाली के बारे में जानकारी देते हुए बताया है कि उसने पिछले एक साल के दौरान अपने यूजर्स से मिले फीडबैक को ध्यान में रखते हुए अपनी डिफॉल्ट सुरक्षा व्यवस्था को और अधिक मजबूत किया है। इंस्टाग्राम किसी भी पोस्ट को अन्य यूजर्स को रिकमेंड करने से पहले उसका गहराई से आकलन करने के लिए आधुनिक एआई (AI) मॉडल का उपयोग करता है। विशेष रूप से भारत के लिए इन तकनीकी सिस्टम्स को और अधिक उन्नत बनाया गया है, ताकि किसी भी प्रकार के संवेदनशील और आपत्तिजनक कंटेंट की पहचान बेहद प्रभावी और सटीक तरीके से की जा सके।

मेटा द्वारा जारी किए गए एक ब्लॉग पोस्ट में यह दावा भी किया गया है कि इन कड़े उपायों के लागू होने के बाद से यूजर्स ने रिकमेंड किए गए कंटेंट की रिपोर्ट करना काफी कम कर दिया है। कंपनी के मुताबिक, अब लोग एक साल पहले की तुलना में लगभग आधी बार ही ऐसे कंटेंट की शिकायत कर रहे हैं, हालांकि कंपनी की तरफ से इससे जुड़े कोई सटीक या विस्तृत आंकड़े साझा नहीं किए गए हैं।

गौरतलब है कि यह पूरा बदलाव केंद्र सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय द्वारा जारी की गई एक महत्वपूर्ण एडवाइजरी के करीब एक महीने बाद सामने आया है। बीते 10 अक्टूबर को आईटी मंत्रालय ने मेटा को एक आधिकारिक निर्देश जारी किया था, जिसमें कंपनी से फेसबुक और इंस्टाग्राम पर पोस्ट की रैंकिंग और रिकमेंडेशन सिस्टम की गंभीरता से समीक्षा करने को कहा गया था। मंत्रालय ने अपनी एडवाइजरी में यह गहरी चिंता व्यक्त की थी कि सोशल मीडिया के एल्गोरिदम कई बार भ्रामक, छेड़छाड़ किए गए या मुख्य विषयों से भटके हुए कंटेंट को जरूरत से ज्यादा प्राथमिकता दे देते हैं, जिससे समाज में नकारात्मकता फैल सकती है।

इसके साथ ही, मंत्रालय ने मेटा को यह भी कड़े निर्देश दिए थे कि वे ऐसी तमाम पोस्ट्स पर कड़ी निगरानी रखें जिनसे देश में किसी भी प्रकार की हिंसा भड़क सकती है या फिर सार्वजनिक व्यवस्था और कानून-व्यवस्था बिगड़ सकती है। सरकार चाहती थी कि यूजर्स को केवल कुछ चुनिंदा विचारधाराओं या नैरेटिव्स का ही सामना न करना पड़े, बल्कि उन्हें संतुलित और सुरक्षित कंटेंट मिले। हालांकि, मेटा ने अपने इंस्टाग्राम में किए गए इन नए बदलावों का सीधा संबंध सरकार की इस एडवाइजरी से आधिकारिक रूप से नहीं जोड़ा है, और न ही यह स्पष्ट किया है कि क्या उसने भारत से जुड़ी संवेदनशील घटनाओं की पोस्ट को रिकमेंड करने के तरीकों में कोई विशेष बदलाव किया है।