चुनाव में AI जेनरेटेड कंटेंट के गलत इस्‍तेमाल को रोकेगा मेटा, बनाया ये प्‍लान

लोकसभा चुनावों के दौरान गलत सूचना या एआई जेनरेटेड कंटेंट के दुरुपयोग को रोकने के लिए फेसबुक और इंस्टाग्राम के मालिक मेटा ने अपनी तैयारी तेज कर दी है. मंगलवार को मेटा ने कहा कि वे गलत सूचनाओं के प्रचार-प्रसार पर सख्‍त कार्रवाई करेगा. अगर वे मतदान को प्रभावित करते हैं, हिंसा भड़काते हैं और लेबल लगाने के लिए तथ्य-जांचकर्ताओं के नेटवर्क का उपयोग करते हैं तो वह उन्हें साइट से हटा देगा. इसके अलावा अगर फेक कंटेंट पाया गया या तथ्‍यों के साथ हेरफेर की बात सामने आई तब भी उचित कार्रवाई की जाएगी.

मेटा ने कहा कि यह चुनाव की मॉनिटरिंग करेगा, जो संभावित खतरों की पहचान करने और वास्तविक समय में अपने ऐप्स और प्रौद्योगिकियों में खास मिटिग्रेशन के लिए संगठन भर के विशेषज्ञों को एक साथ लाएगा. सोशल मीडिया दिग्गज ने यह भी कहा कि वह Google, OpenAI, Microsoft और अन्य उपयोगकर्ताओं की ओर से फेसबुक, इंस्टाग्राम और थ्रेड्स पर पोस्ट की जाने वाली AI-जनरेटेड छवियों को लेबल करने के लिए टूल बना रहा है.

तस्‍वीरों के लिए बना रहें अलग टूल

मेटा ने कहा कि लोगों के लिए यह जानना महत्वपूर्ण है कि एआई का उपयोग करके फोटोरिअलिस्टिक सामग्री कब बनाई गई है. छवियों पर देखे जा सकने वाले वॉटर मार्कर और फोटो फ़ाइलों के भीतर एम्बेडेड अदृश्य वॉटरमार्क और मेटाडेटा दोनों डालकर ‘मेटा एआई’ का उपयोग करके बनाई गई फोटोरियलिस्टिक छवियों को लेबल करता है. मेटा ने एक ब्लॉगपोस्ट में कहा कि हम गूगल, ओपनएआई, माइक्रोसॉफ्ट, एडोब, मिडजर्नी और शटरस्टॉक से एआई-जनरेटेड छवियों को लेबल करने के लिए टूल भी बना रहे हैं, जिन्हें उपयोगकर्ता फेसबुक, इंस्टाग्राम और थ्रेड्स पर पोस्ट करते हैं.

प्‍लेटफॉर्म से हटाएंगे गलत कंटेंट

सोशल मीडिया दिग्गज ने कहा कि भारत-विशिष्ट चुनाव संचालन केंद्र कंपनी के खुफिया, डेटा विज्ञान, इंजीनियरिंग, अनुसंधान, संचालन, सामग्री नीति और कानूनी टीमों के विशेषज्ञों को एक साथ लाएगा, ताकि उसके ऐप्स पर वास्तविक समय में खतरों की पहचान की जा सके और उन्हें कम किया जा सके. मेटा ने कहा कि जब हमें ऐसी सामग्री मिलती है जो हमारे सामुदायिक मानकों या सामुदायिक दिशानिर्देशों का उल्लंघन करती है, तो हम उसे हटा देते हैं, चाहे वह एआई या किसी व्यक्ति ने बनाई हो.