आपत्तिजनक कंटेंट को रोकने के लिए AI सिस्टम पूरी तरह कारगर नहीं

पिछले साल न्यूयॉर्क यूनिवर्सिटी स्टर्न स्कूल ऑफ बिजनेस (Stern School of Business study) के एक अध्ययन में सिफारिश की गई थी कि अगर एआई काम के लिए तैयार नहीं है तो फेसबुक पोस्ट की निगरानी के लिए फेसबुक को अपने कर्मचारियों को दोगुना कर देना चाहिए.

AI: क्या आप जानते हैं कि फेसबुक के सह-संस्थापक मार्क जुकरबर्ग और टेस्ला इंक के मुख्य कार्यकारी एलोन मस्क (Elon Musk) में आजकल क्या समानता है? दोनों ही हाल के दिनों में बड़ी समस्याओं से जूझ रहे हैं. जुकरबर्ग ऐसे एल्गोरिदम (algorithms) से निपट रहे हैं जो हानिकारक सामग्री के प्रसार को रोकने में विफल हो रहे हैं, एलोन मस्क के पास हानिकारक सामग्री को रोकने के लिए एक सॉफ्टवेयर है लेकिन वो भी अब तक कारगर साबित नहीं हो पाया है. ब्लूमबर्ग पर प्रकाशित एक लेख के मुताबिक आपत्तिजनक जनक कंटेंट को रोकने के लिए जिस एआई सिस्टम का प्रयोग ये दोनों कंपनियां कर रही हैं उसमें बहुत सी खामियां सामने आ रही हैं.

AI सिस्टम में बड़ी कमी

आपत्तिजनक सामग्री को रोकने के लिए एआई (AI) सिस्टम तैयार किया गया है. मानव के मस्तिष्क को फॉलो करने के लिए इस सिस्टम को डिज़ाइन किया गया है.

इस सिस्टम को इस तरह से डिजाइन किया गया है कि यह ट्यूमर की पहचान कर सकता है, टेक्स्ट लिख सकता है, एक लैब सेटिंग में शानदार परिणाम भी दिखा सकता है.

लेकिन इसमें एक कमी है, जब अप्रत्याशित वास्तविक दुनिया में टेक्नोलॉजी का उपयोग करने की बात आती है तो एआई सिस्टम ठीक तरीके से रिस्पांस नहीं करता है.

कमियों को नजरअंदाज करना मुश्किल

सोशल मीडिया पर कंटेंट की पहचान करने में अब तक यह सिस्टम पूरी तरह कारगर साबित नहीं हुआ है. फिर भी फेसबुक पर इसका विश्वास अभी भी बना हुआ है.

जुकरबर्ग ने साल 2018 में कहा था कि हानिकारक सामग्री की पहचान करने के लिए एआई सिस्टम कारगर साबित होगा लेकिन अब तक इस सिस्टम को सोशल मीडिया पर कंटेंट की पहचान करने में सफलता नहीं मिली है.

आतंकवादी से संबंधित कंटेंट को पहचानने में यह सिस्टम काफी हद तक सफल रहा है लेकिन अभी भी गलत सूचना को प्रसारित करने से रोकने के लिए यह सिस्टम कामयाब नहीं हुआ है जो फेसबुक के लिए एक बड़ा चैलेंज है.

एआई सिस्टम में सुधार की जरूरत

पिछले साल न्यूयॉर्क यूनिवर्सिटी स्टर्न स्कूल ऑफ बिजनेस (Stern School of Business study) के एक अध्ययन में सिफारिश की गई थी कि अगर एआई काम के लिए तैयार नहीं है तो फेसबुक पोस्ट की निगरानी के लिए फेसबुक को अपने कर्मचारियों को दोगुना कर देना चाहिए.

वेपन्स ऑफ मैथ डिस्ट्रक्शन के लेखक कैथी ओ’नील (Cathy O’Neil) के मुताबिक फेसबुक का एआई सिस्टम ठीक तरीके से कम नहीं करता है.

एक्सपर्ट इसकी सबसे बड़ी समस्या मानव भाषा में तेजी से बदलाव को मानते हैं. लोग इंटरनेट पर कोड वर्ड या शार्ट फॉर्म में सर्च करते है जिसकी वजह से इस सिस्टम को मॉडरेट करने में दिक्कत आ रही है.