आज हम इंटरप्रिटेबिलिटी, ट्रांसपरेंसी, एक्सप्लेनेबिलिटी और ट्रस्ट पर बात करेंगे।
एक्सप्लेनेबल एआई तय मापदंडों पर खरा नहीं उतरेगा। जानिए क्यों?
Hindi translation of Explainable AI won’t deliver. Here’s why
हिंदी अनुवाद: आयुष मिश्रा, (Aayush Mishra)
मूल लेख: कैसी कॉज़ीरकोव (Cassie Kozyrkov)
संपादिका: प्रियंका वरगड़ीआ (Priyanka Vergadia)
आज कल एक्स प्लेनेबल एआई (एक्सएआई) काफी चर्चाओं में हैं। क्या आपको पता है ऐसा क्यों? क्योंकि आर्टिफिशियल इंटेलिजेंस के एल्गोरिथम को न समझ पाने की वजह से उसपर भरोसा करना मुश्किल हो रहा है। वहीं रिसर्चर्स का मानना है कि एक्सप्लेनेबल एआई पर ज्यादा भरोसा किया जा सकता है। दरअसल, एक्सएआई इनकंप्लीट इंस्पिरेशन का एक अच्छा स्रोत है। लेकिन, आप ऐसा सोचते हैं कि एक्सप्लेनेबल एआई तय मापदंडों पर खरा उतरेगा, तो आप गलत हैं। सोच में पड़ गए की ऐसा क्यों? आइए समझते हैं कि ऐसा क्यों है -
हाल ही में आपने बहुत लोगों से और बहुत बार सुना होगा कि एआई को ट्रस्ट करने के लिए, पहले ये समझना होगा कि वो अपने निर्णय कैसे लेता है। इसका उत्तर है कॉम्प्लेक्सिटी। कुछ काम इतने कॉम्प्लेक्स होते हैं कि आप उनके स्पष्ट निर्देश देकर उन्हें ऑटोमेट नहीं कर सकते हैं।
दरअसल एआई और कुछ नहीं बल्कि उन चीज़ों को ऑटोमेट करना है जिन्हें हम शब्दों में बयान करने में असमर्थ रहते हैं।
एआई को एग्ज़ाम्पल्स के साथ समझाने के बजाए, आप स्वयं हर काम के इंस्ट्रक्शन देने का सरदर्द पाल सकते हैं। लेकिन यह काम आम आदमी का नहीं बल्कि एक एआई एल्गोरिथम का है।
कैसे एक ऐसी मशीन पर विश्वास किया जा सकता है जिसे समझना भी हमारे लिए मुश्किल है?
आपको पता है, कुछ चीज़ें इतनी कॉम्प्लिकेटेड होती हैं कि इनके ऑटोमेशन के लिए इंस्ट्रक्शन तैयार करना तक हमारे लिए बहुत ही मुश्किल काम हो जाता है। ऐसे में हम इन चीज़ों को आसान बनाने के लिए ही एआई का इस्तेमाल करते हैं। अब लोग कहते हैं कि हम इन इंस्ट्रक्शन को पढें और समझे, लेकिन ऐसा करना असंभव है। क्योंकि यह वो रेसिपी (इंस्ट्रक्शन) है जिसके अंदर लाखों बोरिंग आइटम्स होते हैं और जिन्हें केवल कम्प्यूटर ही याद रख सकता है। ऐसे में सवाल ये उठता है कि आप ऐसी चीज़ पर कैसे भरोसा कर सकते हैं जिनके कॉम्प्लिकेटेड टैंगल को आप पढ़ नहीं सकते और न ही ये समझ सकते हैं कि वह अपने डिसीजन कैसे लेता है?
चलिए एक्सप्लेनेबल एआई और परफॉर्मेंस एआई को एक उदहारण से समझते हैं। आपके सामने दो स्पेसशिप हैं। स्पेसशिप 1 कैसे काम करता है ये आपको पता है लेकिन उसको कभी भी उड़ाया नहीं गया है। वहीं स्पेसशिप 2 के काम करने का तरीका किसी को नहीं पता लेकिन उसकी हजारों टेस्टिंग हो चुकी है और उसने सालों से सफलतापूर्वक उड़ान भरी है। अब बताइए आप कौन-से स्पेसशिप का चयन करेंगे? मेरे हिसाब से तो अपने सिस्टम की अच्छी तरह जांच कर ये सुनिश्चित करना कि वह ठीक उसी तरह काम कर रहा है जिस तरह उसे करना चाहिए, हमारे लिए ज्यादा सुरक्षित होगा। क्यों सही कहा न?
आप कौन-से स्पेसशिप का चयन करेंगे?
सिस्टम को सही तरह से टेस्ट कर, यह सुनिश्चित करना कि वह ठीक उसी तरह काम कर रहा है जिस तरह उसे करना चाहिए, हमारे लिए ज्यादा सुरक्षित होगा।
किसी पर ट्रस्ट करने का सबसे सही आधार है टेस्टिंग
अगर हम चाहते हैं कि कोई स्टूडेंट कैल्कुलस सीखे तो हम चाहेंगे कि वह उसे जनरलाइज तरीके से सीखे, न की टेक्स्टबुक के 2–3 एग्जाम्पल की ओवरफिटिंग कर ले। लेकिन एक बात तो बताइए, आप इसकी जांच कैसे करेंगे की वो कॉम्पिटेंट है या नहीं?
प्लीज़ किसी औजार से उसके दिमाग के ढक्कन को खोलकर ये मत देखने बैठ जाना की वो कैल्कुलस कैसे कर रहा है। क्योंकि आपको नहीं पता कि ह्यूमन ब्रेन कैल्कुलस को किस तरह से इंप्लीमेंट करता है।
हां, आप ये कर सकते हैं कि अपने स्टूडेंट के लिए एक एग्जाम डिजाइन करें। अगर आपका स्टूडेंट/ह्यूमन/मशीन उस एग्जाम में पास हो जाता है तो वो क्वालिफाइड है। ठीक उसी तरह जिस तरह से एआई की टेस्टिंग कर उसको क्वालिफाइड माना गया है।
चलिए अब बात करते हैं एक्सप्लेनेबल एआई की
क्या मैं कह रही हूं कि इंटरप्रिटेबिलिटी, ट्रांसपरेंसी, एक्सप्लेनेबिलिटी महत्वपूर्ण नहीं है? अरे नहीं! मैंने ऐसा नहीं कहा। बल्कि मैंने तो ये कहा कि इन सभी का स्थान एनालिटिक्स में है।
बहुत सारे इंटरप्रिटेबिलिटी डिबेट्स में आपने गौर फ़रमाया होगा कि पार्टिसिपेंट्स अप्लाइड डेटा साइंस के विभिन्न क्षेत्रों को मिसअंडरस्टैंड कर रहे हैं। वे तो मूल रूप से एप्लीकेशन के विभिन्न वर्गों की बात कर रहे हैं।
एक ऑब्जेक्टिव वाला सिस्टम दोनों ऑब्जेक्टिव वाले सिस्टम से बेहतर
अगर आप ऐसा मॉडल बनाना चाहते हैं जिसमें इंस्पिरेशन के साथ- साथ एडवांस्ड एनालिटिक्स भी हो, तो यह एक अलग मॉडल है। वहीं डिसीजन लेने वाला सुरक्षित और विश्वनीय ऑटोमेटेड सिस्टम एक अलग मॉडल है। अगर आपका इन दोनों ही लक्ष्य की मॉडल्स को एक ही प्रोजेक्ट में इस्तेमाल करना चाहते हैं तो आपका सिस्टम दोनों ही तय मापदंडों पर खरा नहीं उतरेगा। यानी न ही वो सही तरीके से इंस्पायर हो पायेगा और न ही वो सही निर्णय ले पायेगा।
फैसिनेशन विद मैकेनिज्म
अगर आपको यह जानने में रुचि रहती है कि यह चीज़ें कैसे काम करती हैं, तो यह रिसर्च इंस्टिंक्ट हैं। जो आपके स्टेम क्लासेस के दौरान दिन प्रतिदिन ट्रेन होती गई हैं। यह ट्रेनिंग आपको एक नए स्टूडेंट, एक नए ब्रेन, एक नए स्पेसशिप और एक नए माइक्रोवेव को बनाने में मदद करती हैं।
आपको पता है ये इतना कन्फ्यूज़न क्यों है? क्योंकि लोगों को पता ही नहीं है कि वे कौन-से एआई बिजनेस में हैं। दरअसल यह पता लगाना कि एआई कैसे काम करता है, एक रिसर्चर का काम है जो इसे एक बेहतर एआई बनाने के लिए काम कर रहे हैं। एआई का मैकेनिज्म उनके लिए समझना ज़रूरी नहीं है जो इसके इस्तेमाल कर रहे हैं।
अप्लाइड डेटा साइंस में, एनालिस्ट के लिए मैकेनिज़म से प्यार ही एक बड़ा इंस्टिंक्ट है; यह देखने के लिए कि कुछ काम कैसे पोटेंशियल थ्रैट्स और ऑपर्च्युनिटी को दर्शा करते हैं।
आप ह्यूमन डिसीजन पर भरोसा कैसे कर सकते हैं?
कुछ लोग कहते हैं कि हम इस मशीन के डिसीजन पर कैसे भरोसा कर लें जिनके मैकेनिज्म के बारे में ही हमे कुछ पता नहीं है।
अगर आप इस आधार पर आर्टिफिशियल इंटेलिजेंस के डिसीजन मेकिंग पर भरोसा करने से इंकार कर रहे हैं तो आपको अपने सारे ह्यूमन वर्कर्स को नौकरी से निकाल देना चाहिए। क्योंकि आपको नहीं पता कि एक दिमाग किस तरह काम करता है तो आप अपने वर्कर्स के डिसीजन पर विश्वास कैसे कर सकते हैं?
अगर आप इस बात की तह तक जाना चाहते हैं कि एक इन्सान नतीजे तक कैसे पहुंचता है, तो इसका जवाब आपको केवल इलेक्ट्रिकल सिग्नल्स और न्यूरोट्रांसमीटर्स के रूप में ही मिलेगा। जो एक ब्रेन सेल से दूसरे ब्रेन सेल के बीच ट्रांसफर होते हैं। अच्छा एक सवाल का जवाब दीजिए क्या कभी आपके किसी दोस्त ने केमिकल्स और सिनॉप्सिस के रूप में इस बात का जवाब दिया है कि उसने चाय की जगह काफी क्यों ऑर्डर की? नहीं न।
क्योंकि ह्यूमंस ये देखते हैं कि सबसे पहली इनफॉरमेशन क्या आईं, आपके सामने क्या विकल्प रखे गए हैं और उसका जवाब क्या दिया गया है। उसके बाद इन सबको जोड़ते हुए एक सेंसिबल स्टोरी को बुनते हैं। ठीक इसी तरह एक्सएआई भी काम करता है। इनपुट और आउटपुट का एनालिसिस कर अपना डिसीजन लेता है।
एक्सएआई में बहुत सी अच्छी चीजें भी हैं लेकिन इसको जिस तरीके से ट्रस्ट पर आधारित करके देखा जा रहा है वह दुर्भाग्यपूर्ण है। और वैसे भी एक्सप्लेनेबिलिटी इस बात का जवाब देता है कि यह निर्णय “क्यों” लिया गया। इस बात का नहीं की यह निर्णय “कैसे” लिया गया।
इंटरप्रिटेबिलिटी और परफॉर्मेंस दोनों क्यों नहीं हो सकता?
अगर हमारे लिए परफॉर्मेंस सबसे ज्यादा महत्वपूर्ण है तो हम क्यों अपने आपको उन चीज़ों में उलझा रहे हैं जिसे हमारा ह्यूमन माइंड समझ ही नहीं सकता। हमें तो उन्हें ही ऑटोमेट करना है न जिन्हें हम बयान नहीं कर सकते, याद है?
हां, अगर दोनों परफॉर्मेंस और इंटरप्रिटेबिलिटी हो तो इससे बेहतर और कुछ नहीं हो सकता। लेकिन दोनों का होना सम्भव नहीं तो फिर हमें दोनों में से किसी एक का ही चुनाव करना चाहिए, जिसका परिणाम अच्छा हो।
जिन्दगी में हर चीज़ सरल नहीं होती
संक्षेप में कहूं तो, कुछ टास्क के लिए सरल समाधान काम नहीं करते हैं। उनके लिए कॉम्प्लिकेटेड सॉल्यूशन की ही जरूरत होती है। इन्हीं टास्क के कॉम्प्लिकेटेड सॉल्यूशन से आपको बचाने के लिए आर्टिफिशियल इंटेलिजेंस की ज़रूरत होती है।
क्यों एआई एल्गोरिथम्स उन टास्क के भी हाल ढूंढ लेता है जो आपके कोडिंग से भी ज्यादा कॉम्प्लिकेटेड हैं? क्योंकि एक कम्प्यूटर करोड़ों उदाहरणों को इस तरह याद (अपने डिस्क में सेव) कर लेता है जिस तरह हम (ह्यूमन) कभी याद भी न कर पाएं। कम्प्यूटर, इंस्ट्रक्शंस की लाखों लाइंस लिखने में भी कभी बोर नहीं होता है। कम्प्यूटर की यह मेमोरी कोई नई बात नहीं है लेकिन आज की कम्प्यूटिंग पावर से इसका बड़े पैमानों पर इस्तेमाल किया जा सकता है।
आज ह्यूमैनिटी प्लेबुक का विस्तार ऑटोमेटिंग टास्क तक हो चुका है, जहां बहुत कॉम्प्लिकेटेड इंस्ट्रक्शन हैं। इसमें से कुछ तो इतने कॉम्प्लिकेटेड होते हैं जिन्हें हम बीयर के बाद तीन लाइनों में समझा भी नहीं सकते हैं।
