शैलजा सिंह : हम सभी ने आर्टिफिशियल इंटेलिजेंस (एआई) के बारे में बहुत कुछ सुना और पढ़ा है। आप में से कइयों व ने संभवतः उपलब्ध हो रहे अनगिनत एआई उपकरणों में से कुछ का उपयोग भी किया होगा। कुछ लोगों के लिए, एआई एक जादू की छड़ी की तरह लगता है, जो हर मुश्किल आसान कर सकता है, लेकिन ताजा अध्ययन के मुताबिक, एआई परफेक्ट नहीं है। इसमें खतरनाक अंतर्निहित समस्याएं हैं, जिन्हें ठीक करना मुश्किल है। इसमें कोई दोराय नहीं कि एआई डिजिटल दुनिया को तेजी से बदल रही है, यह वह तकनीक है, जो मानव मस्तिष्क की तरह कृत्रिम मेधा की संरचना विकसित कर रही है। इसके बहुत लाभ हैं, हर क्षेत्र में एआई का प्रवेश हो रहा है।
एक ही काम को बार-बार दोहराना, डिजिटल सहायक, मानवीय त्रुटि को दूर करना, जोखिम भरे काम करना, बिना थके उपलब्धता, त्वरित निर्णय लेना, बेहतर स्वास्थ्य सेवा, स्मार्ट ऑटोमेशन, रोबोटिक्स व लॉजिस्टिक्स, भविष्यसूचक विश्लेषण, नवाचार और रचनात्मकता, प्राकृतिक भाषा प्रसंस्करण आदि एआई के फायदे हैं। लेकिन इसके नुकसान भी हैं, जिसके चलते इसको बनाने वाले से लेकर इसके उपयोग करने वाले तक दुनिया की सरकारों को चेता रहे हैं कि एआई को नियंत्रित रखने के लिए सरकारें नया कानून बनाएं। आई उपयोगकर्ताओं के लिए कई नुकसान पैदा करता है।
वास्तविक दुनिया की सेटिंग्स में 100% सटीक नहीं हैं
उनमें से कुछ में प्रौद्योगिकी पर निर्भरता और आलोचनात्मक सोच की कमी, कम मानवीय संपर्क, डेटा गोपनीयता और सुरक्षा में नैतिक चिंताएं, तकनीकी सीमाएं और त्रुटियां आदि शामिल हैं। जैसे, न्यूयॉर्क शहर के एक चैटबॉट ने लोगों को कानून तोड़ने की सलाह दी, और गूगल का एआई ओवरव्यू लोगों को चट्टानें खाने के लिए कह रहा है। मुद्दे की बात यह है कि एआई प्रणाली की कुछ अंतर्निहित कमियां हैं। वास्तविक दुनिया में परेशानी सभी एआई प्रणालियों के लिए अंतर्निहित मुद्दों में से एक यह है कि वे वास्तविक दुनिया की सेटिंग्स में 100% सटीक नहीं हैं। उदाहरण के लिए, एक पूर्वानुमानित एआई प्रणाली को अतीत के डेटा बिंदुओं का उपयोग करके प्रशिक्षित किया जाएगा। यदि एआई को कुछ नया मिलता है जो प्रशिक्षण डेटा में किसी भी चीज के समान नहीं है तो यह संभवतः सही निर्णय लेने में सक्षम नहीं होगा।
एक काल्पनिक उदाहरण के रूप में, आइए एआई-संचालित ऑटोपायलट प्रणाली से सुसज्जित एक सैन्य विमान लें। यह प्रणाली अपने प्रशिक्षण ज्ञान आधार की बदौलत कार्य करेगी। लेकिन एआई सिर्फ गणितीय गणना है। एक प्रतिकूल स्थिति ऐसी बाधाएं पैदा कर सकती है जिसे विमान एआई देख नहीं सकता क्योंकि वे प्रशिक्षण डेटा में नहीं हैं, जिससे संभावित विनाशकारी परिणाम हो सकते हैं। प्रशिक्षण डेटा में पूर्वाग्रह: आपने एआई द्वारा पक्षपातपूर्ण निर्णय लेने के बारे में सुना होगा।
भविष्यवाणी करने के लिए प्रशिक्षित है
आमतौर पर, पूर्वाग्रह तब होता है जब हमारे पास असंतुलित डेटा होता है। सरल शब्दों में, इसका मतलब यह है कि एआई प्रणाली को प्रशिक्षित करते समय, हम इसे एक प्रकार के परिणाम के बहुत सारे उदाहरण और दूसरे प्रकार के बहुत कम उदाहरण दिखा रहे हैं। आइए एक एआई प्रणाली का उदाहरण लें जो किसी व्यक्ति द्वारा अपराध करने की संभावना की भविष्यवाणी करने के लिए प्रशिक्षित है। यदि सिस्टम को प्रशिक्षित करने के लिए उपयोग किए जाने वाले अपराध डेटा में ज्यादातर समूह ए (मान लीजिए, एक विशेष जातीयता) के लोग हैं और समूह बी से बहुत कम लोग हैं, तो सिस्टम दोनों समूहों के बारे में समान रूप से नहीं सोख पाएगा। परिणामस्वरूप, समूह ए के लिए इसकी भविष्यवाणियों से ऐसा प्रतीत होगा कि ये लोग समूह बी की तुलना में अपराध करने की अधिक संभावना रखते हैं। यदि सिस्टम का उपयोग बिना सोचे-समझे किया जाता है, तो इस पूर्वाग्रह की उपस्थिति के गंभीर परिणाम हो सकते हैं।
भविष्यवाणियां करने वाली एआई प्रणाली
एआई को पूर्वाग्रह बनाए रखने से रोकने के लिए संतुलित डेटा का होना महत्वपूर्ण है। ऑफ़लाइन प्रशिक्षण की समस्याः एआई के साथ एक और समस्या तब उत्पन्न हो सकती है जब इसे ऑफ़लाइन प्रशिक्षित किया गया हो और यह उस समस्या की गतिशीलता के साथ अद्यतित न हो, जिस पर इसे काम करना है। एक सरल उदाहरण किसी शहर में दैनिक तापमान की भविष्यवाणी करने के लिए विकसित की गई एआई प्रणाली होगी।
इसके प्रशिक्षण डेटा में इस स्थान के तापमान डेटा पर सभी पिछली जानकारी शामिल है। एआई का प्रशिक्षण समाप्त होने और तैनात होने के बाद, मान लीजिए कि एक गंभीर जलवायु घटना सामान्य मौसम की गतिशीलता को बाधित करती है। चूंकि भविष्यवाणियां करने वाली एआई प्रणाली को उस डेटा पर प्रशिक्षित किया गया था जिसमें यह व्यवधान शामिल नहीं था, इसलिए इसकी भविष्यवाणियां तेजी से गलत हो जाएंगी।
(लेखिका साहित्यकार व टेक विशेषज्ञ है. ये उनके अपने विचार है।)