Intereting Posts
नैतिकता के आधार पर: एक विनिमय भावनात्मक और मौखिक दुर्व्यवहार के रूप ध्यान के तीन आवश्यक अंक आपके किशोर के लिए एक इलेक्ट्रॉनिक अधिस्थगन-अच्छा या बुरा विचार? क्या आपके पति या पत्नी के चरम वजन एक चक्कर के लिए एक अच्छा बहाना प्राप्त है? क्यों मानसिक स्वास्थ्य देखभाल संख्या से अधिक है हॉलिडे पार्ट्स के लिए आपका जीवन रक्षा गाइड कब से डॉक्टर डॉक्टर से पूछें? 021. व्यवहार, भाग 2. बीएफ स्किनर आत्महत्या: टाइम्स का एक दुखद संकेत आभार के बारे में बच्चों को सिखाने के पांच तरीके बढ़ती आत्महत्या दरें अर्थ में एक संकट को इंगित करती हैं वोग जाने के लिए वजन ध्यान घाटे विकार के लिए बाल रोग विशेषज्ञों के मुद्दे खतरनाक नई उपचार दिशानिर्देश व्यक्तिगत प्रबंधन

बैंक ऋण एल्गोरिथ्म का मानसिक जीवन: एक सच्ची कहानी

यदि मेरा बैंक एल्गोरिथ्म मुझे पहचान नहीं सकता है, तो क्या यह है क्योंकि मैं मेरी तरह काम नहीं कर रहा हूं?

एल्गोरिदम सूचना की बड़ी मात्रा में सटीक प्रसंस्करण में बेहद चतुर हैं। लेकिन बैंक ऋण के साथ हाल ही में एक समस्या पर्दे के पीछे एक परेशान करने वाला है।

पिछले हफ्ते मैंने पर्सनल लोन के लिए आवेदन किया था। मेरे बैंक ने मुझे बताया था कि मैं ऋण के लिए ऑनलाइन आवेदन कर सकता हूं। इसलिए मैंने उनकी वेबसाइट के माध्यम से किया।

मैंने जानकारी भर दी, इसे अपना व्यक्तिगत विवरण दिया, और सबमिट दबाया।

जब मैं अगली सुबह उठा तो बैंक ने ऋण को मंजूरी दे दी और मुझे सूचित किया कि वे अब पैसे मेरे खाते में स्थानांतरित कर देंगे। हुर्रे।

को छोड़कर, दर 7.9% थी। मैं उम्मीद कर रहा था की तुलना में लगभग 5% अधिक है। बैंक ने कहा था कि यह 3% तक कम हो सकता है (जैसा कि उनकी वेबसाइट पर विज्ञापित है)। यह निश्चित रूप से एक क्रेडिट जाँच पर आधारित था। मेरी जानकारी के लिए, मेरा श्रेय अच्छा है। तो 7.9% क्यों?

मुझे संदेह था कि यह मेरे क्रेडिट के साथ एक मुद्दा था। इसलिए मैंने पता लगाने के लिए बैंक को फोन किया।

मुझे बताया गया था कि आवेदन केवल एक एल्गोरिथ्म में फ़ॉर्म जमा करता है और उन्हें एक दर वापस मिलती है।

“क्या आप जानते हैं कि यह दर क्यों है?”

“सॉरी सर, मैं नहीं।”

“क्या यह मेरा श्रेय है?”

“हमें आपके क्रेडिट के बारे में कोई जानकारी नहीं मिली है।”

“क्या आप देख सकते हैं?”

“नहीं, हमारे पास उस जानकारी तक पहुंच नहीं है। यह सभी एल्गोरिथ्म में है। ”

“तो आप सिर्फ एक एल्गोरिथ्म में जानकारी जमा करते हैं और यह कहते हैं कि मुझे क्या दर मिलती है?”

“हाँ।”

मैंने उन्हें ऋण रद्द करने के लिए कहा।

फिर मैं दूसरी वेबसाइट पर ऑनलाइन गया और एक और एप्लिकेशन सबमिट किया। वेबसाइट ने तुरंत मेरी स्वीकृति लौटा दी और कहा कि दर 10.9% थी। ओह।

मैंने अपने मूल बैंक में लौटने और उनके अप्रत्याशित रूप से उच्च दर को स्वीकार करने के लिए खुद को इस्तीफा दे दिया।

मैंने अपने बैंक को वापस बुलाया और उनसे पूछा कि क्या मैं रद्द किए गए ऋण को रद्द कर सकता हूं।

“नहीं, लेकिन आप फोन पर मेरे साथ दोबारा आवेदन कर सकते हैं।”

“ठीक है,” मैंने कहा, “चलो करते हैं।”

उसने फिर से मेरी जानकारी ली। “तो आपका शीर्षक क्या है,” उसने कहा। “आपके ऑनलाइन आवेदन में, आपने your प्रोफेसर’ डाला। लेकिन आपका बैंक खाता ‘डॉ।’ कहता है कि इस बैंक के सभी बैंक कार्डों में अलग-अलग नाम हैं, इसलिए यह तुच्छ नहीं है।

“इससे कोई फर्क नहीं पड़ता।”

“ठीक है, आपको एक चुनना होगा।”

“मुझे लगता है, इसलिए यह कुछ भी भ्रमित नहीं करेगा।”

उसने मेरी बाकी जानकारी ले ली, जैसा कि मैंने ऑनलाइन किया था, और एल्गोरिथ्म में अपना आवेदन प्रस्तुत किया। एक दूसरी बाद में उसने कहा, “यह 3% पर अनुमोदित किया गया है। हम आपको मेल में कागजी कार्रवाई भेजेंगे। ”

ध्यान दें कि यहाँ स्पष्ट त्रुटि काफी सरल थी। बैंक एल्गोरिथम ने मुझे बैंक के सदस्य के रूप में नहीं पहचाना, इसलिए मुझे बैंक सदस्य की दर नहीं मिली। यह मुझे पहचानने में विफल रहा क्योंकि मैंने एक अलग शीर्षक का उपयोग किया।

मैंने ‘प्रोफेसर’ को ऑनलाइन चुना था, क्योंकि मैं यही था, लेकिन मेरे बैंक खाते ने ‘डॉ’ कहा, जो कि मैं भी था। विशेष रूप से, डॉ। बिल्कुल वही है जो मैं था जब मैंने बैंक के साथ साइन अप किया था। यदि आप मेरे हैं, तो शीर्षक में अंतर किसी भी चीज़ के लिए पूरी तरह से अप्रासंगिक है। अगर बैंक ने एक नहीं माँगा, तो मैं एक नहीं रखूँगा।

एल्गोरिदम जिनके पास यह समझने के लिए कोई शब्दार्थ नहीं है कि शब्दों का क्या अर्थ है यह जानने का कोई तरीका नहीं है कि शीर्षक कितना महत्वपूर्ण है। मुझे लगता है कि अगर एल्गोरिथ्म को किसी भी तरह की जानकारी की समझ थी, तो वह अपने आप से यह कह रहा था, “99.9% यह सब कुछ जो आवेदक अपने बारे में कहता है, वह वही है जो इस व्यक्ति का हमारे साथ खाता है। सबसे महत्वपूर्ण बात, यह व्यक्तिगत दावा है कि उनका हमारे साथ एक खाता है और वे दावा करते हैं कि उनके पास एक खाता संख्या है। दरअसल, वे इस पैसे को दूसरे लड़के के बैंक खाते में भेजना चाहते हैं। शायद वे एक ही आदमी हो! ”

लेकिन एल्गोरिथ्म ने ऐसा नहीं किया। इसने शीर्षक में एक अंतर को पूर्ण अंतर के रूप में बराबर किया। यदि मेरे आश्रितों की संख्या में परिवर्तन हुआ तो क्या वह ऐसा ही कर सकता है? या अगर मेरा साथी बदल गया? उन लोगों के बारे में जो अपना अंतिम नाम, अपना लिंग या कभी-कभी बदलते हैं, लेकिन हमेशा जूनियर जैसे प्रत्ययों को शामिल नहीं करते हैं? यदि मैं हाल ही में स्थानांतरित हुआ या गलत तरीके से अपना पता इनपुट करूं तो क्या होगा? एक टाइपो का संभावित प्रभाव क्या है? इस मामले में, त्रुटि $ 100 प्रति 1000 उधार के लायक थी।

ध्यान दें कि एल्गोरिथ्म, फोन पर मेरे साथ बात करने वाले व्यक्ति के लिए अपनी गलती को उजागर नहीं करके, उस व्यक्ति को बेवकूफ बनाकर मुझे एक शीर्षक के लिए पूछने के लिए मजबूर करता है जो मुझे गलत पहचान देगा, भले ही वह पहले से ही जानता था कि मैं कौन था।

यह कहना आसान है कि यह मेरी गलती थी। जाहिर है, यह मेरी गलती थी। इसके चेहरे पर, मैं एकमात्र व्यक्ति हूं जो परिणाम बदलने के लिए अलग तरह से काम कर सकता था।

एक तर्क हो सकता है कि यह एल्गोरिदम के प्रोग्रामर थे जिन्होंने एल्गोरिथ्म को देखने में असमर्थ बना दिया था जो किसी भी मानव को स्पष्ट रूप से देख सकता था। लेकिन यह एक एल्गोरिथम से बहुत अधिक उम्मीद कर रहा है। क्या एल्गोरिथ्म एक व्यक्तिपरक निर्णय लेने में सक्षम होना चाहिए कि क्या दो संभावित अलग-अलग लोग समान हैं? अगर वे नहीं हैं तो क्या होगा?

शायद एल्गोरिथ्म को यह सूंघने में सक्षम होना चाहिए कि कुछ गड़बड़ है और कुछ और प्रश्न पूछें। स्पष्ट रूप से, हम अभी तक वहां नहीं हैं।

वास्तव में समस्या यह नहीं है कि गलती किसकी है। असली समस्या यह है कि हम खुद को एल्गोरिदम की कमियों के बारे में कैसे सिखाएंगे। पिछले लेख में, मैंने एल्गोरिदम के मानसिक स्वास्थ्य के बारे में लिखा था। इस बैंक लोन एल्गोरिथ्म की हरकतों से उस लेख में एक हास्यप्रद फुटनोट जुड़ जाता है।

यह मुझे लुरिया की पुस्तक, “द माइंड ऑफ़ ए मॉमनिस्ट” में शेरेशेव्स्की नामक व्यक्ति की याद दिलाता है। Shereshevsky के पास एक संपूर्ण स्मृति थी। वह संख्याओं और नामों को याद कर सकते थे और उनके जीवन के विशिष्ट दिनों में क्या हो रहा था। लेकिन उनकी याददाश्त के कारण उन्हें लोगों की पहचान करने में भी परेशानी हुई। उन्होंने सब कुछ इतनी अच्छी तरह से याद किया कि अगर वह एक ऐसे व्यक्ति से मिले, जिसकी अभिव्यक्ति अलग थी, वे एक नए व्यक्ति बन गए। शेरशेवस्की को फेंकने के लिए अभिव्यक्ति में एक साधारण बदलाव पर्याप्त था। शेरशेवस्की सामान्यीकरण नहीं कर सका।

बैंक एल्गोरिथ्म भी सामान्य नहीं कर सका। यह उस चीज के लिए अंधा था जिसे ज्यादातर लोग स्पष्ट समझेंगे। फिर भी, यह एल्गोरिथ्म एक और उदाहरण में सामान्य कर सकता है। एल्गोरिथ्म को स्पष्ट रूप से मेरी जानकारी में लेने के लिए और मेरे जैसे अन्य व्यक्तियों के ऋण चुकाने के लिए उस जानकारी को सामान्य करने के लिए प्रोग्राम किया गया है, इसलिए यह मेरे जैसे अन्य लोगों पर बैंक द्वारा लिए गए जोखिमों के आधार पर मेरे जोखिम के स्तर का पता लगा सकता है।

क्योंकि एल्गोरिथ्म मेरी पहचान के अन्य उदाहरणों के लिए मेरी पहचान को सामान्य नहीं कर सका, इसने मुझे दो अलग-अलग लोगों की तरह प्रभावी ढंग से व्यवहार किया। यह एक कम्प्यूटेशनल शेरशेव्स्की था, एक ऐसे व्यक्ति का इलाज करता था जो मुस्कुराता है और बाद में विभिन्न व्यक्तियों के रूप में डूब जाता है।

मेरी स्थिति बहुत सौम्य है, लेकिन मुझे संदेह है कि हमेशा ऐसा ही होता है। एल्गोरिदम बीमा, चिकित्सा उपचार के बारे में निर्णय लेते हैं, और क्या कोई संकेत स्टॉप साइन या 50 मील प्रति घंटे का संकेत है। यह लगभग तय है कि सैन्य रोबोट मित्र राष्ट्रों को लक्ष्यों से गलत पहचान देंगे और वे पहले से ही हैं। एल्गोरिदम को तेजी से महत्वपूर्ण भूमिकाओं में रखा जा रहा है, जहां न केवल पैसा बल्कि जीवन और स्वास्थ्य लाइन पर हैं।

कई उदाहरणों में, एल्गोरिदम मनुष्यों की तुलना में कम त्रुटि वाले हैं। लेकिन त्रुटियां सिर्फ कम नहीं हैं, वे अलग हैं। और इस तरह के संपार्श्विक नुकसान को बदलने की संभावना है जो हमें उनके उपयोग से उम्मीद करनी चाहिए। इससे भी बदतर, एक एल्गोरिथ्म के साथ बहस करना बेहद मुश्किल है क्योंकि कम ही लोग जानते हैं कि एल्गोरिथ्म क्या कर रहा है। शायद सबसे कम, एल्गोरिथम ही! कुछ मामलों में, एक भी व्यक्ति नहीं हो सकता है जो एल्गोरिथ्म के पूर्ण कामकाज को समझता है। फिर इसे बदलना, सुधारना, और यह पता लगाना मुश्किल हो जाता है कि यह कहाँ गलत है।

थॉमस हिल्स ट्विटर पर