अमेजन ने पुलिस पर फेशियल रिकग्निशन सॉफ्टवेयर के इस्तेमाल पर एक साल का प्रतिबंध लगाया, अश्वेत की मौत के बाद विवादों में आई तकनीक


  • कंपनी ने कहा कि उन संगठनों को सॉफ्टवेयर के इस्तेमाल की अनुमति होगी, जो मानव तस्करी से निपटने के लिए इसका उपयोग करते हैं
  • स्टडी में सामने आया कि अधिकांश एल्गोरिदम गोरो की तुलना में काले लोगों और अल्पसंख्यकों के चेहरे की गलत पहचान करती है

दैनिक भास्कर

Jun 11, 2020, 12:54 PM IST

न्यूयॉर्क. अमेजन ने पुलिस पर फेशियल रिकग्निशन सॉफ्टवेयर के इस्तेमाल पर एक साल का बैन लगा दिया है। एक सिविल राइट्स एडवोकेट ने सर्विलांस टेक्नोलॉजी में संभावित नस्लीय पक्षपात के बारे में चिंता जताई थी। 
इससे पहले आईबीएम भी अपने “मास सर्विलांस या नस्लीय प्रोफाइलिंग” के लिए अपने फेशियल रिकग्निशन सॉफ्टवेयर के इस तरह के इस्तेमाल पर रोक लगा चुकी है। 25 मई को पुलिस हिरासत में हुई जॉर्ज फ्लॉयड की मौत पर कंपनी पर प्रतिक्रिया देने के बढ़ते दबाव के बाद यह फैसला लिया गया।

मानव तस्करी को रोकने के लिए टेक्नोलॉजी का इस्तेमाल जारी रहेगा- अमेजन

  • अमेजन ने कहा कि उसके रिकग्निशन सॉफ्टवेयर के लॉ इंफोर्समेंट यूज को सस्पेंड करना अमेरिकी सांसदों को कानून बनाने का मौका देना था, ताकि यह पता लगाया जा सके कि तकनीक कैसे काम करती है।
  • अमेजन ने एक बयान में कहा, “हमने इस बात की वकालत की है कि सरकारों को चेहरे की पहचान करने की तकनीक के नैतिक उपयोग को नियंत्रित करने के लिए मजबूत नियमों को लागू करना चाहिए और हाल के दिनों में कांग्रेस इस चुनौती को लेने के लिए तैयार है।”
  • “हम आशा करते हैं कि यह एक साल की मोहलत कांग्रेस को उचित नियम लागू करने के लिए पर्याप्त समय दे सकती है, और हम अनुरोध किए जाने पर मदद के लिए तैयार हैं।” हालांकि, कंपनी ने कहा कि यह अभी भी उन संगठनों को इस सॉफ्टवेयर के इस्तेमाल की अनुमति होगी, जो मानव तस्करी से निपटने के लिए टेक्नोलॉजी का उपयोग करते हैं।

पहले भी कई बार तकनीक पर उठ चुके हैं सवाल

  • अन्य फेशियल रिकग्निशन प्रोडक्ट्स की तरह, अमेजन के रिकग्निशन सॉफ्टवेयर आर्टिफिशियल इंटेलिजेंस (एआई) का उपयोग बहुत तेजी से एक तस्वीर की तुलना करने के लिए करता है।
  • लेकिन संभावित पक्षपात पर कुछ समय के लिए फेशियल रिकग्निशन टेक्नोलॉजी की आलोचना की गई थी। स्टडी से पता चलता है कि अधिकांश एल्गोरिदम सफेद लोगों की तुलना में काले लोगों और अन्य अल्पसंख्यकों के चेहरे की गलत पहचान करती है। इससे पहले अमेजन ने पक्षपात के आरोपों के खिलाफ रिकग्निशन तकनीक का बचाव किया है, जबकि इसे लॉ इंफोर्समेंट एजेंसियों के लिए जारी रखा गया था।

जॉर्ज फ्लॉयड की मौत के बाद सॉफ्टवेयर आलोचना हुई

  • एक अफ्रीकी अमेरिकी व्यक्ति जॉर्ज फ्लॉयड की पुलिस हिरासत में मौत के बाद पुलिस की कार्यनीति के साथ लॉ इंफोर्समेंट के लिए इस टेक्नोलॉजी को गहन जांच के दायरे में लाकर खड़ा कर दिया है। इस हफ्ते की शुरुआत में आईबीएम ने कहा था कि वह अब अपनी फेशियल रिकग्निशन तकनीक को जारी नहीं रखेगी क्योंकि लॉ इंफोर्समेंट में इस्तेमाल होने वाले एआई सिस्टम को पक्षपात के लिए जांचने की जरूरत है। 
  • कांग्रेस को एक पत्र में, आईबीएम के मुख्य कार्यकारी अधिकारी अरविंद कृष्णा ने कहा कि “नस्लवाद के खिलाफ लड़ाई हमेशा की तरह जरूरी है”, और तीन क्षेत्रों को निर्धारित किया जहां कंपनी कांग्रेस के साथ काम करना चाहती थी: पुलिस सुधार, तकनीक का जिम्मेदार उपयोग, और कौशल को व्यापक बनाना और शिक्षा के अवसर।

कानून के लिए

  • हाल के महीनों में कांग्रेस तकनीक के संभावित कानून का आंकलन कर रही है क्योंकि सांसदों, कंपनियों और नागरिक स्वतंत्रता कार्यकर्ताओं ने सर्विलांस सॉफ्टवेयर के मजबूत विनियमन के लिए कहा है।
  • हाउस डेमोक्रेट्स ने सोमवार को एक पुलिस सुधार बिल पेश किया जो फेडरल लॉ इंफोर्समेंट को रियल टाइम फेस रिकग्निशन के उपयोग पर रोक लगाएगा, लेकिन कुछ कार्यकर्ताओं ने कहा कि उपाय लंबे समय तक नहीं टिक पाएगा।
  • अमेरिकन सिविल लिबर्टीज यूनियन ने कहा कि पुलिस बॉडी कैमरा फुटेज पर चेहरे की पहचान के सभी उपयोग पर प्रतिबंध लगाया जाना चाहिए और स्थानीय लॉ इंफोर्समेंट एजेंसियों के लिए फेडरल फंडिंग को प्रतिबंधित किया जाना चाहिए, जो उसी तरह से टेक्नोलॉजी के उपयोग को प्रतिबंधित नहीं करते हैं।

25 मई को फ्लॉयड की मौत हुई थी
मिनेसोटा राज्य की मिनेपोलिस शहर की पुलिस ने 25 मई को फ्लॉयड को धोखाधड़ी के आरोप में पकड़ा था। इस दौरान पुलिस अधिकारियों ने उन्हें हथकड़ी पहनाई और जमीन पर उल्टा लिटाकर उसकी गर्दन को घुटने से करीब 9 मिनट तक दबाए रखा। इससे जॉर्ज की सांसें रुक गईं और मौत हो गई। घटना का वीडियो वायरल होते ही प्रदर्शन शुरू हो गए।



Source link

Be the first to comment

Leave a Reply