Mobile & Gadgets

Google, Microsoft, IBM, More Tech Giants Slam Ethics Brakes on AI

पिछले साल सितंबर में, Google की क्लाउड यूनिट ने एक वित्तीय फर्म को यह तय करने में मदद करने के लिए कृत्रिम बुद्धि का उपयोग करने पर ध्यान दिया कि किसे पैसा उधार देना है। इसने कई हफ्तों की आंतरिक चर्चा के बाद ग्राहक के विचार को ठुकरा दिया, इस परियोजना को नैतिक रूप से बहुत मुश्किल माना क्योंकि एआई तकनीक नस्ल और लिंग के आसपास के पूर्वाग्रहों को कायम रख सकती है।

पिछले साल की शुरुआत से, गूगल सांस्कृतिक असंवेदनशीलता के डर से भावनाओं का विश्लेषण करने वाली नई एआई सुविधाओं को भी अवरुद्ध कर दिया है, जबकि माइक्रोसॉफ्ट प्रतिबंधित सॉफ़्टवेयर आवाज़ों की नकल करता है और आईबीएम एक उन्नत चेहरे की पहचान प्रणाली के लिए एक ग्राहक के अनुरोध को अस्वीकार कर दिया।

तीन अमेरिकी प्रौद्योगिकी दिग्गजों में एआई नैतिकता प्रमुखों के साथ साक्षात्कार के अनुसार, इन सभी तकनीकों पर अधिकारियों या अन्य नेताओं के पैनल द्वारा अंकुश लगाया गया था।

पहली बार यहां रिपोर्ट की गई, उनके वीटो और विचार-विमर्श जिसके कारण वे सामाजिक जिम्मेदारी के अधिक विचार के साथ आकर्षक एआई सिस्टम की खोज को संतुलित करने के लिए एक नवजात उद्योग-व्यापी अभियान को दर्शाते हैं।

“अवसर और नुकसान हैं, और हमारा काम अवसरों को अधिकतम करना और नुकसान को कम करना है,” ट्रेसी पिज्जो फ्रे ने कहा, जो दो नैतिकता समितियों में बैठता है गूगल क्लाउड जिम्मेदार एआई के लिए इसके प्रबंध निदेशक के रूप में।

निर्णय कठिन हो सकते हैं।

उदाहरण के लिए, Microsoft को राजनीतिक डीपफेक को सक्षम करने जैसे जोखिमों के खिलाफ बिगड़ा हुआ लोगों के भाषण को बहाल करने के लिए अपनी वॉयस मिमिक्री तकनीक का उपयोग करने के लाभ को संतुलित करना था, कंपनी के मुख्य जिम्मेदार एआई अधिकारी नताशा क्रैम्पटन ने कहा।

अधिकार कार्यकर्ताओं का कहना है कि समाज के लिए संभावित व्यापक परिणामों वाले निर्णय आंतरिक रूप से अकेले नहीं किए जाने चाहिए। उनका तर्क है कि नैतिकता समितियां वास्तव में स्वतंत्र नहीं हो सकती हैं और उनकी सार्वजनिक पारदर्शिता प्रतिस्पर्धी दबावों से सीमित है।

यूरोप के लिए सिविल लिबर्टीज यूनियन में वकालत अधिकारी, जस्चा गलास्की, बाहरी निरीक्षण को आगे बढ़ने के तरीके के रूप में देखते हैं, और अमेरिका और यूरोपीय अधिकारी वास्तव में नवेली क्षेत्र के लिए नियम बना रहे हैं।

अगर कंपनियों की एआई नैतिकता समितियां “वास्तव में पारदर्शी और स्वतंत्र हो जाती हैं – और यह सब बहुत ही आदर्शवादी है – तो यह किसी भी अन्य समाधान से भी बेहतर हो सकता है, लेकिन मुझे नहीं लगता कि यह यथार्थवादी है,” गैलास्की ने कहा।

कंपनियों ने कहा कि वे एआई के उपयोग पर स्पष्ट विनियमन का स्वागत करेंगे, और यह कार सुरक्षा नियमों के समान ग्राहक और जनता के विश्वास दोनों के लिए आवश्यक था। उन्होंने कहा कि जिम्मेदारी से काम करना उनके वित्तीय हित में भी है।

हालांकि, वे चाहते हैं कि कोई भी नियम इतना लचीला हो कि वह नवोन्मेष और इससे पैदा होने वाली नई दुविधाओं के साथ तालमेल बिठा सके।

आने वाले जटिल विचारों के बीच, आईबीएम ने रॉयटर्स को बताया कि उसके एआई एथिक्स बोर्ड ने इस बात पर चर्चा शुरू कर दी है कि कैसे पुलिस एक उभरती हुई सीमा: प्रत्यारोपण और पहनने योग्य है जो कंप्यूटर को दिमाग तक पहुंचाती है।

आईबीएम की मुख्य गोपनीयता अधिकारी क्रिस्टीना मोंटगोमरी ने कहा कि इस तरह की न्यूरोटेक्नोलॉजी बिगड़ा हुआ लोगों को आंदोलन को नियंत्रित करने में मदद कर सकती है, लेकिन हैकर्स द्वारा विचारों में हेरफेर करने की संभावना जैसी चिंताएं बढ़ा सकती हैं।

AI देख सकता है आपका दुख

टेक कंपनियां स्वीकार करती हैं कि सिर्फ पांच साल पहले वे कुछ नैतिक सुरक्षा उपायों के साथ चैटबॉट और फोटो-टैगिंग जैसी एआई सेवाएं शुरू कर रही थीं, और बाद के अपडेट के साथ दुरुपयोग या पक्षपातपूर्ण परिणामों से निपट रही थीं।

लेकिन जैसे-जैसे AI विफलताओं की राजनीतिक और सार्वजनिक जांच बढ़ी, 2017 में Microsoft और 2018 में Google और IBM ने नई सेवाओं की शुरुआत से ही समीक्षा करने के लिए नैतिकता समितियों की स्थापना की।

Google ने कहा कि उसे पिछले सितंबर में अपने पैसे उधार देने की समस्या के साथ प्रस्तुत किया गया था जब एक वित्तीय सेवा कंपनी ने सोचा था कि एआई अन्य तरीकों की तुलना में लोगों की साख का बेहतर आकलन कर सकता है।

यह परियोजना Google क्लाउड के लिए अच्छी तरह से अनुकूल दिखाई दी, जिसकी AI उपकरण विकसित करने में विशेषज्ञता है जो असामान्य लेनदेन का पता लगाने जैसे क्षेत्रों में मदद करती है, ने ड्यूश बैंक, HSBC और BNY मेलन जैसे ग्राहकों को आकर्षित किया है।

Google की इकाई प्रत्याशित AI- आधारित क्रेडिट स्कोरिंग एक वर्ष में अरबों डॉलर का बाजार बन सकती है और एक पैर जमाना चाहती है।

हालांकि, संभावित सौदों की समीक्षा करने वाले लगभग 20 प्रबंधकों, सामाजिक वैज्ञानिकों और इंजीनियरों की इसकी नैतिक समिति ने अक्टूबर की बैठक में परियोजना के खिलाफ सर्वसम्मति से मतदान किया, पिज्जो फ्रे ने कहा।

एआई सिस्टम को पिछले डेटा और पैटर्न से सीखने की आवश्यकता होगी, समिति ने निष्कर्ष निकाला, और इस तरह रंग और अन्य हाशिए वाले समूहों के लोगों के खिलाफ दुनिया भर से भेदभावपूर्ण प्रथाओं को दोहराने का जोखिम उठाया।

इसके अलावा, समिति, जिसे आंतरिक रूप से “लेमोनाइड” के रूप में जाना जाता है, ने साख से संबंधित सभी वित्तीय सेवाओं के सौदों को छोड़ने के लिए एक नीति बनाई, जब तक कि ऐसी चिंताओं का समाधान नहीं किया जा सकता।

लेमोनैड ने पिछले वर्ष में इसी तरह के तीन प्रस्तावों को खारिज कर दिया था, जिसमें एक क्रेडिट कार्ड कंपनी और एक व्यापार ऋणदाता शामिल थे, और पिज्जो फ्रे और बिक्री में उनके समकक्ष इस मुद्दे पर एक व्यापक निर्णय के लिए उत्सुक थे।

Google ने यह भी कहा कि उसकी दूसरी क्लाउड एथिक्स कमेटी, जिसे आइस्ड टी के नाम से जाना जाता है, ने इस साल 2015 में जारी एक सेवा की समीक्षा की, जिसमें लोगों की तस्वीरों को चार भावों द्वारा वर्गीकृत किया गया: खुशी, दुःख, क्रोध और आश्चर्य।

यह कदम पिछले साल Google के कंपनी-व्यापी नैतिकता पैनल, उन्नत प्रौद्योगिकी समीक्षा परिषद (एटीआरसी) द्वारा पढ़ने की भावना से संबंधित नई सेवाओं को वापस लेने के फैसले के बाद उठाया गया था।

एटीआरसी – एक दर्जन से अधिक शीर्ष अधिकारियों और इंजीनियरों – ने निर्धारित किया कि भावनाओं को इंगित करना असंवेदनशील हो सकता है क्योंकि चेहरे के संकेत अलग-अलग संस्कृतियों में भावनाओं के साथ जुड़े हुए हैं, अन्य कारणों से, जेन गेनेई, Google की जिम्मेदार नवाचार टीम के संस्थापक और प्रमुख ने कहा।

आइस्ड टी ने शर्मिंदगी और संतोष सहित क्लाउड टूल के लिए 13 नियोजित भावनाओं को अवरुद्ध कर दिया है, और जल्द ही एक नई प्रणाली के पक्ष में सेवा को पूरी तरह से छोड़ सकता है जो कि उनकी व्याख्या करने की कोशिश किए बिना, भौंकने और मुस्कुराने जैसे आंदोलनों का वर्णन करेगा, गेनेई और पिज्जो फ्रे कहा।

आवाज़ें और चेहरे

इस बीच, माइक्रोसॉफ्ट ने सॉफ्टवेयर विकसित किया जो एक छोटे नमूने से किसी की आवाज को पुन: पेश कर सकता है, लेकिन कंपनी के संवेदनशील उपयोग पैनल ने इसके उपयोग के बारे में नैतिकता पर बहस करते हुए दो साल से अधिक समय बिताया और कंपनी के अध्यक्ष ब्रैड स्मिथ से परामर्श किया, वरिष्ठ एआई अधिकारी क्रैम्पटन ने रायटर को बताया।

उन्होंने कहा कि पैनल – मानवाधिकार, डेटा विज्ञान और इंजीनियरिंग जैसे क्षेत्रों के विशेषज्ञ – ने अंततः इस साल फरवरी में कस्टम न्यूरल वॉयस को पूरी तरह से रिलीज़ करने के लिए हरी बत्ती दी। लेकिन इसने इसके उपयोग पर प्रतिबंध लगा दिया, जिसमें विषयों की सहमति सत्यापित है और कॉर्पोरेट नीति पर प्रशिक्षित “जिम्मेदार एआई चैंप्स” वाली एक टीम खरीद को मंजूरी देती है।

आईबीएम के एआई बोर्ड, जिसमें लगभग 20 विभाग के नेता शामिल थे, की शुरुआत में अपनी ही दुविधा से जूझ रहे थे COVID-19 महामारी ने बुखार और चेहरे को ढंकने के लिए चेहरे की पहचान तकनीक को अनुकूलित करने के लिए ग्राहक के अनुरोध की जांच की।

मोंटगोमरी ने कहा कि बोर्ड, जिसके वह सह-अध्यक्ष हैं, ने निमंत्रण को अस्वीकार कर दिया, यह निष्कर्ष निकाला कि गोपनीयता पर कम घुसपैठ के साथ मैन्युअल जांच पर्याप्त होगी क्योंकि किसी भी एआई डेटाबेस के लिए फ़ोटो को बरकरार नहीं रखा जाएगा।

छह महीने बाद, आईबीएम ने घोषणा की कि वह अपनी चेहरा-पहचान सेवा बंद कर रहा है।

अधूरी महत्वाकांक्षाएं

गोपनीयता और अन्य स्वतंत्रताओं की रक्षा करने के प्रयास में, यूरोपीय संघ और संयुक्त राज्य अमेरिका में कानून निर्माता एआई सिस्टम पर दूरगामी नियंत्रण कर रहे हैं।

यूरोपीय संघ का आर्टिफिशियल इंटेलिजेंस एक्ट, अगले साल पारित होने की राह पर, सार्वजनिक स्थानों पर वास्तविक समय में चेहरे की पहचान को रोक देगा और तकनीकी कंपनियों को उच्च-जोखिम वाले अनुप्रयोगों की आवश्यकता होगी, जैसे कि हायरिंग, क्रेडिट स्कोरिंग और कानून प्रवर्तन में उपयोग किए जाने वाले।

अमेरिकी कांग्रेसी बिल फोस्टर, जिन्होंने वित्तीय सेवाओं और आवास में भेदभाव को आगे बढ़ाने वाले एल्गोरिदम पर सुनवाई की है, ने कहा कि एआई को नियंत्रित करने के लिए नए कानून विक्रेताओं के लिए एक समान क्षेत्र सुनिश्चित करेंगे।

“जब आप किसी कंपनी को सामाजिक लक्ष्यों को पूरा करने के लिए मुनाफे में हिट लेने के लिए कहते हैं, तो वे कहते हैं, ‘हमारे शेयरधारकों और हमारे प्रतिस्पर्धियों के बारे में क्या?’ इसलिए आपको परिष्कृत विनियमन की आवश्यकता है,” इलिनोइस के डेमोक्रेट ने कहा।

“ऐसे क्षेत्र हो सकते हैं जो इतने संवेदनशील हैं कि आप तकनीकी फर्मों को जानबूझकर बाहर रहते हुए देखेंगे जब तक कि सड़क के स्पष्ट नियम न हों।”

वास्तव में कुछ एआई अग्रिम केवल तब तक रोके जा सकते हैं जब तक कि कंपनियां भारी इंजीनियरिंग संसाधनों को समर्पित किए बिना नैतिक जोखिमों का मुकाबला नहीं कर सकतीं।

पिछले अक्टूबर में Google क्लाउड ने कस्टम वित्तीय AI के अनुरोध को ठुकरा दिया, लेमोनाइड समिति ने बिक्री टीम को बताया कि इकाई का लक्ष्य किसी दिन क्रेडिट-संबंधित एप्लिकेशन विकसित करना शुरू करना है।

सबसे पहले, अनुचित पूर्वाग्रहों से निपटने में अनुसंधान को “अत्यधिक संवेदनशील” तकनीक के माध्यम से वित्तीय समावेशन बढ़ाने के लिए Google क्लाउड की महत्वाकांक्षाओं को पूरा करना चाहिए, यह कर्मचारियों को परिचालित नीति में कहा गया है।

“उस समय तक, हम समाधान तैनात करने की स्थिति में नहीं हैं।”

© थॉमसन रॉयटर्स 2021


.

source

Related Articles

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button
DMCA.com Protection Status