>> नीलांबरी जोशी
टिमनिट गेबरू या कृष्णवर्णीय संशोधक महिलेला ‘गुगल’ने नुकतंच काढून टाकलं. कृत्रिम बुद्धिमत्ता आणि नैतिकता यावर संशोधन करताना कृष्णवर्णीयांबाबत होत असलेला वर्णभेद यानिमित्ताने जगासमोर आणला गेला. अर्थातच याआधीही जागतिक पातळीवर होत असलेल्या वर्णभेदाची अनेक उदाहरणं आपल्याला ज्ञात आहेत. अशा अनेक उदाहरणांत वर्णभेदाला खतपाणी घालणारे अॅपही दिसून येतात. आता टिमनिटच्या बाजूने उभे राहत गुगलमधील 1200 कर्मचारी आणि 1500 संशोधक पत्र लिहून आपला निषेध नोंदवत आहेत.
विज्ञानाचा लेप चढवून वर्णभेद
असंख्य माणसांवर अनेक प्रयोग करून त्यावर विज्ञानाचा लेप चढवून वंश,वर्णभेद कसा खरा आहे हे या वैज्ञानिकांना दाखवून द्यायचं असतं. अगदी आज कृत्रिम बुद्धिमत्ता वापरताना जे अल्गॉरिदम्स लिहिले जातात त्यातही अल्गॉरिदम्स लिहायला जो डेटा कुरवला जातो तोच पूर्वग्रहदूषित दृष्टिकोनातून कुरवला जाऊ शकतो. याच कारणानं फेसअॅपसारख्या कोणत्याही तंत्रज्ञानाचं मूल्यमापन त्याचा उपयोग आणि ते तयार करण्यामागचा त्याच्या निर्मात्याचा हेतू यावर करायला हवं! थोडक्यात All animals are equal, some are more equal than others असं वंशभेदावर आधारित तत्त्वज्ञान रुजवायला शास्त्रज्ञच अनेकदा मदत करतात. याच धर्तीचे विचार ‘सुपिरिअर’ या कुस्तकात अॅजेला सैनी हिनं मांडले आहेत. ‘फॉलो द मनी’ असा सल्ला इनव्हेस्टिगेटिव्ह पत्रकारितेमधल्या गाजलेल्या ‘ऑल द प्रेसिडेंटस मेन’ या चित्रपटातली एक व्यक्तिरेखा (डीप थ्रोट) देते. तशाच प्रकारे वर्णभेदाचा मागोवा घ्यायचा असेल तर सत्तेचं समीकरण समजावून घ्यावं लागेल असा सल्ला अॅजेला सैनीनं आपल्या कुस्तकात दिला आहे. सत्तेसाठी वाटेल ते चाललेलं समोर दिसत असताना तो सल्ला योग्यच वाटतो.
‘गुगल’मध्ये 1200 कर्मचारी आणि 1500 संशोधक सध्या एका महत्त्वाच्या प्रकरणाविरुद्ध आवाज उठवतायत. ते प्रकरण कोणतं? तर कृत्रिम बुद्धिमत्ता आणि नैतिकता यावर संशोधन करणाऱया टिमनिट गेबरू या कृष्णवर्णीय महिलेला गुगलने नुकतेच काढून टाकले. गुगलच्या ‘एथिक्स एआय’ (Ethics Artificial Intelligence) टीमची टिमनिट लीडर आहे. ‘कृष्णवर्णीय लोकांबाबत एआयमधलं संशोधन कसा भेदभाव करीत आहे’ हे सांगणारे एक ईमेल लिहिल्याबद्दल तिला काढून टाकले, असे टिमनिटने स्वतः ट्विटरवर लिहिले होते.
‘2018 सालच्या एका शोधनिबंधात ‘चेहरे ओळखणाऱया एका अॅपनं कृष्णवर्णीय लोकांचे चेहरे माणूस म्हणून ओळखायलाच नकार दिला, कारण त्या अॅपला फक्त गोरे चेहरे ओळखायची सवय लावली होती’ अशा अर्थाचा आरोप टिमनिटनं आणि तिच्या सहसंशोधिकेनं केला होता. या अॅपसाठी संशोधन करताना त्या अॅपनं गोऱया कुरुषांचे चेहरे ओळखताना चूक केल्याचं प्रमाण 0.8 टक्के होतं. मात्र कृष्णवर्णीय स्रियांचे चेहरे ओळखताना तेच अॅप 20 ते 34 टक्के चूक करत होतं. तिकडे संशोधकांनी कानाडोळा केला. हे टिमनिटनं उघडकीला आणलं होतं. या शोधनिबंधाचा गुगलशी काहीच संबंध नव्हता. पण नोव्हेंबर 2020मध्ये या शोधनिबंधातलं आपलं नाव तिनं काढून टाकावं असं फर्मान टिमनिटला गुगलने सोडले. त्यावर बऱयाच उलथापालथी झाल्या आणि गुगलनं टिमनिटला घरी पाठविले. नंतर तिनेच राजीनामा दिला असा स्टॅण्डही घेतला. आता टिमनिटसंदर्भात गुगलमधे 1200 कर्मचारी आणि 1500 संशोधक एक पत्र लिहून आपला निषेध नोंदवत आहेत.
अर्थात कृत्रिम बुद्धिमत्तेचा असा अनैतिक वापर नवीन नाही. त्याचं एक उदाहरण मागच्याच वर्षी फेसबुकवर घडलं होतं. ‘फेसअॅप वापरा आणि तुम्ही वयस्कर झाल्यावर कसे दिसता ते पहा.’ असं एक प्रकरण फेसबुकवर झळकलं. त्या फेसअॅपचा वापर जुलै 2020मध्ये 1.2 कोटी लोकांनी केला होता. हे अॅप रशियन कंपनीनं तयार केलं होतं आणि आपला डेटा या पंपनीला वापरायला अनिर्बंधपणे परवानगी होती ही त्याची एक बाजू झाली. पण 2017 साली याच अॅपनं एशियन, ब्लॅक, इंडियन किंवा व्हाइट असे चार फिल्टर्स आपल्या फोटोतल्या चेहऱयाला लावायची सोय कुरवली होती. यावरून वर्णभेदाला खतपाणी घालणारं अॅप अशी या अॅपची चिक्कार बदनामी झाली होती. अर्थात चेहरा, फिल्टर्स आणि अॅप्स यांनी वर्णभेद केल्याचं हे पहिलं उदाहरण नक्कीच नाही.
2015 साली गाजावाजा करून बाजारात आलेली गुगलची कृत्रिम बुद्धिमत्तेवर (आर्टिफिशियल इंटेलिजन्स) आधारित ‘फेशियल रेकग्निशन सिस्टीम’ असाच भेद करत होती. ही सिस्टीम अमेरिकेतल्या कॉकेशियन लोकांचे चेहरे जितक्या चांगल्या प्रमाणात ओळखू शकत होती तितक्या प्रमाणात आफ्रिकन अमेरिकन लोकांचे चेहरे ओळखू शकत नव्हती. त्यांनी ती चूक पटकन दुरुस्त केली. पण तोपर्यंत विनासायास ती आधीची सिस्टीम वापरात आली होती. 2010 सालच्या एका मोजणीनुसार अमेरिकेतले 72.4 टक्के लोक कॉकेशियन म्हणजे आजच्या रूढार्थानं गोरे आहेत. त्यांच्याच उपयोगाला या सिस्टीमध्ये महत्त्व दिलं गेलं होतं.
नैतिकतेच्या दृष्टिकोनातून पाहायला गेलं तर गुगलची जी सिस्टीम सर्व माणसांचे चेहरे ओळखण्याला समान न्याय देऊ शकत नाही ती वापरात यायलाच नको होती. डिजिटल पंपन्यांची बाजारपेठ जगभर विखुरलेली आहे हा विचार केला तर आपल्या बाजारपेठेसाठी तरी त्यांनी सर्वसमावेशक सिस्टीम सुरू करायला हवी होती. वर्णभेदाबाबत अजून थोडं मागे गेलं तर पोलॅरॉईड कंपनीनं 1960 साली बाजारात आणलेला नवीन कॅमेरा सावळ्या रंगाच्या माणसांचे फोटो उत्कृष्ट दर्जाचे काढायचा. हे वरवर जरी स्वागतार्ह वाटलं तरी या कॅमेऱयामागचा हेतू साऊथ आफ्रिकेतल्या कृष्णवर्णीय लोकांना जे ओळखपत्र कायम बाळगावं लागायचं त्याच्यासाठी फोटो काढणं हा होता. नेल्सन मंडेला यांनी हे ओळखपत्र बाळगण्याच्या जाचक अटीविरुध्द जोहान्सबर्गजवळच्या एका गावात 21 मार्च 1960 रोजी आपलं ओळखपत्र जाळून एक आंदोलन छेडलं होतं. यानंतरच्या पोलिसांनी केलेल्या गोळीबारात कित्येक लोक ठार झाले होते. आज सहा दशकांनंतरही हा प्रकार दुर्दैवाने कमी-अधिक प्रमाणात, प्रत्यक्ष-अप्रत्यक्षपणे सुरूच आहे. कृत्रिम बुद्धिमत्तेचा वापर करतानाही वर्णभेदाचे खुळ वैज्ञानिकांच्याही डोक्यातून जात नसेल तर कसे होणार? झाली होती. अर्थात चेहरा, फिल्टर्स आणि अॅप्स यांनी वर्णभेद केल्याचं हे पहिलं उदाहरण नक्कीच नाही. 2015 साली गाजावाजा करून बाजारात आलेली गुगलची कृत्रिम बुद्धिमत्तेवर (आर्टिफिशियल इंटेलिजन्स) आधारित ‘फेशियल रेकग्निशन सिस्टीम’ असाच भेद करत होती. ही सिस्टीम अमेरिकेतल्या कॉकेशियन लोकांचे चेहरे जितक्या चांगल्या प्रमाणात ओळखू शकत होती तितक्या प्रमाणात आफ्रिकन अमेरिकन लोकांचे चेहरे ओळखू शकत नव्हती. त्यांनी ती चूक पटकन दुरुस्त केली. पण तोपर्यंत विनासायास ती आधीची सिस्टीम वापरात आली होती. 2010 सालच्या एका मोजणीनुसार अमेरिकेतले 72.4 टक्के लोक कॉकेशियन म्हणजे आजच्या रूढार्थानं गोरे आहेत. त्यांच्याच उपयोगाला या सिस्टीमध्ये महत्त्व दिलं गेलं होतं.
नैतिकतेच्या दृष्टिकोनातून पाहायला गेलं तर गुगलची जी सिस्टीम सर्व माणसांचे चेहरे ओळखण्याला समान न्याय देऊ शकत नाही ती वापरात यायलाच नको होती. डिजिटल कंपन्यांची बाजारपेठ जगभर विखुरलेली आहे हा विचार केला तर आपल्या बाजारपेठेसाठी तरी त्यांनी सर्वसमावेशक सिस्टीम सुरू करायला हवी होती. वर्णभेदाबाबत अजून थोडं मागे गेलं तर पोलॅरॉईड पंपनीनं 1960 साली बाजारात आणलेला नवीन कॅमेरा सावळ्या रंगाच्या माणसांचे फोटो उत्कृष्ट दर्जाचे काढायचा. हे वरवर जरी स्वागतार्ह वाटलं तरी या कॅमेऱयामागचा हेतू साऊथ आफ्रिकेतल्या कृष्णवर्णीय लोकांना जे ओळखपत्र कायम बाळगावं लागायचं त्याच्यासाठी फोटो काढणं हा होता. नेल्सन मंडेला यांनी हे ओळखपत्र बाळगण्याच्या जाचक अटीविरुध्द जोहान्सबर्गजवळच्या एका गावात 21 मार्च 1960 रोजी आपलं ओळखपत्र जाळून एक आंदोलन छेडलं होतं. यानंतरच्या पोलिसांनी केलेल्या गोळीबारात कित्येक लोक ठार झाले होते. आज सहा दशकांनंतरही हा प्रकार दुर्दैवाने कमी-अधिक प्रमाणात, प्रत्यक्ष-अप्रत्यक्षपणे सुरूच आहे. कृत्रिम बुद्धिमत्तेचा वापर करतानाही वर्णभेदाचे खुळ वैज्ञानिकांच्याही डोक्यातून जात नसेल तर कसे होणार?
