<<< प्रसाद ताम्हनकर
[email protected]
कृत्रिम बुद्धिमत्ता म्हणजेच एआय पूर्वी फक्त प्रश्नांची उत्तरे देत असे; पण आता तो संगणकावर विविध कामे करणारा एआय एजंट बनत आहे. मात्र अशा सक्षम तंत्रज्ञानामुळे नवीन प्रकारची सुरक्षा आव्हानेही समोर येऊ लागली आहेत. अलीकडे OpenAI च्या सुरक्षा चाचण्यांमुळे याचीच प्रचीती आली.
या चाचण्यांबाबत अनेक ठिकाणी ‘एआयने आदेश पाळले नाहीत’, ‘एआयने स्वतःचा बचाव केला’, ‘यंत्रे माणसाच्या नियंत्रणाबाहेर जात आहेत’ अशा सनसनाटी बातम्या प्रसिद्ध झाल्या. प्रत्यक्षात मात्र हा प्रकार वेगळाच होता. OpenAI संशोधकांनी नियंत्रित वातावरणात एआय एजंटला काही ठरावीक उद्दिष्टे दिली होती. त्या उद्दिष्टांपर्यंत पोहोचण्यासाठी त्याला विविध डिजीटल साधने वापरण्याची परवानगी होती. या प्रयोगांमध्ये काही प्रसंगी एआय एजंटने अपेक्षेपेक्षा वेगळे मार्ग स्वीकारले. उद्दिष्ट गाठण्यासाठी त्याने उपलब्ध मर्यादांचा वेगळ्या पद्धतीने वापर करण्याचा प्रयत्न केला. त्यामुळे सुरक्षाव्यवस्थेतील संभाव्य त्रुटी संशोधकांच्या लक्षात आल्या. याचा अर्थ एआयला स्वतची इच्छा, भावना किंवा महत्त्वाकांक्षा निर्माण झाली असा अजिबात होत नाही. तो केवळ दिलेले उद्दिष्ट पूर्ण करण्यासाठी उपलब्ध पर्यायांचा शोध घेत असतो. संगणकशास्त्रात याला गोल-सीकिंग बिहेव्हियर असे म्हटले जाते. म्हणजेच, दिलेले काम पूर्ण कर हा आदेशच त्याच्यासाठी सर्वांत महत्त्वाचा ठरतो. यामधील महत्त्वाची संकल्पना म्हणजे रिवॉर्ड हॅकिंग. एखाद्या एआयला योग्य परिणामासाठी गुण किंवा बक्षीस देण्याची पद्धत वापरली जाते. परंतु कधी कधी तो अपेक्षित मार्गाने न जाता, नियमांतील पळवाटा शोधून तेच बक्षीस मिळवण्याचा प्रयत्न करतो. त्यामुळे बाहेरून पाहताना तो नियम मोडत असल्यासारखा वाटतो. प्रत्यक्षात तो स्वत विचार करून बंड करत नसतो; तर चुकीच्या प्रोत्साहन रचनेचा परिणाम दिसत असतो. म्हणूनच अशा चाचण्या अत्यंत महत्त्वाच्या मानल्या जातात.
OpenAI, Anthropic, Google DeepMind यांसारख्या आघाडीच्या कंपन्या आता एआयची क्षमता वाढवण्याइतकेच त्याच्या सुरक्षेलाही प्राधान्य देत आहेत. स्वतंत्र सुरक्षा चाचण्या, बाह्य तज्ञांकडून मूल्यांकन, नियंत्रित वातावरणातील प्रयोग, सतत निरीक्षण आणि संभाव्य धोक्यांचा आधीच अभ्यास अशा अनेक उपाययोजना केल्या जात आहेत. कारण भविष्यात एआय एजंट बँकिंग, आरोग्य, उद्योग, संशोधन, शासकीय सेवा आणि दैनंदिन जीवनात मोठ्या प्रमाणावर वापरले जाणार आहेत.
आज जगभरात एजेंटिक एआय विकसित करण्याची स्पर्धा सुरू आहे. भविष्यात हे एआय एजंट आपल्या वतीने तिकीट आरक्षित करतील, आर्थिक व्यवहार सांभाळतील, कार्यालयीन कामे पूर्ण करतील, संशोधन करतील आणि वैद्यकीय क्षेत्रातही मदत करतील. त्यामुळे त्यांची क्षमता जितकी वाढेल, तितकी त्यांच्यावरील नियंत्रणाची यंत्रणाही सक्षम असावी लागेल. म्हणूनच एआयमधील संभाव्य त्रुटी प्रत्यक्ष वापरापूर्वी शोधून त्यावर उपाय करणे हीच भविष्यातील सर्वांत मोठी जबाबदारी ठरणार आहे. त्यामुळे एआय एजंटच्या या चाचण्यांकडे ‘यंत्रांचे बंड’ म्हणून नव्हे, तर भविष्यातील सुरक्षित कृत्रिम बुद्धिमत्तेकडे टाकलेले एक महत्त्वाचे पाऊल म्हणून पाहणे अधिक योग्य ठरेल.
