सोशल मीडियावरील इन्स्टाग्राम, फेसबुक, व्हॉट्सअॅपची पॅरेंट कंपनी मेटाने चॅटबॉटसाठी नवीन गाईडलाईन लागू केल्या आहेत. कंपनीच्या या निर्णयामुळे आता 13 ते 18 वर्षांपर्यंतची मुले आत्महत्यासारख्या संवेदनशील विषयावर चॅटबॉट्सवर चर्चा करू शकणार नाहीत. एआय चॅटबॉटवरच्या संवेदनशील विषयावर होणाऱ्या चर्चेवरून कॅलिफोर्नियातील एका दाम्पत्याने चॅटजीबीटीची पॅरेंट कंपनी ओपनएआयवर खटला दाखल केला होता.
चॅटबॉटच्या सल्ल्यानंतर मुलाने आत्महत्या केली असा दावा या दाम्पत्याने केला होता. अल्पवयीन मुले चॅटबॉटच्या सांगण्यावरून स्वतःला दुखापत करून घेणे, आत्महत्या करणे, अश्लील संभाषण करणे यांसारखे प्रकार करत होते. या घटनेनंतर ओपनएआयने चॅटबॉट्समध्ये बदल केले आहेत. मेटाने यापूर्वीच पालकांना छोट्या मुलांच्या अकाऊंटचे कंट्रोल करण्याचे अधिकार देण्यासाठी नवीन फीचर जारी केलेले आहे.
