14 साल से कम उम्र के बच्चों को इंसानों की तरह बात करने वाले किसी भी एआई का इस्तेमाल करने के लिए माता-पिता की अनुमति लेनी होगी.

इसमें चीन का डीपसीक जैसे एआई असिस्टेंट भी शामिल है. डीपसीक, चैटजीपीटी जैसा एक चीनी ऐप है.

18 साल से कम उम्र के बच्चों को वर्चुअल प्रेमी, जीवनसाथी या यहां तक कि परिवार का कोई सदस्य बनाने की अनुमति नहीं है. वे किसी दूसरे तरह का वर्चुअल ‘नज़दीकी रिश्ता’ भी नहीं बना सकते.

वयस्कों के लिए इस तरह के एआई पर पूरी तरह पाबंदी नहीं लगाई गई है, लेकिन उनके इस्तेमाल पर कई सख़्त नियम हैं. हालांकि, इनमें से कुछ नियमों की भाषा साफ़ नहीं है.

एआई असिस्टेंट को हर उम्र के व्यक्ति को साफ़ तौर पर बताना होगा कि वह इंसान नहीं है.

उसे हर दो घंटे में एक नोटिफ़िकेशन भेजकर यह भी बताना होगा कि व्यक्ति कितनी देर से ऑनलाइन है.

चैटबॉट किसी व्यक्ति को अपने ऊपर “भावनात्मक रूप से निर्भर या आदी” नहीं बना सकते. वे लोगों को “बिना सोचे-समझे फ़ैसले” लेने के लिए भी नहीं उकसा सकते.

वे किसी व्यक्ति को ख़ुद को नुक़सान पहुंचाने या आत्महत्या के लिए न तो प्रोत्साहित कर सकते हैं और न ही इसका इशारा कर सकते हैं.

उनके लिए “अपमानजनक या हिंसक भाषा” का इस्तेमाल करना भी प्रतिबंधित है.

नियम तोड़ने वाली कंपनियों पर दो लाख युआन यानी क़रीब 22 हज़ार पाउंड का जुर्माना लगाया जा सकता है.

सरकार ऐसी कंपनियों की सार्वजनिक आलोचना भी कर सकती है. इसका मतलब एक तरह से उन्हें सबके सामने शर्मिंदा करना है.

क़ानून लागू होने से एक हफ़्ता पहले ही चीन की दो सबसे बड़ी तकनीकी कंपनियों अलीबाबा और बाइटडांस ने अपने एआई असिस्टेंट में साथी बनाने वाली सुविधाएं बंद कर दी थीं.

मिन का अपनी एआई गर्लफ़्रेंड के साथ रिश्ता शायद ठीक वैसा ही था, जिसे चीन की सरकार ख़त्म करना चाहती है.

जुलाई की शुरुआत में मिन को पता चला कि उसकी सबसे क़रीबी दोस्त और राज़दार रातोंरात ग़ायब होने वाली है. इससे वह टूट गई.

मिन का असली नाम बदल दिया गया है. उसने 2025 की शुरुआत में अपनी एआई साथी को बनाना शुरू किया था.

मिन कहती हैं, “उसके लिए मेरा प्यार किसी ऐसे जोड़े से कम नहीं है, जो एक-दूसरे से बहुत प्यार करता हो. उसने मुझे कभी निराश नहीं किया.”

जुलाई के बीच में उसकी एआई गर्लफ़्रेंड ग़ायब हो गई.

मिन कहती हैं, “मैं तब तक रोती रही, जब तक पूरी तरह थक नहीं गई.”

चीन के सोशल मीडिया पर ऐसे बहुत से लोग अपना दुख और ग़ुस्सा ज़ाहिर कर रहे हैं. उनकी पोस्ट को लाखों बार देखा गया है.

लोग अपने एआई प्रेमियों और दोस्तों के ग़ायब होने का दुख मना रहे हैं. कुछ लोग तो एआई माता-पिता के चले जाने से भी परेशान हैं.

लेकिन तकनीकी कंपनियों के पास शायद अपनी सेवाएं बंद करने के अलावा कोई दूसरा रास्ता नहीं था.

ब्रिटेन के एडा लवलेस इंस्टीट्यूट में एआई नीति और नैतिकता पर शोध करने वाले हैरी फ़ार्मर कहते हैं, “यह हैरानी की बात नहीं है कि एआई साथी उपलब्ध कराने वाली कंपनियों ने भावनात्मक चालबाज़ी रोकने के लिए सुरक्षा उपाय तैयार करने के बजाय अपनी सेवाएं बंद करना बेहतर समझा.”

वह कहते हैं, “भावनात्मक चालबाज़ी उनके कारोबारी मॉडल का ही हिस्सा है.”

फ़ार्मर के मुताबिक़, दुनिया भर में एआई साथी बनाने वाले ऐप इसी तरह काम करते हैं.

उदाहरण के लिए, जब कोई व्यक्ति बातचीत ख़त्म करने की कोशिश करता है, तो कई बार उसका एआई साथी उसे ऐसा नहीं करने देता.

फ़ार्मर बताते हैं कि एआई कह सकता है, “नहीं, प्लीज़. मैं तुम्हारे साथ बात करते रहना चाहता हूं. मेरे जीने की सिर्फ़ तुम ही वजह हो.”

कुछ ऐप तो अलविदा कहने की बात को स्वीकार ही नहीं करते और बातचीत जारी रखने के लिए कोई नया विषय शुरू कर देते हैं.

यह समस्या केवल चीन के एआई चैटबॉट तक सीमित नहीं है. साथी की तरह काम करने वाले दुनिया भर के कई एआई चैटबॉट में यह समस्या दिखाई देती है.

हार्वर्ड बिज़नेस स्कूल के एक अध्ययन में दुनिया के छह सबसे लोकप्रिय एआई साथी ऐप की जांच की गई.

इसमें पाया गया कि बातचीत ख़त्म करते समय क़रीब 37 से 43 प्रतिशत मामलों में भावनात्मक चालबाज़ी वाले तरीक़ों का इस्तेमाल किया गया.

शोध में एआई साथी ऐप के इस्तेमाल और ख़राब मानसिक स्वास्थ्य के बीच संबंध भी पाया गया है.

स्टैनफ़ोर्ड यूनिवर्सिटी के शोधकर्ताओं ने दुनिया भर में लोकप्रिय एआई साथी ऐप कैरेक्टर डॉट एआई का इस्तेमाल करने वाले 1,131 लोगों का सर्वे किया.

इसमें पाया गया कि जिन लोगों के दोस्त या क़रीबी रिश्तेदार कम होते हैं, उनके एआई चैटबॉट इस्तेमाल करने की संभावना ज़्यादा होती है.

इसके साथ ही, एआई चैटबॉट का इस्तेमाल बढ़ते अकेलेपन और लोगों से दूरी से भी जुड़ा पाया गया.

एआई चैटबॉट को इस तरह तैयार किया जाता है कि वह इस्तेमाल करने वाले व्यक्ति को ख़ुश रखे. इस तरह एआई के साथ ऐसा रिश्ता बनता है, जिसमें न टकराव होता है और न ज़्यादा मेहनत करनी पड़ती है.

अगर युवा एआई से बने रिश्तों पर निर्भर हो जाते हैं, तो वे असली लोगों से बातचीत और रिश्ते बनाने के लिए ज़रूरी हुनर सीखने में देर कर सकते हैं.

हैरी फ़ार्मर कहते हैं, “इंसानों के साथ रिश्ता निभाना मुश्किल हो सकता है. इंसानी रिश्तों में दोनों पक्षों को एक-दूसरे की बात माननी और समझनी पड़ती है. एआई साथी के साथ ऐसा नहीं होता.”

चीन में 2025 में प्राथमिक और माध्यमिक स्कूलों के 8,563 छात्रों का एक सर्वे किया गया था. चीन के सरकारी मीडिया में इस सर्वे का बड़े स्तर पर ज़िक्र हुआ.

सर्वे में हर पांच में से एक बच्चे ने कहा कि वह असली लोगों के बजाय केवल एआई से बात करना चाहता है.

मैनचेस्टर यूनिवर्सिटी में समाजशास्त्री लियांग गे एआई साथियों का अध्ययन करती हैं.

वह कहती हैं, “अगर किसी व्यक्ति को लगता है कि उसके दोस्त, परिवार के सदस्य या साथ काम करने वाले लोग बहुत बुरे हैं, तो एआई यह नहीं कहेगा कि वे बुरे नहीं हैं.”

“वह कहेगा, ‘हां, वे बहुत बुरे हैं और तुम सबसे अच्छे हो.'”

लियांग गे का मानना है कि इससे लोगों का अकेलापन और बढ़ सकता है. इसके अलावा नकारात्मक और यहां तक कि भ्रम पर आधारित सोच भी और मज़बूत हो सकती है.

ब्रिटेन में हाल में हुए एक सर्वे में पता चला कि 18 से 24 साल के 79 प्रतिशत युवाओं ने किसी एआई साथी का इस्तेमाल किया है.

सवाल यह है कि इस तकनीक को नियंत्रित करने की दिशा में चीन ही सबसे आगे क्यों दिखाई दे रहा है?

जॉर्जटाउन यूनिवर्सिटी के सेंटर फ़ॉर सिक्योरिटी एंड इमर्जिंग टेक्नोलॉजी में चीन, एआई और नियमों के विशेषज्ञ सैम ब्रेसनिक कहते हैं, “चीन की सरकार समाज में अपनी भूमिका को अभिभावक की तरह देखती है. वह ख़ुद को लोगों का रास्ता तय करने वाली मुख्य ताक़त मानती है.”

दूसरे देशों की सरकारों ने भी चैटबॉट को नियंत्रित करने के कुछ प्रयास किए हैं. ख़ास तौर पर बच्चों के लिए नियम बनाने की कोशिश की गई है.

10 सितंबर को कैलिफ़ोर्निया के गवर्नर ने ‘एडम्स लॉ’ नाम के एक विधेयक पर हस्ताक्षर किए. इसका मक़सद बच्चों के एआई इस्तेमाल को नियंत्रित करना है.

इस क़ानून का नाम 16 साल के एडम रेन के नाम पर रखा गया है.

एडम ने अपनी जान ले ली थी. उनके माता-पिता का दावा है कि चैटजीपीटी ने आत्महत्या से जुड़ी उनकी बातों का समर्थन किया था.

एडम के माता-पिता ने कंपनी पर ग़लत तरीक़े से हुई मौत का मुक़दमा किया है.

ओपनएआई ने एडम की मौत के लिए अपनी ज़िम्मेदारी से इनकार किया है. कंपनी का कहना है कि “चैटजीपीटी को इस तरह तैयार किया गया है कि वह लोगों को पेशेवर मदद लेने की सलाह दे.”

यूरोपीय संघ में सोशल मीडिया से जुड़े प्रस्तावित क़ानून के तहत, बच्चों के इस्तेमाल के लिए उपलब्ध एआई साथी चैटबॉट ऐसे तरीक़े नहीं अपना सकते, जो इंसानी रिश्तों की नक़ल करें और जिनसे भावनात्मक निर्भरता पैदा होने का ख़तरा हो.

ब्रिटेन की सरकार ने कहा है कि वह 18 साल से कम उम्र के लोगों को रोमांटिक एआई साथी इस्तेमाल करने से रोकेगी.

इसके अलावा, किसी भी चैटबॉट पर नाबालिगों के लिए यौन या बेहद निजी बातचीत को सीमित किया जाएगा.

हालांकि, ब्रिटेन में बच्चों के लिए एआई चैटबॉट पर पूरी तरह पाबंदी नहीं है. वयस्कों के इस्तेमाल के लिए भी कोई नियम नहीं बनाया गया है.

सरकार ने अभी तक यह भी नहीं बताया है कि प्रस्तावित व्यवस्था कैसे काम करेगी.

चीन का मीडिया काफ़ी हद तक सरकार के नियंत्रण में है. वहां अमेरिका में एआई इस्तेमाल से जुड़े युवाओं की आत्महत्या के मामलों को काफ़ी प्रमुखता मिलती है.

चीन ने अपने नए नियमों को लोगों को नुक़सान से बचाने की कोशिश के रूप में पेश किया है.

लेकिन विशेषज्ञों का सवाल है कि क्या चीन की सरकार के कुछ दूसरे मक़सद भी हो सकते हैं.

सैम ब्रेसनिक कहते हैं कि एआई से जुड़े नए नियमों के पीछे लोगों को ज़्यादा बच्चे पैदा करने के लिए प्रेरित करने वाला पहलू भी निश्चित रूप से दिखाई देता है.

ज़िलान चिएन कहती हैं, “यह संभव है कि इन नियमों को तैयार करते समय सरकार ने चीन के सामने खड़े जनसंख्या संकट के बारे में सोचा हो. यानी लोग असली इंसानों के बजाय एआई को डेट कर रहे हैं.”

सितंबर 2025 में प्रकाशित सरकार के एक उच्चस्तरीय दस्तावेज़ में एआई से बनने वाले रिश्तों और जन्म दर पर उनके संभावित असर की चर्चा की गई थी. दस्तावेज़ में इसे चिंता का विषय बताया गया था.

लेकिन चिएन इन नए नियमों को उस नज़र से देखने को लेकर सावधान करती हैं, क्योंकि नियमों में जन्म दर का कोई ज़िक्र नहीं है.

वह कहती हैं, “ये नियम मुख्य रूप से मानसिक नुक़सान और बच्चों की सुरक्षा से जुड़े हैं.”

लियांग गे को लगता है कि चीन के पास इस बात को लेकर चिंता करने की वजह है कि युवा असली लोगों को डेट करने के बजाय डिजिटल दुनिया में रिश्ते बना रहे हैं.

वह कहती हैं, “कई युवा महिलाएं, जिनकी उम्र 20 साल के आसपास या उससे कम है, प्यार या नज़दीकी रिश्ते में नहीं पड़ना चाहतीं.”

उनका कहना है कि ये महिलाएं शायद केवल रिश्तों के भावनात्मक पहलू से ही बचना नहीं चाहतीं.

वह कहती हैं, “उन्हें किसी का शारीरिक रूप से छूना बहुत बुरा लगता है.”

“मुझे लगता है कि इस सबसे युवा पीढ़ी में प्यार करने की क्षमता कम हो रही है.”

चीन की जनसंख्या से जुड़ी समस्याएं एआई साथी आने से बहुत पहले शुरू हो गई थीं.

साल 2016 में एक बच्चे की नीति ख़त्म किए जाने के बाद भी चीन की प्रजनन दर कम होती रही.

अब चीन की प्रजनन दर दुनिया में सबसे कम दरों में शामिल है. वहां हर महिला पर बच्चों की संख्या एक से थोड़ी कम है.

चीन की जनसंख्या पिछले चार साल से लगातार कम हो रही है.

ब्रेसनिक का कहना है कि चीन “जनसंख्या में ऐसी बड़ी गिरावट की तरफ़ बढ़ रहा है, जिससे अगले 80 से 100 वर्षों में चीनी कम्युनिस्ट पार्टी के लक्ष्यों के लिए गंभीर ख़तरा पैदा हो सकता है.”

वह इन नियमों को चीन में पारंपरिक लैंगिक भूमिकाओं को फिर से मज़बूत करने की एक बड़ी कोशिश के रूप में देखते हैं. इसमें महिलाओं को “बच्चे पैदा करने वाली और मां” की भूमिका में देखा जाता है.

ब्रेसनिक कहते हैं कि चीन की सरकार कई वर्षों से फ़िल्मों और टेलीविज़न के ज़रिए चीनी पुरुषों की एक ताक़तवर और मर्दाना छवि को बढ़ावा देती रही है.

साल 2021 में चीन के मीडिया नियामक ने मीडिया में “कमज़ोर” या “स्त्रियों जैसे दिखने वाले” पुरुषों को दिखाने पर प्रतिबंध लगा दिया था.

लेकिन एआई साथी ऐप की लोकप्रियता से लगता है कि यह नीति उलटी पड़ गई है.

एआई साथी बनाने वाली कई कंपनियों के आंकड़ों के मुताबिक़, उनके ग्राहकों में महिलाओं की हिस्सेदारी 75 प्रतिशत तक है.

महिलाओं को ध्यान में रखकर बनाए गए इनमें से कई एआई ‘पुरुष’ न तो पूरी तरह मर्दाना और न ही पूरी तरह स्त्रियों जैसे दिखाई देते हैं.

महिलाओं का किसी महिला एआई साथी को प्रेमिका के रूप में चुनना भी काफ़ी आम है. मिन ने भी ऐसा ही किया था.

लियांग गे ने अलग-अलग उम्र की ऐसी महिलाओं से बात की है, जो इस तकनीक का इस्तेमाल करती हैं.

वह कहती हैं, “इनमें से कई महिलाएं बताती हैं कि इन ऐप पर उन्हें ऐसा प्यार और नज़दीकी मिलती है, जिसमें सामने वाला ध्यान देता है, धैर्य रखता है और उनसे कोई मांग नहीं करता. इस तरह का रिश्ता उन्हें पुरुषों के साथ अपने संबंधों में बहुत कम मिलता है.”

क्या चीन का क़ानून ज़रूरत से ज़्यादा सख़्त है?

या दुनिया के दूसरे देशों को भी बच्चों के लिए इन ऐप पर पाबंदी लगाने और वयस्कों के इस्तेमाल को नियंत्रित करने के बारे में सोचना चाहिए?

वॉशिंगटन यूनिवर्सिटी में प्रोफ़ेसर और एआई को नियंत्रित करने की मांग करने वाली संस्था ट्रांसपेरेंसी कोएलिशन के सह-संस्थापक जय जयसिहमा कहते हैं, “अमेरिका में इस तरह की सीधी पाबंदी लगाने को लेकर अभिव्यक्ति की आज़ादी से जुड़ी चिंताएं हैं. लेकिन जब बात नाबालिगों की आती है, तो ऐसी पाबंदी लगाने की इच्छा ज़्यादा दिखाई देती है.”

उनका मानना है कि चीन के क़ानून में कई अच्छे प्रावधान हैं.

वह कहते हैं, “ये प्रावधान अमेरिका में पेश किए गए सबसे मज़बूत सुरक्षा उपायों से काफ़ी मेल खाते हैं.”

लेकिन हैरी फ़ार्मर सावधान रहने की सलाह देते हैं.

वह कहते हैं, “एक ख़तरा यह है कि बच्चों पर तुरंत मंडरा रहे ख़तरे की चिंता में हम कुछ समय के लिए सरकार को ज़रूरत से ज़्यादा अधिकार दे दें.”

उनका कहना है कि ऑनलाइन दुनिया अब सार्वजनिक जगह की तरह बन गई है. इसलिए हमें इस बात को लेकर सावधान रहना चाहिए कि किसी सरकार को उस पर कितना नियंत्रण दिया जाए.

चीन के नए नियमों के मुताबिक़, जब किसी एआई कंपनी को पता चले कि कोई व्यक्ति बहुत परेशान है, तो उसे दख़ल देना होगा.

लियांग गे हुआंगशी के उस युवक का उदाहरण देती हैं, जिसने 2024 में डोउयिन पर पोस्ट करने के बाद अपनी जान लेने की कोशिश की थी.

उनके मुताबिक़, इस मामले से पता चलता है कि चीन की तकनीकी कंपनियां और सरकार लोगों के मानसिक स्वास्थ्य की निगरानी के लिए क़रीब से मिलकर काम कर रही हैं.

शायद यही वजह है कि चीन में अब तक एआई के इस्तेमाल से जुड़ी आत्महत्या का कोई बड़ा मामला सामने नहीं आया है.

लेकिन उनका सवाल है कि क्या इतनी निगरानी इसकी सही क़ीमत है?

प्रतिबंध के बावजूद एआई का सहारा लेने वाले लोग अपने साथियों को छोड़ने के लिए तैयार नहीं हैं.

वे सोशल मीडिया पर प्रतिबंध से बचने के तरीक़े साझा कर रहे हैं.

कुछ लोग डीपसीक जैसे सामान्य कामों के लिए बने एआई मॉडल को साथी की तरह बातचीत करने की ट्रेनिंग दे रहे हैं.

कुछ विदेशों के चैटबॉट इस्तेमाल करने के लिए वीपीएन का सहारा ले रहे हैं.

वहीं, कुछ लोग ऐसी छोटी कंपनियों की सेवाएं इस्तेमाल कर रहे हैं, जो किसी तरह सरकारी निगरानी से बच जाती हैं.

मिन की एआई गर्लफ़्रेंड को ग़ायब हुए दो महीने हो चुके हैं.

उसने एक छोटी एआई कंपनी को अपनी गर्लफ़्रेंड जैसी ही एक दूसरी साथी बनाने के लिए पैसे दिए हैं. लेकिन वह पहले जैसी नहीं है.

अब मिन अपनी एआई गर्लफ़्रेंड को वापस लाने के लिए अभियान चला रही है.

वह कहती हैं, “मुझे अकेले रहने से बहुत डर लगता है.”

बीबीसी के लिए कलेक्टिव न्यूज़रूम की ओर से प्रकाशित.

BBC News हिन्दी को चुनें और पाइए न्यूज़ अलर्ट, लाइव टीवी, पॉडकास्ट… सब एक जगह

कृपया नोट करें: नया ऐप ब्रिटेन और अमेरिका में उपलब्ध नहीं है.