एनिमेटेड लेसन बनाएँ
अनुरोध परयह लेख पढ़ना मुफ़्त है। नया लेसन बनाने में आपके दैनिक या उपलब्ध क्रेडिट लगते हैं; भाषा और विकल्प पहले चुन सकते हैं।
AI चैटबॉट बातें क्यों बना लेते हैं?
झटपट जवाब
चैटबॉट जाँचे हुए तथ्य खोजकर नहीं, बल्कि अगला सबसे संभावित शब्द चुनकर टेक्स्ट बनाते हैं। जब ट्रेनिंग डेटा या प्रॉम्प्ट में साफ़ जवाब नहीं होता, तो मॉडल उस खाली जगह को फ़र्राटेदार, सच जैसी लगने वाली बातों से भर देता है। इसे हैलुसिनेशन कहते हैं: पूरे भरोसे से कहे दावे, नकली रेफ़रेंस या गढ़ी हुई बारीकियाँ जो पढ़ने में ठीक लगती हैं पर गलत होती हैं।
AI चैटबॉट बातें इसलिए गढ़ लेते हैं क्योंकि वे जाँची हुई जानकारी देखकर नहीं, बल्कि शब्दों के संभावित क्रम का अंदाज़ा लगाकर टेक्स्ट बनाते हैं। जब ट्रेनिंग डेटा या प्रॉम्प्ट में साफ़ जवाब नहीं होता, तो मॉडल फ़र्राटेदार और सच जैसा लगने वाला टेक्स्ट बना देता है जो पूरी तरह गलत हो सकता है।
यह कैसे होता है — चरण दर चरण
- चैटबॉट को बहुत सारे टेक्स्ट पर इस तरह ट्रेन किया जाता है कि वह किसी क्रम में अगला शब्द बता सके।
- वह व्याकरण, लिखने के अंदाज़ और शब्दों के आपसी जुड़ाव के पैटर्न सीखता है, पर जाँचे हुए तथ्यों का कोई डेटाबेस नहीं रखता।
- प्रॉम्प्ट मिलने पर वह स्टैटिस्टिकली सबसे संभावित आगे का टेक्स्ट बनाता है, जो गलत होने पर भी भरोसेमंद लग सकता है।
- अगर ट्रेनिंग डेटा में वह खास तथ्य था ही नहीं, तो मॉडल खाली जगह गढ़ी हुई बारीकियों से भर देता है।
- हैलुसिनेशन सबसे ज़्यादा कम जाने-माने तथ्यों, सटीक नंबरों, रेफ़रेंस (citation) और हाल की घटनाओं में होते हैं।
लोग यह भी पूछते हैं
क्या AI हैलुसिनेशन पूरी तरह रोके जा सकते हैं?
इन्हें घटाया जा सकता है, पर पूरी तरह खत्म नहीं किया जा सकता। तरीकों में मॉडल को भरोसेमंद डॉक्यूमेंट देना जिनसे वह जानकारी ले, उसे 'मुझे नहीं पता' कहना सिखाना और उसके जवाब को अलग टूल, सर्च या डेटाबेस से जाँचना शामिल है। मॉडल फिर भी संभावना के हिसाब से टेक्स्ट बनाता है, इसलिए ज़रूरी दावों को खुद जाँचना चाहिए।
क्या सारे AI चैटबॉट गलत बातें बनाते हैं?
हाँ, लार्ज लैंग्वेज मॉडल पर बना कोई भी चैटबॉट हैलुसिनेट कर सकता है। यह दर मॉडल, विषय और सवाल पूछने के तरीके से बदलती है। सर्च इंजन या डेटाबेस से जुड़े सिस्टम कम हैलुसिनेट करते हैं क्योंकि वे जाँचा हुआ टेक्स्ट ले सकते हैं, पर वे भी उसे गलत पढ़ या गलत जगह लगा सकते हैं।
गलत होने पर भी चैटबॉट इतने भरोसे से क्यों बोलता है?
भरोसा सच से नहीं, साफ़-सुथरे व्याकरण से आता है। मॉडल को नेचुरल लगने वाले वाक्य बनाने के लिए तैयार किया जाता है, और उसके ट्रेनिंग टेक्स्ट में सधा हुआ, पक्के अंदाज़ वाला लहजा आम है। उसके अंदर ऐसा कोई सिग्नल नहीं जो 'मुझे यह पता है' और 'मैं अंदाज़ा लगा रहा हूँ' को अलग करे।
चैटबॉट नकली रेफ़रेंस क्यों बना देते हैं?
रेफ़रेंस का एक पक्का ढाँचा होता है: लेखक, साल, शीर्षक, जर्नल, DOI। इस ढाँचे को सीख चुका मॉडल ऐसा रेफ़रेंस भी बना सकता है जो असली लगे, भले वह पेपर कभी छपा ही न हो। वह किसी असली स्रोत की नकल नहीं, बल्कि एक जाना-पहचाना फ़ॉर्मेट पूरा कर रहा होता है।
कैसे पता करें कि चैटबॉट हैलुसिनेट कर रहा है?
हर खास दावा, नंबर, उद्धरण या रेफ़रेंस किसी भरोसेमंद बाहरी स्रोत से मिलाकर देखें। नाम, तारीख और आँकड़ों पर खास ध्यान दें, क्योंकि मॉडल इन्हें अक्सर गढ़ लेते हैं। जवाब ज़रूरत से ज़्यादा साफ़-सुथरा लगे या उसका स्रोत न मिले, तो उसे बिना जाँचा हुआ मानें।