AI पर "आंख बंद करके भरोसा न करें": ChatGPT के CEO की इस सलाह ने मचाई हलचल, जानिए क्यों?
punjabkesari.in Thursday, Jul 03, 2025 - 11:33 AM (IST)
नेशनल डेस्क: जब से OpenAI का ChatGPT आया है तब से यह AI टूल पूरी दुनिया में चर्चा का विषय बना हुआ है। कुछ समय पहले 'Ghibli ट्रेंड' की वजह से तो इसने खूब सुर्खियां बटोरीं। दुनियाभर के लोग इस AI टूल का इस्तेमाल कर रहे हैं। साथ ही यह सवाल खड़ा होता कि क्या ChatGPT हमेशा सही जानकारी देता है? यह एक ऐसा सवाल है जिस पर शायद बहुत कम लोग सोचते हैं। अब OpenAI के सीईओ सैम ऑल्टमैन ने ChatGPT का इस्तेमाल करने वाले यूजर्स को एक बहुत ज़रूरी सलाह दी है, जिसने हर तरफ हलचल मचा दी है।
सैम ऑल्टमैन की चेतावनी-
ओपनएआई के आधिकारिक पॉडकास्ट के पहले एपिसोड में बोलते हुए ऑल्टमैन ने ChatGPT पर यूजर्स के आश्चर्यजनक भरोसे को स्वीकार किया। उन्होंने कहा, "लोगों को ChatGPT पर बहुत ज़्यादा भरोसा है जो कि दिलचस्प है, क्योंकि AI भ्रम (Hallucination) पैदा करता है। यह ऐसी तकनीक है जिस पर आपको इतना भरोसा नहीं करना चाहिए।"
ऑल्टमैन का यह बयान कई सवाल खड़े करता है, खासकर तब जब बहुत से लोग ChatGPT का इस्तेमाल लिखने, रिसर्च करने और अलग-अलग तरह की सलाह लेने के लिए करते हैं। सैम ऑल्टमैन का संदेश साफ है: ChatGPT बाकी सभी बड़े लैंग्वेज मॉडल्स (LLMs) की तरह विश्वसनीय दिखने वाले लेकिन झूठे या भ्रामक दावे कर सकता है, इसलिए इसका इस्तेमाल बहुत सावधानी से किया जाना चाहिए।
AI कैसे पैदा करता है "भ्रम"?
ChatGPT जिस डेटा पर ट्रेन किया गया है, उसमें मौजूद पैटर्न के आधार पर वाक्य में अगले शब्द की भविष्यवाणी करके काम करता है। यह दुनिया को मानवीय अर्थों में नहीं समझता है। इसका मतलब यह है कि यह कभी-कभी गलत या पूरी तरह से मनगढ़ंत जानकारी दे सकता है। AI की दुनिया में इस तरह की गलत या बनाई गई जानकारी को "भ्रम" (Hallucination) कहा जाता है।
भरोसा करें, लेकिन पहले करें यह काम-
सैम ऑल्टमैन और AI के गॉडफादर कहे जाने वाले जेफ्री हिंटन (Geoffrey Hinton) दोनों का मानना है कि AI बेशक बहुत उपयोगी हो सकता है, लेकिन इस पर आँख बंद करके भरोसा नहीं किया जाना चाहिए। जैसे-जैसे AI हमारी रोज़मर्रा की ज़िंदगी का हिस्सा बनता जा रहा है, ऐसे में यह सावधानी इस बात पर जोर देती है कि 'भरोसा करें, मगर पहले वेरिफाई करें' (Trust, but Verify). यानी AI से मिली जानकारी को हमेशा खुद से जांचना और पुष्टि करना ज़रूरी है।
