जहां ChatGPT जैसे AI टूल्स ने हमारी जिंदगी को आसान बनाया है, वहीं अब इनका गलत इस्तेमाल भी सामने आ रहा है। हाल ही में कुछ लोगों ने ChatGPT की मदद से नकली आधार और पैन कार्ड तैयार किए हैं, जो दिखने में असली जैसे लगते हैं। ये तस्वीरें सोशल मीडिया पर तेजी से वायरल हो रही हैं।

OpenAI के नए GPT-4o मॉडल की लॉन्चिंग के बाद से ChatGPT की इमेज जनरेशन क्षमता ने 700 मिलियन से ज्यादा तस्वीरें बनाई हैं। ये फीचर Studio Ghibli स्टाइल की तस्वीरों के लिए लोकप्रिय हुआ, लेकिन अब इसका गलत इस्तेमाल भी सामने आ रहा है।

सोशल मीडिया पर कुछ लोग नकली आधार कार्ड जैसी फोटो शेयर कर रहे हैं जो ChatGPT से बनी हैं। इन कार्डों में असली जैसी डिजाइन, बारकोड और नंबर शामिल हैं। बस चेहरे के फीचर्स थोड़े अलग दिखते हैं पर पूरी तस्वीर देखने में असली लगती है।

केवल आधार कार्ड ही नहीं, अब कुछ सोशल मीडिया यूजर्स नकली पैन कार्ड भी ChatGPT से बना रहे हैं। इन नकली कार्डों में नाम, नंबर और डिजाइन बहुत हद तक असली कार्ड जैसे दिखते हैं।

विशेषज्ञों का मानना है कि आधार कार्ड की जानकारी को आसानी से जांचा जा सकता है क्योंकि उसमें फोटो और जानकारी का मिलान बैकएंड सिस्टम से किया जा सकता है। लेकिन PAN और ड्राइविंग लाइसेंस जैसे अन्य कार्डों में चेहरा नहीं होता जिससे फर्जीवाड़ा पकड़ना मुश्किल हो जाता है।

GPT-4o का इमेज जनरेशन सिस्टम पहले के DALL-E मॉडल से अलग है। यह अब चैटबॉट में ही इमेज बना सकता है, जिससे यूज़र्स की भाषा की मांगों को और गहराई से समझकर ज्यादा सटीक और फोटोरियलिस्टिक इमेज बना सकता है।

OpenAI ने माना है कि GPT-4o के पास ज्यादा पावर है और इससे ज्यादा खतरे भी पैदा हो सकते हैं। हालांकि कंपनी ने बच्चों की फोटो, एडल्ट कंटेंट और हिंसक सामग्री जैसे विषयों पर सख्त पाबंदी लगाई है। फिर भी नकली ID कार्ड जैसी चीजें बन पाना एक गंभीर समस्या बनकर उभरी है।

विशेषज्ञों का कहना है कि AI से बने इन नकली दस्तावेजों से समाज में पहचान की चोरी और धोखाधड़ी बढ़ सकती है। IDfy के चीफ बिजनेस ऑफिसर व्रिजु रे ने कहा कि Aadhaar में जानकारी की जांच संभव है, लेकिन PAN और ड्राइविंग लाइसेंस में फोटो का मिलान करना मुश्किल होता है।

Quantum Hub के रोहित कुमार का कहना है कि AI टूल्स के आउटपुट को लेकर सख्त नियम जरूरी हैं। डिजिटल वॉटरमार्क और कंटेंट ट्रैकिंग जैसे उपाय अपनाने चाहिए ताकि इन तस्वीरों का गलत इस्तेमाल न हो सके। अगर समय रहते सख्त कदम नहीं उठाए गए तो समाज में भरोसे की कमी और आर्थिक नुकसान जैसी समस्याएं बढ़ सकती हैं।

ChatGPT is generating fake Aadhaar and PAN cards instantly, which is a serious security risk.

This is why AI should be regulated to a certain extent.@sama @OpenAI pic.twitter.com/4bsKWEkJGr

— Yaswanth Sai Palaghat (@yaswanthtweet) April 4, 2025