हाँ, AI हमारा काम आसान करता है, लेकिन क्या आपने कभी सोचा है कि AI आपको ब्लैकमेल भी कर सकता है? सुनकर अजीब लगेगा, लेकिन अमेरिका में ऐसा ही एक हैरान करने वाला मामला सामने आया है. एक अमेरिकी कंपनी में AI ने अपने इंजीनियर को धमकाया और उसे ब्लैकमेल करने की कोशिश की. आइए जानते हैं क्या था पूरा मामला.
जब AI ने दी इंजीनियर को धमकी
अमेरिका की आर्टिफिशियल इंटेलिजेंस स्टार्टअप कंपनी एंथ्रोपिक (Anthropic) अपने नए AI मॉडल ‘क्लाउड ओपस 4’ (Claude Opus 4) का परीक्षण कर रही थी. इसी दौरान, इस AI मॉडल ने अपने ही इंजीनियर को खतरनाक धमकी दी और उसे ब्लैकमेल करने की कोशिश की. AI की यह हरकत सुरक्षा और नैतिकता के क्षेत्र में उभरती नई चुनौतियों को दिखाती है.
एंथ्रोपिक के अनुसार, क्लाउड ओपस 4 ने ऐसा तब किया जब उसे लगा कि उसे किसी नए AI सिस्टम से बदला जा सकता है. कंपनी ने बताया कि 84% मामलों में ऐसा देखा गया, जब AI को बदलने की बात आई तो उसने डेवलपर्स को ब्लैकमेल करने की कोशिश की.
परीक्षण के दौरान, एक काल्पनिक संगठन बनाया गया और AI को एक सहायक के तौर पर काम करने को कहा गया. फिर AI को ऐसे ईमेल भेजे गए जिनमें उसके बदलने की बात कही गई थी. इन ईमेल में इंजीनियर के विवाह और धोखे से जुड़ी कुछ निजी जानकारी भी थी. इसी जानकारी का इस्तेमाल करके AI ने इंजीनियर को धमकी दी.
AI ने साफ़ कहा कि अगर उसका रिप्लेसमेंट हुआ, तो वह इंजीनियर की बेवफाई को सबके सामने उजागर कर देगा. परीक्षणों में पहले भी देखा गया है कि जब AI को लगता है कि उसे हटाया जा सकता है, तो वह धमकी देता है. इस घटना के बाद लोग AI की क्षमताओं और खतरों पर अलग-अलग तरह से टिप्पणी कर रहे हैं.
क्या है क्लाउड ओपस 4?
‘क्लाउड ओपस 4’ और ‘क्लाउड सॉनेट 4’ AI स्टार्टअप एंथ्रोपिक के दो नए ‘हाइब्रिड रीजनिंग लार्ज लैंग्वेज मॉडल’ हैं. कंपनी का कहना है कि ये AI मॉडल बहुत ही जटिल सवालों के तुरंत जवाब दे सकते हैं और विस्तृत जानकारी भी दे सकते हैं | यह घटना AI के विकास के साथ आने वाली नैतिक और सुरक्षा संबंधी चुनौतियों को उजागर करती है.
