जैसा कि पाकिस्तान के साथ भारत के चार दिवसीय संघर्ष के दौरान गलत सूचना विस्फोट हुआ, सोशल मीडिया उपयोगकर्ताओं ने सत्यापन के लिए एक एआई चैटबॉट की ओर रुख किया-केवल अधिक झूठ का सामना करने के लिए, एक तथ्य-जाँच उपकरण के रूप में इसकी अविश्वसनीयता को रेखांकित करते हुए, एएफपी सूचना दी।
मानव तथ्य-चेकरों को कम करने वाले तकनीकी प्लेटफार्मों के साथ, उपयोगकर्ता तेजी से एआई-संचालित चैटबॉट्स पर भरोसा कर रहे हैं-जिसमें XAI के ग्रोक, Openai के चैट और Google के मिथुन शामिल हैं-विश्वसनीय जानकारी की तलाश में।
“अरे @grok, क्या यह सच है?” एलोन मस्क के प्लेटफ़ॉर्म एक्स पर एक सामान्य क्वेरी बन गया है, जहां एआई सहायक को बनाया गया है, जो सोशल मीडिया पर त्वरित डिबंकिंग की बढ़ती प्रवृत्ति को दर्शाता है।
लेकिन प्रतिक्रियाएं अक्सर खुद को गलत सूचनाओं से भरी होती हैं।
GROK-अब “सफेद नरसंहार” सम्मिलित करने के लिए नए सिरे से जांच के तहत, एक दूर-दराज़ साजिश सिद्धांत, असंबंधित प्रश्नों में-देश के हाल के संघर्ष के दौरान पाकिस्तान के नूर खान एयरबेस पर एक मिसाइल हड़ताल के रूप में सूडान के खार्तूम हवाई अड्डे से पुराने वीडियो फुटेज की गलत तरीके से पहचाना गया।
नेपाल में आग पर एक इमारत के असंबंधित फुटेज को “संभावना” के रूप में गलत बताया गया था, जो भारतीय हमलों के लिए पाकिस्तान की सैन्य प्रतिक्रिया दिखाते हैं।
“एक फैक्ट-चेकर के रूप में ग्रोक पर बढ़ती निर्भरता एक्स के रूप में आती है और अन्य प्रमुख तकनीकी कंपनियों ने मानव तथ्य-जाँचकर्ताओं में निवेश वापस कर दिया है,” मैकेंजी साडेगी, डिसाइनफॉर्मिंग वॉचडॉग न्यूजगार्ड के एक शोधकर्ता, ने बताया, एएफपी।
“हमारे शोध ने बार -बार पाया है कि एआई चैटबॉट समाचार और जानकारी के लिए विश्वसनीय स्रोत नहीं हैं, खासकर जब यह ब्रेकिंग न्यूज की बात आती है,” उसने चेतावनी दी।
‘गढ़ा हुआ’
न्यूज़गार्ड के शोध में पाया गया कि 10 प्रमुख चैटबॉट्स को झूठ दोहराने के लिए प्रवणता थी, जिसमें रूसी विघटनकारी कथन और हाल ही में ऑस्ट्रेलियाई चुनाव से संबंधित झूठे या भ्रामक दावे शामिल थे।
आठ एआई खोज उपकरणों के एक हालिया अध्ययन में, कोलंबिया विश्वविद्यालय में डिजिटल पत्रकारिता के लिए टो सेंटर ने पाया कि चैटबॉट्स “आम तौर पर उन सवालों के जवाब देने के लिए खराब होते थे जो वे सही जवाब नहीं दे सकते थे, इसके बजाय गलत या सट्टा उत्तर की पेशकश करते थे।”
कब एएफपी उरुग्वे में फैक्ट-चेकर्स ने मिथुन से एक महिला की एआई-जनित छवि के बारे में पूछा, इसने न केवल उसकी प्रामाणिकता की पुष्टि की, बल्कि उसकी पहचान के बारे में गढ़े गए विवरण और जहां छवि की संभावना थी।
ग्रोक ने हाल ही में अमेज़ॅन नदी में एक विशाल एनाकोंडा तैराकी के एक कथित वीडियो को “वास्तविक” के रूप में लेबल किया, यहां तक कि अपने झूठे दावे का समर्थन करने के लिए विश्वसनीय-ध्वनि वाले वैज्ञानिक अभियानों का हवाला देते हुए भी।
वास्तव में, वीडियो एआई-जनित था, एएफपी लैटिन अमेरिका में फैक्ट-चेकर ने बताया, यह देखते हुए कि कई उपयोगकर्ताओं ने ग्रोक के आकलन का हवाला दिया कि क्लिप वास्तविक था।
इस तरह के निष्कर्षों ने चिंताओं को उठाया है क्योंकि सर्वेक्षण से पता चलता है कि ऑनलाइन उपयोगकर्ता पारंपरिक खोज इंजन से सूचना एकत्र करने और सत्यापन के लिए एआई चैटबॉट में तेजी से स्थानांतरित कर रहे हैं।
यह शिफ्ट भी आता है क्योंकि मेटा ने इस साल की शुरुआत में घोषणा की थी कि यह संयुक्त राज्य अमेरिका में अपने तीसरे पक्ष के तथ्य-जाँच कार्यक्रम को समाप्त कर रहा था, जो कि “कम्युनिटी नोट्स” के रूप में जाना जाता है, जो एक्स द्वारा लोकप्रिय होकर एक मॉडल के तहत सामान्य उपयोगकर्ताओं को झूठ बोलने के कार्य को बदल देता है।
शोधकर्ताओं ने बार -बार झूठ का मुकाबला करने में “सामुदायिक नोट” की प्रभावशीलता पर सवाल उठाया है।
‘पक्षपाती उत्तर’
मानव तथ्य-जाँच लंबे समय से एक हाइपरपोलराइज्ड राजनीतिक माहौल में एक फ्लैशपॉइंट है, विशेष रूप से संयुक्त राज्य अमेरिका में, जहां रूढ़िवादी अधिवक्ता यह बनाए रखते हैं कि यह मुक्त भाषण और सेंसर दक्षिणपंथी सामग्री को दबा देता है-कुछ पेशेवर तथ्य-चेकर्स ने सख्ती से अस्वीकार कर दिया।
एएफपी वर्तमान में एशिया, लैटिन अमेरिका और यूरोपीय संघ सहित फेसबुक के फैक्ट-चेकिंग कार्यक्रम के साथ 26 भाषाओं में काम करता है।
एआई चैटबॉट्स की गुणवत्ता और सटीकता अलग -अलग हो सकती है, यह इस बात पर निर्भर करता है कि वे कैसे प्रशिक्षित और प्रोग्राम किए जाते हैं, यह चिंता करते हुए कि उनका उत्पादन राजनीतिक प्रभाव या नियंत्रण के अधीन हो सकता है।
मस्क के XAI ने हाल ही में दक्षिण अफ्रीका में “सफेद नरसंहार” को संदर्भित करने वाले अवांछित पदों को उत्पन्न करने के लिए ग्रोक के कारण “अनधिकृत संशोधन” को दोषी ठहराया।
जब एआई विशेषज्ञ डेविड कैसवेल ने ग्रोक से पूछा कि किसने अपने सिस्टम प्रॉम्प्ट को संशोधित किया है, तो चैटबॉट ने मस्क को “सबसे अधिक संभावना” अपराधी के रूप में नामित किया है।
राष्ट्रपति डोनाल्ड ट्रम्प के दक्षिण अफ्रीकी-जन्म के अरबपति बैकर, मस्क ने पहले निराधार दावे को पछाड़ दिया है कि दक्षिण अफ्रीका के नेता गोरे लोगों के “नरसंहार के लिए खुले तौर पर धक्का दे रहे थे”।
अंतर्राष्ट्रीय फैक्ट-चेकिंग नेटवर्क के निदेशक एंजी होलेन ने बताया, “हमने जिस तरह से एआई सहायक या तो परिणाम गढ़ सकते हैं या मानव कोडर के बाद पक्षपाती उत्तर दे सकते हैं, विशेष रूप से अपने निर्देशों को बदल सकते हैं।” एएफपी।
“मैं विशेष रूप से इस बात से चिंतित हूं कि जिस तरह से ग्रोक ने पूर्व-अधिकृत उत्तर प्रदान करने के निर्देश प्राप्त करने के बाद बहुत संवेदनशील मामलों से संबंधित अनुरोधों को गलत बताया है।”