एक के अनुसार, कृत्रिम बुद्धि द्वारा संचालित राजनीतिक प्रचार खातों की एक सेना ने रिपब्लिकन उम्मीदवारों और कारणों के पक्ष में बहस करने के लिए एक्स पर वास्तविक लोगों के रूप में पेश किया। शोध रिपोर्ट क्लेम्सन विश्वविद्यालय से बाहर.
रिपोर्ट में बड़े भाषा मॉडल (एलएलएम) का उपयोग करके एक समन्वित एआई अभियान का विवरण दिया गया है – कृत्रिम बुद्धिमत्ता का प्रकार जो चैटजीपीटी जैसे मानव-प्रतीत चैट बॉट को अन्य उपयोगकर्ताओं को जवाब देने की शक्ति देता है।
शोधकर्ताओं ने कहा, हालांकि यह स्पष्ट नहीं है कि नेटवर्क का संचालन या वित्त पोषण किसने किया, लेकिन इसका विदेशी देशों से कोई स्पष्ट संबंध नहीं रखने वाली विशेष राजनीतिक पसंदीदा परियोजनाओं पर ध्यान केंद्रित करना यह दर्शाता है कि यह किसी विदेशी सरकार द्वारा चलाए जाने के बजाय एक अमेरिकी राजनीतिक ऑपरेशन है।
जैसे-जैसे नवंबर चुनाव नजदीक आ रहे हैं, सरकार और अन्य निगरानीकर्ताओं ने एआई-जनित सामग्री के माध्यम से जनता की राय को प्रभावित करने के प्रयासों की चेतावनी दी है। एआई का उपयोग करते हुए प्रतीत होता है कि समन्वित घरेलू प्रभाव ऑपरेशन की उपस्थिति तेजी से विकसित हो रहे और अराजक सूचना परिदृश्य में एक और झुंझलाहट जोड़ती है।
क्लेम्सन शोधकर्ताओं द्वारा पहचाने गए नेटवर्क में कम से कम 686 पहचाने गए एक्स खाते शामिल हैं जिन्होंने जनवरी से 130,000 से अधिक बार पोस्ट किया है। इसने चार सीनेट दौड़ और दो प्राथमिक दौड़ को लक्षित किया और पूर्व राष्ट्रपति डोनाल्ड ट्रम्प के पुन: चुनाव अभियान का समर्थन किया। एनबीसी न्यूज द्वारा टिप्पणी के लिए मंच को ईमेल करने के बाद कई खातों को एक्स से हटा दिया गया था। मंच ने एनबीसी न्यूज की पूछताछ का जवाब नहीं दिया।
खातों ने एक सुसंगत पैटर्न का पालन किया। कई लोगों की प्रोफ़ाइल तस्वीरें ऐसी थीं जो रूढ़िवादियों को पसंद आईं, जैसे धुर दक्षिणपंथी कार्टून मीम पेपे द फ्रॉग, एक क्रॉस या एक अमेरिकी ध्वज। वे अक्सर किसी राजनेता या ध्रुवीकरण वाले राजनीतिक मुद्दे के बारे में बात करने वाले व्यक्ति को एक्स पर जवाब देते थे, अक्सर रिपब्लिकन उम्मीदवारों या नीतियों का समर्थन करने या डेमोक्रेटिक उम्मीदवारों को बदनाम करने के लिए। जबकि अकाउंट्स के आम तौर पर कम फॉलोअर्स होते थे, उत्तर देने की उनकी प्रथा अधिक लोकप्रिय थी
पोस्टरों से यह संभावना अधिक हो गई कि उन्हें देखा जाएगा।
अन्य खातों को कृत्रिम रूप से बढ़ावा देने के लिए डिज़ाइन किए गए नकली खातों और बॉट ने वर्षों से सोशल मीडिया प्लेटफार्मों को परेशान कर रखा है। लेकिन 2022 के अंत में व्यापक रूप से उपलब्ध बड़े भाषा मॉडल के आगमन के साथ ही बड़े पैमाने पर ठोस, इंटरैक्टिव मानवीय वार्तालापों को स्वचालित करना संभव हो सका है।
क्लेम्सन मीडिया हब के सह-निदेशक और अध्ययन के प्रमुख शोधकर्ता डैरेन लिनविल ने एनबीसी न्यूज को बताया, “मुझे इस बात की चिंता है कि यह अभियान क्या दिखाता है कि यह संभव है।” “बुरे अभिनेता अभी यह सीख रहे हैं कि यह कैसे करना है। वे निश्चित रूप से इसमें बेहतर होने जा रहे हैं।”
खातों ने कुछ जातियों पर अलग-अलग स्थिति ली। ओहियो रिपब्लिकन सीनेट प्राइमरी में, उन्होंने ट्रम्प समर्थित बर्नी मोरेनो के मुकाबले फ्रैंक लारोज़ का समर्थन किया। एरिज़ोना के रिपब्लिकन कांग्रेस प्राइमरी में, खातों ने अब्राहम हमादेह के मुकाबले ब्लेक मास्टर्स का समर्थन किया। मास्टर्स और हमादेह दोनों को चार अन्य जीओपी उम्मीदवारों की तुलना में ट्रम्प द्वारा समर्थन दिया गया था।
नेटवर्क ने मोंटाना, पेंसिल्वेनिया और विस्कॉन्सिन में सीनेट की दौड़ में रिपब्लिकन उम्मीदवार के साथ-साथ उत्तरी कैरोलिना के रिपब्लिकन के नेतृत्व वाले उम्मीदवारों का भी समर्थन किया। मतदाता पहचान कानून.
जुलाई में प्राइमरी जीतने वाले हमादेह के एक प्रवक्ता ने एनबीसी न्यूज को बताया कि जब भी हमादेह ने एक्स पर पोस्ट किया तो अभियान में उनकी आलोचना करने वाले संदेशों की बाढ़ आ गई, लेकिन यह नहीं पता था कि इस घटना की रिपोर्ट किसे करनी है या उन्हें कैसे रोकना है। एक्स उपयोगकर्ताओं को स्पैम जैसे प्लेटफ़ॉर्म के दुरुपयोग की रिपोर्ट करने का विकल्प प्रदान करता है, लेकिन इसकी नीतियां एआई-संचालित नकली खातों को स्पष्ट रूप से प्रतिबंधित नहीं करती हैं।
शोधकर्ताओं ने मेटाडेटा का आकलन करके और उनके उत्तरों की सामग्री और जिन खातों का उन्होंने उत्तर दिया, उन्हें ट्रैक करके यह निर्धारित किया कि खाते एक ही नेटवर्क में थे – कभी-कभी खातों ने बार-बार एक ही लक्ष्य पर एक साथ हमला किया।
क्लेम्सन शोधकर्ताओं ने अपने पोस्ट में टेक्स्ट के माध्यम से नेटवर्क में कई खातों की पहचान की, जिससे संकेत मिलता है कि उनके पास “टूटा हुआजहां उनके पाठ में एआई द्वारा लिखे जाने का संदर्भ शामिल था। प्रारंभ में, बॉट्स सबसे अधिक नियंत्रित एलएलएम में से एक, चैटजीपीटी का उपयोग करते दिखाई दिए। सेन शेरोड ब्राउन, डी-ओहियो को टैग करते हुए एक पोस्ट में, एक खाते ने लिखा: “अरे, मैं ओपनएआई द्वारा प्रशिक्षित एक एआई भाषा मॉडल हूं। यदि आपके कोई प्रश्न हैं या आपको अतिरिक्त सहायता की आवश्यकता है, तो बेझिझक पूछें!” ओपनएआई ने टिप्पणी करने से इनकार कर दिया।
जून में, नेटवर्क ने प्रतिबिंबित किया कि वह डॉल्फिन का उपयोग कर रहा था, जो चैटजीपीटी जैसे प्रतिबंधों से बचने के लिए डिज़ाइन किया गया एक छोटा मॉडल था, जो पर प्रतिबंध लगाता है दूसरों को गुमराह करने के लिए अपने उत्पाद का उपयोग कर रहा है। अकाउंट्स के कुछ ट्वीट्स में, “डॉल्फ़िन यहाँ!” जैसे वाक्यांशों के साथ टेक्स्ट शामिल किया जाएगा। और “डॉल्फिन, बिना सेंसर वाला एआई ट्वीट लेखक।”
नॉर्थईस्टर्न यूनिवर्सिटी के पोस्टडॉक्टरल शोधकर्ता काई-चेंग यांग, जो जेनरेटिव एआई के दुरुपयोग का अध्ययन करते हैं, लेकिन क्लेम्सन के शोध में शामिल नहीं थे, ने एनबीसी न्यूज के अनुरोध पर निष्कर्षों की समीक्षा की। एक साक्षात्कार में, उन्होंने निष्कर्षों और कार्यप्रणाली का समर्थन किया, यह देखते हुए कि खातों में अक्सर एक दुर्लभ विवरण शामिल होता है: वास्तविक लोगों के विपरीत, वे अक्सर अपने पोस्ट के साथ जाने के लिए हैशटैग बनाते हैं।
यांग ने कहा, “उनमें बहुत सारे हैशटैग शामिल हैं, लेकिन जरूरी नहीं कि वे हैशटैग वही हों जिन्हें लोग इस्तेमाल करते हैं।” “जैसे कि जब आप चैटजीपीटी से आपके लिए एक ट्वीट लिखने के लिए कहते हैं और इसमें बने-बनाए हैशटैग शामिल होंगे।”
उदाहरण के लिए, ओहियो रिपब्लिकन सीनेट प्राइमरी में लारोज़ का समर्थन करने वाली एक पोस्ट में, हैशटैग “#VoteFrankLaRose” का इस्तेमाल किया गया था। उस हैशटैग के लिए एक्स पर खोज से पता चलता है कि 2018 से केवल एक अन्य ट्वीट ने इसका उपयोग किया है।
शोधकर्ताओं को केवल एक्स पर अभियान का सबूत मिला। प्लेटफॉर्म के मालिक एलोन मस्क ने 2022 में प्लेटफॉर्म से बॉट और फर्जी खातों को खत्म करने का वादा किया था। लेकिन मस्क ने भी निरीक्षण किया जब उन्होंने कंपनी संभाली, तब ट्विटर पर गहरी कटौती हुई, जिसमें इसके ट्रस्ट और सुरक्षा टीमों के कुछ हिस्से शामिल थे.
यह बिल्कुल स्पष्ट नहीं है कि अभियान ने एक्स पर सामग्री बनाने और पोस्ट करने की प्रक्रिया को कैसे स्वचालित किया, लेकिन कई उपभोक्ता उत्पाद समान प्रकार के स्वचालन की अनुमति देते हैं और सार्वजनिक रूप से उपलब्ध ट्यूटोरियल बताते हैं कि इस तरह के ऑपरेशन को कैसे स्थापित किया जाए।
रिपोर्ट में कहा गया है कि नेटवर्क को एक अमेरिकी ऑपरेशन मानने का एक कारण कुछ रिपब्लिकन अभियानों का अति-विशिष्ट समर्थन है। प्रलेखित विदेशी प्रचार अभियान लगातार प्रतिबिंबित होते हैं प्राथमिकताओं उन देशों से: चीन ताइवान के लिए अमेरिकी समर्थन का विरोध करता है, ईरान ट्रम्प की उम्मीदवारी का विरोध करता है, और रूस ट्रम्प का समर्थन करता है और यूक्रेन को अमेरिकी सहायता का विरोध करता है। तीनों के पास है सालों के लिए अमेरिकी लोकतांत्रिक प्रक्रिया को बदनाम किया और सोशल मीडिया प्रचार अभियानों के माध्यम से सामान्य कलह को भड़काने की कोशिश की।
लिनविल ने कहा, “वे सभी कलाकार अपने-अपने लक्ष्य और एजेंडे से प्रेरित हैं।” “अधिकांश लक्ष्यीकरण की विशिष्टता के कारण यह संभवतः एक घरेलू अभिनेता है।”
यदि नेटवर्क अमेरिकी है, तो संभवतः यह अवैध नहीं है, एनवाईयू के ब्रेनन सेंटर फॉर जस्टिस में चुनाव और सरकारी कार्यक्रम के उपाध्यक्ष, एक प्रगतिशील गैर-लाभकारी समूह और लेखक लैरी नॉर्डेन ने कहा। हालिया विश्लेषण राज्य चुनाव के एआई कानून।
नॉर्डेन ने कहा, “इस क्षेत्र में वास्तव में बहुत अधिक विनियमन नहीं है, खासकर संघीय स्तर पर।” “अभी कानून में ऐसा कुछ नहीं है जिसके लिए किसी बॉट को खुद को बॉट के रूप में पहचानने की आवश्यकता हो।”
नॉर्डेन ने कहा, अगर एक सुपर पीएसी को ऐसे बॉट फार्म को चलाने के लिए एक मार्केटिंग फर्म या ऑपरेटिव को नियुक्त करना होता है, तो यह आवश्यक रूप से उसके प्रकटीकरण फॉर्म पर दिखाई नहीं देगा, संभवतः एक कर्मचारी या विक्रेता से आ रहा है।
जबकि संयुक्त राज्य सरकार ने बार-बार लिया है कार्रवाई अमेरिकियों की राजनीतिक राय, आम तौर पर अमेरिकी खुफिया समुदाय को प्रभावित करने के उद्देश्य से धोखेबाज विदेशी प्रचार अभियानों को नपुंसक बनाना योजना नहीं बनाता अमेरिका-आधारित दुष्प्रचार अभियानों का मुकाबला करने के लिए।
सोशल मीडिया प्लेटफ़ॉर्म नियमित रूप से समन्वित, नकली व्यक्तियों को शुद्ध करते हैं जिन पर वे विशेष रूप से सरकारी प्रचार नेटवर्क से आने का आरोप लगाते हैं चीन, ईरान और रूस. लेकिन जबकि उन परिचालनों ने कई बार काम पर रखा है सैकड़ों कर्मचारियों द्वारा नकली सामग्री लिखने के कारण, AI अब उस अधिकांश प्रक्रिया को स्वचालित करने की अनुमति देता है।
अक्सर वे नकली खाते पहचाने जाने से पहले ऑर्गेनिक फॉलोअर्स हासिल करने के लिए संघर्ष करते हैं, लेकिन क्लेम्सन के शोधकर्ताओं द्वारा पता लगाए गए नेटवर्क ने बड़े खातों का जवाब देकर मौजूदा फॉलोअर्स नेटवर्क में प्रवेश किया। एलएलएम तकनीक कॉपी और पेस्ट करने के बजाय नई सामग्री की त्वरित पीढ़ी की अनुमति देकर पहचान से बचने में भी सहायता कर सकती है।
जबकि क्लेम्सन पहला स्पष्ट रूप से प्रलेखित नेटवर्क है जो राजनीतिक बातचीत का जवाब देने और उसे आकार देने के लिए व्यवस्थित रूप से एलएलएम का उपयोग करता है, इस बात के सबूत हैं कि अन्य लोग भी एक्स पर प्रचार अभियानों में एआई का उपयोग कर रहे हैं।
में एक सितम्बर में प्रेस कॉल चुनाव को प्रभावित करने के लिए विदेशी अभियानों के बारे में, एक अमेरिकी खुफिया अधिकारी ने कहा कि ईरान और विशेष रूप से रूस के ऑनलाइन प्रचार प्रयासों में उपयोगकर्ताओं को जवाब देने के लिए एआई बॉट्स को शामिल करना शामिल है, हालांकि अधिकारी ने उन प्रयासों के पैमाने पर बात करने या अतिरिक्त विवरण साझा करने से इनकार कर दिया।
डॉल्फ़िन के संस्थापक, एरिक हार्टफोर्ड ने एनबीसी न्यूज़ को बताया कि उनका मानना है कि प्रौद्योगिकी को इसका उपयोग करने वाले के मूल्यों को प्रतिबिंबित करना चाहिए।
“एलएलएम एक उपकरण है, बिल्कुल लाइटर और चाकू और कारों और फोन और कंप्यूटर और एक चेनसॉ की तरह। हम यह उम्मीद नहीं करते कि चेनसॉ केवल पेड़ों पर ही काम करेगा, है ना?”
उन्होंने कहा, “मैं एक ऐसा उपकरण बना रहा हूं जिसका इस्तेमाल अच्छे और बुरे दोनों के लिए किया जा सकता है।”
हार्टफोर्ड ने कहा कि उन्हें इस बात पर कोई आश्चर्य नहीं हुआ कि किसी ने उनके मॉडल का इस्तेमाल भ्रामक राजनीतिक अभियान के लिए किया है।
“मैं कहूंगा कि यह इस तकनीक के अस्तित्व का स्वाभाविक परिणाम है, और अपरिहार्य है,” उन्होंने कहा।