झूठी खबरों से लड़ना 200 से अधिक नागरिक अधिकारों की वकालत करने वाले समूह प्रमुख प्रौद्योगिकी फर्मों से एआई-ईंधन वाली गलत सूचना का मुकाबला करने के लिए अपने प्रयासों को तेज करने का आग्रह कर रहे हैं क्योंकि दुनिया भर में इस वर्ष चुनावों के लिए अरबों मतदाता मतदान केंद्रों पर जाते हैं। मंगलवार को मेटा, रेडिट, गूगल और एक्स के सीईओ के साथ-साथ आठ अन्य तकनीकी अधिकारियों को भेजे गए एक पत्र में, एक कार्यकर्ता गठबंधन ने राजनीतिक प्रचार की खतरनाक लहर का मुकाबला करने के लिए मजबूत नीतियां अपनाने के लिए उन पर दबाव डाला। डीपफेक प्रतिबंधों की मांग इन अतिरिक्त उपायों को विशेष रूप से 2024 में महत्वपूर्ण माना जाता है, क्योंकि 60 से अधिक देशों में राष्ट्रीय चुनाव आयोजित करने के लिए तैयार हैं, पत्र के अनुसार, जिसे प्रौद्योगिकी विश्लेषक नाओमी निक्स द्वारा द टेक्नोलॉजी 202 पर हाइलाइट किया गया था। एआई-जनित पदों को चिह्नित करना डिजिटल अधिकार समूह फ्री प्रेस की वरिष्ठ वकील नोरा बेनाविडेज ने कहा, "इस साल दुनिया भर में काफी संख्या में चुनाव हो रहे हैं, और सोशल मीडिया प्लेटफॉर्म उन प्राथमिक तरीकों में से हैं जिनसे लोग आमतौर पर जानकारी से जुड़ते हैं। इसलिए, वह जोर देकर कहती हैं, कंपनियों को इस समय प्लेटफॉर्म सुरक्षा उपायों को बढ़ाने की जरूरत है। समूहों ने तकनीकी दिग्गजों से राजनीतिक विज्ञापनों पर अपनी नीतियों को मजबूत करने का भी आह्वान किया है, जिसमें डीपफेक पर प्रतिबंध लगाना और कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न किसी भी सामग्री को चिह्नित करना शामिल है। महीनों से, नागरिक अधिकारों के अधिवक्ता चेतावनी दे रहे हैं कि एआई द्वारा उत्पन्न ऑडियो क्लिप और वीडियो की बढ़ती संख्या पहले से ही दुनिया भर में चुनावों में भ्रम पैदा कर रही है। विशेषज्ञों ने बताया है कि एआई के खतरों से राजनीतिक रूप से अस्थिर लोकतंत्रों को वास्तविक नुकसान हो सकता है। वाटरमार्किंग पहल मेटा, गूगल और मिडजॉर्नी जैसी टेक कंपनियां जोर देकर कहती हैं कि वे वॉटरमार्क का उपयोग करके एआई-जनित सामग्री की पहचान करने के लिए सिस्टम विकसित कर रही हैं। पिछले हफ्ते, मेटा ने घोषणा की कि वह अपनी एआई लेबलिंग नीति का विस्तार वीडियो, ऑडियो और छवियों की एक विस्तृत श्रृंखला को शामिल करने के लिए करेगा। हालांकि, विशेषज्ञों का मानना है कि यह संभावना नहीं है कि तकनीकी कंपनियां अपने नेटवर्क पर सभी एआई-निर्मित भ्रामक सामग्री का पता लगाएंगी या बुनियादी एल्गोरिदम को संबोधित करेंगी जो इन पदों में से कुछ को पहले स्थान पर व्यापक रूप से फैलाने की अनुमति देती हैं। समूहों ने तकनीकी कंपनियों से अपने एआई मॉडल का समर्थन करने वाले डेटा के बारे में अधिक पारदर्शी होने का आग्रह किया है और पिछले दो वर्षों में राजनीतिक गलत सूचना का मुकाबला करने के उद्देश्य से नीतियों और प्रणालियों को कमजोर करने के लिए उनकी आलोचना की है। हानिकारक प्रचार के खतरे समूहों ने चेतावनी दी है कि यदि तकनीकी कंपनियां अपने प्रयासों को मजबूत नहीं करती हैं, तो सोशल मीडिया पर हानिकारक प्रचार चरमपंथ या राजनीतिक हिंसा का कारण बन सकता है। फ्रांसिस हाउगेन, एक पूर्व फेसबुक व्हिसलब्लोअर, जिनके समूह बेयॉन्ड द स्क्रीन ने पत्र पर हस्ताक्षर किए, ने टिप्पणी की, "यह संभावना के दायरे से बाहर नहीं है कि हम गहरी नकली के रूप में अधिक गलत सूचना देखेंगे। उन्होंने कहा कि संयुक्त राज्य अमेरिका की तुलना में अधिक नाजुक लोकतंत्र वाले देश भी इन जोड़तोड़ के लिए समान रूप से अतिसंवेदनशील हैं।