सोशल मीडिया प्लेटफॉर्म पर यह निर्धारित करना कि क्या वास्तविक है, कठिन हो गया है। यदि आपने पिछले छह महीनों में फेसबुक पर समय बिताया है, तो आपने आश्चर्यजनक रूप से वास्तविक छवियों पर ध्यान दिया होगा जो विश्वास करना मुश्किल है: बच्चे जो चित्रों को पेशेवर कलाकारों के काम की तरह दिखते हैं, या लकड़ी के केबिनों के आश्चर्यजनक आंतरिक डिजाइन जो एक कल्पना से सीधे खींचे जाते हैं। इसके अतिरिक्त, आपने अन्य विचित्र कृतियों को देखा होगा, जैसे कि पोप की एक फुल्की जैकेट पहने एक कृत्रिम रूप से उत्पन्न छवि जो मई 2023 में वायरल हुई थी। कृत्रिम रूप से उत्पन्न चित्र कृत्रिम बुद्धिमत्ता (एआई) द्वारा उत्पन्न चित्र सोशल मीडिया प्लेटफॉर्म पर अधिक व्यापक और लोकप्रिय होते जा रहे हैं। यद्यपि कई अवास्तविकता के कगार पर हैं, लेकिन उनका उपयोग अक्सर नियमित उपयोगकर्ताओं को सगाई में लुभाने के लिए किया जाता है। इस रिपोर्ट में, स्टैनफोर्ड इंटरनेट ऑब्जर्वेटरी के स्टैनफोर्ड इंटरनेट ऑब्जर्वेटरी में अनुसंधान निदेशक रेने डीरेस्टा; जॉर्जटाउन विश्वविद्यालय में सुरक्षा और उभरती हुई प्रौद्योगिकी केंद्र में अनुसंधान सहायक अभिराम रेड्डी; और उसी केंद्र में एक शोध सहयोगी जोश ए गोल्डस्टीन ने कहाः "स्टैनफोर्ड इंटरनेट ऑब्जर्वेटरी और जॉर्जटाउन विश्वविद्यालय में सुरक्षा और उभरती हुई प्रौद्योगिकी केंद्र के शोधकर्ताओं की हमारी टीम ने 100 से अधिक फेसबुक पेजों की जांच की, जिसमें एआई द्वारा उत्पन्न सामग्री की एक बड़ी मात्रा पोस्ट की गई थी। हमने मार्च 2024 में अपने निष्कर्षों को एक प्रारंभिक पेपर के रूप में प्रकाशित किया, जिसका अर्थ है कि परिणामों की अभी तक सहकर्मी समीक्षा नहीं हुई है।" **छवि पैटर्न का विश्लेषण** शोधकर्ताओं ने छवि पैटर्न का पता लगाया, कुछ पृष्ठों के बीच समन्वय के सबूतों की खोज की, और पोस्टर के संभावित लक्ष्यों को अलग करने की मांग की। ऐसा प्रतीत होता है कि पेज मैनेजर कई कारणों से बच्चों, रसोईघरों या जन्मदिन के केक की एआई-जनरेट की गई छवियों को प्रकाशित करते हैं। कारणों पर चर्चा करते हुए, शोधकर्ताओं ने बताया कि कुछ सामग्री निर्माता कृत्रिम सामग्री का उपयोग करके अपने अनुयायियों को बढ़ाने के लिए दुर्भावनापूर्ण रूप से लक्ष्य रखते हैं; धोखाधड़ी करने वाले छोटे व्यवसायों से चोरी किए गए पृष्ठों का उपयोग उन उत्पादों का विज्ञापन करने के लिए करते हैं जो गैर-मौजूद प्रतीत होते हैं; और स्पैमर उपयोगकर्ताओं को विज्ञापन-भरी वेबसाइटों पर निर्देशित करते हुए एआई-जनित पशु छवियों को साझा करते हैं, जिससे मालिकों को उच्च गुणवत्ता वाली सामग्री का उत्पादन किए बिना विज्ञापन राजस्व एकत्र करने की अनुमति मिलती है। निष्कर्ष बताते हैं कि एआई द्वारा उत्पन्न ये चित्र उपयोगकर्ताओं को आकर्षित करते हैं। यह संभव है कि फेसबुक की अनुशंसा एल्गोरिथ्म इन पदों को व्यवस्थित रूप से बढ़ावा देती है। धोखाधड़ी के लिए प्रयुक्त जनरेटिव एआई जनरेटिव एआई धोखाधड़ी और स्पैम के निर्माण के साथ कैसे पार करता है? स्पैम और ऑनलाइन धोखाधड़ी दो दशकों से अधिक समय से चल रही है, नकली वित्तीय योजनाओं को बढ़ावा देने के लिए अवांछित ईमेल का उपयोग करना और चिकित्सा देखभाल प्रतिनिधियों या कंप्यूटर तकनीशियन होने का दिखावा करके बुजुर्गों को लक्षित करना। सोशल मीडिया पर, लाभार्थियों ने विज्ञापन से भरी वेबसाइटों पर उपयोगकर्ताओं को आकर्षित करने के लिए लेखों का उपयोग किया। 2010 के दशक की शुरुआत में, स्पैमर्स ने लोगों का ध्यान आकर्षित किया विज्ञापनों के साथ पेट की चर्बी कम करने या नई भाषा अधिग्रहण का वादा "एक अजीब चाल" के साथ। अब, एआई-जनित सामग्री "नई अजीब चाल" बन गई है। यह दृश्य रूप से आकर्षक है और उत्पादन करने में सस्ता है, जिससे धोखेबाजों और स्पैमर्स को बड़ी मात्रा में आकर्षक पोस्ट बनाने की अनुमति मिलती है। कुछ पृष्ठों ने देखा कि वे दैनिक रूप से दर्जनों अद्वितीय छवियों को अपलोड करते हैं, पृष्ठ रचनाकारों के लिए "मेटा" की सलाह का पालन करते हुए। कंपनी का सुझाव है कि लगातार पोस्टिंग सामग्री रचनाकारों को एल्गोरिथम ट्रैक्शन के कुछ रूप प्राप्त करने में मदद करती है, जिससे उनकी सामग्री पहले "न्यूज़ फ़ीड" के रूप में जानी जाती थी। सामग्री का एक महत्वपूर्ण हिस्सा क्लिकबाइट बना हुआ है: अजीब छवि लोगों को रोकती है और घूरती है, शेयरों को बढ़ाती है क्योंकि यह असामान्य रूप से आकर्षक है। कई यूजर्स पोस्ट को लाइक करके या कमेंट करके इंटरैक्ट करते हैं। हालांकि, हमने देखा कि कुछ अधिक कुख्यात स्पैमर्स को यह एहसास हो सकता है और एआई-जनित छवियों को पोस्ट करने के लिए शिफ्ट करके अपनी भागीदारी को अनुकूलित किया है। लेकिन अधिक पारंपरिक रचनाकारों को भी एआई-जनित छवियों के साथ बातचीत से लाभ होता है, स्पष्ट रूप से मंच नीतियों का उल्लंघन किए बिना। एआई-निर्मित सामग्री की निगरानी करने की योजना "मेटा" को संभावित मुद्दों की जानकारी है यदि एआई-जनित सामग्री सूचना वातावरण में बिना चेतावनी के विलय हो जाती है। कंपनी ने एआई-जनित सामग्री को संबोधित करने के लिए कई योजनाओं की घोषणा की। मई 2024 तक, फेसबुक उस सामग्री पर "एआई के साथ बनाया गया" टैग लागू करना शुरू कर देगा जिसे वह सिंथेटिक के रूप में विश्वसनीय रूप से पहचान सकता है। शैतान विवरण में है, हालांकि। पता लगाने के मॉडल कितने सटीक हैं? कौन सी एआई-जनित सामग्री फिसल जाएगी? कौन सी सामग्री गलत तरीके से टैग की जाएगी? और जनता ऐसी लेबलों पर कैसे प्रतिक्रिया देगी? जबकि हमारा काम फेसबुक पर स्पैम और धोखाधड़ी पर केंद्रित था, इसके व्यापक निहितार्थ हैं, जिसमें यूट्यूब पर बच्चों को लक्षित करने वाले एआई-जनित वीडियो और टिकटॉक पर प्रभावशाली लोग लाभ के लिए जनरेटिव एआई का उपयोग करते हैं, जैसा कि पहले प्रेस द्वारा बताया गया था। सोशल मीडिया प्लेटफॉर्म को यह विचार करना चाहिए कि एआई-जनित सामग्री को कैसे संभालना है; यदि इंटरनेट की दुनिया कृत्रिम रूप से बनाए गए पोस्ट, छवियों और वीडियो से भर जाती है तो उपयोगकर्ता की भागीदारी कम हो सकती है। इस प्रकार, वास्तविकता का आकलन करने की चुनौती... गर्म हो रहा है।