سوشل میڈیا پلیٹ فارمز پر یہ طے کرنا کہ کیا حقیقی ہے، مشکل سے مشکل تر ہوتا جا رہا ہے۔ اگر آپ نے پچھلے چھ مہینوں میں فیس بک پر وقت گزارا ہے، تو آپ نے حیرت انگیز طور پر حقیقی تصاویر دیکھی ہوں گی جن پر یقین کرنا مشکل ہے: بچے پینٹنگز کو تھامے ہوئے جو پیشہ ور فنکاروں کی تخلیق کی طرح نظر آتے ہیں، یا لکڑی کے کیبنز کے شاندار اندرونی ڈیزائن جو کسی فنتاسی سے کھینچے گئے لگتے ہیں۔ اس کے علاوہ، آپ نے دیگر عجیب و غریب تخلیقات دیکھی ہوں گی، جیسے پوپ کی ایک مصنوعی طور پر تیار کردہ تصویر جس میں ایک پُھلی جیکٹ پہن کر مئی 2023 میں وائرل ہوئی تھی۔ مصنوعی طور پر پیدا کردہ تصاویر مصنوعی ذہانت (اے آئی) کی جانب سے بنائی گئی تصاویر سوشل میڈیا پلیٹ فارمز پر زیادہ مقبول اور وسیع پیمانے پر پھیل رہی ہیں۔ اگرچہ بہت سے لوگ غیر حقیقی طور پر استعمال کرتے ہیں، وہ اکثر باقاعدہ صارفین کو مصروفیت میں لالچ دینے کے لئے استعمال کیا جاتا ہے. اس رپورٹ میں ، اسٹینفورڈ یونیورسٹی کے اسٹینفورڈ انٹرنیٹ آبزرویٹری میں ریسرچ کے ڈائریکٹر رینی ڈریستا؛ ابھیرم ریڈی ، جارج ٹاؤن یونیورسٹی میں سیکیورٹی اور ابھرتی ہوئی ٹکنالوجی کے مرکز میں ریسرچ اسسٹنٹ؛ اور جوش اے گولڈسٹین ، اسی مرکز میں ایک ریسرچ فیلو ، بیان کرتے ہیں: "اسٹینفورڈ انٹرنیٹ آبزرویٹری اور جارج ٹاؤن یونیورسٹی میں سیکیورٹی اور ابھرتی ہوئی ٹکنالوجی کے مرکز سے محققین کی ہماری ٹیم نے 100 سے زیادہ فیس بک پیجز کی تحقیقات کیں جن میں اے آئی سے تیار کردہ مواد کی ایک بڑی مقدار پوسٹ کی گئی تھی۔ ہم نے اپنے نتائج کو مارچ 2024 میں ایک ابتدائی کاغذ کے طور پر شائع کیا، جس کا مطلب ہے کہ نتائج کو ابھی تک ہم مرتبہ جائزہ لینے کی ضرورت ہے۔" ** تصویری نمونوں کا تجزیہ ** محققین نے تصویری نمونوں کا جائزہ لیا، کچھ صفحات کے درمیان ہم آہنگی کے شواہد دریافت کیے، اور پوسٹرز کے ممکنہ اہداف کو الگ کرنے کی کوشش کی۔ ایسا لگتا ہے کہ صفحہ مینیجرز کئی وجوہات کی بناء پر بچوں، باورچی خانوں یا سالگرہ کے کیک کی AI سے تیار کردہ تصاویر شائع کرتے ہیں۔ وجوہات پر تبادلہ خیال کرتے ہوئے ، محققین نے نشاندہی کی کہ کچھ مواد تخلیق کرنے والوں کا مقصد مصنوعی مواد کا استعمال کرتے ہوئے اپنے پیروکاروں کو بڑھانا ہے۔ دھوکہ دہی کرنے والے چھوٹے کاروباروں سے چوری شدہ صفحات کا استعمال کرتے ہوئے ایسی مصنوعات کی تشہیر کرتے ہیں جو غیر موجود نظر آتے ہیں۔ اور اسپامرز صارفین کو اشتہار سے بھرے ویب سائٹوں پر بھیجتے ہوئے اے آئی سے تیار کردہ جانوروں کی تصاویر شیئر کرتے ہیں ، جس سے مالکان کو اعلی معیار کا مواد تیار کیے بغیر اشتہاری آمدنی جمع کرنے کی اجازت ملتی ہے۔ نتائج سے پتہ چلتا ہے کہ یہ اے آئی سے تیار کردہ تصاویر صارفین کو راغب کرتی ہیں۔ یہ ممکن ہے کہ فیس بک کی سفارش الگورتھم ان پوسٹس کو نامیاتی طور پر فروغ دیتا ہے. جعلی کے لئے استعمال ہونے والا جینیاتی اے آئی جینیاتی اے آئی فراڈ اور اسپام کی تخلیق کے ساتھ کس طرح کاٹتا ہے؟ اسپام اور آن لائن دھوکہ دہی کرنے والے دو دہائیوں سے زیادہ عرصے سے موجود ہیں ، جعلی مالی اسکیموں کو فروغ دینے کے لئے ناپسندیدہ ای میل کا استعمال کرتے ہوئے اور طبی نگہداشت کے نمائندوں یا کمپیوٹر ٹیکنیشن کا بہانہ کرکے بزرگوں کو نشانہ بناتے ہیں۔ سوشل میڈیا پر منافع کمانے والے افراد نے اشتہارات سے بھرے ویب سائٹس پر صارفین کو اپنی طرف متوجہ کرنے کے لیے مضامین کا استعمال کیا تاکہ پیسہ کما سکیں۔ 2010 کی دہائی کے اوائل میں، اسپیمرز نے لوگوں کی توجہ اپنی طرف مبذول کروائی جس میں "ایک عجیب چال" کے ذریعے پیٹ کی چربی کم کرنے یا نئی زبان سیکھنے کا وعدہ کیا گیا تھا۔ اب، اے آئی سے تیار کردہ مواد "نئی عجیب چال" بن گیا ہے۔ یہ بصری طور پر پرکشش اور پیداوار میں سستا ہے، جو دھوکہ دہی اور اسپیمرز کو بڑی تعداد میں مشغول پوسٹیں بنانے کی اجازت دیتا ہے۔ کچھ صفحات نے روزانہ درجنوں منفرد تصاویر اپ لوڈ کیں ، "میٹا" کے مشورے پر عمل کرتے ہوئے صفحہ تخلیق کرنے والوں کے لئے۔ کمپنی کا کہنا ہے کہ بار بار پوسٹ کرنے سے مواد تخلیق کرنے والوں کو الگورتھم ٹریکشن کی کسی قسم کی مدد ملتی ہے ، جس کی وجہ سے ان کے مواد کو "نیوز فیڈ" کے نام سے جانا جاتا تھا جس میں ان کا مواد ظاہر ہوتا ہے۔ مواد کا ایک اہم حصہ کلک بیت رہتا ہے: عجیب و غریب تصویر لوگوں کو روکنے اور گھورنے پر مجبور کرتی ہے ، جس سے حصص میں اضافہ ہوتا ہے صرف اس وجہ سے کہ یہ غیر معمولی طور پر مشغول ہے۔ بہت سے صارفین پوسٹ کو پسند کرکے یا تبصرہ چھوڑ کر بات چیت کرتے ہیں۔ تاہم، کچھ مشہور اسپیمرز جن کو ہم نے دیکھا ہے شاید اس بات کا احساس ہو گیا ہو اور انہوں نے اے آئی سے پیدا ہونے والی تصاویر پوسٹ کرنے کی طرف بڑھ کر اپنی مصروفیت کو بہتر بنایا ہو۔ لیکن زیادہ روایتی تخلیق کار بھی پلیٹ فارم کی پالیسیوں کی واضح خلاف ورزی کیے بغیر ، اے آئی سے پیدا ہونے والی تصاویر کے ساتھ تعامل سے فائدہ اٹھاتے ہیں۔ اے آئی سے تیار کردہ مواد کی نگرانی کے منصوبے "میٹا" کو معلوم ہے کہ اگر اے آئی سے تیار کردہ مواد بغیر کسی انتباہ کے انفارمیشن ماحول میں ضم ہوجاتا ہے تو ممکنہ مسائل ہیں۔ کمپنی نے اے آئی سے پیدا ہونے والے مواد کو حل کرنے کے لئے کئی منصوبوں کا اعلان کیا. مئی 2024 تک ، فیس بک مواد پر "مصنوعی ذہانت سے تیار کردہ" ٹیگ لگانا شروع کردے گا جس کو وہ مصنوعی کے طور پر قابل اعتماد طریقے سے پہچان سکتا ہے۔ شیطان تفصیلات میں ہے، اگرچہ. پتہ لگانے کے ماڈل کتنے درست ہیں؟ اے آئی سے تیار کردہ کون سا مواد اس میں سے نکل جائے گا؟ کون سا مواد غلط طور پر ٹیگ کیا جائے گا؟ اور عوام اس طرح کے لیبل پر کیا رد عمل ظاہر کریں گے؟ اگرچہ ہمارا کام فیس بک پر اسپیم اور دھوکہ دہی پر مرکوز تھا، اس کے وسیع تر مضمرات ہیں، جن میں یوٹیوب پر بچوں کو نشانہ بنانے والی اے آئی سے تیار کردہ ویڈیو اور ٹک ٹاک پر اثر انداز کرنے والے افراد بھی شامل ہیں جو منافع کے لیے اے آئی کا استعمال کرتے ہیں، جیسا کہ پہلے پریس نے رپورٹ کیا تھا۔ سوشل میڈیا پلیٹ فارمز کو اس بات پر غور کرنا چاہیے کہ وہ اے آئی سے تیار کردہ مواد کو کس طرح سنبھالتے ہیں۔ اگر انٹرنیٹ کی دنیا مصنوعی طور پر تخلیق شدہ پوسٹس، تصاویر اور ویڈیوز سے بھر جائے تو صارف کی مصروفیت کم ہو سکتی ہے۔ اس طرح، حقیقی ہے کیا کا اندازہ لگانے کی چیلنج ... گرم ہو رہا ہے.