קביעת מה אמיתי הפכה קשה יותר ויותר בפלטפורמות המדיה החברתית. אם ביליתם זמן בפייסבוק בחצי השנה האחרונה, אולי הבחנתם בתמונות מציאותיות להפליא שקשה להאמין להן: ילדים מחזיקים ציורים שנראים כמו עבודת אמנים מקצועיים, או עיצובים פנימיים מדהימים של בקתות עץ שנראות כמו מתוך פנטזיה. בנוסף, ייתכן שראית יצירות מוזרות אחרות, כמו תמונה שנוצרה באופן מלאכותי של האפיפיור לבוש בג'קט נפוח שהפך ויראלי במאי 2023. תמונות שנוצרו באופן מלאכותי תמונות שנוצרו על ידי בינה מלאכותית (AI) הופכות להיות יותר נפוצות ופופולריות בפלטפורמות מדיה חברתית. למרות שרבים מהם על סף סוריאליזם, הם משמשים לעתים קרובות כדי לפתות משתמשים רגילים למעורבות. בדו"ח זה, רנה דיריסטה, מנהל המחקר במצפה האינטרנט של סטנפורד באוניברסיטת סטנפורד; Abhiram Reddy, עוזר מחקר במרכז לביטחון וטכנולוגיה מתפתחת באוניברסיטת ג'ורג'טאון; וג'וש א. גולדשטיין, חוקר באותו מרכז, מצהירים: "צוות החוקרים שלנו ממצפה האינטרנט של סטנפורד ומרכז לביטחון וטכנולוגיה מתפתחת באוניברסיטת ג'ורג'טאון חקר יותר מ 100 דפי פייסבוק שמפרסמים כמות גדולה של תוכן שנוצר על ידי AI. פרסמנו את הממצאים שלנו במרץ 2024 כמאמר ראשוני, כלומר התוצאות עדיין לא עברו ביקורת עמיתים". ** ניתוח דפוסי תמונות ** החוקרים חקרו דפוסי תמונות, גילו ראיות לתיאום בין כמה דפים, וניסו להבחין בין המטרות הפוטנציאליות של הפוסטרים. נראה שמנהלי דפים מפרסמים תמונות שנוצרו על ידי בינה מלאכותית של ילדים, מטבחים או עוגות יום הולדת ממספר סיבות. כאשר דנים בסיבות, החוקרים ציינו כי כמה יוצרי תוכן מכוונים באופן זדוני להגדיל את המשתמשים שלהם באמצעות תוכן סינתטי; נוכלים משתמשים בדפים גנובים מהעסקים הקטנים כדי לפרסם מוצרים שנראים לא קיימים; ספממרים חולקים תמונות של בעלי חיים שנוצרו על ידי AI תוך הפניה של משתמשים לאתרי אינטרנט מלאים במודעות, ומאפשרים לבעלים לגייס הכנסות פרסום מבלי לייצר תוכן באיכות גבוהה. הממצאים מצביעים על כך שתמונות אלו שנוצרו על ידי בינה מלאכותית מושכות משתמשים. זה אפשרי שאלגוריתם ההמלצות של פייסבוק מקדם את הפוסטים האלה באופן אורגני. בינה מלאכותית גנראטיבית בשימוש בהונאה איך בינה מלאכותית גנראטיבית מתנגשת עם הונאה ויצירת ספאם? ספאם ומטענים מקוונים קיימים כבר יותר משני עשורים, משתמשים בדואר אלקטרוני לא רצוי כדי לקדם תכניות פיננסיות מזויפות ומכוונים את המבוגרים על ידי העמדת פנים שהם נציגי שירותי בריאות או טכנאי מחשבים. ברשתות החברתיות, רווחים השתמשו במאמרים כדי למשוך משתמשים לאתרי אינטרנט מלאים בפרסומות כדי להרוויח כסף. בתחילת שנות ה-2010 ספממרים תפסו את תשומת הלב של אנשים עם מודעות שהבטיחו לירידה בשומן הבטן או רכישת שפה חדשה עם "טריק מוזר אחד". עכשיו, תוכן שנוצר על ידי בינה מלאכותית הפך ל"טריק המוזר החדש". זה אופי מושך וזול לייצר, ומאפשר למרמים ולספמרים ליצור כמויות גדולות של הודעות מעורבות. כמה דפים שנצפו העלה עשרות תמונות ייחודיות מדי יום, בעקבות עצתו של "מטה" ליוצרים של דפים. החברה טוענת כי פרסום תכופות עוזר ליוצרים של תוכן להשיג סוג כלשהו של כוח אלגוריתמי, מה שמוביל לתוכן שלהם להופיע במה שהיה ידוע בעבר כ"חדשות". חלק משמעותי של התוכן נשאר כדיית קליקים: התמונה המוזרה גורמת לאנשים לעצור ולבהות, ומגדילה את השיתוף פשוט בגלל שהיא מעורבת באופן יוצא דופן. משתמשים רבים מתקשרים על ידי חיבוב לפוסט או השארת תגובה. עם זאת, חלק מהספממרים הידועים לשמצה יותר שזיהינו אולי הבינו זאת ושיפרו את המעורבות שלהם על ידי מעבר לפרסום תמונות שנוצרו על ידי בינה מלאכותית. אבל יוצרים מסורתיים יותר גם נהנים מאינטראקציה עם תמונות שנוצרו על ידי AI, מבלי להפר בבירור את מדיניות הפלטפורמה. תוכניות לעקוב אחר תוכן המיוצר על ידי AI "מטה" מודעת לבעיות הפוטנציאליות אם תוכן שנוצר על ידי בינה מלאכותית יתמזג עם סביבת המידע ללא אזהרה. החברה הודיעה על מספר תוכניות לטיפול בתוכן שנוצר על ידי בינה מלאכותית. עד מאי 2024, פייסבוק תתחיל להחיל תגית "Made with AI" לתוכן שהוא יכול לזהות באופן אמין כסינתטי. השטן נמצא בפרטים, אם כי. כמה מדויקים מודלי הגילוי? איזה תוכן שנוצר על ידי בינה מלאכותית ייחמק? איזה תוכן יהיה מסומן באופן לא נכון? ואיך הציבור יגיב לתיבונים כאלה? בעוד שעבודתנו התמקדה בספאם ובגידה בפייסבוק, יש השלכות רחבות יותר, כולל וידאו שנוצר על ידי AI שמכוון ילדים ב-YouTube, ומשפיעים ב-TikTok שמשתמשים ב-AI גנראטיבי למטרות רווח, כפי שדווח בעבר ע"י העיתונות. פלטפורמות מדיה חברתית צריכות לשקול כיצד להתמודד עם תוכן שנוצר על ידי בינה מלאכותית; מעורבות המשתמשים עלולה לרדת אם עולם האינטרנט מוצף בפוסטים, תמונות וווידאו שנוצרו באופן מלאכותי. לכן, האתגר של הערכת מה הוא אמיתי... מתחמם.