Ang pagtukoy kung ano ang tunay ay naging lalong mahirap sa mga platform ng social media. Kung gumugol ka ng panahon sa Facebook sa nakalipas na anim na buwan, marahil napansin mo ang mga larawan na talagang tunay na hindi mo kayang paniwalaan: mga bata na may hawak na mga painting na tila gawa ng mga propesyonal na artista, o mga kamangha-manghang disenyo ng loob ng mga kabay na kahoy na tila galing sa isang pantasya. Bilang karagdagan, maaaring nakakita ka ng iba pang kakaibang mga nilikha, tulad ng isang artipisyal na nilikha na imahe ng Papa na nakasuot ng isang puffy na jacket na naging viral noong Mayo 2023. Mga Imahe na Ginawa ng Artipisyal Ang mga imahe na nabuo ng artipisyal na katalinuhan (AI) ay nagiging mas malawak at popular sa mga platform ng social media. Bagaman marami ang halos hindi totoo, kadalasang ginagamit ang mga ito upang maakit ang mga regular na gumagamit sa pakikipag-ugnayan. Sa ulat na ito, sina Renee DiResta, Direktor ng Pananaliksik sa Stanford Internet Observatory ng Stanford University; Abhiram Reddy, Katulong sa Pananaliksik sa Center for Security and Emerging Technology sa Georgetown University; at Josh A. Goldstein, isang research fellow sa parehong sentro, ay nagsabi: "Ang aming koponan ng mga mananaliksik mula sa Stanford Internet Observatory at ang Center for Security and Emerging Technology sa Georgetown University ay nag-imbestiga sa higit sa 100 mga pahina sa Facebook na nag-post ng isang malaking dami ng nilalaman na nabuo ng AI. Inilathala namin ang aming mga natuklasan noong Marso 2024 bilang isang paunang papel, nangangahulugang ang mga resulta ay hindi pa nasasailalim sa pagsusuri ng mga kapantay". **Pagsusuri ng Mga Pattern ng Imahe** Sinuri ng mga mananaliksik ang mga pattern ng larawan, natuklasan ang katibayan ng koordinasyon sa pagitan ng ilang pahina, at sinikap nilang makilala ang mga posibleng target ng mga poster. Lumilitaw na ang mga tagapangasiwa ng pahina ay nag-publish ng mga imahe na binuo ng AI ng mga bata, kusina, o cake ng kaarawan para sa maraming kadahilanan. Sa pagtatalo ng mga dahilan, sinabi ng mga mananaliksik na ang ilang mga tagalikha ng nilalaman ay may balak na madami ang kanilang mga tagasunod gamit ang sintetikong nilalaman; ginagamit ng mga pandaraya ang mga ninakaw na pahina mula sa mga maliliit na negosyo upang mag-advertise ng mga produkto na tila hindi umiiral; at ang mga spammers ay nagbabahagi ng mga imahe ng hayop na ginawa ng AI habang pinapatnubayan ang mga gumagamit sa mga website na puno ng ad, na nagbibigay-daan sa mga may-ari upang mangolekta ng kita sa advertising nang hindi gumagawa ng de-kalidad na nilalaman. Ipinakikita ng mga natuklasan na ang mga imaheng ito na ginawa ng AI ay nakakaakit sa mga gumagamit. Posible na ang algorithm ng rekomendasyon ng Facebook ay nag-a-promote ng mga post na ito nang natural. Ang Generative AI na Ginagamit sa Panghuhusga Paano nakikipag-ugnay ang generative AI sa pandaraya at paglikha ng spam? Ang mga spam at mga pandaraya sa online ay nasa paligid nang mahigit dalawang dekada, na gumagamit ng hindi ninanais na email upang itaguyod ang mga pekeng iskemang pampinansyal at pinagtatalakay ang mga matatanda sa pamamagitan ng pagpapanggap na mga kinatawan ng pangangalagang pangkalusugan o mga technician ng computer. Sa social media, ginagamit ng mga profiteers ang mga artikulo upang maakit ang mga gumagamit sa mga website na puno ng ad upang kumita ng pera. Noong unang bahagi ng dekada 2010, ang mga spammers ay nakakuha ng pansin ng mga tao sa mga ad na nangangako ng pagkawala ng taba sa tiyan o pagkuha ng bagong wika sa pamamagitan ng "isang kakaibang trick". Ngayon, ang nilalaman na nilikha ng AI ay naging "bagong kakaibang trick". Ito ay kaakit-akit sa paningin at mura sa paggawa, na nagpapahintulot sa mga pandaraya at mga spammers na lumikha ng malalaking dami ng mga nakatuon na post. Ang ilang mga pahina na napansin ay nag-upload ng dose-dosenang mga natatanging imahe araw-araw, kasunod ng payo ng "Meta" para sa mga tagalikha ng pahina. Ipinapahiwatig ng kumpanya na ang madalas na pag-post ay tumutulong sa mga tagalikha ng nilalaman na makakuha ng ilang uri ng algorithmic na traksiyon, na humahantong sa kanilang nilalaman na lumilitaw sa dating kilala bilang "News Feed". Ang isang malaking bahagi ng nilalaman ay nananatiling clickbait: ang kakaibang imahe ay nagpapahinto sa mga tao at nakatingin, na nagpapalakas ng mga pagbabahagi dahil lamang sa hindi pangkaraniwang nakatuon. Maraming mga gumagamit ang nakikipag-ugnayan sa pamamagitan ng pag-like sa post o pag-iiwan ng komento. Gayunpaman, ang ilan sa mas kilalang mga spammers na napansin namin ay maaaring napagtanto ito at pinabuting ang kanilang pakikipag-ugnayan sa pamamagitan ng paglipat sa pag-post ng mga imahe na binuo ng AI. Ngunit ang mas tradisyunal na mga tagalikha ay nakikinabang din sa pakikipag-ugnayan sa mga imahe na nilikha ng AI, nang hindi malinaw na lumalabag sa mga patakaran ng platform. Mga Plano sa Pagmamasid sa Nilalaman na Ginawa ng AI Alam ng "Meta" ang mga posibleng isyu kung ang nilalaman na nilikha ng AI ay makakasama sa kapaligiran ng impormasyon nang walang babala. Ang kumpanya ay nag-anunsyo ng ilang mga plano upang matugunan ang nilalaman na nabuo ng AI. Sa Mayo 2024, sisimulan ng Facebook ang paglalapat ng isang "Made with AI" na tag sa nilalaman na maaasahan nitong makita bilang sintetikong. Gayunman, ang diyablo ay nasa mga detalye. Gaano katumpakan ang mga modelo ng pagtuklas? Anong nilalaman na nilikha ng AI ang makakasara? Anong nilalaman ang maling tatak? At paano tutugon ang publiko sa gayong mga label? Habang ang aming trabaho ay nakatuon sa spam at pandaraya sa Facebook, may mas malawak na implikasyon, kabilang ang video na binuo ng AI na naka-target sa mga bata sa YouTube, at mga influencer sa TikTok na gumagamit ng generative AI para sa kita, tulad ng naunang iniulat ng press. Dapat isaalang-alang ng mga platform ng social media kung paano makikitungo sa nilalaman na binuo ng AI; maaaring mabawasan ang pakikipag-ugnayan ng gumagamit kung ang mundo ng internet ay napuno ng artipisyal na nilikha na mga post, imahe, at video. Kaya, ang hamon ng pagtukoy kung ano ang tunay... ay nag-init.