Dahil sa artipisyal na katalinuhan, napadali ang paglikha ng mga profile sa social media na tila pagmamay-ari ng mga totoong tao, ngunit ang totoo ay mga karakter na nabuo ng mga algorithm. Ang sitwasyong ito ay nagdulot ng kalituhan at pagkadismaya sa mga gumagamit, na kadalasang huli na nang matuklasan na ang account na kanilang kinakausap ay hindi pinapatakbo ng isang tao. Upang matugunan ito, inanunsyo ng Instagram ang isang pagbabago sa sistema nito para sa pagtukoy ng mga account na ito.
Nagpasya ang platform na pag-aari ng Meta na palitan ang kasalukuyang label na 'AI creator' ng bago at mas tahasang label: 'AI-generated profile'. Layunin nitong agad na maunawaan ng mga user na ang taong ipinapakita sa profile ay hindi umiiral sa totoong buhay, kundi nilikha gamit ang artificial intelligence. Tumutugon ang update na ito sa mga reklamo mula sa maraming user na nakaramdam ng pagkalinlang sa pamamagitan ng pagsunod sa mga tila tunay na profile.
Pagbabago ng label para sa mas malawak na transparency
Ang bagong label na 'AI-generated profile' ay papalit sa nauna, na itinuturing ng ilan na hindi malinaw. Ang terminong 'AI creator' ay maaaring bigyang-kahulugan bilang tumutukoy sa isang taong lumikha gamit ang mga tool ng artificial intelligence, samantalang sa maraming pagkakataon ang buong profile ay kumakatawan sa isang sintetikong pagkakakilanlan. Sa pagbabagong ito, nilalayon ng Instagram na linawin na ito ay isang karakter na nilikha o binuo pangunahin gamit ang AI.
Ayon sa kumpanya, ang hakbang na ito ay bahagi ng mas malawak na pagsisikap upang matulungan ang mga gumagamit na madaling matukoy kung kailan sila nakikipag-ugnayan sa isang totoong tao at kung kailan sila nakikipag-ugnayan sa isang artipisyal na pagkakakilanlan. Sinimulan ng Meta na subukan ang sistemang ito ngayong taon matapos makatanggap ng feedback mula sa mga gumagamit na nagpahayag ng pagkaasiwa kapag sinusubaybayan ang mga profile na mukhang tao at pagkatapos ay natuklasan na ang mga ito ay ganap na nilikha ng AI.
Ang label ay kusang ia-activate sa pamamagitan ng mga setting ng profile. Ang mga account manager na gumagamit na ng dating label ay makakatanggap ng notification upang kumpirmahin kung angkop pa rin ang bagong deskripsyon. Kapag na-activate na, lilitaw ang badge sa profile at sa tabi rin ng mga post na wala pang partikular na indikasyon tungkol sa paggamit ng AI.
Pagkawala ng abot para sa mga hindi naka-tag na profile
Ang pangunahing pagbabago ay hindi na puro impormasyon lamang ang magiging hakbang. Inanunsyo ng Instagram na lilimitahan nito ang abot ng mga account na nagtatampok ng mga AI-generated avatar na walang naaangkop na label. Nangangahulugan ito na ang profile ay hindi na magiging karapat-dapat na lumabas sa mga rekomendasyon ng platform, tulad ng seksyong Explore o Reels, na para sa mga user na hindi pa sumusubaybay sa account.
Kapag natukoy ng Instagram ang isang account na pinaghihinalaang gumagamit ng mga hindi nakikilalang AI character, magpapadala ito ng notification sa mga administrator ng account. Mula sa puntong iyon, magkakaroon sila ng dalawang opsyon: idagdag ang label na 'AI-generated profile' o maghain ng apela kung naniniwala silang nagkamali ang platform. Kung matagumpay ang apela, mababawi ng account ang pagiging kwalipikado nito na lumabas sa mga rekomendasyon.
Nilinaw ng kompanya na ang mga tagalikha na gumagamit lamang ng mga kagamitang AI para makatulong sa kanilang proseso ng pagkamalikhain, tulad ng pag-retouch ng mga larawan, pagwawasto ng teksto, o pagdidisenyo ng mga graphics, ay hindi na kailangang i-activate ang label na ito. Nalalapat lamang ang kinakailangan kapag ang pangunahing pagkakakilanlan ng account ay isang artipisyal na nilikhang tao, tulad ng mga virtual influencer, mga kathang-isip na karakter, o mga account na gumagamit ng sintetikong mukha bilang kanilang pangunahing imahe.
Mga dahilan para sa paghihigpit: mga kaso ng madalas na pang-aabuso
Nilalayon ng update na ito na pagaanin ang iba't ibang mapanlinlang na gawain na nagsasamantala sa pagdami ng sintetikong nilalaman. Kabilang sa mga pangunahing problemang sinusubukang pigilan ng Meta ay ang mga financial scam at catfishing, kung saan ang mga hyper-realistic na avatar ay nililikha upang makabuo ng mga kathang-isip na romantikong relasyon upang manghingi ng pera o magsulong ng pandaraya sa cryptocurrency. Nabanggit din ang mapanlinlang na advertising, kung saan ang mga umano'y lifestyle influencer ay tumatanggap ng mga libreng produkto o sponsorship mula sa mga brand na hindi alam na nakikipag-ugnayan sila sa mga hindi umiiral na karakter.
Isa pang karaniwang kaso ay ang pagnanakaw ng biometric identity, na kinabibilangan ng hindi awtorisadong pag-clone ng mga totoong mukha upang magpatakbo ng mga pekeng profile na kumikita ng nilalaman o nakakasira sa reputasyon ng orihinal na tao. Bukod pa rito, ang paggamit ng mga sintetikong account farm ay natukoy upang gayahin ang suporta ng publiko para sa mga pampulitikang layunin, manipulahin ang mga algorithm ng rekomendasyon, o magkalat ng pekeng balita—isang kasanayan na kilala bilang astroturfing.
Ang desisyon ng Instagram ay kasabay ng pagsikat ng mga tinatawag na virtual influencer sa iba't ibang digital platform. Ang mga profile na ito ay maaaring magkaroon ng daan-daang libo o kahit milyun-milyong tagasunod, kahit na ang mga taong lumalabas sa mga larawan, video, at post ay hindi naman talaga umiiral. Ang paglago ng mga account na ito ay nagdulot ng mga debate tungkol sa transparency, advertising, tiwala ng user, at ang epekto ng artificial intelligence sa social media.
Paano gagana ang bagong sistema?
Maaaring kusang-loob na i-activate ng mga responsable para sa mga AI-generated na profile ang label sa mga setting ng kanilang account. Kung matutukoy ng Instagram na ang isang account ay nagtatampok ng isang AI-generated na persona nang walang kaukulang pagkakakilanlan, magpapadala ito ng abiso sa mga administrador nito. Magkakaroon sila ng dalawang opsyon: idagdag ang label na 'AI-generated na profile' o maghain ng apela kung naniniwala silang nagkamali ang platform.
Nilinaw din ng kompanya na ang mga tagalikha na gumagamit lamang ng mga kagamitang AI para makatulong sa kanilang proseso ng paglikha, tulad ng pag-retouch ng mga larawan, pagwawasto ng teksto, o pagdidisenyo ng mga graphics, ay hindi na kailangang gumamit ng label. Ang hakbang na ito ay hindi nakadirekta laban sa mga gumagamit ng AI upang mapabuti ang kanilang nilalaman, kundi laban sa mga nagpapanggap na totoong tao gayong sila ay mga karakter na nilikha ng mga algorithm.
Kinikilala ng Meta na ang mga sistema nito ay hindi laging perpekto at nagbibigay-daan sa mga user na tingnan ang mga paghihigpit mula sa katayuan ng kanilang account. Maaaring mabawi ng mga apektadong user ang access sa mga rekomendasyon sa pamamagitan ng pagdaragdag ng label o sa pamamagitan ng pag-apela sa desisyon kung naniniwala silang nagkamali ang Instagram. Ang pagkakakilanlan sa antas ng profile na ito ay kumukumpleto sa mga label na nailapat na sa mga indibidwal na post, na ginagamit para sa mga larawan, video, at audio kapag natukoy ang mga katugmang teknikal na tagapagpahiwatig o kapag idineklara ng user ang kanilang paggamit ng mga tool na ito.
Ang bagong patakaran ay bahagi ng mas malawak na estratehiya ng Meta upang mapabuti ang pagkilala sa nilalamang nilikha o binago gamit ang artificial intelligence sa Instagram, Facebook, at Threads. Sa pamamagitan ng hakbang na ito, hangad ng kumpanya na balansehin ang paglago ng mga generative tool sa pangangailangang malaman ng mga user kung sino, o ano, ang nasa likod ng mga profile na kanilang sinusundan. Ang desisyon ay maaaring magtakda ng isang precedent para sa iba pang mga digital platform na nahaharap sa mga katulad na hamon na may kaugnayan sa mga synthetic identities at mga influencer na nilikha ng AI.
Sa madaling salita, gumawa ang Instagram ng isang mahalagang hakbang upang matulungan ang mga gumagamit na malinaw na makilala ang pagkakaiba ng mga totoong profile at ng mga nabuo gamit ang AI. Ang bagong label na 'AI-generated profile' ay pumalit sa nauna at may direktang mga kahihinatnan para sa mga hindi gumagamit nito: pagkawala ng visibility sa mga rekomendasyon. Ang hakbang na ito ay hindi nakakaapekto sa mga tagalikha na gumagamit ng AI bilang tool sa pag-eedit, ngunit nakakaapekto ito sa mga nagpapakita ng mga sintetikong karakter na parang sila ay totoong tao. Sa pamamagitan ng update na ito, pinatitibay ng platform ang pangako nito sa transparency at sa tiwala ng komunidad nito, sa panahong binabago ng generative artificial intelligence kung paano nililikha at kinokonsumo ang nilalaman sa social media.