Ֆեյքերի դեմ պայքարի ավանդական և ոչ ավանդական միջոցները արհեստական ինտելեկտի դարաշրջանում

«Ֆեյքերի դեմ պայքարելու լավագույն եղանակը եղել և մնում է մեդիագրագիտության խորացումը». Աբել Սիմոնյան

Բոլորիս համար համացանցը դարձել է սոցիալական փոխազդեցության գլոբալ էկոհամակարգ։ Ժամանակակից կյանքը պտտվում է այս էկոհամակարգի շուրջը՝ փոստերի, թարմացումների, լուրերի ժապավենների, մեկնաբանությունների, ջատագովության, դասակարգումների ու վարկանիշների տեսքով։ Համացանցն իր գոյության առաջին տասնամյակում համարվում էր իդեալիզացված քաղաքացիական հարթակ, որտեղ անհամադրելի տեսակետները, գաղափարներն և բանավեճերը կարող էին կառուցողական եղանակով զուգամիտվել։ Այս լավատեսության հիմքում ընկած էին այնպիսի հայտնագործություններ, ինչպիսիք են Սթյուարտ Բրանդսի Well-ը, Թիմ Բերներսի Lee’s World Wide Web-ը և Electronic Frontier Foundation-ի համահիմնադիր Ջոն Փերրի Բարլոուի 1996-ին ընդունած «Կիբերտարածության անկախության հռչակագիրը»։  Նորագույն աշխարհի այս գյուտարարները ակնկալում էին, որ համացանցը կդառնա համահավասար հարթակ, որը կնպաստի տեղեկատվության փոխանակմանը և համագործակցային բնույթի հարաբերությունների գեներացմանը տարբեր դերակատարների միջև։

2000-ական թվականներից սկսած՝ համացանցի տարածականության խորացման, Web 2.0-ի ի հայտ գալու և սոցիալական մեդիայի ազդեցության ավելացման հետ միասին առցանց հարթակների ռազմավարական կիրառությունը ենթարկվեց որոշակի փոփոխությունների՝ հաշվի առնելով օնլայն հարթակների աճող նպատակահարմարությունը քաղաքական և տնտեսական ձեռքբերումների և դիվիդենդների առումով։ Վերջին տարիներին, համացանցային վերլուծաբանները և ինչ-որ առումով նաև հասարակությունը մտահոգություն են հայտնել, որ առցանց հաղորդակցության բովանդակությունը, մտադրությունները և թռիչքաձև զարգացման միտումները կարող են հսկայական սպառնալիք դառնալ մոտ ապագայում։

Օրինակ, 2019 թվականի դեկտեմբերի դրությամբ սոցիալական մեդիայի վիճակագրությունն[1] ուներ այս տեսքը՝


Աշխարհի բնակչությունը կազմում էր 7,8 միլիարդ մարդ։

Համացանցն ուներ 4,54 միլիարդ օգտատեր։

Սոցիալական ցանցերն ունեին 3,725 միլիարդ ակտիվ օգտատեր։

Միջին հաշվով յուրաքանչյուրն ուներ 7,6 սոցիալական մեդիա հաշիվ։

Սոցիալական մեդիայի վրա ծախսված միջին օրական ժամանակը կազմում էր 142 րոպե։

2018-ի հոկտեմբերից մինչև  2019-ի հոկտեմբեր սոցիալական մեդիայի օգտատերերի թիվն աճել էր 328 միլիոնով (յուրաքանչյուր 10 վայրկյանը մեկ գեներացվում է 10 նոր սոցիալական մեդիա հաշիվ)։

Facebook Messenger-ի և Whatsapp-ի շնորհիվ օրական ուղարկվում էր 60 միլիարդ հաղորդագրություն։

Այս թվերը որքան «աչք ծակող են», այնքան էլ սարսափեցնող են։

Գաղտնիք չէ, որ յուրաքանչյուր մեդիա հարթակում գործում են հարյուրավոր կեղծ օգտատերեր, բոտեր և այլն, որոնք զբաղվում են տարբեր գործառույթներով, օրինակ՝ հասարակական կարծիքի ձևավորմամբ, ինչ որ խմբերի թարգեթինգով, որոշակի տեղեկատվության տարածմամբ և այլն։ Այս առումով, մեդիա հարթակները մշտապես հավաստիացնում են, որ անում են ամեն ինչ՝ արմատախիլ անելու այս երևույթները, սակայն տարբեր զեկույցներ և ուսումնասիրություններ  ցույց են տալիս, որ այս հարթակները պարզապես թերանում են իրենց գործում։  

2018թ ՆԱՏՈ-ի ռազմավարական հաղորդակցության Գերազանցության կենտրոնի (NATO Strategic Communication Centre of Excellence (StratCom)) փորձագետները ներկայացրին իրենց հետազոտությունն առ այն, թե ինչքան հեշտ է գնել կեղծ հաշիվներ և ինչ դժվարությամբ են սոցիալական մեդիա հարթակները պայքարում դրա դեմ։ Հետազոտությունը տեղի էր ունեցել 2019թ մայիս-օգոստոս ամիսներին։

Հետազոտական թիմը Ֆեյսբուքում, Ինստագրամում, Թվիթերում և Յութուբում  ներգրավածություն (engagement) գնելու համար ծախսեց 300 եվրո (160.000դր)։ Այս գումարի դիմացը նրանք ձեռք բերեցին 5,100 հետևորդներ, 20,000 դիտումներ 25,750 լայքեր, 3,520 մեկնաբանություններ։ Հետագայում, ուսումնասիրության ընթացքում պարզ դարձավ, որ հաշիվների մի մասը, որոնք ներգրավվել էին առաջխաղացման համար, եղել են կեղծ (մոտ 19.000 հաշիվ[2]):

Այդ ամբողջ ներգրավվածությունը գնելուց մոտ մեկ ամիս անց, հետազոտական ​​խումբը կրկին ուսումնասիրեց բոլոր այդ կեղծ հաշիվների կարգավիճակը և պարզեց, որ մոտ 80% դեռ ակտիվ է: Հետագայում, նրանք տեղեկացրին խարդախ հաշիվների գոյության մասին համապատասխան հարթակներին: Իսկ վերջում տեղի ունեցավ ամենավատը. հաղորդում տալուց մեկ շաբաթ անց պարզվեց, որ կեղծ հաշիվների 95% դեռ ակտիվ էր:

«Ֆեյքերը» նոր երևույթ չեն։ Դեռևս 1674թ Չարլզ II[3] թագավորը հանդես եկավ հայտնի հռչակագրով, որով կոչ էր անում զսպելու կեղծ լուրերի շրջանառությունը և պետությանը և կառավարության թիրախավորող բարոյազուրկ ու սանձարձակ խոսակցությունները։

Ֆեյքերի դեմ պայքարը այսօր ծնում է տարտեսակ դիսկուրսներ, որոնց հիմնական նպատակը հետևյալն է՝ որտեղ է սկսվում ազատ խոսքը և որտեղ այն վերածվում սպառնալիքի և ապատեղեկատվության։

Տարբեր երկրներ տարբեր կերպ են հասկանում, թե ինչ են ֆեյքերը ու տարբեր կերպ են փորձում պայքարել դրանց դեմ։ Օրինակ՝ 2019թ փետրվարին Չիլիի սենատը ներկայացրեց մի օրինագիծ[4], ըստ որի՝ պետք է պատժել քաղաքական գործիչներին երկրում «կեղծ լուրերի տարածման, խթանման կամ ֆինանսավորման համար»։ Բանգլադեշում կեղծ լուրերի տակ հասկացվում է պրոպագանդա և մեդիա-մանիպուլացիա։ 2018թ հոկտեմբերին Բանգլադեշի խորհրդարանը ընդունեց օրինագիծ[5], որի համաձայն յուրաքանչյուր ոք, ով կպրոպագանդի 1971թ-ի իրադարձությունները (այդ թվին Բանգլադեշը անկախություն ձեռք բերեց Պակիստանից), կբանտարկվի։ Այս օրինագիծը ենթադրում է նաև արգելանք «ագրեսիվ և սարսափեցնող» կոնտենտի տարածման վրա։ Ըստ Ռոյթերսի[6]՝ 2018թ դեկտեմբերին հայտնի դարձավ, որ Բանգլադեշի կառավարությունը ինքն է տարածում առցանց ապատեղեկատվություն։ Արդյուքնում՝ Ֆեյսբուքը և Թվիթերը հեռացրերցին կեղծ հաշիվները և էջերը, որոնք կապված էին երկրում գալիք ընտրությունների հետ։

Գերմանիայում 2018թ հունվար 1-ից ուժի մեջ է մտել Ֆեյսբուքում ատելության խոսքի դեմ օրենքը, որն ենթադրում է արմատախիլ անել վնասակար առցանց կոնտենտը։  

Օրենքը, որը գերմաներեն վերնագրված է  “Netzwerkdurchsetzungsgesetz[7]” (NetzDG), հարկադրում է առցանց հարթակներին հեռացնել ”բացահայտ անօրինական” փոստերը 24 ժամվա ընթացքում կամ տուգանվել մինչև 50 միլիոն եվրո։ Սրանով թիրախավորում են այն սոցիալական հարթակները, որոնց օգտատերերի թիվը գերազանցում է երկու միլիոնը (Ֆեյսբուք, Յություբ և Թվիթեր)։ 2018թ մարտին պաշտոնյաները որոշեցին վերանայել օրենքը[8], քանի որ բազմաթիվ քննադատություններ էին ստացվել, որ այս օրենքի պատճառով չափազանց շատ կոնտենտ է արգելափակվում։  Որոշում կայացվեց լրամշակել օրենքը՝ թույլ տալով օգտատերերին վերականգնել սխալ հեռացված կոնտենտը, ինչպես նաև ազդել սոցիալական մեդիա հարթակների վրա՝ ստեղծելու անկախ մարմիններ՝ կասկածելի փոստերը ուսումնասիրելու համար։

Ամերիկայում, հատկապես հետախուզական գործակալությունների բացահայտումներից[9] հետ, երբ պարզվեց, որ ռուսները օգտագործել   սոցիալական մեդիան՝ ընտրություններին միջամտելու համար, նոր կանխարգելիչ միջոցացումներ ձեռնարկվեցին դաշնային կառավարության կողմից։

Նախ, 2017թ. հոկտեբերին Կոնգրեսը հայտարարեց նոր օրինագծի[10] մասին, ըստ որի առցանց հարթակները, ինչպիսիք են Ֆեյսբուքը և Գուգլը, պետք է պահպանեն գովազդների կրկրնօրինակները, հանրայնացնեն դրանք, պահպանեն ստացականները (թե ով է վճարել դրանց համար և ինչքան)։ Ըստ էության, այս օրենսդրությամբ փորձ էր կատարվում հեռուստատեսության և ռադիոյի վերահսկման կանոնակարգերը տարածել սոցիալական մեդիա ընկերությունների վրա։

2017թ. նոյեմբերին Ֆեյսբուքի, Թվիթերի և Գուգլի ներկայացուցիչները վկայեցին[11] Սենատի դատական հանձնաժողովի առջև ընտրություններում ապատեղեկատվության տարածման մեջ իրենց դերակատարման վերաբերյալ։ Հանդիպման ընթացքում կողմերը անվերապահորեն եկան կոնսենսուսի, որ Ռուսաստանը միջամտել է ընտրություններին, բայց միևնույն ժամանակ հանձնառեցին նոր մեխանիզմներ գործադրել՝ տարբերակելու կեղծ հաշիվների, գնված կոնտենտի և սովորական նորությունների միջև։

Միևնույն ժամանակ, Կալիֆորնիայի նահանգային կառավարությունը 2018թ սեպտեմբերին ընդունեց օրինագիծ՝ ըստ որի պետք էր խորացնել մեդիագրագիտությունը[12] հանրային դպրոցներում։ Կրթության դեպարտամենտից պահանջվում էր ներառել ուսումնական նյութեր և ռեսուրսներ, որոնք կօգնեին գնահատելու լրատվամիջոցների արժանահավատությունը։ Այդ օրենքի հիմքում ընկած էր Սթենդֆորդյան համալսարանի ուսանողներից մեկի հետազոտությունը[13], ով  բացահայտել էր, որ շատ ուսանողներ չեն կարողանում տարբերակել վճարովի կոնտենտի ու սովորական նորությունների միջև։

2018 սեպտեմբերի կեսերին, երկու Դեմոկրատ և մեկ Հանրապետական ներկայացուցիչ նամակ[14] ուղարկեցին ազգային հետախուզական ծառայության պետին՝ խնդրելով ուսումնասիրել Դիփֆեյք տեխնոլոգիան (deepfake technology), որը կարող էր հնարավոր սպառնալիք հանդիսանալ ազգային անվտանգության համար։ Օրենսդիրները համարում էին, որ արտաքին հակառակորդները կարող են օգտագործել Դիփֆեյք տեխնոլոգիան ԱՄՆ շահերի դեմ։

2019թ հունվարին, ընկերություններից[15] մեկը, որը ստեղծել էր բազմաթիվ կեղծ սոցիալական մեդիա հաշիվներ միլիոնավոր դոլարներ աշխատելու համար, համաձայնության հասավ Նյու-Յորքի գլխավոր դատախազի հետ։ Այս կարգավորումը առաջինն էր ու վկայում էր այն մասին, որ իրավապահները փաստացի ընդունում էին, որ ֆեյք հաշիվների վրա հիմնված մեդիա առաջխաղացումը անօրինական գործընթաց է։  Գլխավոր դատախազ Լետիսիա Ջեյմսը հայտարարեց, որ դա իր տեսակի մեջ առաջին իրավաբանական կարգավորումն էր այժմ արդեն չգործող «Devumi» ընկերության հետ, որը վաճառում էր կեղծ հետևորդներ, «լայքեր», դիտումներ տարբեր հարթակներում՝ Twitter-ում, YouTube-ում, LinkedIn-ում, SoundCloud-ում and Pinterest-ում՝ առաջխաղացում ապահովելով կեղծ հաշիվների շնորհիվ։

2019թ. հունվարին Վիետնամում ուժի մեջ մտավ օրենքը, որը պարտադրում է ինտերնետ ծառայություններ տրամադրող կազմակերպություններին բացահայտելու օգտատերերի որոշ տվյալներ, ինչը կօգնի կառավարությանը բացահայտելու փոստերի ծագումը։ Կիբերանվտանգության մասին օրենքը[16] պահանջում է, որ այնպիսի հարթակներ, ինչպիսին Ֆեյսբուքն է, հեռացնեն կոնտենտը կառավարության պահանջով։ Ըստ Վիետնամական օրենքի՝ կեղծ տեղեկատվության տարածումը արդեն իսկ համարվում է հանցագործություն և պատժվում է ընդհուպ մինչև բանտարկությամբ։

Այնուհանդերձ, շատ դեպքերում բավականին դժվար է բացահայտել կոնտենտի ծագումը։ Ժամանակ առ ժամանակ հենց լրագրողները, կամա թե ակամա, դառնում են կեղծ լուրերի տարածողներ, երբ սեփական հոդվածներին սենսացիա հաղորդելու համար օգտվում են կեղծ կոնտենտից։ Ֆեյքերը պայմանականորեն կարելի է բաժանել հինգ տեսակի՝

  1. կեղծ  հաշիվներ, որոնք չեն ներկայացնում որևէ անձի,
  2. իրական անձանց կեղծ հաշիվներ՝ ստեղծված խարդախ օգտատերերի կողմից,
  3. սփամերներ (լցոնողներ), ովքեր պարբերաբար ուղարկում են հաղորդագրություններ, որոնք վերաբերում են բարձր եկամուտներ և գումարներ աշխատելուն,
  4. համացանցային խարդախներ, ովքեր մանիպուլացնում են մարդկանց՝ նրանց վերաբերյալ անձնական բնույթի տեղեկություններ ստանալու ակնկալիքով (հիմնականում բանկային հաշիվներ),
  5. Արհեստական ինտելեկտի վրա կառուցված բոտեր։

Ներկայումս, սակայն, օրենսդրական կարգավորումներից բացի, ստեղծվում են ավտոմատացված գործիքները ֆեյք նորությունների դեմ պայքարելու համար։ Այս գործիքները համալրված են արհեստական ինտելեկտով և machine learning algorithm-ով (մեքենայական ուսուցման ալգորիթմները ծրագրեր են (մաթեմատիկա և տրամաբանություն), որոնք ունեն ադապտատիվ մեխանիզմներ ու կատարելագործվում են, երբ նրանց ”կերակրում” են ավելի շատ տվյալներով։ Այս մեքենաները ժամանակի հետ փոխում և կատարելագործում են տվյալների մշակման եղանակները):

Արհեստական ինտելեկտի միջոցով ֆեյքերի դեմ պայքարի միջոցներից են ինտերնետային էջերի գնահատակնն ու վարկանիշը (web page score), փաստերի արժանահավատությունը (փաստերը համադրվում են բարձր գնահատական և հեղինակություն ունեցող մեդիա պորտալների կողմից տարածած փաստերի հետ), հեղինակության կանխատեսումը (machine learning algorithm-ը ստուգում է դոմենը, ALEXA դասակարգման ցուցակում զբաղեցրած տեղը և աղբյուրը) և այլն։

Այնուհանդերձ, լավագույն եղանակը ֆեյքերի դեմ պայքարելու եղել է և մնում է մեդիագրագիտության խորացումը ազգաբնակչության շրջանում։ Կեղծ և մանիպուլատիվ լուրերից «պաշտպանվելու» համար գիտակից ընթերցողը պետք է հարցախույզ լինի լուրերի ծագման արժանահավատությանը և կարողանա տարբերակել իրականության հետ աղերս չունեցող լուրերը։ Այս առումով, մեդիագրագիտության ներառումը դպրոցներում կարող է մեծապես նպաստել գիտակից և քաղաքականապես կազմավորվող անհատի կայացմանը ամենավաղ փուլերում։

Աբել Սիմոնյան 


[1] “126 amazing Social Media Statistics and Facts’’ Kit Smith, Content Writer  

[2]  HOW SOCIAL MEDIA COMPANIES ARE FAILING TO COMBAT INAUTHENTIC BEHAVIOUR ONLINE, November 2019

[3] By the King, a proclamation to restrain the spreading of false news and licentious talking of matters of state and government, England and Wales. Sovereign (1660-1685: Charles II)։

[4] https://www.senado.cl/fake-news-autoridades-nacionales-y-regionales-podrian-tener-nueva/senado/2019-01-29/122725.html

[5] President signs Digital Security Bill into law,  Published at 01:13 pm October 8th, 2018

[6] Facebook, Twitter remove fake news sites in Bangladesh ahead of election, Zeba Siddiqui, Ruma Paul, December 20, 2018

[7] Network Enforcement Act (Netzdurchsetzunggesetz, NetzDG), Long Title: Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken

In the version of 1 Septembre 2017 (Federal Law Gazette I, p. 3352 ff. Valid as from 1 October 2017), by The Bundestag

[8] Germany looks to revise social media law as Europe watches, Emma Thomasson, March 8, 2018

[9] 2016 Presidential Campaign Hacking Fast Facts, CNN Library, Updated 1710 GMT (0110 HKT) October 31, 20

[10] Senators announce new bill that would regulate online political ads By Colin Lecher,  October 19, 2017

[11] Facebook, Google and Twitter grilled by Congress over Russian meddling – as it happened, by Tom Mccarthy, Tue 31 Oct 2017 21.40 GMT, Updated 20 Nov 2017

[12] California now has a law to bolster media literacy in schools, by SUSAN MINICHIELLO, September 18, 2018

[13] Most Students Don’t Know When News Is Fake, Stanford Study Finds, by Sue Shellenbarger, Updated Nov. 21, 2016 

[14] Schiff, Murphy and Curbelo Request DNI Assess National Security Threats of “Deep Fakes”, https://schiff.house.gov/, News/Press Release, 09.13.18

[15] First on CNN: NY Attorney General targets fake social media activity, By Athena Jones,  January 30, 2019

[16]In the name of ‘fake news,’ Asian governments tighten control on social media, By RALPH JENNINGS, FEB. 8, 2019

Բաժանորդագրվեք մեր Telegram ալիքին