Mākslīgā intelekta (AI) attīstība rada jaunas iespējas, bet vienlaikus arī nopietnus riskus. "Deepfake" jeb dziļviltojumu tehnoloģijas ļauj radīt attēlus un video, kas vizuāli šķiet īsti, bet saturiski ir pilnībā mākslīgi konstruēti. Šādi viltojumi aizvien biežāk tiek izmantoti ļaunprātīgi — identitātes zādzībām, reputācijas graušanai vai finansiālai peļņai. Nesen "BBC" ziņoja par gadījumu Indijā, kas izraisījis plašu rezonansi, kurā reālas sievietes vizuālais tēls tika izmantots viltus erotiskā satura veidošanā.

Instagram konts ar nosaukumu "Babydoll Archi" dažu dienu laikā piesaistīja vairāk nekā 1,4 miljonus sekotāju. Platformā tika publicēti video un attēli ar jaunu sievieti provokatīvās pozās, tostarp arī kadri ar pieaugušo filmu zvaigzni Kendru Lastu.

Ar profila saturu dalījās tūkstoši, tika veidotas fanu lapas un bija arī plaša mediju interese.

Vēlāk atklājās, ka "Babydoll Archi" nav reāla persona – krāpnieki izmantoja kādas mājsaimnieces Dibrugarhas pilsētā Indijas ziemeļaustrumos seju mākslīgā intelekta radītos audio un video materiālos.

Viltus profils tika radīts ar mākslīgā intelekta palīdzību, izmantojot sievietes privātās fotogrāfijas un transformējot tās erotiskos attēlos. Aiz šīs krāpniecības stāvēja viņas bijušais draugs — mehānikas inženieris Pratims Bora, kurš, izmantojot tādus rīkus kā "ChatGPT" un "Dzine", izveidoja pilnībā MI balstītu vizuālo tēlu, kas sociālajos tīklos kļuva par īstu sensāciju.

Viltus konts darbojās vairāk nekā trīs gadus un tika arī monetizēts — caur "Linktree" saiti tika piedāvāti papildu maksas materiāli, un, pēc policijas datiem, Bora šādi nopelnījis vismaz vienu miljonu rūpiju (aptuveni 11 000 eiro), no kuriem 300 000 rūpiju ienākuši krāpnieka kontā vien piecas dienas pirms aizturēšanas.

Jāpiebilst, ka pati cietusī par šo uzzināja no medijiem, kad tika publicētas pirmās ziņas par "noslēpumaino influenceri" no Asamas štata, kura, iespējams, drīzumā pievienosies ASV pieaugušo filmu industrijai. Sievietes ģimene bija šokā — viņi nekad nebija dzirdējuši par šādu profilu, un nekavējoties vērsās policijā ar iesniegumu.

Pēc sūdzības saņemšanas policija vērsās pie sociālā tīkla platformas "Instagram" pārstāvjiem, lai iegūtu informāciju par profila izcelsmi. Kad policijai izdevās noskaidrot, kam pieder profils, cietusī apstiprināja, ka pazīst Pratimu Boru, un drīz vien viņš tika aizturēts. Tika konfiscētas vairākas viņa ierīces un bankas dokumenti. Boram ir izvirzītas apsūdzības par seksuālu uzmākšanos, neslavas celšanu, personas datu zādzību un viltošanu, u.c. kibernoziegumiem.

Ja viņš tiks atzīts par vainīgu, viņam draud līdz pat 10 gadiem cietumā.

MI tehnoloģiju eksperti un juristi atzīst — šādi gadījumi var būt tikai "aisberga redzamā daļa". "Cietušajai paveicās, ka notikušais nāca gaismā," norāda juriste un mākslīgā intelekta pētniece Meghna Balā un piebilst, ka daudzi cilvēki nemaz nezina, kā viņu seja var tikt vai tiek izmantota. Juriste arī uzsver, ka nereti cietušie izvēlas klusēt dēļ sabiedrībā valdošajiem aizspriedumiem.

Lai arī pastāv likumi, kas ļauj cilvēkiem prasīt savu datu dzēšanu no interneta, pilnībā iznīcināt jau izplatīto saturu ir teju neiespējami, jo viss, kas nonāk internetā, tur arī paliek," skaidro Balā.

Uzņēmums "Meta", kam pieder sociālo tīklu platforma "Instagram", pagaidām nav komentējis konkrēto gadījumu. Taču "Meta" iepriekš ir ziņojusi par centieniem ierobežot mākslīgā intelekta radīta seksuāla rakstura satura izplatību.

Lai gan "Babydoll Archi" profils vairs nav publiski pieejams, daudzi attēli joprojām klejo pa sociālajiem tīkliem.

MI eksperti uzsver, ka šis gadījums vēlreiz liek aizdomāties — vai sabiedrība ir gatava dzīvot pasaulē, kur katras personas seja, balss un identitāte var tikt viltota ar pāris klikšķiem?

Lasi arī!

Noklausies! "Spotify" strauji popularitāti gūst rokgrupa, kas pilnībā radīta ar mākslīgo intelektu

Mākslīgais intelekts un mājdzīvnieki: kā viedās ierīces maina mūsu attiecības ar mīluļiem

Ziņu sižets par it kā nošautu ārstu – mākslīgā intelekta radīts saturs strauji pārņem internetu

Eksperts: Cilvēki tiktāl sadraudzējās ar mākslīgo intelektu, ka mēdz pat tajā iemīlēties