Umjetna inteligencija ne služi jedino automatizaciji i kreativi. Postaje i sredstvo za sofisticirane financijske prijevare. Najnoviji slučaj koji je privukao pažnju dolazi iz SAD-a, gdje je muškarac priznao krivnju za masovnu prevaru u industriji glazbenog streaminga koristeći umjetnu inteligenciju.
Prema izvješću portala Help Net Security, optuženi je koristio umjetnu inteligenciju za generiranje ogromnog broja pjesama, a zatim ih reproducirao pomoću botova kako bi umjetno povećao broj streamova i ostvario zaradu od tantijema.
Ukupna šteta procjenjuje se na više od 8 milijuna dolara.
Ovaj slučaj je jedan od prvih velikih primjera AI-assisted financijskog kriminala u glazbenoj industriji.
Prijevara ide ovako…
Model prijevare bio je iznenađujuće jednostavan, ali tehnološki sofisticiran. Umjetna inteligencija je korištena za generiranje stotina tisuća pjesama koje nisu imali stvarne izvođače ni publiku. Nakon toga, mreža botova reproducirala je te pjesme milijardama puta na platformama poput Spotifya, Apple Musica i YouTube Musica.
Ključ problema leži u načinu na koji streaming servisi raspodjeljuju prihode.
Model “pro-rata” znači da se ukupni prihod dijeli prema broju streamova.
Ako netko umjetno poveća broj slušanja, automatski dobiva veći udio u prihodima, bez obzira na stvarnu popularnost.
justice.gov/usao-sdny/pr/north-carolina-man-pleads-guilty-music-streaming-fraud-aided-artificial-intelligence-0?utm_source=
U ovom slučaju, umjetna inteligencija i automatizacija omogućili su:
- generiranje ogromne količine sadržaja
- simulaciju stvarnih korisnika
- manipulaciju algoritmima platformi
Rezultat je bio sustav koji izgleda legitimno, ali zapravo izvlači novac.
Statistika zabrinjava
Ovaj slučaj nije izoliran incident, već dio šireg trenda.
Spomenut ćemo neke brojke o kojima se uistinu moramo zamisliti.
Više od 8 milijuna dolara ukradeno putem streamova generiranih umjetnom inteligencijom.
Zatim, 70 do 85% streamova AI generirane glazbe može biti lažno. Čak 13 milijuna AI pjesama identificirano je na jednoj platformi u jednoj godini.
Ne smijemo zanemariti da se 20.000 AI pjesama dnevno uploada na streaming servise.
Svjetska industrija streaminga vrijedi više od 20 milijardi dolara, što je čini idealnom metom prijevara. Osim svega toga, procjenjuje se da AI prijevare u glazbi mogu godišnje uzrokovati gubitke od čak 2 do 3 milijarde dolara u industriji.
Eksplozija sadržaja bez kontrole
Jedan od najvećih problema današnje glazbene industrije nije samo prijevara, već i nekontrolirana eksplozija sadržaja generiranog umjetnom inteligencijom. Alati poput Suno ili Udio omogućuju stvaranje pjesama u svega nekoliko sekundi, bez potrebe za studijem, glazbenicima ili produkcijom.
Znači da gotovo svatko danas može generirati neograničen broj pjesama, u različitim žanrovima, s iznenađujuće realističnim vokalima i produkcijom.
Posljedica takvog razvoja je pojava tzv. “AI slop-a”.
Govorimo o ogromnoj količini generiranog sadržaja koji preplavljuje streaming platforme i otežava korisnicima pronalazak kvalitetne, autentične glazbe.
Bendovi generirani umjetnom inteligencijom danas imaju milijune slušatelja. A uopće ne postoje. Pjesme bez jasnog autorstva ulaze na top liste, dok algoritmi aktivno promoviraju sadržaj koji je u potpunosti umjetan.
Ovakav razvoj događaja ne samo da mijenja dinamiku industrije, već otvara i ozbiljna pitanja o tome što danas uopće smatramo glazbom, tko je njezin autor i gdje je granica između kreativnosti i automatizacije.
Umjetna inteligencija imitira umjetnike
Umjetna inteligencija danas ne samo da generira originalnu glazbu, već sve uvjerljivije imitira postojeće umjetnike, čime otvara potpuno novu dimenziju rizika za glazbenu industriju. Primjeri su već široko rasprostranjeni.
Pjesme koje zvuče kao Drake ili The Weeknd, lažni albumi objavljeni pod imenima stvarnih izvođača te deepfake vokali koji gotovo savršeno oponašaju stil i glas poznatih glazbenika.
Razmjeri problema potvrđuju i konkretni podaci. Sony je uklonio više od 135.000 pjesama generiranih umjetnom inteligencijom koje su imitirale njihove izvođače.
Vidimo da je fenomen već izmaknuo kontroli. Ovakav razvoj događaja otvara važna pitanja za industriju. Naime, tko zapravo posjeduje glas umjetnika, kako učinkovito zaštititi autorska prava i gdje je granica između kreativne inspiracije i digitalne krađe identiteta.
Paralelno s time, glazba generirana umjetnom inteligencijom postaje idealan alat za manipulaciju streaming sustavima. Trošak proizvodnje gotovo je zanemariv. Jedna osoba može generirati tisuće pjesama u kratkom vremenu, bez ikakvih produkcijskih troškova.
Dodatni problem je način na koji platforme funkcioniraju. Algoritmi nagrađuju količinu i angažman, a ne nužno kvalitetu sadržaja. Više pjesama povećava šansu za veći broj streamova, botovi mogu simulirati slušatelje, a sustavi teško razlikuju stvarnu od umjetno generirane aktivnosti.
Borba protiv manipulacija
Streaming platforme pokušavaju odgovoriti na problem AI generirane glazbe i manipulacije sustavima, no rješenja još uvijek zaostaju za brzinom razvoja tehnologije.
Trenutne mjere uključuju detekciju AI sadržaja, označavanje AI generiranih pjesama, uklanjanje lažnih streamova te demonetizaciju sumnjivih računa. Primjerice, Deezer već koristi umjetnu inteligenciju za prepoznavanje takvog sadržaja i uspijeva ukloniti čak do 85% lažnih streamova iz sustava isplate. Takvi podaci pokazuju da tehnologija može biti dio rješenja, a ne samo problema.
Međutim, izazovi su i dalje veliki. Napadači neprestano razvijaju nove metode zaobilaženja, detekcija nije savršena, a sigurnosni sustavi često kasne za inovacijama koje umjetna inteligencija donosi.
Dio rješenja su:
- detekcija AI sadržaja
- označavanje pjesama koje je generirala umjetna inteligencija
- uklanjanje lažnih streamova
- demonetizacija sumnjivih računa
Ova situacija otvara širu raspravu o ulozi umjetne inteligencije u kreativnim industrijama.
Postavljaju se važna pitanja. Treba li regulirati AI generiranu glazbu, kako osigurati transparentnost i tko snosi odgovornost za sadržaj koji generira AI.
S druge strane, umjetna inteligencija donosi i brojne pozitivne promjene. Demokratizira stvaranje glazbe, otvara vrata novim kreativnim alatima i ubrzava inovacije u produkciji. U toj dvostrukoj prirodi leži najveći izazov. Tehnologija koja omogućuje neograničenu kreativnost istovremeno može postati alat za manipulaciju i prijevaru.
Budućnost glazbene industrije ovisit će o tome koliko brzo i učinkovito uspije pronaći ravnotežu između inovacije i kontrole.
