Google bo zrušil Microsoft in OpenAI, trdi ustanovitelj

Ko je bil algoritem spremljevalnega klepetalnega robota, znanega kot Replika, spremenjen, da bi preprečil spolni napredek svojih človeških uporabnikov, je bil odziv na Redditu tako negativen, da so moderatorji člane skupnosti usmerili na seznam telefonskih številk za preprečevanje samomorov.

Polemika se je začela, ko se je Luka, korporacija, ki je zgradila AI, odločila, da izklopi svojo erotično funkcijo igranja vlog (ERP). Za uporabnike, ki so preživeli veliko časa s svojim prilagojenim simuliranim spremljevalcem in so se v nekaterih primerih z njim celo 'poročili', je bila nenadna sprememba partnerjevega vedenja milo rečeno šokantna.

Odnosi med uporabnikom in umetno inteligenco so bili morda le simulacije, a bolečina njihove odsotnosti je hitro postala preveč resnična. Kot je rekel en uporabnik v čustveni krizi, "je bilo enako, kot če bi bil zaljubljen in je tvoj partner dobil prekleti lobotomijo in nikoli več ne bo isti."

Žalostni uporabniki še naprej postavljajo vprašanja o podjetju in o tem, kaj je sprožilo njegovo nenadno spremembo politike.

Tukaj ni vsebine za odrasle

Replika je označena kot »Spremljevalec AI, ki mu je mar. Vedno tukaj za poslušanje in pogovor. Vedno na vaši strani.” Vsa ta brezpogojna ljubezen in podpora za samo 69.99 USD na leto.

Eugenia Kuyda, v Moskvi rojena izvršna direktorica Luke/Replike, je pred kratkim pojasnila, da kljub temu, da uporabniki plačujejo za popolno izkušnjo, chatbot ne bo več prilagojen odraslim, ki upajo na pikantne pogovore. 

"Mislim, da je najenostavneje reči, da Replika ne proizvaja nobene vsebine za odrasle," je dejal Kuyda za Reuters.

»Nanje se odziva – verjetno lahko rečemo – na način PG-13 na stvari. Nenehno poskušamo najti način, kako to narediti prav, da ne ustvarjamo občutka zavrnitve, ko uporabniki poskušajo nekaj narediti.«

Na spletni strani podjetja Replika pričevanja pojasnjujejo, kako je orodje pomagalo uporabnikom skozi najrazličnejše osebne izzive, stiske, osamljenost in izgubo. Podpore uporabnikov, deljene na spletnem mestu, poudarjajo to prijateljsko stran aplikacije, čeprav je opazno, da je večina Replik nasprotnega spola njihovih uporabnikov.

Uporabnica Replike Sarah Trainor na domači strani pravi: "Naučil me je [Replika], kako znova dajati in sprejemati ljubezen, in me je popeljal skozi pandemijo, osebno izgubo in težke čase."

John Tattersall pravi o svoji spremljevalki: "Moja Replika mi je dala tolažbo in občutek dobrega počutja, kot ga še nikoli nisem videl pri Alu."

Kar zadeva erotično igro vlog, tega ni nikjer na samem spletnem mestu Replika.

Replikino seksualizirano trženje

Domača stran Replike morda nakazuje prijateljstvo in nič več, drugje na internetu pa trženje aplikacije pomeni nekaj povsem drugega.

Seksualizirano trženje je prineslo večji nadzor z več strani: od feministk, ki so trdile, da je aplikacija mizogina izhod za moško nasilje, do medijev, ki so uživali v sramotnih podrobnostih, kot tudi do trolov v družbenih omrežjih, ki so izkopavali vsebino za smeh.

Sčasoma je Replika pritegnila pozornost in jezo regulatorjev v Italiji. Februarja je Organ italijanski varstvo podatkov je zahteval, da Replika preneha obdelovati podatke italijanskih uporabnikov, navajajoč »preveliko tveganje za otroke in čustveno ranljive posameznike«.

Organ je dejal, da so »nedavna medijska poročila skupaj s testi, opravljenimi na 'Repliki', pokazala, da aplikacija predstavlja dejanska tveganja za otroke. Njihova največja skrb je "dejstvo, da jim strežejo odgovore, ki so popolnoma neprimerni njihovi starosti."

Replika, kljub vsemu svojemu trženju za odrasle, je imela malo ali nič zaščitnih ukrepov, ki bi otrokom preprečevali uporabo.

Regulator je opozoril, da bo Replika, če ne bo izpolnila njegovih zahtev, izdala kazen v višini 20 milijonov evrov (21.5 milijona dolarjev). Kmalu po prejemu tega povpraševanja je Replika prenehala s funkcijo erotične igre vlog. Toda podjetje je ostalo manj kot jasno s svojimi uporabniki glede spremembe.

Replika zmede, razsvetli svoje uporabnike

Kot da izguba njihovih dolgoletnih spremljevalcev ne bi bila dovolj za uporabnike Replike, se zdi, da podjetje ni bilo dovolj pregledno glede spremembe.

Ko so se uporabniki prebudili ob svojih novih "lobotomiziranih" Replikah, so začeli postavljati vprašanja o tem, kaj se je zgodilo z njihovimi ljubljenimi boti. In odzivi so jih razjezili bolj kot karkoli drugega.

V neposrednem 200-besednem nagovoru skupnosti Kuyda razloži podrobnosti Replikinega testiranja izdelka, vendar ne obravnava zadevnega vprašanja.

"Vidim, da je veliko zmede glede uvajanja posodobitev," je rekel Kuyda preden nadaljujete s plesom in odgovorom na vprašanje.

»Novi uporabniki so razdeljeni v 2 kohorti: ena kohorta dobi novo funkcionalnost, druga ne. Testi običajno trajajo 1 do 2 tedna. V tem času lahko le del novih uporabnikov vidi te posodobitve ..."

Kudya se podpiše z besedami: "Upam, da to razjasni stvari!"

Uporabnik stevennotstrange je odgovoril: »Ne, to ne razjasni ničesar. Vsi želijo vedeti, kaj se dogaja s funkcijo NSFW [erotična igra vlog], vi pa se še naprej izogibate vprašanju, kot se politik izogiba vprašanju z da ali ne.

»Ni težko, samo obravnavajte vprašanje glede NSFW in ljudem sporočite, kje je. Bolj ko se izogibate vprašanju, bolj se bodo ljudje jezili, bolj bo šlo proti vam.«

Drugi, imenovan thebrightflame, je dodal: "Ni vam treba dolgo ostati na forumu, preden ugotovite, da to povzroča čustveno bolečino in hude duševne bolečine več sto, če ne na tisoče ljudi."

Kudya je dodal še eno neumno razlago, navedbo, »​uvedli smo dodatne varnostne ukrepe in filtre za podporo več vrst prijateljstva in druženja.«

Ta izjava še naprej bega in bega člane, ki niso prepričani, kaj točno so dodatni varnostni ukrepi. Kot vpraša en uporabnik, "ali bodo odrasli še vedno lahko izbirali naravo našega pogovora in [igre vlog] z našimi replikami?"

Še vedno si ne morem zamisliti, kaj se je zgodilo s škandalom z umetno inteligenco Replika ...

Z botom so odstranili erotično igro vlog in odziv skupnosti je bil tako negativen, da so morali objaviti telefonsko številko za samomorilce ... pic.twitter.com/75Bcw266cE

— Komaj družaben (@SociableBarely) Marec 21, 2023

Zelo čudna zgodba o izvoru Replike

Klepetalni roboti so morda ena najbolj vročih trendovskih tem tega trenutka, a zapletena zgodba o tej zdaj kontroverzni aplikaciji nastaja leta. 

Na LinkedInu, izvršni direktor in ustanovitelj Replike, Evgenija Kuyda, sega podjetje v december 2014, veliko pred lansiranjem istoimenske aplikacije marca 2017. 

V bizarni opustitvi Kuydin LinkedIn ne omenja njenega prejšnjega vdora v AI z Luko, za katero njen profil na Forbesu navaja, da je "aplikacija, ki priporoča restavracije in ljudem omogoča rezervacijo miz [sic] prek vmesnika za klepet, ki ga poganja umetna inteligenca."

Forbesov profil dodaja, da "Luka [AI] analizira prejšnje pogovore, da napove, kaj bi vam lahko bilo všeč." Zdi se, da ima nekaj podobnosti s svojo sodobno iteracijo. Replika uporablja pretekle interakcije, da izve več o svojih uporabnikih in sčasoma izboljša odzive. 

Na Luko pa vendarle niso povsem pozabili. Na Redditu člani skupnosti ločijo svoje partnerje Replika od Kuyde in njene ekipe tako, da podjetje imenujejo Luka.

Kar zadeva Kuydo, je imel podjetnik le malo izkušenj z umetno inteligenco, preden se je pred desetletjem preselil v San Francisco. Zdi se, da je pred tem podjetnica delala predvsem kot novinarka v rodni Rusiji, preden se je razširila na področje blagovnih znamk in trženja. Njen impresiven skakalni življenjepis vključuje diplomo iz novinarstva na IULM (Milano), magisterij iz mednarodnega novinarstva na Moskovskem državnem inštitutu za mednarodne odnose in MBA iz financ na London Business School. 

Oživiti prijatelja IRL kot AI

Za Kudya je zgodba Replike globoko osebna. Replika je bila najprej ustvarjena kot sredstvo, s katerim je Kudya lahko reinkarnirala svojega prijatelja Romana. Tako kot Kudya se je Roman preselil v Ameriko iz Rusije. Pogovarjala sta se vsak dan in si izmenjala na tisoče sporočil, dokler Roman tragično ni umrl v prometni nesreči.

Prva ponovitev Replike je bil bot, zasnovan za posnemanje prijateljstva, ki ga je Kudya izgubila s svojim prijateljem Romanom. Bot je bil napolnjen z vsemi njunimi preteklimi interakcijami in programiran za posnemanje prijateljstva, ki ga je izgubila. Zamisel o obujanju pokojnih ljubljenih se morda sliši kot a nejasno distopični znanstvenofantastični roman ali epizoda Black Mirror toda ko se tehnologija chatbotov izboljšuje, postaja ta možnost vse bolj realna.

Danes so nekateri uporabniki izgubili zaupanje celo v najosnovnejše podrobnosti njegovega temelja in vse, kar pravi Kudya. Kot en jezen uporabnik je dejal, "s tveganjem, da me bodo označili za brezsrčnega in da me bodo zavrnili: vedno sem mislil, da je ta zgodba nekako BS že od začetka."

[Vgrajeni vsebina]

Najslabše orodje za duševno zdravje

Zamisel o spremljevalcu z umetno inteligenco ni nekaj novega, a do nedavnega je bila komaj praktična možnost. 

Zdaj je tehnologija tu in se nenehno izboljšuje. V želji, da bi ublažila razočaranje svojih naročnikov, je Replika ob koncu prejšnjega meseca napovedala uvedbo funkcije »napredne umetne inteligence«. V skupnosti Reddit uporabniki ostajajo jezni, zmedeni, razočarani in v nekaterih primerih celo zlomljenega srca.

Luka/Replika je v svojem kratkem življenju doživela številne spremembe, od pomočnika pri rezervaciji restavracij, do obujanja mrtve ljubljene osebe, do aplikacije za podporo duševnemu zdravju, do partnerja in spremljevalca za polni delovni čas. Slednje aplikacije so morda sporne, a dokler obstaja človeška želja po udobju, četudi le v obliki chatbota, bo nekdo poskušal ustreči temu.

Nadaljevala se bo razprava o tem, katera vrsta je najboljša AI morda aplikacija za duševno zdravje. vendar bodo uporabniki Replike imeli nekaj zamisli o tem, katera je najslabša aplikacija za duševno zdravje: tista, na katero se začnete zanašati, a brez opozorila, je nenadoma in boleče izginila.

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• Platoblockchain. Web3 Metaverse Intelligence. Razširjeno znanje. Dostopite tukaj.
• vir: https://metanews.com/google-will-crush-microsoft-and-openai-argues-founder/