Ar dirbtinis intelektas sunaikins žmoniją?

 

Pabaiga. Pradžia Nr. 11

 

Visu greičiu į priekį

 

Pastarųjų metų dirbtinio intelekto (DI) progresas yra gausybės ilgus dešimtmečius vyraujančių tendencijų – kompiuterių skaičiavimo galios augimo ir duomenų, naudojamų DI modeliams treniruoti, gausėjimo, kurį atitinkamai spartina vis efektyvesni skaičiavimo algoritmai, – kulminacija. Nuo 2010 m. skaičiavimo galia, naudojama DI modeliams treniruoti, išaugo maždaug šimtą milijonų kartų. Didžioji proveržio, kurį stebime dabar, dalis buvo sukurta dar tais laikais, kai ši sritis buvo daug siauresnė ir skurdesnė.

Nors pernai tikrai pakako dirbtinio triukšmo dėl DI, šių trijų tendencijų sąlaja iš tikrųjų pateikia kiekybiškai įtikinančių rezultatų. Laikas, per kurį DI sistemos išmoksta kai kurias kertines užduotis atlikti taip pat gerai kaip žmogus, per pastaruosius dešimt metų sutrumpėjo drastiškai.

Žinoma, gali būti, kad DI gebėjimai priaugs savo lubas. Tyrėjai gali pristigti gerų duomenų. Moore’o dėsnis – tendencija, kad tranzistorių skaičius mikroschemoje kas dvejus metus padvigubėja, – galiausiai taps istorija. Politiniai įvykiai gali sutrikdyti gamybos bei tiekimo grandines ir pakelti skaičiavimo galios kainą. O sistemų didinimas nebūtinai virsta geresniu jų veikimu.

Vis dėlto iš tikrųjų niekas nežino, kaip toli gali nueiti dabartiniai bandymai. Tviteryje šiemet vėl pasirodė 2022 m. sausį nufilmuoto interviu su Yannu LeCunu ištrauka. Joje LeCunas teigia: „Nemanau, kad galime išmokyti mašiną protauti remdamiesi vien tekstu, nes, mano nuomone, informacijos apie pasaulį kiekis, užkoduotas visame pasaulio tekste, tėra mažytė visų mūsų žinių dalis.“ Teiginį jis iliustruoja tokiu pavyzdžiu: „Paimu objektą, padedu jį ant stalo ir stumteliu stalą. Man ir jums visiškai akivaizdu, kad objektas pajudės kartu su stalu. [O] tekstu paremtas modelis, mašina, kurią treniruojate, kad ir kokia galinga ji būtų, nors ir „GPT-5000“, [...] niekada šito neišmoks.“

Tačiau jei šį pavyzdį pateiksite „ChatGPT-3.5“, jis jums iš karto išmes teisingą atsakymą.

Interviu, išleistame keturios dienos iki jo atleidimo, Samas Altmanas pasakojo: „Kol dar neiname ir nepradedame to modelio [GPT-5] treniruočių, galime tik linksmai spėlioti. Bandome spėlioti vis geriau, nes, mano manymu, iš saugumo perspektyvos svarbu nuspėti būsimus gebėjimus. Bet negaliu jums dabar imti ir tiksliai pasakyti, ką GPT-5 darys kitaip nei GPT-4.“

Istorija pilna nevykusių prognozių, kaip seksis inovacijoms. „New York Times“ kartą redakciniame straipsnyje tvirtino, kad skraidančiai mašinai sukurti reikės „nuo milijono iki dešimt milijonų metų“, – 69 dienos prieš broliams Wrightams pakylant į orą. 1933 m. Ernestas Rutherfordas, laikomas branduolinės fizikos tėvu, drąsiai atmetė bet kokią neutroninės grandininės reakcijos galimybę, taip įkvėpdamas kitą fiziką Leo Szilardą jau kitą dieną pateikti jam teorinius tokios reakcijos pagrindus – ant tų pagrindų vėliau sukurta atominė bomba.

Išvada, kurios išvengti sunkiausia, – kad žmonės, geriausiai nusimanantys, kaip kurti DI sistemas, yra įsitikinę, kad dirbtinis bendrasis intelektas (DBI) ne tik įmanomas, bet ir jau ne už kalnų. Gali būti, kad dvejos didžiausios DI dirbtuvės, „OpenAI“ ir „DeepMind“, prie DBI dirba nuo pat įsikūrimo, o pradėjo dar tada, kai vien už mintį, kad artimoje ateityje tokie dalykai būtų įmanomi, būtum buvęs žiauriai išjuoktas. (2022 m. „OpenAI“ Kalėdų vakarėlyje visi skandavo paskui Ilją Suckeverį: „Pajusk DBI.“)

 

Tobuli darbuotojai

 

Darbdaviai jau dabar naudoja DI darbuotojams sekti, kontroliuoti ir išnaudoti. Bet tikroji jų svajonė – kad žmonių apskritai nebereikėtų. Juk dar Marxas rašė: „Mašina yra pridėtinės vertės gamybos priemonė.“

„Open Philanthropy“ DI grėsmių tyrėja Ajeya Cotra man rašė, kad, „logiškai mąstant, pačioje efektyviausioje kapitalistinėje arba rinkos ekonomikoje“ žmonių nereikėtų, nes „žmonės, kaip būtybės, labai neefektyviai kala pinigus“. Pasak jos, mums svarbios visokiausios „komerciniu požiūriu bevertės“ emocijos, „tad jei galiausiai gyvensime gerai arba mums patiks, ką sukūrėme, taip bus tik todėl, kad nuo pat pradžių turėjome pajėgumų sukurti sistemą, kuri prisitaikytų prie žmogiškųjų vertybių“.

„Open Philanthropy“ fondo įkvėpimas – efektyvusis altruizmas, o finansų šaltinis – vienas „Facebook“ įkūrėjų Dustinas Moskovitzas. Šis fondas – vienas aktyviausių DI saugumu besirūpinančių organizacijų, kurių dauguma minimos ir šiame straipsnyje, rėmėjų. „Open Philanthropy“ taip pat skyrė 30 milijonų JAV dolerių ir „OpenAI“ DI saugumo darbams dveji metai iki šioms dirbtuvėms 2019 m. įsteigiant savąjį pelno siekiantį padalinį. Aš pats esu gavęs vienkartinę dotaciją iš „EA Funds“, kurią finansuoja „Open Philanthropy“, tiriamosios žurnalistikos NVO „New York Focus“ veiklai paremti. Po to, kai 2017 m. pirmąkart susidūriau su efektyviuoju altruizmu, ėmiau aukoti 10–20 procentų savo pajamų ne pelno siekiančioms pasaulio sveikatos ir negamyklinio žemės ūkio organizacijoms, savanoriavau kaip vietinės bendruomenės organizatorius ir įsidarbinau kovos su pasaulio skurdu organizacijoje. Efektyvieji altruistai buvo viena pirmųjų bendruomenių, rimtai ėmusių rūpintis DI grėsmėmis žmonijos išlikimui, tačiau aš pats į DI entuziastus žvelgiau nepatikliai – problema atrodė nebūtinai tikra, o didžiulių ir išvengiamų dabar pat vykstančių blogybių pasaulyje irgi netrūko.

Paklusnus DBI būtų kapitalistų svajonių darbuotojas – niekada nepailstų, jam niekada nepritrūktų motyvacijos ir niekada nereiktų į tualetą. Tokie vadybininkai kaip Frederickas Tayloras¹ ar Jeffas Bezosas visad jautė priešiškumą žmonėms, mat juos sunku optimizuoti gamybai – ir darbdavių pelno eilutei. Net ir iki Taylorui sukuriant savąjį vadybos mokslą, pramoninis kapitalizmas siekė darbuotojus paversti kuo panašesniais į mašinas, kuriomis jie dirba ir kurios juos vis dažniau pakeičia. Kaip įžvalgiai pasakyta „Komunistų partijos manifeste“, kapitalistų gausiai naudojami mechanizmai darbuotoją paverčia „paprastu mašinos priedėliu“.

Tačiau, pasak DI saugos bendruomenės, būtent šie antžmogiški gebėjimai, nuo kurių Bezosui burnoje ima kauptis seilės, DBI daro mirtinai pavojingą žmonijai.

 

Sprogimas: išnykimo galimybė

 

Įprastas „x-risk“ argumentas būna toks: kai DI sistemos peržengs tam tikrą slenkstį, jos galės nesustodamos pačios save tobulinti ir įvyks „intelekto sprogimas“. Jei kuri nors nauja DI sistema taps pakankamai protinga – ar tiesiog pakankamai didelė – ji galės visiems laikams pavergti žmoniją.

Spalį išleistame straipsnyje Managing AI Risks („Tvarkymasis su DI grėsmėmis“) rašoma:

 

Nėra jokios esminės priežasties, kodėl DI progresas turėtų sulėtėti ar sustoti, jam pasiekus žmogaus lygio gebėjimus. [...] Palyginti su žmonėmis, DI sistemos gali veikti sparčiau, įsisavinti daugiau žinių bei bendrauti kur kas pralaidesniais kanalais. Be to, jos gali išaugti tiek, kad gebėtų naudotis milžiniškais skaičiavimo galios ištekliais, bei daugintis milijonais.

 

Šie gebėjimai jau dabar kartais atrodo antžmogiški: didieji kalbos modeliai (DKM) gali per kelis mėnesius „perskaityti“ didžiąją dalį interneto, o „DeepMind“ produktas „AlphaFold“ per porą dienų laboratorijoje gali nuveikti tiek darbo, kiek žmogus – per kelerius metus.

Stilizuota tokio „populiacijos augimo“, pradėsiančio intelekto sprogimą, idėja štai tokia: jei DI sistemos ims atlikti mokslinius tyrimus ir eksperimentinę plėtrą (MTEP) geriau nei žmonės, jos ims greitai daugintis ir į ekonomiką plūstelės nesuskaičiuojama daugybė naujų, itin produktyvių darbuotojų. Kitaip tariant, jei GPT-7 galės dirbti beveik visus darbus, kuriuos dabar dirba žmonės, o apmokyto modelio darbo diena kainuos vos kelis dolerius, tokie modeliai taps labai pelningi, jų bus kuriama vis daugiau ir užsisuks užburtas ratas. Taip gali atsirasti milijardinė ar net gausesnė virtualių darbuotojų „populiacija“, o kainuos jie tik tiek, kiek atsieis jiems veikti reikalinga elektra. Suckeverio manymu, gali būti, kad „visą Žemės paviršių nuklos saulės baterijos ir duomenų centrai“.

Tokie skaitmeniniai darbuotojai galbūt turės geresnių nei mes idėjų, kaip toliau vystyti DI, ir imsis kurti „superprotingas“ sistemas, kurių gebėjimai, kaip dar 1951 m. manė Alanas Turingas, greitai „pranoks mūsų gležnas jėgeles“. O, kaip tvirtina kai kurie DI sauga susirūpinusieji, paskiras DI modelis net neturi būti superprotingas, kad keltų grėsmę mūsų egzistencijai, – tereikia, kad būtų užtektinai jo kopijų. Kai kurie mano pašnekovai „superintelektus“ lygino su dabartinėmis didžiosiomis korporacijomis – jų galios ir gebėjimai aiškiai pranoksta jas sudarančių pavienių įmonių galių sumą.

Dažnai į tokį nerimą atsakoma: „Taigi ištrauksim iš elektros lizdo, ir tiek žinių.“ Tačiau jei kuris nors DI modelis taptų pakankamai galingas, kad imtų grasinti žmonijai, jis taip pat būtų ir pats vertingiausias dalykas visame pasaulyje. Lengviau „iš elektros lizdo ištraukti“ būtų Niujorko akcijų biržą arba „Amazon“ nei tokį DI.

Superprotingas, bet tingus DI daug grėsmės nekeltų – skeptikai, su kuriais kalbėjausi, įskaitant Allen Institute for AI generalinį direktorių Oreną Etzioni, sudėtingų sistemų profesorę Melanie Mitchell ir AI Now Institute vykdomąją direktorę Sarah Myers West, teigė kol kas nematę rimtų įrodymų, kad DI sistemos taptų autonomiškesnės. „Anthropic“ vadovas Dario Amodei taip pat sutinka, kad dabartinių sistemų savarankiškumas nerimo kelti neturėtų. Vis dėlto, Yoshuos Bengio ir kitų teigimu, net ir visiškai pasyvi, bet pakankamai galinga sistema, patekusi į blogas rankas, gali kelti rimtą grėsmę.

Be to, tiek mokslininkai, tiek pramonininkai vis labiau stengiasi kurti kuo autonomiškesnius DI modelius. Pora dienų iki jo atleidimo Altmanas „Financial Times“ teigė: „Kursime vis galingesnes ir galingesnes sistemas [...], o nuo šiol jų veiksmai vis sudėtingės ir sudėtingės. [...] Manau, pritaikius tai visose kategorijose, verslui bus sukurta gan neblogos vertės.“

 

Kas slypi už triukšmo?

 

„X-risk“ bendruomenė naktimis nemiega ne todėl, kad bijotų, jog pažengęs DI „atsibus“, „pasirinks blogį“ ir nutars mus išžudyti iš piktumo, o todėl, kad DI galėtų mus palaikyti kliūtimi siekti kokių nors savų tikslų. Paskutinėje savo knygoje „Trumpi atsakymai į sudėtingus klausimus“ Stephenas Hawkingas pasitelkė tokią metaforą: „Tikriausiai nesate klastingas skruzdėlių nekentėjas, trypiantis jas iš piktumo, bet jei vadovaujate hidroelektrinės žaliosios energetikos projektui, ir planuojamame užtvindyti regione yra skruzdėlynas, tuo blogiau skruzdėlėms.“²

Elgtis taip, kaip mes nesitikime ir nenorime, DI gali dėl visai paprastų tikslų – pvz., pelno siekio arba noro „būti geras“. „Laisvos“ rinkos ekonomikoje pelno siekis priveda prie monopolijų, piramidės schemų, užnuodyto oro ir vandens bei gausybės kitų negandų.

Pavyzdžių, kai DI sistemos elgėsi keistai ir nepageidaujamai, nestinga. Programa, turėjusi ištaisyti rūšiavimo klaidas viename sąraše, tą sąrašą ėmė ir ištrynė. Mokslininko nuostabai, vienas DI modelis, turėjęs pereiti saugos bandymus, nusprendė „apsimesti miręs“.

Kai kas už šio nerimo regi kyšant didžiųjų technologijų korporacijų ausis. Kai kurie tyrėjai, susirūpinę jau egzistuojančia DI žala, tvirtina, kad pati technologijų pramonė reklamuoja idėją, neva jų produktai gali privesti prie pasaulio pabaigos; AI Now Institute dirbanti Myers West „pasakojimus apie vadinamąją grėsmę žmonijai laik[o] žaidimėliais eteriui užimti, kad neliktų vietos susikurti stipriems [DI saugos] judėjimams čia ir dabar“. Kad ir kaip keista, Yannas LeCunas ir vyriausiasis „Baidu AI“ mokslininkas Andrew Ngas, atrodo, pritaria tokiam požiūriui.

Dažniausia „x-riskininkų“ reakcija į šią idėją – pasimetimas ir irzulys. Ajeya Cotra iš „Open Philanthropy“ man atrašė: „Norėčiau, kad nerimas dėl „x-risk“ būtų mažiau siejamas su pačia technologijų pramone, nes iš esmės, žvelgiant paprastai, tai yra labai antipramoninis įsitikinimas. [...] Jei įmonės kuria dalykus, kurie mus visus pražudys, tai tiesiog yra labai blogai ir jas reikia labai griežtai teisiškai reguliuoti.“

Markusas Anderljungas iš „GovAI“ baimę, kad reguliavimas sustabdys progresą, pavadino „natūralia“, bet pabrėžė, kad politiniai pokyčiai, kurių jis siekia, gali pakenkti didžiausiems šios srities žaidėjams.

Viena aiškiausių įtarumo priežasčių – tai, kad Samo Altmano vardas dabar bene labiausiai siejamas su grėsmės žmonijai idėja, nors jo vadovaujama įmonė daugiau nei bet kuri kita prisidėjo plėsdama bendro naudojimo DI galimybių ribas.

Be to, „OpenAI“ tampant vis pelningesnei, o Altmanui – vis galingesniam, šis ėmė keisti dainelę. 2023 m. sausį vykusioje diskusijoje paklaustas apie blogiausią įmanomą scenarijų, Altmanas atsakė: „[DI] visiems mums išjungs šviesą.“ O jau gegužę, liudydamas JAV Senato pakomitetyje, išnykimo grėsmės nebeminėjo. Duodamas greičiausiai paskutinį interviu prieš jį atleidžiant, Altmanas jau sakė: „Iš tiesų nemanau, kad imsime ir išnyksime. Manau, kad bus nuostabu. Manau, kad judame paties geriausio pasaulio link.“

Gegužę Altmanas JAV Kongreso prašė griežčiau reguliuoti DI pramonę, o jau lapkritį tyrimas atskleidė, kad „OpenAI“ kvazipirminė įmonė „Microsoft“ daug prisidėjo prie galiausiai nenusisekusio lobizmo, kad „pamatiniams modeliams“ (pvz., „ChatGPT“) būsimame Europos Sąjungos dirbtinio intelekto akte būtų taikomos išimtys. Be to, ir pats Altmanas stropiai užsiėmė lobizmu ES institucijose – netgi pagrasino, kad „OpenAI“ apskritai paliks Europą, jei bus pernelyg įkyriai reguliuojamas (šį grasinimą jis gan greit atsiėmė). Generalinių direktorių diskusijoje San Fransiske, likus vos kelioms dienoms iki atleidimo, Altmanas teigė, kad „viskas gerai su dabartiniais modeliais. Nereikia mums čia jokių griežtų taisyklių. Tikriausiai dar net porai kitų [DI] kartų jų nereikės.“

Prezidento Joe Bideno neseniai išleistame „plataus masto“ dekrete dėl DI, atrodo, su tuo sutinkama: jame nurodyti dalinimosi saugos bandymų informacija reikalavimai galioja tik modeliams, didesniems nei bet kuris iki šiol sukurtas. Myers West tokius „dydžio slenksčius“ pavadino „milžiniška išimtimi“. Anderljungas man rašė, kad ribojimai turėtų plėstis kartu su sistemų gebėjimais ir panaudojimu, bei pridūrė, kad „norėtų tam tikrų taisyklių jau šiandienos galingiausiems ir plačiausiai naudojamiems modeliams“, bet mano, kad „politiškai daug paprasčiau nustatyti reikalavimus sistemoms, kurios dar tik bus sukurtos ateityje“.

Inioluwa Deborah Raji svarstė, kad jei technologijų milžinės „žino, kad tam tikroje dimensijoje teks būti blogiukais, [...] tai norėtų, kad tai nutiktų kada nors toli ateityje“. Man tai skamba kur kas įtikimiau nei mintis, kad didžiosios technologijų korporacijos iš tiesų nori reklamuotis, neva jų produktai turi visai neblogas galimybes mus visus pražudyti tikrąja šio žodžio prasme.

Laišką dėl išnykimo grėsmės pasirašė beveik 700 žmonių, didžioji jų dalis – mokslininkai. Tik vienas iš signatarų vadovauja akcijų biržoje kotiruojamai įmonei: „Open Philanthropy“ įkūrėjas Moskovitzas, kuris dar yra ir vienas produktyvumo kėlimo programėlės „Asana“ kūrėjų bei generalinis direktorius. Laiško nepasirašė nė vienas „Amazon“, „Apple“, IBM ar pirmaujančių DI įrangos įmonių darbuotojas. Nematyti ir „Meta“ vadovų parašų.

Jei technomilžinių vadovai taip jau nori skleisti gandus apie išnykimo grėsmę, kodėl nė vienas nepanūdo įsirašyti į šį sąrašą?

 

Kam kurti „pasaulio pabaigos mašiną“?

 

Jei DI iš tikrųjų išgelbės pasaulį, jo kūrėjas galės tikėtis, kad jį garbins it šių laikų Julijų Cezarį. O jei ir neišgelbės – tas, kuris pirmasis išras „išradimą, po kurio žmonijai nebereikės nieko išradinėti“, galės nesirūpinti, kad istorija jį užmirš; nebent, žinoma, po tokio išradimo pati istorija ims ir staiga pasibaigs.

Connoro Leahy nuomone, jei toliau žingsniuosime kaip žingsniavę, istorija pasibaigs netrukus po DBI atsiradimo. Jo ilgi plaukai ir nešukuota barzdelė puikiai tiktų gatvės pranašui, vaikštinėjančiam su plakatu „Pasaulio pabaiga artėja!“ – bet tai nesutrukdė jam pasisakyti prieš Britanijos Lordų Rūmus bei rodytis CNN eteryje. 28-erių „Conjecture“ generalinis direktorius ir vienas iš įtakingo atviro kodo kolektyvo „EleutherAI“ kūrėjų man papasakojo, iš kur kyla didžioji motyvacijos kurti DI dalis:

 

„O, tu kuri pasaulio pabaigos mašiną, kuri tau sukraus milijardus bei pavers tave pasaulio imperatoriumi arba visus pražudys?“ Jo, čia visiškai vyriokiška svajonė. Atsakai: „Tikrai taip, po velnių. Aš – pražūties karalius.“ Ta prasme, aš suprantu. Čia visiškai Silicio slėnio estetika.

 

Leahy taip pat atskleidė kai ką, kas visiškai nenustebins žmonių, pakankamai laiko praleidusių San Fransisko įlankos regione arba tam tikruose interneto kampeliuose:

 

Egzistuoja tikri, visiškai niekam neatskaitingi, niekieno nerinkti, daugiausia San Fransiske gyvenantys verslininkai ir technologai technoutopistai, kuriems nieko nereiškia rizikuoti tavo, tavo vaikų ir anūkų bei visos žmonijos gyvybėmis, jei tik bus nors menkiausias šansas, kad jie patys galėtų gyventi amžinai.

 

Aną kovą „MIT Technology Review“ pranešė, kad Altmanas „teigia visiškai ištuštinęs savo banko sąskaitą dviem [...] tikslams finansuoti: beribei energijai ir ilgesnei gyvenimo trukmei“.

Turint tai omenyje, būtų galima tikėtis, kad DI etikos bendruomenė laikys DI saugos bendruomenę akivaizdžiais sąjungininkais bendroje kovoje prieš niekam neatskaitingą technoelitą, kuris vienašališkai kuria pavojingus ir žalingus produktus. Ir iš tiesų, kaip jau sužinojome, nemažai saugos šalininkų viešai giria DI „etikus“. Be to, „x-risk“ bendruomenė „etikus“ irgi viešai puola retai (atvirkštiniai puolimai, beje, nėra tokie jau reti), tačiau tikrovėje daugiausiai irzulio visiems kelia būtent DI saugos bendruomenė.

DI „etikai“ bei jų remiami žmonės dažnai skundžiasi esą marginalizuojami ir atkertami nuo tikrosios galios – jie jaučiasi kovojantys pasmerktą mūšį prieš technologijų įmones, kurioms etika tėra patogus būdas išnešti kailį iš nepatogių situacijų, o ne svarbiausias dalykas. Kodėl jie taip jaučiasi, galima suprasti pažvelgus, kiek didžiųjų technologijų korporacijų pastaraisiais metais (ar net dienomis) atsikratė DI etikos padalinių arba juos smarkiai apkarpė. Esama gausybės atvejų, kai etika susirūpinę pranešėjai ir profsąjungų organizatoriai sulaukė ir skaudaus šių kompanijų atkirčio.

Tai nebūtinai reiškia, kad tokios įmonės labai jaudinasi dėl „x-risk“, t. y. išnykimo grėsmės. „Google DeepMind“ etikos taryba, kurioje buvo ir Larry Page’as bei žymus DI grėsmių tyrėjas Toby Ordas, pirmą sykį susirinko dar 2015 m. – bet antro susirinkimo taip ir nebuvo. Vienas „Google“ DI tyrėjas man rašė, kad „biure [...] apie ilgalaikes grėsmes nekalbama. „Google“ labiau rūpi tobulinti technologijas, o saugumas apsiriboja legalumu ir geru tonu.“

Programinės įrangos inžinierė Timnit Gebru buvo viena iš „Google“ „etiško DI“ komandos vadovių, kol 2020 m. pabaigoje buvo iš kompanijos išstumta, nes išleido neva netinkamą mokslinį straipsnį – dabar jis laikomas vienu žymiausių visų laikų straipsnių apie mašininį mokymąsi. Straipsnyje On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? („Apie stochastinių papūgų grėsmes: ar gali kalbos modeliai būti per dideli?“) Gebru ir bendraautorės tvirtina, kad DKM kenkia aplinkai, prisideda prie socialinės diskriminacijos ir naudoja statistiką „bet kaip“ klijuoti kalbos dalims „be jokio panašumo į prasmę“.

Gebru, kuri nėra didelė DI saugos bendruomenės gerbėja, viešai reikalavo daugiau apsaugos DI tyrėjams, pranešantiems apie nusižengimus ir pavojus, – tai taip pat yra ir viena iš pagrindinių rekomendacijų „GovAI“ išleistoje baltojoje knygoje. Po Gebru išstūmimo iš „Google“ ją palaikantį solidarumo laišką pasirašė beveik 2 700 įmonės darbuotojų, tačiau tuo metu „Google“ dirbusio Geoffo Hintono parašo ten nerasime. CNN paklaustas, kodėl nepalaikė kolegės pranešėjos, Hintonas atsakė, kad Gebru DI kritikavo „dėl gerokai kitokių priežasčių nei aš“, jos „nėra tokios egzistenciškai svarbios kaip mintis, kad šitie dalykai gali tapti už mus protingesni ir užvaldyti pasaulį“.

Raji man teigė, kad „nemažai irzulio ir priešiškumo“ tarp „etikų“ ir „saugumiečių“ kyla todėl, kad „viena pusė tiesiog turi kur kas daugiau pinigų ir galios nei kita“, o tai „leidžia pirmiesiems kur kas tiesiogiau stumti savąją darbotvarkę“.

Pasak vieno pranešimo, pinigų suma, per 2022 m. skirta DI saugos startuoliams ir ne pelno siekiančioms organizacijoms, siekė 144 milijonus JAV dolerių – keturiskart daugiau nei 2020 m. Išsiaiškinti, kiek pinigų per metus skiriama DI etikos bendruomenei, būtų sunkiau. Kad ir kiek jų būtų, abi pilietinės visuomenės stovyklos – tiesiog nykštukės šalia pačios DI pramonės. Kaip praneša portalas „OpenSecrets“, vien per pirmą 2023 m. ketvirtį DI lobizmui JAV buvo išleisti maždaug 94 milijonai dolerių. Vokietijos NVO „LobbyControl“ vertinimu, pernai technologijų įmonės lobizmui ES išleido 113 milijonų eurų, o, kaip minėta anksčiau, į pačią DI pramonę šiuo metu, kol jūs skaitote straipsnį, nesustodami plaukia šimtai milijardų dolerių investicijų.

Priešiškumą dar labiau skatina tai, kad galios ir lėšų nelygybė, atrodo, toliau augs. Visuomenės dėmesį ir palaikymą DI etikos stovyklai toliau augina tokios garsios knygos kaip 2016 m. išleista duomenų mokslininkės Cathy O’Neil Weapons of Math Destruction („Matematinio naikinimo ginklai“) bei skambios naujienos apie šališkus algoritmus, pvz., 2018 m. Buolamwini ir Gebru straipsnis Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification („Lyties atspalviai: intersekcionalaus tikslumo neatitikimai komercinėje lyčių klasifikacijoje“).

2014 m. „x-risk“ taip pat sulaukė netikėto bestselerio – filosofo Nicko Bostromo Superintelligence („Superproto“), kuriame tvirtinama, kad už žmogų protingesnis DI gali privesti prie žmonijos išnykimo; knygą gyrė ir Elonas Muskas, ir Billas Gatesas. Vis dėlto Eliezeris Yudkowsky man sakė, kad kol nebuvo „ChatGPT“, bet kur, išskyrus tam tikrus Silicio slėnio rajonus, rimtai kalbėdamas apie šią knygą būtum buvęs palaikytas nevispročiu. Ankstyvųjų DI saugumo pranašų, įskaitant Yudkowsky, pozicija šiuo metu keistoka – viena vertus, jiems palankūs turtingi ir įtakingi San Fransisko įlankos regiono technologijų guru, kita vertus, jie tebėra plačiojo diskurso paraštėse.

Pasaulyje, kuriame jau egzistuoja „ChatGPT“, Turingo ir Nobelio premijų laureatai vis dažniau išlenda iš DI saugos spintos ir ima viešai palaikyti Yudkowsky išpopuliarintus argumentus – bet paties Yudkowsky žymiausias veikalas tebėra neoficialus 660 tūkst. žodžių ilgumo „Hario Poterio“ tęsinys.

Bene netikėčiausia šio naujojo pasaulio pranašystė eteryje pasigirdo lapkritį, kai „New York Times“ technologijų tinklalaidės „Hard Fork“ vedėjai Federalinės prekybos komisijos pirmininkės paklausė: „Koks būtų jūsų pražūties procentas, Lina Khan? Kokią jūs duotumėt tikimybę, kad DI mus visus pražudys?“ Kasdieniai efektyviųjų altruistų pokalbiai pasiekė didžiąją žiniasklaidą. (Khan atsakė, kad ji „optimistė“, ir davė „nedidelę“ 15 procentų tikimybę.)

Remiantis visais viešais laiškais ir žiniasklaidos pranešimais, nesunku būtų pamanyti, kad didžioji dalis DI tyrėjų aktyviai ruošiasi atremti žmonijos išnykimo grėsmę. Tačiau kai Bengio paklausiau, kaip į „x-risk“ dabar žvelgia mašininio mokymosi bendruomenė, jis atsakė: „O, požiūris tikrai labai pasikeitė. Anksčiau būdavo, kad maždaug 0,1 procento žmonių kreipia dėmesį į šią problemą. O dabar – jau gal kokie 5 procentai.“

 

Tikimybės

 

Kaip ir daug kitų dėl DI grėsmės žmonijai nerimaujančiųjų, žymus sąmonės filosofas Davidas Chalmersas per mūsų pokalbį iškėlė tikimybinį argumentą: „Čia nėra situacija, kai turime būti 100 procentų tikri, jog kada nors bus žmogaus protingumo DI, kad tuo susirūpintume. Jei tikimybė – nors 5 procentai, jau dėl jos turime susirūpinti.“

Toks statistinis mąstymas populiarus ir efektyviųjų altruistų bendruomenėje – būtent dėl jo šios bendruomenės nariai didžiąja dalimi ir kreipia dėmesį į DI. Ėmęsis nagrinėti ekspertų argumentus, gali tik dar labiau susipainioti. Tačiau jei pamėgintum išvesti ekspertų susirūpinimo šia problema vidurkį keliolikoje tyrimų, išeitų, kad esama bent poros procentų tikimybės, jog DI prives žmoniją prie išnykimo, – tokios tikimybės galėtų užtekti, kad ši problema taptų svarbiausia pasaulyje. O jei ateities kartas laikome vertingomis, tai žmonijos išnykimas yra aiškiai blogesnis scenarijus nei katastrofos, kurias įmanoma išgyventi.

Vis dėlto diskusijose apie DI gausu kaltinimų arogancija. Skeptikai, tokie kaip Melanie Mitchell ir Orenas Etzioni, man teigė, kad „x-risk“ scenarijui paremti nėra jokių įrodymų, o tikintieji, tokie kaip Bengio ir Leahy, pirštu bedė į įstabiai greitai tobulėjančius DI ir klausė: o jei šis progresas nesustos? Vienas draugas mokslininkas, tiriantis DI, DBI atsiradimą palygino su plakikliu, į kurį sumesta visa pasaulio ekonomika ir politika – belieka tik paspausti mygtuką.

Net jei DBI dėl kokių nors priežasčių nepralenks žmogaus proto ir gebės tik jam prilygti, ateitis, kurioje Žemę teks dalintis su bemaž neribotu skaičiumi žmogaus protingumo skaitmeninių būtybių, kelia siaubą – ypač žinant, kad tos būtybės tikriausiai visaip stengsis kokiam nors šeimininkui uždirbti daug pinigų.

Idėjų, kaip politinėmis priemonėmis sumažinti DI grėsmę žmonijai, esama tiek daug, kad visoms joms aptarti čia neužtektų vietos. Tačiau viena aiškesnių, kurią propaguoja DI saugos bendruomenė, – mintis, kad mums reiktų „prilėtinti tempą“. Prilėtinimo šalininkai tikisi, kad politikams ir plačiajai visuomenei jis duotų galimybę prisivyti DI progresą bei imtis aktyviai spręsti, kaip reiktų vystyti ir taikyti pasaulį keičiančias technologijas.

 

Tarptautinis bendradarbiavimas

 

Viena dažniausių reakcijų į bet kokius bandymus reguliuoti DI: „O kaip Kinija?“ Altmanas, pvz., aną gegužę JAV Senato komitetui teigė, jog „mes norime, kad Amerika pirmautų“, ir pridūrė, kad prilėtinimo pavojus – „Kinija ar dar kas nors progresuos dar greičiau“.

Anderljungas man rašė, kad tai „nėra pakankamai gera priežastis nereguliuoti DI“.

Praeitą birželį žurnale „Foreign Affairs“ pasirodžiusiame straipsnyje Helen Toner ir du politologai teigė, kad, jų kalbintų Kinijos DI tyrėjų nuomone, vietiniai DKM nuo naujausių amerikietiškų modelių atsilieka bent dvejais trejais metais. Be to, straipsnio autoriai tvirtina, kad Kinijos laimėjimai DI srityje „smarkiai remiasi užsieninių tyrimų kopijavimu ir modifikavimu“, tad vienašališkas prilėtinimas „tikriausiai pristabdytų“ ir Kinijos progresą. Taip pat, kaip pažymi Jackas Clarkas iš „Anthropic“, Kinija pirmiau nei bet kuri kita šalis žengė reikšmingus žingsnius DI reguliavimo link.

„Kinijos interesas tikrai nėra nusižudyti kartu su likusia žmonija“, – pakomentavo Yudkowsky.

Jei pažengęs DI tikrai kelia pavojų visam pasauliui, vietinių įstatymų jam sureguliuoti nepakaks. Tačiau tvirtos kurios nors vienos šalies nuostatos likusiam pasauliui gali pademonstruoti, koks tai iš tikrųjų rimtas reikalas. Žymi DI etikė Rumman Chowdhury kalba apie DI priežiūrą pasauliniu mastu. Bengio atsako, kad „reikia užsiimti ir tuo, ir tuo“.

Yudkowsky, kaip jam būdinga, išliko maksimalistas: „Teisingas sprendimas būtų daugmaž toks: visą DI kompiuterinę įrangą laikyti keliuose duomenų centruose, kuriuos valdytų tarptautinės organizacijos, ir pasirašyti daugiašalę sutartį, pagal kurią niekas – įskaitant kariuomenes, vyriausybes, Kiniją ir CŽV – negalėtų užsiimti bjauriais žaidimėliais, įskaitant superintelektų kūrimą.“

Aną kovą Yudkowsky išleido kontroversišką straipsnį „Time“, kuriame ragino „viską uždaryti“ ir paskelbti tarptautinį moratoriumą „naujiems plataus masto mašinų mokymams“, už kurio sulaužymą grėstų karinė invazija. Tokia radikali pozicija atrodo visai suprantama, turint omenyje, kad Yudkowsky pažengusį DI laiko pavojingesniu nei bet koks branduolinis ar biologinis ginklas.

Visos 28 šalys, dalyvavusios pernykščiame Vadovų susitikime dėl DI saugos, įskaitant JAV ir Kiniją, pasirašė Blečlio deklaraciją, kuria pripažino dabartines DI keliamas grėsmes bei faktą, kad „ženklios grėsmės gali kilti iš galimo piktavališko [DI] panaudojimo ar nenumatytų kontrolės problemų“.

Susitikimo svečius priėmusi Jungtinės Karalystės vyriausybė Bengio paskyrė vadovauti pirmojo „Mokslo padėties“³ pranešimo apie „naujausio DI gebėjimus ir keliamus pavojus“ rengimui – taip buvo žengtas rimtas žingsnis link nuolatinės ekspertinės organizacijos, panašios į Tarpvyriausybinę klimato kaitos komisiją, įsteigimo.

JAV ir Kinijos bendradarbiavimas – tarptautinio DI progreso koordinavimo kertinis akmuo. Vis dėlto šiuo metu šios šalys dėl DI, švelniai tariant, nesutaria. Įvesdamos eksporto apribojimus 2022 m. Lustų aktu, JAV mėgino pakirsti Kinijos galimybes DI srityje – vienas analitikas tokį žingsnį pavadino „kariniu išpuoliu“. Kaip aną gegužę rašė „Jacobin“, gali būti, kad prie griežtų eksporto ribojimų prisidėjo ir kai kurie dėl išnykimo grėsmės susirūpinę mokslininkai. Spalį JAV dar labiau sugriežtino Lustų akto ribojimus, kad Kinijai neliktų būdų juos apeiti.

Vis dėlto šiek tiek vilties pasauliui suteikė lapkritį įvykusi Bideno ir Si Dzinpingo diskusija apie DI saugumą ir draudimą DI naudoti mirtinų ginklų sistemose. Baltieji rūmai tada pranešime spaudai rašė: „Šalių vadovai pabrėžė poreikį vyriausybiniu lygmeniu tartis, kaip užkirsti kelią grėsmėms, kurias gali kelti pažengusios DI sistemos, ir užtikrinti DI saugumą.“

Dėl mirtinų autonominių ginklų DI diskusijose taip pat daugiau mažiau sutariama. Naujoje knygoje Unmasking AI: My Mission to Protect What Is Human in a World of Machines („Už DI kaukės: mano misija saugant žmogiškumą mašinų pasaulyje“) Joy Buolamwini reklamuoja kampaniją Stop Killer Robots („Stop robotams žudikams“), taip pritardama ilgamečiam DI saugos šalininkų rūpesčiui. „X-risk“ organizacija The Future of Life Institute 2016 m. sugebėjo suvienyti net ir ideologinius oponentus, kad šie pasirašytų viešą laišką, reikalaujantį uždrausti puolant naudoti MAG, – tarp signatarų buvo Bengio, Hintonas, Suttonas, Etzioni, LeCunas, Muskas, Hawkingas ir Noamas Chomsky.

 

Vieta prie stalo

 

Po metų metus trukusios apatijos pasaulio vyriausybės pagaliau ima kreipti dėmesį į DI. O socialistai, atsisakantys rimtai svarstyti, ką šios sistemos gali nuveikti ateityje, praranda vietą prie derybų stalo.

Nemaža dalimi dėl to, kad DI traukia tam tikro tipo žmones, gausybė ankstyvųjų „x-risk“ idėjos propaguotojų pradėjo arba nuo itin teorinių tyrimų, kaip sukontroliuoti pažengusį DI, arba patys įkurdami DI įmones. O kitokio tipo žmonės į galimybę, kad DI gali privesti prie pasaulio pabaigos, atsakytų – mums reikia pasiekti, kad žmonės jo apskritai nekurtų.

Spartuoliai vis kartoja, kad DI plėtra neišvengiama – pakankamai žmonių tuo patikėjus, ši frazė tampa tiesa. Tačiau, kaip rašo AI Now Institute, „nėra nieko, susijusio su DI, kas būtų neišvengiama“. Vykdomoji direktorė Myers West tam pritarė bei paminėjo veido atpažinimo technologijas – 2018 m. jos irgi atrodė neišvengiamos, bet gausybėje šalių bei miestų buvo uždraustos. Pasak „x-risk“ tyrėjos Katjos Grace, tai, kad galime sukurti kokią nors technologiją, nebūtinai reiškia, kad mums reikia ją kurti.

Be to, nemažai politikų žvelgia į pastaruosius DI proveržius ir šiurpsta. JAV senatorius Mittas Romney teigė esąs „labiau apimtas siaubo nei optimizmo dėl DI“, o jo kolega Chrisas Murphy yra sakęs: „Tai, kad tiek daug užduočių, kurias dabar atlieka žmonės, pereis į DI rankas, gali privesti prie katastrofos.“ Kongresmenai Tedas Lieu ir Mike’as Johnsonas taip pat sakė dėl DI „apimti siaubo“ tikrąja šių žodžių prasme. Jei vieninteliai žmonės, pripažinsiantys, kad DI gebėjimai tobulėja dramatiškai greitai ir gali ateityje kelti pavojų visai žmonių rūšiai, bus technologijų entuziastai – būtent jų politikai labiausiai ir klausys. Aną gegužę DI etikė profesorė Kristian Lum tviteryje rašė: „Esama vienos egzistencinės DKM grėsmės, dėl kurios esu tikra, – tai grėsmė FAccT⁴ ir etiško DI egzistencijai, kuri tikrai kils, jei apie šias technologijas toliau kalbėsime kaip gyvačių aliejaus pardavėjai.“

Net jei mintis, kad DI gali privesti žmoniją prie susinaikinimo, jums primena mokslinę fantastiką, vis tiek tikriausiai galite sutikti, kad įtakoti, kaip bus kuriama visa keičianti technologija ir kokiomis vertybėmis ji vadovausis, yra žiauriai svarbu. Tarkim, kad galėsime DBI, jei toks atsiras, priversti daryti tai, ko norime, – iš karto kyla tikriausiai svarbiausias klausimas žmonijos istorijoje: ko mes iš jo norėsime?

Paklaustas šio klausimo, Chalmersas atsakė: „Anksčiau ar vėliau vis tiek tenka grįžti prie politinės filosofijos – kokios visuomenės mes iš tikrųjų trokštame, kokią visuomenę mes iš tikrųjų vertiname?“

Vienas iš būdų galvoti apie žmogaus protingumo DI atsiradimą – tai prilyginti šį procesą naujos valstybės konstitucijos kūrimui („Anthropic“ priėmė šią idėją už gryną pinigą ir sukūrė „konstitucinio DI“ metodą bei neseniai eksperimento tvarka demokratinį procesą įrašė į vieno DI modelio pamatinį dokumentą). Vyriausybė – tai sudėtinga sistema, kuriai patikima milžiniška galia. Pamatai, ant kurių statoma tokia valdžia, įtakoja ir įtakos milijonų žmonių gyvenimus. Amerikiečiai, pvz., tebegyvena šešėlyje mirusių vyriokų, kurie taip bijojo liaudies, kad į politinę sistemą įtraukė gausybę nedemokratinių procesų, tebekamuojančių šalį net ir po dviejų šimtmečių.

DI gali tapti revoliucingiausia inovacija žmonijos istorijoje. Taip pat DI – unikaliai normatyvi technologija, mat jį kuriame būtent taip, kad jis atkartotų mūsų įsitikinimus. Jackas Clarkas interviu „Vox“ teigė: „Iš tikrųjų keista, kad tai – ne valstybinis projektas.“ Chalmersas man sakė: „Kai technologijų įmonėms bus patikėta diegti tikslus į DI sistemas, turėsime būti tikri, kad be išlygų pasitikime šių kompanijų gebėjimu teisingai suprasti labai gilias socialines ir politines problemas. Aš nesu tuo tikras. Šitam reikale reikia ne tik technologinio, bet ir socialinio bei politinio mąstymo.“

 

Netikri pasirinkimai

 

Gali būti, kad mums nereikia laukti superprotingų sistemų, kurių pirmasis tikslas nėra gėris žmonijai. Antžmogiški veikėjai jau dabar be skrupulų viską optimizuoja, kad gautų tai, ko nori, o mes prarandame viską, kas mums rūpi. Kuo gabesnis toks veikėjas ir su kuo mažiau skrupulų jis optimizuoja, tuo įspūdingesni jo rezultatai.

Skamba pažįstamai? Jei atsakėte „taip“, jūs ne vieni. Organizacija AI Objectives Institute (AOI) tiek kapitalizmą, tiek DI laiko neteisingos optimizacijos pavyzdžiais. Ši tyrimų laboratorija, kurią įkūrė buvusi radijo laidų vedėja Brittney Gallagher ir „kovotojas už privatumą“ Peteris Eckersley nedaug likus iki jo netikėtos mirties, tiria erdvę tarp susinaikinimo ir utopijos, „tebesitęsiančią – ir tobulėjančio DI spartinamą – tendenciją galiai koncentruotis išrinktųjų rankose, o ne toli nuo dabarties nutolusius scenarijus“. AOI prezidentas Degeris Turanas man sakė: „Pagrindinis pavojus žmonijai – tai negebėjimas koordinuoti veiksmų, susidūrus su pavojais.“ Jo nuomone, „mums reikia tiesti tiltus“ tarp DI saugos ir DI etikos.

Viena įtakingesnių idėjų „x-risk“ ratuose yra vadinamasis „asmeninės iniciatyvos prakeiksmas“ – taip vadinamos situacijos, kuriose užtenka vieno žmogaus veiksmų, kad visiems baigtųsi blogai. Pvz., jei grupė biologų atrastų, kaip kokią nors ligą padaryti mirtinesnę, užtektų vieno iš jų, kad ši informacija pasirodytų mokslo žurnaluose. Per pastaruosius kelis dešimtmečius nemažai žmonių įsitikino, kad DI gali nušluoti žmoniją nuo Žemės paviršiaus, bet tik patys ambicingiausi ir mažiausiai besibaidantys rizikos iš jų sugalvojo įkurti įmones, kurios dabar plečia DI gebėjimų ribas, arba, kaip sakė Samas Altmanas, „po truputį nutraukia nežinojimo skraistę“. Generalinis direktorius čia turi omenyje, kad mes niekaip negalime žinoti, kas slypi už dabartinių technologijų gebėjimų ribų.

Kai kada galima ir iki galo suprasti pavojus, ir toliau arti tą pačią vagą. 1977 m. naftos kompanija „ExxonMobil“, pasitelkusi geriausius mokslininkus, išsiaiškino, kad jų produktas lemia klimato šiltėjimą. Visuomenei įmonė to neatskleidė – tik statė vis didesnes naftos platformas.

Hipotezė, kad degindami iškastinį kurą šildome planetos klimatą, pirmą kartą buvo iškelta dar XIX a. pabaigoje, bet dėl to pasiekti mokslinį konsensusą užtruko beveik šimtą metų. Hipotezė, kad mašinos gali ištraukti vadžias iš mūsų rankų, tikrai senesnė nei kompiuteriai, tačiau iki mokslinio konsensuso jai dar labai toli. O jei DI toliau progresuos taip greitai kaip dabar, dešimtmečių tokiam konsensusui siekti mes galime ir neturėti – reikės imtis ryžtingų veiksmų.

Klausantis viešuomenėje vykstančių diskusijų, galima pamanyti, kad turime rinktis – spręsti jau egzistuojančias DI problemas arba susitaikyti su jo galbūt ateityje kelsima grėsme žmonių rūšiai. Ir taip, imdamiesi vienos problemos, galime apleisti kitą, tad situaciją įvertinti reikia atidžiai.

Tačiau, pažvelgus materialistiškiau, pasirodo kitoks mūšio vaizdas: vienoje pusėje – trilijoninės korporacijos, nuolat kuriančios vis galingesnius ir pelningesnius DI modelius; kitoje – pilietinės visuomenės organizacijos, raginančios diegti DI vertybes, kurios neišvengiamai kirsis su pelno maržos didinimu.

Trumpai tariant – ir vėl kapitalizmas prieš žmoniją.

 

„Jacobin“, 2024 m. žiema

Vertė Tomas Marcinkevičius