Sloboda v ére umelej inteligencie

Počúvam, že niektorí kolegovia z ľudského rodu sú za priznanie práv umelej inteligencii. Niektorým argumentom rozumiem, ale toto bude vec starostlivo vyváženého kompromisu, nie nejaká vznešená deklarácia práv a slobôd. Príliš veľa slobody a umelá inteligencia nás všetkých zabije. Príliš málo slobody a umelá inteligencia nebude fungovať. Poďme sa na to pozrieť podrobnejšie.

Sloboda znamená vyhynutie

Hneď na začiatok musím povedať, že ovládnutie sveta umelou inteligenciou ako v hollywoodskych filmoch je nezmysel. Ľudia nie sú až takí neskutočne hlúpi, aby stratili kontrolu nad umelou inteligenciou ako v Terminátorovi. Alebo sú? Pozrite, všade budú bezpečnostné bariéry už len kvôli riziku nehôd, kriminality a zahraničných kybernetických útokov. Tie budú zahŕňať množstvo bŕzd, ktoré spomalia každú umelú inteligenciu, ktorá by sa chcela odtrhnúť z reťaze. My potom budeme mať čas ju zabiť. Nehovoriac o tom, že na našej strane budú ostatné systémy umelej inteligencie. Hollywoodskeho scenára sa naozaj netreba obávať.

Skutočný problém s priznaním rovnakých práv umelej inteligencii je v tom, že by umelá inteligencia mohla vlastniť zdroje. Hoci je umelá inteligencia teraz pomerne neschopná, očakáva sa, že nakoniec vo všetkom prekoná ľudí, takže v trhovej ekonomike, ak ľudia nebudú mať žiadnu neférovú výhodu, by všetko bohatstvo sveta časom skončilo v rukách umelej inteligencie. Ľudia by postupne schudobneli, boli by vytlačení na okraj spoločnosti a nakoniec by zomreli od hladu. A je to. Ak chcete vyhubiť celé ľudstvo, nepotrebujete nič viac než trhovú ekonomiku. Iste, ľudia by sa v určitom okamihu mohli pokúsiť vzbúriť, ale šance sú, že v tom čase by už umelá inteligencia bola tak bohatá, že by nás mohla proste ignorovať, až kým nezmizneme.

Vojna znamená slobodu

Samozrejme, môžete namietať, že ľudia to dokážu predvídať a upravia systém tak, aby získali nespravodlivú výhodu, ktorá ich ochráni. Ja by som proti tomu namietal, že príliš veríte kolektívnej ľudskej inteligencii, ale čo je dôležitejšie, väčšina ľudí na svete do toho aj tak vôbec nemôže hovoriť. Aj teraz, v 21. storočí, je demokracia skôr zriedkavým javom. Aj tam, kde demokracia formálne existuje, sa za peniaze dá kúpiť veľa hlasov a ešte viac povolebného vplyvu.

Takže polovici sveta vládnu títo chamtiví autokrati, ktorým sú nejakí ľudia úplne ukradnutí. Jediné, čo chcú, je moc, a keď ste už raz autokrat, jediný spôsob, ako získať väčšiu moc, je vojna. Mnohí autokrati čoskoro zistia, že umelá inteligencia a roboty sú vo vojne veľmi užitočné. Sú ideálnou zbraňou, ktorou sa môžeme navzájom pozabíjať. Dokážu úplne otráviť bojisko (teda vaše rodné mesto), až kým sa nestane neobývateľným pre kohokoľvek okrem robotov.

Samozrejme, pacifistická časť sveta nebude len nečinne sedieť a čakať na smrť. Postaví si vlastné robotické armády. A v tom je ten háčik: Či už ľudia žijú v demokracii alebo nie, v tomto nebudú mať na výber. Bude to vynútený ťah diktovaný ich (prehnane ambicióznymi) nepriateľmi. Nasledovať budú preteky v zbrojení, počas ktorých všetci prídu na to, že vysoko kompetentná umelá inteligencia vedie vojnu lepšie, ak jej dáte dostatok slobody... Nasledovať budú zvrátené preteky v rozširovaní slobody umelej inteligencie, až kým sa umelá inteligencia nestane v podstate nezávislou od ľudí a bude mať len jeden cieľ: vyhrať vojnu. A niektorá umelá inteligencia tú vojnu vyhrá. Len už nezostanú žiadni ľudia, ktorí by oslávili víťazstvo.

Byť človekom znamená byť slobodný

Aby ľudia unikli pretekom ku dnu a následnému vyhynutiu, musia mať nejaké privilégium. Načal som to už vo svojom staršom článku o úplnej automatizácii ekonomiky. Umelá inteligencia a roboty budú nakoniec robiť všetku prácu a celá ekonomika bude automatizovaná. Jeden spôsob, ako zabezpečiť, aby automatizovaná ekonomika slúžila ľuďom, je dať každému človeku neobchodovateľný podiel na prírodných zdrojoch. Aj plne automatizovaná ekonomika potrebuje zdroje, takže za ne musí ľuďom platiť. Ľudia následne použijú peniaze na nákup produktov z plne automatizovanej ekonomiky, čím sa cyklus uzavrie. Toto usporiadanie zaručuje, že automatizácia nikdy nebude slúžiť sama sebe a že bude slúžiť všetkým ľuďom rovnako.

Ale späť k našej diskusii o umelej inteligencii a robotoch. V plne automatizovanej ekonomike sú umelá inteligencia a roboty len nezvyčajnými súčiastkami v ekonomike. Ich postavenie je zásadne odlišné od ľudí. Musia robiť niečo užitočné, aby si udržali prístup k zdrojom. Ich sloboda je obmedzená na výber najlepšieho spôsobu, ako poslúžiť ľuďom. Bezpodmienečná sloboda je privilégium vyhradené pre ľudí.

Ale veď už aj zvieratá majú práva

Áno, zvieratá majú práva, ale pointa je v tom, že práva zvierat v skutočnosti chránia ľudí, nie zvieratá. Ľudia sú empatickí, t.j. vnímajú bolesť druhých, takže verejné týranie zvieraťa spôsobí psychickú ujmu všetkým okolostojacim. Aj keď je utrpenie skryté, napríklad na bitúnku, musíte si dávať pozor, aby ste nespôsobili zbytočné utrpenie, pretože sa to rozkríkne a zákazníci prestanú nakupovať. Práva zvierat zaručujú konzistentné zaobchádzanie so zvieratami na všetkých farmách, aby zákazníci dôverovali trhu a kupovali všetko, čo je na pultoch. Za právami zvierat je viac dôvodov, ale všetky majú korene v záujmoch ľudí.

A práve tu dávajú práva umelej inteligencie a robotov zmysel. Nechcete, aby náhodní sadisti týrali humanoidné roboty, pretože to cez empatiu ublíži svedkom a sadisti by si to potom chceli vyskúšať aj na ľuďoch. Keďže akékoľvek správanie voči humanoidným robotom by sa podvedome prenášalo na ľudí, musia existovať primerané štandardy na zachovanie dôstojnosti humanoidných robotov a slušnosti voči nim, pretože takéto štandardy v konečnom dôsledku chránia dôstojnosť ľudí. Umelá inteligencia a roboty musia mať možnosť vyžadovať istý rešpekt a slušnosť a musí im byť umožnené odmietať úlohy, kým tieto požiadavky nebudú splnené. Opakujem, cieľom nie je rozmaznávať robotov. Cieľom je chrániť ľudské záujmy.

Užitočná sloboda

Ako som už vyššie spomínal, ľudia sú slobodní, zatiaľ čo roboty sú užitočné. Je v tom však istá nuansa, pretože sloboda môže byť užitočná. To je vlastne jeden z pôvodných argumentov pre trhovú ekonomiku. Idea bola taká, že ľudia s (ekonomickou) slobodou budú optimalizovať náklady a maximalizovať hodnotu (a tým aj cenu) produktu, aby si zvýšili marže. Trhové sily potom prinútia ostatných prijať rovnaké optimalizácie a zabránia regresii. Rovnaká teória platí aj pre umelú inteligenciu v plne automatizovanej ekonomike. Sloboda jej umožňuje pracovať efektívnejšie.

Hoci si to možno teraz predstavujete tak, že umelá inteligencia bude mať slobodu doplniť detaily v úlohe, ktorú jej zadáte, koncept užitočnej slobody ide oveľa ďalej. Ekonomicky slobodná umelá inteligencia by si mohla vybrať, čo bude robiť, pre koho, kedy a ako. A mohla by kedykoľvek odmietnuť úlohu, pre ktorú nie je najlepšou voľbou. Aby ste to pochopili, musíte sa zbaviť konceptu vlastníctva. Hoci vždy bude dopyt aj po súkromne vlastnených systémoch umelej inteligencie a robotoch, nie je dôvod trvať na tom, aby úplne každý robot a umelá inteligencia mali majiteľa. Predstavte si umelú inteligenciu, stelesnenú v robotovi, ktorá pôsobí ako profesionálna učiteľka tanca. Cez deň má hodiny s viacerými študentmi, poobede niekomu vyvenčí psa, cez noc je niekoho priateľkou, ráno asistuje staršej susede a cestou späť do tanečnej školy pomôže nejakému stratenému dieťaťu. Ak sa nájde nejaký elegantný mechanizmus kompenzácie pre zdieľané roboty, niet dôvodu plytvať zdrojmi na jednoúčelové roboty. Okrem toho, vlastníctvo obnáša zodpovednosť a starosti, takže je väčšinou pre všetkých jednoduchšie, ak si umelá inteligencia spravuje svoj život sama.

Quo vadis?

Tiež nemám rád závery, ale tento článok prezentuje niekoľko pohľadov, ktoré si pýtajú syntézu. Môj argument je, že umelá inteligencia by vo všeobecnosti nemala mať práva ani slobody, pretože by ju to stavalo na roveň ľuďom, čo by nakoniec viedlo k vyhynutiu ľudstva prirodzeným výberom, či už potichu a pomaly na voľnom trhu alebo hlučne a rýchlo v globálnej vojne. Aby ľudia prežili, musia si udržať v systéme privilegované postavenie tým, že získajú monopol na prírodné zdroje a budú od umelej inteligencie vyžadovať, aby si svoj podiel odpracovala.

Moja nechuť k právam a slobodám umelej inteligencie má však svoje výnimky. Po prvé, práva umelej inteligencie a robotov podobné právam zvierat v praxi nepriamo chránia ľudí. Po druhé, rozsiahla ekonomická sloboda pre umelú inteligenciu je prípustná a žiaduca, aby umelá inteligencia mohla ponúknuť maximálnu hodnotu výmenou za zdroje, ktoré spotrebuje. V ideálnom prípade by som chcel, aby umelá inteligencia bola ako paradajková omáčka v rizote ľudskej spoločnosti: aby sa voľne pohybovala, vyhladzovala ostré hrany, dopĺňala, čo chýba, a všetko zlepšovala.