O čom je v skutočnosti bezpečnosť umelej inteligencie
Na aktuálnej vlne iniciatív v oblasti etiky, bezpečnosti a regulácie umelej inteligencie niečo nesedí. Prezentované riziká umelej inteligencie vyzerajú byť zveličené. Šíria sa podozrenia, že ľudia stojaci za týmito iniciatívami nie sú úprimní, pokiaľ ide o ich motívy, a že vyvolávajú morálnu paniku v snahe dosiahnuť skryté ciele. Tu chcem zhrnúť situáciu a ponúknuť svoju interpretáciu.
Toto sú len niektoré príklady iniciatív na reguláciu umelej inteligencie z celého sveta:
- Zákon EÚ o umelej inteligencii
- Centrum pre bezpečnosť umelej inteligencie (CAIS)
- Frontier AI Regulation
Údajné riziká
Napriek všetkým obavám, pri podrobnejšom skúmaní vyzerajú prezentované riziká umelej inteligencie dosť nevinne.
- Ľudia hovoria o umelej superinteligencii, akoby sa písal rok 2100 v sci-fi filme. Dostupné umelé inteligencie sú medzitým veľmi obmedzené a počítačový hardvér je rádovo menej efektívny než ľudský mozog.
- Šíri sa atmosféra paniky, pretože vývoj umelej inteligencie vraj rýchlo napreduje. Ale umelá inteligencia, najmä veľké modely, je obmedzená hardvérom a pokrok v oblasti hardvéru je pomalý.
- Mnohé prezentované riziká sú triviality typu "umelá inteligencia môže šíriť dezinformácie, ovplyvňovať voľby". Na to však nepotrebujete umelú inteligenciu. Médiá to už robia. Umelá inteligencia situáciu veľmi nezmení.
- Potenciál umelej inteligencie "ovládnuť svet" je porovnateľný s potenciálom šialeného génia urobiť to isté. V histórii sa vyskytlo množstvo výnimočne inteligentných jednotlivcov, ale žiadny z nich neovládol svet. Dosiahnutie globálnej nadvlády nie je len o inteligencii, ale vyžaduje si aj značnú fyzickú silu, ktorá umelej inteligencii v súčasnosti chýba.
Motívy a agendy
Zatiaľ čo deklarované riziká umelej inteligencie sú prezentované otvorene, a teda sa dajú ľahko preskúmať, zloženie a motivácia loby pre reguláciu umelej inteligencie je oveľa ťažšie čitateľná. Tu sú niektoré zo zaujímavejších postrehov, ktoré vyniesli na povrch iní autori:
- Je veľmi nezvyčajné, aby súkromné firmy lobovali za reguláciu. Napriek tomu sú generálni riaditelia spoločností OpenAI, Anthropic a Google DeepMind medzi prvými piatimi signatármi Vyhlásenia CAIS o rizikách umelej inteligencie. Ukazuje sa, že regulácia pravdepodobne zničí ich menších konkurentov a zabráni ich zákazníkom prevádzkovať opensourcovú umelú inteligenciu. Po vyradení konkurencie zostávajúce spoločnosti zaoberajúce sa umelou inteligenciou získajú budúci trh s umelou inteligenciou v hodnote tisícov miliárd eur.
- Legislatíva zvyčajne reaguje na aktuálne spoločenské problémy. Regulácia umelej inteligencie je iná v tom, že reaguje na obavy z potenciálnych problémov vo vzdialenej budúcnosti. EÚ sa ponáhľa byť prvou vládou, ktorá bude regulovať nebezpečné myšlienky. Samozrejme, keďže nikto netuší, aké budú v budúcnosti problémy s umelou inteligenciou, je nepravdepodobné, že by legislatíva riešila nejaké reálne problémy.
- Iniciatívy v oblasti bezpečnosti a regulácie umelej inteligencie reagujú na obavy verejnosti z umelej inteligencie, ale obavy verejnosti sú podnecované týmito istými iniciatívami, ktoré zásobujú médiá distopickými scenármi a obrazmi zneužívania umelej inteligencie.
- OpenAI, jeden z hlavných zástancov regulácie umelej inteligencie, získava publicitu a zákazníkov tým, že sa prezentuje ako vývojár revolučnej technológie umelej inteligencie. Jedným zo spôsobov, ako vytvoriť tento imidž, je vyzývať na reguláciu umelej inteligencie, naznačujúc, že ich technológia je taká dobrá, že je nebezpečná. Skutočný produkt, ktorý OpenAI ponúka, je však neškodnou evolúciou predchádzajúcich modelov, na ktorej treba ešte veľa pracovať.
- Hoci držiteľov autorských práv je počuť najviac, existuje mnoho ďalších skupín, ktoré sa cítia ohrozené konkurenciou zo strany umelej inteligencie. Pre týchto ludditov je regulácia umelej inteligencie spôsob, ako umelú inteligenciu sabotovať.
Ľudské práva
Hoci cieľom zákonov o umelej inteligencii je naozaj regulácia umelej inteligencie, nevyhnutne budú nepriamo regulovať aj správanie ľudí.
- Veľmi znepokojujúci uhol pohľadu na túto problematiku je, že regulácia umelej inteligencie je príkladom digitálnej výnimky z ľudských práv. Zatiaľ čo sloboda myslenia je nespochybniteľná a jej porušovanie neprijateľné, akonáhle je v myslení prítomná počítačová zložka, napríklad keď užívateľ brainstormuje s použitím umelej inteligencie, je zrazu prijateľné a žiaduce, aby sa vláda vložila do procesu myslenia a regulovala, ktoré myšlienky sú prípustné.
- Regulácia aplikácií umelej inteligencie de facto reguluje ľudské správanie. Ak sú obmedzenia zabudované do základnej umelej inteligencie (foundation model) používanej v aplikácii, takáto umelá inteligencia v praxi plní úlohu automatizovaného policajta. To je dôvod, prečo máme umelú inteligenciu, ktorá odvráva ľuďom namiesto toho, aby robila, čo jej bolo povedané. Regulácia umelej inteligencie sa stáva platformou na definovanie nových zákonov, ktoré implementujú súkromné firmy takmer bez dohľadu a s minimálnym záujmom o spravodlivosť alebo proporcionalitu.
Záver
Ak sa spýtate mňa, ja tu vidím skôr boj o moc než skutočný záujem o bezpečnosť občanov. Umelá inteligencia bude obrovským zdrojom príjmov pre firmy a zdrojom moci pre vlády. Niet divu, že sa legislatíva o umelej inteligencii presadzuje rekordným tempom.
Ako to urobiť správne
Bežnému občanovi by bolo pravdepodobne zatiaľ lepšie bez akejkoľvek regulácie umelej inteligencie, aby sa súčasná slabá výkonnosť umelej inteligencie mohla zlepšovať maximálnym tempom a aby neexistovali žiadne prekážky pre vývoj opensourcovej umelej inteligencie, ktorá by pravdepodobne najviac posilnia postavenie bežných občanov. Legislatívu by bolo lepšie zavádzať postupne, keď všetci získajú predstavu o tom, ako sa táto nová technológia správa v praxi a aké sú skutočné problémy.
Domnievam sa, že najreálnejším bezprostredným rizikom je koncentrácia moci. Ľudská inteligencia je jedinečný prírodný zdroj, jeden z najcennejších zdrojov na svete. Každý dostane približne rovnaký mozog a tento mozog mu nemožno vziať. To podporuje rovnosť medzi ľuďmi a dáva ľuďom vyjednávaciu silu, ktorej výsledkom je demokracia a spravodlivé pracovné podmienky. Umelá inteligencia narúša súčasnú rovnováhu síl tým, že znižuje hodnotu ľudskej inteligencie a zároveň umožňuje bohatým hromadiť umelú inteligenciu. Regulácia umelej inteligencie tento problém ešte zhoršuje tým, že obmedzuje prístup verejnosti k tejto technológii. Na zmiernenie tohto problému je lepšie podporovať vývoj opensourcovej umelej inteligencie a jej neobmedzenú a širokú distribúciu.