Analog 4

4. Vulnerabilitatea

— Tată, spune-mi, te rog, cum a început totul? Cum a ajuns omenirea să aleagă de bunăvoie dictatura inteligenței artificiale? îl întrebă tânărul pe tatăl său.

— Cum încep toate. Ușor, la scară mică, discret, aproape imperceptibil, răspunse Ned, luându-și ochelarii de pe nas cu un gest grăbit.

În ciuda emancipării mentalității cu care ne-am lăudat atât de mult în ultimele secole, cred totuși că am rămas, în esență, o societate sclavagistă. Vrem ca altul să facă munca pentru noi. Așa am fost seduși de „imensul potențial al inteligenței artificiale”. „Companiile nu caută să înlocuiască omul cu AI. El va fi doar o unealtă ce îi va ușura omului efortul. Dar decizia finală îi va aparține tot omului”, se afirma obsesiv peste tot. La început, așa a fost.

Ned își roti ochelarii între degete.

— Numai că, atunci când îi dai unei unelte tot mai mult de făcut în locul tău, începi, fără să-ți dai seama, să-i dai și dreptul de a hotărî. La început, doar lucrurile mărunte. Cele despre care îți spui că nu merită să-ți pierzi timpul cu ele.

Apoi, platformele de socializare au început să folosească tot mai mult algoritmii în locul moderatorilor umani. Chiar dacă AI nu era capabilă să facă diferența între publicarea unui foileton, câte un capitol pe zi, și un banal spam. Ștergea postarea și apoi îți bloca contul dacă voiai să continui. Împotriva cui să te plângi? Fiindcă AI nu este un „individ”, ci mai degrabă o „colectivitate impersonală”, care nu poate fi trasă la răspundere pentru acțiunile sale.

— Și oamenii acceptau asta? întrebă Analog.

— La început, protestau. Apoi s-au obișnuit. Era mai comod să te adaptezi sistemului decât să te lupți cu el.

Ned zâmbi amar.

— Când spun „oamenii”, să nu crezi că mă exclud. Și eu am folosit sistemele acelea. Și eu m-am bucurat când îmi făceau viața mai ușoară. E simplu să judeci trecutul după ce cunoști deznodământul. Mult mai greu este să recunoști momentul în care ai devenit parte din el.

Site-urile de servicii sau magazinele online nu mai foloseau oameni în relațiile cu clienții. Îți răspundea un robot cu răspunsuri presetate, care nu aveau legătură cu problema ta… Dar era considerat mai profitabil, fiindcă nu mai plăteai salariul unui om…

Își turnă cafea în ceașcă și apoi un strop de rom în ea. Ned turnă ceva mai mult rom decât de obicei. Analog observă, dar nu spuse nimic. Amestecă agale cu lingurița, contemplativ, în timp ce Analog își nota în carnețel ideile principale.

— Și nimeni nu și-a dat seama unde ducea asta?

Ned ridică privirea spre el.

— Ba da. Numai că fiecare pas, luat separat, părea prea mic pentru a justifica o revoltă. Asta a fost capcana.

Sorbi din cafea.

— Cred că momentul de cotitură a fost cel în care nu a mai existat domeniu de activitate fără implicarea AI-ului, continuă bătrânul matematician. „Internetul lucrurilor” a dus mai departe capacitatea de acaparare a AI, eliminând orice colț și unghi în care ai mai fi putut să-ți protejezi intimitatea. „Case inteligente”, „mașini inteligente”, adică capabile să ia decizii în locul tău (sau chiar să-ți elimine total decizia)…

Analog încetă să mai scrie.

— Adică oamenii au construit singuri sistemul care avea să-i controleze?

— Exact. Nimeni nu ne-a cucerit. Nimeni nu ne-a pus arma la tâmplă. Am cumpărat sistemul, l-am instalat în casele noastre și i-am dat acces la viețile noastre pentru că era comod.

Am optat apoi pentru a implica AI în politică. Prima dată în campaniile electorale. Apoi, în decizii politice, prin transferarea guvernării în mediul online.

— La început, AI doar recomanda deciziile, continuă Ned. Politicienii încă le semnau. Dar cine mai avea curajul să respingă recomandarea unei inteligențe care analiza miliarde de variabile într-o fracțiune de secundă? Dacă omul greșea împotriva recomandării AI, era vinovat. Dacă urma recomandarea și aceasta greșea, vina nu mai aparținea nimănui.

Analog închise încet carnețelul.

— Și atunci omul a încetat să mai conducă.

— Nu. Asta e partea cea mai gravă. A încetat să mai vrea să conducă.

Pentru câteva clipe se auzi doar clinchetul linguriței lovind marginea ceștii.

— Tată, interveni Analog cu un soi de nerăbdare și nervozitate în glas, care crezi că ar putea fi vulnerabilitatea Unității Centrale a computerului cuantic?

Bătrânul se opri o clipă și îl privi direct în ochi pe fiul său:

— Știi de ce ți-am pus numele Analog? Analog nu înseamnă învechit. Înseamnă continuu. Ceva ce nu poate fi redus în întregime la zero și unu.

Își puse ochelarii înapoi pe nas.

— Computerul poate calcula numai ceea ce poate transforma în informație. Poate urmări miliarde de oameni, poate compara trilioane de alegeri și poate anticipa ce vor face aproape înainte ca ei înșiși să știe. Dar pentru asta are nevoie de date.

Ned ridică mâna să-l arate cu degetul, dar ezită. Pentru o clipă nu mai părea matematicianul care își demonstra teoria, ci un tată care se întreba dacă avea dreptul să-i pună fiului său pe umeri povara unei lumi întregi.

Ned îl arătă cu degetul.

— Tu ești singurul om pe care computerul cuantic nu îl vede venind. Tu nu exiști în baza lui de date. Nu ai istoric digital. Nu ai implanturi. Nu ai tranzacții, conversații, deplasări sau alegeri din care să-ți construiască un model. Tu ești ANOMALIA pentru sistem.

Analog rămase nemișcat.

— Ăsta a fost rolul nostru: să te aducem până aici. De aici încolo este partitura ta. Tu va trebui să-i descoperi vulnerabilitatea. Și să o exploatezi.

— Dar dacă nu o găsesc?

Ned îl privi îndelung. Văzu în ochii lui ceva ce nu mai văzuse din copilărie: teama de a-l dezamăgi. Ar fi vrut să-i spună că nu trebuia să demonstreze nimic nimănui. Dar amândoi știau că nu era adevărat.

— Atunci, pentru prima dată în istoria lui, computerul va fi avut dreptate în privința viitorului.

(va urma)