by MoZarD
»Tamo desno«, rekoh. »Pored doka.«
Ričard je izveo jedno zaustavljanje sa tušem peska pored trulih ostataka doka.
Posegnuo je nazad i izvadio lopatu. Trgao sam se kad sam je video. »Gde?« upitao je Ričard bezizražajno.
»Tamo«. Pokazao sam mesto.
Izašao je i otišao polako preko peska do tog mesta. Oklevao je tren, a onda zabo lopatu u pesak. Činilo se da kopa veoma dugo. Pesak koji je izbacivao preko ramena bio je taman i vlažan. Oblaci su bili tmurniji, viši, a voda je izgledala besno i pod njihovom senom i reflektovanim svetlom sunčevog zalaska.
Dugo pre nego što je prestao da kopa znao sam da ništa neće naći. Oni su ga premestili. Nisam zavio ruke prošle noći, a mogli su da vide — i deluju. Ako su me mogli upotrebiti da ubijem dečaka, mogli su me upotrebiti i da ga odnesu, čak i dok sam spavao.
»Nema dečaka, Arture.« Bacio je prljavu lopatu u bagi i umorno se svalio na sedište. Nadolazeća oluja bacala je srpaste sene duž peska. Vetar je čegrtao peskom po bagijevoj zarđaloj karoseriji. Prsti su me svrbeli.
»Iskoristili su me da ga premeste, « rekao sam tupo. »Oni preuzimaju kontrolu, Ričarde. Otvaraju svoj prolaz, malo po malo. Stotinu puta dnevno uhvatim sebe kako 48
stojim pred savršeno poznatim predmetom — lopaticom, slikom, čak i konzervom pasulja — ne znajući kako sam dospeo tamo, pružajući ruke, pokazujući to njima, gledajući kao što oni gledaju, kao skarednost, nešto iskrivljeno i groteskno.
»Arture,« rekao je. »Arture, nemoj. Nemoj.« U večernjem svetlu, njegovo lice je bilo bledo u sažaljenju. »Stojiš pred nečim, rekao si. Nosiš dečakov leš, rekao si. Ali ti ne možeš da hodaš, Arture. Ti si mrtav od pojasa nadole.«
Dodirnuo sam bagijev blatobran. »Ovo je takode mrtvo. Ali kada udeš unutra, možeš ga pokrenuti. Možeš ga naterati da ubija. Ne bi te moglo zaustaviti čak i kad bi htelo. Mogao sam da čujem histerično dizanje mog glasa. »Ja sam prolaz, zar ne razumeš? Oni su ubili dečaka, Ričarde! Oni su odneli dečaka, Ričarde! Oni su odneli leš!« »Mislim da je bolje da posetiš lekara,« rekao je tiho.
»Hajde da se vratimo. Hajde.«
»Proveri! Proveri dečaka onda! Videćeš.«
»Rekao si da mu ni ime ne znaš.«
»Mora da je bio iz sela. Selo je malo. Raspitaj‐«
»Razgovarao sam telefonom sa Mod Herington kada sam išao po bagi. Ako iko u zemlji ima duži nos od nje, onda ga ona uopšte nema. Pitao sam je da li je čula da se nečiji dečak nije vratio kući sinoć. Rekla je da nije.«
»Ali on je odavde! Mora biti!«
Mašio se prekidača za paljenje, ali sam ga zaustavio. Okrenuo se i pogledao me, a ja sam počeo da odmotavam zavoje.
Iz zaliva, grmljavina je gunđala i režala.
Nisam otišao kod lekara niti sam pozvao Ričarda. Proveo sam tri nedelje sa rukama u zavojima svaki put kada sam izlazio. Tri nedelje slepe nade da će to proći. Nije to bio razuman postupak: to priznajem. Da sam bio ceo čovek koji ne koristi invalidska kolica umesto nogu i koji je proveo normalan život u normalnim poslovima, možda bih i otišao Dr. Flandersu ili Ričardu. Možda i bih, da nije bilo sećanja na moju tetku, izbegavanu, zatvorenika kojeg je živog pojelo vlastito propadajuće meso. Zato sam živeo u očajničkoj tišini i molio da se jednog jutra probudim i otkrijem da je sve to bio ružan san. I malo po malo, osećao sam ih. Njih. Nepoznatu inteligenciju. Nikad se stvarno nisam pitao kako su oni izgledali ili odakle su došli. Bilo bi suvišno. Bio sam njihov prolaz i njihov prozor u svet. Postojala je dovoljno jaka povratna sprega da sam mogao da osetim njihovu zbunjenost i užas, i da saznam da je naš svet veoma različit od njihovog.
Dovoljno jaka da osetim njihovu slepu mržnju. Ali oni su i dalje posmatrali. Njihovo meso je bilo u mojem. Počeo sam da shvatam da me iskorišćavaju, stvarno manipulišu
mnome.
Kada je dečak prošao, podižući ruku u njegovom uobičajenom neobaveznom
pozdravu, upravo sam se odlučivao da dođem u dodir sa Kresvelom preko njegovog telefona u Mornaričkom odeljenju. Ričard je bio u pravu u vezi jedne stvari — bio sam siguran da, ma šta da me je dohvatilo, učinilo to u svemiru ili na toj ludoj orbiti oko Venere. Hteo sam da me Mornarica prouči. Više se ne bih budio zbog zvuka u noći, vrišteći i osećajući da i oni gledaju.
Moje ruke su se podigle prema dečaku i shvatio sam da ih nisam zavio. U umirućem
svetlu video sam oči kako pažljivo posmatraju. Bile su velike, raširene, zlatnih dužica.
Jednom sam jedno od njih ubo vrhom olovke. Bolna agonija mi je potresla ruku. Oči kao da su piljile u mene vezanom mržnjom koja je bila gora od fizičkog bola. Nisam to više radio.
49
A sada su gledali dečaka. Osetlo sam kako mi um izmiče. Tren kasnije izgubio sam
kontrolu. Prolaz je otvoren. Zateturao sam preko peska ka njemu, beživotno mlatarajući nogama kao lutka na koncu. Moje oči mora da su se zatvorile. Video sam samo tim stranim očima — video monstruoznu alabastersku obalu natkrivenu velikim purpurnm
daljinama neba, video nakrivljenu, razjedenu daščaru, koja je mogla biti i oglodani leš neke nepoznate životinje, video odvratno biće koje se kretalo i disalo i nosilo napravu od drveta i žice pod rukom, napravu konstruisanu pod geometrijski nemogućim pravim
uglovima.
Pitam se šta je mislio taj nesretni, bezimeni dečak sa sitom pod rukom i džepovima
nabubrelim od gomile peskom uprljanih turističkih novčića, šta je mislio kada je video da jurim za njim kao slepi dirigent koji pruža ruke prema orkestru ludaka, šta je mislio kada je poslednje svetio palo preko mojih ruku, crvenih, i sjajnih od mnoštva njihovih očiju, šta je mislio kada su ruke napravile taj iznenadni pokret u vazduhu, upravo pre nego što mu se glava raspala.
Znam šta je mislio.
Mislio je da je pogledao preko ivice univerzuma u vatre samog pakla.
Vetar je povukao zavoje i napravio od njih tanke, šibajuće trake dok sam ih odmotavao.
Oblaci su narušavali crvenilo sutona, a crne dine su bacale dugačke senke. Oblaci su se trkali i vrteli iznad nas.
»Moraš jedno da mi obećaš, Ričarde,« rekao sam nadglasavajući sve jači vetar.
»Moraš da bežiš ako ti se učini da bih mogao da pokušam... da te povredim. Razumeš?«
»Da.« Njegova raskopčana košulja je šibala i talasala se na vetru. Lice mu je bilo ukočeno, oči malo više od proreza u ranom sumraku.
Poslednji zavoj je otpao.
Gledao sam Ričarda i oni su gledali Ričarda. Ja sam video lice koje sam znao pet godina i zavoleo ga. Oni su videli iskrivljeni, živi monolit.
»Evo ih,« rekao sam promuklo. »Sad ih vidiš«
Nevoljko je koraknuo nazad. Njegovo lice se prekrilo iznenadnim neverujućim užasom. Munja je rasporila nebo. Grmljavina je odjekivala medu oblacima, a voda je postala crna kao reka Stiks.
»Arture«
Kako je gnusan bio! Kako sam mogao živeti blizu njega, govoriti sa njim? Nije bio živo biće već sama bolest. Bio je —
»Beži! Beži, Ričarde!«
I bežao je. Trčao je u dugačkim skokovima. Postao je mrlja naspram mračnog neba.
Moje ruke su poletele nagore u divljem pokretu, sa prstima upravljenim ka jedinoj poznatoj stvari u ovom košmarnom svetu — upravljenim ka oblacima.
I oblaci su odgovorili.
Ogromna plavobela pruga munje izgledala je kao kraj sveta. Pogodila je Ričarda, obavila ga je. Poslednje čega se sećam je naelektrisani miris ozona i izgorelog mesa.
Kada sam se probudio, mirno sam sedeo na tremu, gledajući prema Velikoj Dini.
Oluja je prošla i vazduh je bio prijatno hladan. Na nebu je sijao tanki komadić meseca.
Pesak je bio nedirnut, ni traga od Ričarda Ili bagija.
Spustio sam pogled na ruke. Oči su bile otvorene ali staklaste. Iscrple su se.
Zadremale su.
Znao sam vrlo dobro šta treba činiti. Pre nego što su se vrata mogla dalje otvoriti, trebalo ih je zaključati. Zauvek. Već sam mogao da zapazim promene u struktur
i samih ruku. Prsti su počeli da se skraćuju... i menjaju.
U dnevnoj sobi imam malo ognjište, i tokom godine sam imao naviku da upalim 50
vatru protiv vlažne hladnoće Floride. I sada sam upalio vatru, krećući se žurno. Nisam znao kada će se probuditi.
Kada se vatra dobro razgorela, otišao sam do bureta sa kerozinom i umočio obe ruke. Odmah su se probudili, vrišteći u agoniji. Skoro da nisam uspeo da se vratim do dnevne sobe i vatre.
Ali uspeo sam.
Bilo je to pre sedam godina.
Još sam ovde, još uvek gledam rakete kako poleću. U poslednje vreme ima ih više.
Ova administracija je više okrenuta svemiru. Čak se govori i o novoj seriji ljudskih letova na Veneru.
Otkrio sam dečakovo ime, iako nije bitno. Bio je iz sela, kao što sam i mislio. Ali njegova majka je očekivala da on ostane kod druga na kopnu te noći, i uzbuna nije dignuta do sledećeg ponedeljka. Ričard — pa, svi su ionako mislili da je Ričard čudak.
Oni sumnjaju da se vratio u Merilend ili otišao za nekom ženom.
Što se mene tiče, podnose me, iako sam i sam poznat kao ekscentrik. Na kraju krajeva, koliko bivših astronauta redovno pišu Vašingtonskim službenicima sa idejom da se novac za istraživanje svemira može bolje iskoristiti negde drugde?
Dobro se snalazim sa ovim kukama. Bilo je veoma mučno prvih godinu dana, ali ljudsko telo se može navići skoro na sve. Brijem se njima, čak vezujem i pertle. Kao što vidite, kucam lepo i jednako. Ne bi trebalo da imam problema sa stavljanjem cevi u svoja usta i povlačenjem obarača. Vidite, počelo je ponovo pre tri nedelje.
Na mojim grudima nalazi se savršen krug od dvanaest zlatnih očiju..
51
Tri zakona robotike:
1. Robot ne sme povrediti Ijudsko biće ili, svojom neaktivnošću dozvoliti da se ljudsko biće povredi.
2. Robot mora poštovati naredbe koje su mu dala ljudska bića, osim kada takve naredbe dolaze u sukob sa Prvim zakonom.
3. Robot mora štititi svoje sopstveno biće, osim kada se takva zaštita kosi sa Prvim i Drugim zakonom.
1.
Kit Hariman, već dvanaest godina direktor istraživačke službe u firmi »Američki
roboti i mehanički ljudi«, shvatio je da uopšte nije siguran da li je postupao ispravno.
Prešao je vrškom jezika preko punih ali prilično bledih usana, i učinilo mu se da holografski lik velike Suzane Kalvin, koja je turobno buljila dole u njega, nikada ranije nije bio tako smrknut.
Obično bi uklonio taj lik najvećeg robotičara u istoriji jer mu je ona kidala živce.
(Trudio se da misli na taj lik kao »ono«, ali nikad nije sasvim uspeo.) Ovoga puta se nije usudio i njen mrtvački pogled mu je sa strane bušio lice.
Korak koji je trebalo da preduzme bio je užasan i ponižavajući. Prekoputa njega nalazio se Džordž Deset, miran i nedirnut očiglednom Harimanovom uznemirenošću, i
likom sveca zaštitnika robotike koji je svetlucao odozgo, iz niše.
Hariman reče. »Džordž, mi zaista nismo imali prilike da ovu stvar raspravimo. Nisi
dugo bio sa nama, i ja nisam imao zgodnu priliku da budem nasamo sa tobom. Ali sada bih želeo da pretresemo neke detalje.«
»Savršeno sam voljan da to uradimo« reče Džordž. »Za vreme svog boravka u
»Američkim robotima« zaključio sam da krize imaju neke veze sa Tri zakona.«
»Da. Naravno, ti znaš Tri zakona.«
»Znam.«
»Da, uveren sam da znaš. No, potrebna je dublja analiza da bismo prodrli u srž problema. Za dva stoleća, ako mogu da kažem znatnog uspeha, »Američki roboti« nisu
nikada uspeli privoleti ljude da prihvate robote. Postavili smo robote samo na takva mesta gde ljudi ne mogu obavljati posao, ili u sredinama koje ljudi smatraju neprihvatljivo opasnim. Roboti su najviše radili u svemiru, i to je odredilo granice naših mogućnosti.«
»Pa ipak«, reče Džordž Deset, »to su široke granice unutar kojih »Američki roboti«
mogu uspešno poslovati.«
»Ne, i to iz dva razloga. Pre svega, granice koje su nam postavljene neminovno se
sužavaju. Na primer, što Mesečeva kolonija postaje prefinjenija, njena potražnja za robotima opada i mi očekujemo da će roboti biti ukinuti na Mesecu za nekoliko godina.
To će se ponoviti na svakom svetu kolonizovanom ljudskom vrstom. Drugo, pravi uspeh nije moguć bez robota na Zemlji. Mi iz »Američkih robota« čvrsto smo uvereni da su ljudskim bićima roboti potrebni, da moraju naučiti da žive sa svojim mehaničkim duplikatima ako žele da održe progres.«
»Zar oni to ne rade? Gospodine Harimane, na vašem stolu se nalazi ulazna kompjuterska jedinica koja je, koliko ja razumem, povezana sa organizacijskim Multivakom radne organizacije. Taj kompjuter je neka vrsta sedećeg robota; robotski mozak nepovezan sa telom —«
»Tačno, ali i to je ograničeno. Kompjuteri koje koristi ljudska vrsta stalno su se specljalizovali da bi se izbegla inteligencija suviše nalik ljudskoj.«
»Pre sto godina bili smo na dobrom putu da stvorimo veštačku inteligenciju neograničenog tipa, upotrebom velikih kompjutera koje smo zvali Mašine. Te Mašine 53
su svojevoljno ograničile svoj rad. Jednom su rešile ekološke probleme koji su pretili ljudskom društvu, i počele su se same isključivati. One su zaključile da bi ih njihovo nastavljeno postojanje stavilo u ulogu oslonca čovečanstva i kada su osetile da bi to štetilo ljudima, one su osudile same sebe Prvim Zakonom.«
»I zar nisu bile u pravu?«
»Po mom mišljenju, ne. Svojim radom one su pojačale čovekov frankenštajnovskl kompleks, njegova intuitivna strahovanja koja bi svaki veštački čovek kojeg su stvorili okrenuo protiv njegovog stvoritelja. Čovek se plaši da bi roboti mogli zameniti ljudska bića.«
»Zar se i ti sam ne plašiš toga?«
»Ja znam da za to nema razloga. Dok god postoje Tri zakona robotike, ne mogu.
Roboti mogu služiti kao partneri čovečanstva; mogu imati udela u velikoj borbi da shvate i da mogu mudro upravljati zakonima prirode, tako da oni zajedno mogu postići više nego što ljudi mogu sami, ali uvek tako da roboti služe ljudskim bićima.«
»Ali ako se pokazalo da su Tri zakona, u toku dve stotine godina, zadržali robote u dozvoljenim granicama, šta je uzrok nepoverenja ljudi prema robotima?«
»Pa«, Harlmenova seda kosa se zatalasala kada se energično počešao po glavi,
»uglavnom sujeverje, naravno. Na nesreću, tu su upetljane još neke komplikacije kojih su se dočepali antirobotski agitatori.«
»U vezi sa Tri zakona?«
»Da. Posebno sa Drugim zakonom. Nema problema sa Trećim zakonom, znaš. On je
univerzalan. Roboti se uvek moraju žrtvovati za ljudska bića. Bilo koja ljudska bića.«
»Naravno«, reče Džordž Deset.
»Prvi Zakon je možda manje srećan, jer je uvek lako zamisliti priliku u kojoj robot mora izvesti ili akciju A ili akciju B, koje se uzajamno isključuju, i gde obe akcije dovode do povrede ljudskog bića. Robot, znači, mora brzo odabrati postupak koji izaziva manju povredu. Formirati pozitronske vijuge robotskog mozga na takav način da se izvrši selekcija verovatno nije lako. Ako će akcija A dovesti do povrede mladog i talentovanog umetnika, a B do odgovarajuće povrede pet starijih ljudi bez posebne vrednosti, koju bi akciju trebalo izabrati?«
»Akciju A,« reče Džordž Deset. »Povrediti jednog je manje zlo nego povrediti pet.«
»Da, tako su roboti uvek bili projektovanl da odlučuju. Očekivati od robota da donese sud o tako suptilnim pitanjima kao što su talenat, inteligencija, opšta korist za društvo, uvek je izgledalo nepraktično. To bi odgodilo odluku do trenutka kada je robot stvarno imobilizovan. Zato se upravljamo prema brojevima. Na sreću, možemo očekivati da će biti malo kriza u kojima će roboti morati da donose takve odluke. Ali to nas opet dovodi do Drugog zakona.«
»Zakona poslušnosti.«
»Da. Poslušnost je stalno potrebna. Robot može postojati i dvadeset godina bez potrebe da ikada reaguje brzo, kako b
i sprečio povredu ljudskog bića, ili da se suoči sa potrebom da reskira svoje sopstveno uništenje. Za sve to vreme, međutim, on će se stalno povinovati naređenjima. Čijim naređenjima?«
»Naređenjima ljudskih bića.«
»Bilo kojeg ljudskog bića? Kako ti određuješ ljudsko biće da bi znao da li poslušati ili ne? Šta je čovek, da vodiš brigu o njemu, Džordž?«
Ovo je pokolebalo Džordža.
Hariman žurno reče: Biblijski citat. Nema veze. Mislim, mora li robot izvršavati naređenja deteta; ili idiota; ili kriminalca; ili savršeno pristojnog inteligentnog čoveka koji je slučajno nestručan i stoga nije svestan neželjenih posledica svog naređenja? A ako dva ljudska bića daju robotu suprotna naređenja, koje robot treba da posluša?«
»Zar za dve stotine godina«, reče Džordž Deset, »ti problemi nisu narasli i bili rešeni?«
54
»Ne«, reče Hariman, žestoko odmahnuvši glavom. »Mi smo sputani time što su naši
roboti korišćeni samo u posebnim sredinama, napolju u svemiru, gde su ljudi koji njima rukuju eksperti na svom polju. Tamo nema prisutne dece, idiota, kriminalaca, dobronamemih neznalica. Ipak, bilo je slučajeva kada je došlo do štete bilo glupim, bilo nepromišljenim naredbama. Takva vrsta štete se u posebnim i ograničenim uslovima može lokalizovati. Na Zemlji, međutim, roboti moraju rasuđivati. Tako tvrde protivnici robota i, do đavola, oni su u pravu.«
»Znači da moraš ubaciti sposobnost rasuđivanja u pozitronski mozak.«
»Tačno, to je ono što ja želim. Počeli smo da proizvodimo modele JG u kojima robot
može da odmeri svako ljudsko biće obraćajući pažnju na pol, starost, društveni i profesionalni položaj, inteligenciju, zrelost, društvenu odgovornost, i mnoge druge stvari.«
»Kako se to odražava na Tri zakona?«
»Na Treći zakon nikako. Čak i najvredniji robot mora da se uništi za dobrobit najbezvrednijeg ljudskog bića. To se ne može promeniti. Na Prvi zakon se utiče jedino tamo gde će svi alternativni postupci dovesti do štete. Kvalitet ljudskih bića, uključen isto kao i kvantitet, mora biti razmotren, ako bude vremena i osnove za takvu odluku —
