Това провокативно заглавие всъщност е разговор за технологиите и за тяхното значение в живота ни, на нас и на обществото, за промените, които настъпват с дигитализирането, за виртуалната реалност, за изкуствения интелект и за тяхното влияние върху културата, изкуството и зрелищата. Разговорът е между Момчил Алексиев и проф. Владимир Игнатовски.
„… Опасенията, които днес поражда ИИ, се вписват в историята на страховете от присъствието на машините в живота на обществото, като днес една от най-актуалните теми е изгубването на работни места – „машините ни изяждат хляба“ – се добавя към страховете за оцеляването на човечеството в епохата на ИИ. Всъщност темата за изкуственото същество, което може да бъде помощник и сътрудник, но и заплаха за хората, вълнува умовете още от дълбока древност. С „Франкенщайн“ на Мери Шели тя добива нова актуалност и нови мащаби, като засяга основни проблеми на човешкото съществуване за границите на науката и за намесата в природните закони, за заплахата, която може да представляват резултатите от подобен експеримент. Наистина в романа на Мери Шели става дума за единично отмъщение на създанието, осъдено да води драматичен живот, отхвърлено от обществото, по отношение на неговия създател. Но проблемът не е престанал да съществува, той има както психологически, така и емоционални измерения – индивидуални и масово съзнание. Тези опасения се появяват още в края на 19. в., когато ИИ въобще не съществува като концепция освен в утопичните и фантастичните романи. Техен изразител е Самюъл Бътлър, британски писател, един от основателите на съвременната научна фантастика. Той стига до тях по твърде заобиколен път. Силно впечатлен от теорията за еволюцията на Дарвин, Бътлър през 1871 г. пише „Еревон“ (Nowhere – „Никъде“, прочетено обратно). Бътлър нарича централната част на своето произведение „Книга за машините“. В нея той съпоставя теорията на Дарвин за еволюцията в природата с развитието на технологиите и стига до извода, че еволюцията в природата и еволюцията на машините се подчиняват на общи закони.
Бътлър не е специалист в областта на природните науки, затова неговите заключения са погрешни. Както пише Станислав Лем: „Конструкторският метод на технологичната еволюция е съвършено различен. Образно казано. Природата е трябвало да заложи в биологичния градивен материал всички реализирани по-късно възможности, докато човекът е начевал своите технологии и ги е изоставял, за да премине към нови, имайки относителна свобода при избора на градивния материал, разполагайки с високите и ниските температури, с металите и минералите… На пръв поглед той е притежавал повече възможности от Еволюцията… В крайна сметка „технологията“ на живата материя превъзхожда днес нашата, човешката, инженерната, подкрепяна от всички ресурси на колективно придобитите теоретични познания“. Разсъжденията на Бътлър са погрешни, но това не променя факта, че той е навярно първият човек в историята, заговорил за „бунт на машините“ и за опасността в хода на технологичната еволюция машините да придобият съзнание, което да им придаде убеденост, че те надвишават хората, и да застрашат съществуването на човечеството.
Това, което той твърди преди век и половина, не съответства на научните критерии, но днес неговата теза придобива актуалност в светлината на дискусиите може ли ИИ да има съзнание и да се превърне в заплаха за съществуването на хората.
Киното като много чувствителен за социалните настроения организъм реагира на страховете на масовото подсъзнание. Още в годините на нямото кино, през 1916 г., Паул Вегенер пренася на екрана легендата за глинения колос Голем. В „Метрополис“ на Фриц Ланг (1926 г.) се появява образът на Изкуствената Мария (много ефектна е за онези години сцената на превръщането на машината в жената, която изглежда като живо същество от плът и кръв). Във филма на Ланг тази Мария е символ на разрушителна енергия, тя предизвиква бедствие, което заплашва живота на хиляди работници, които се трудят в подземията на Метрополис, града на бъдещето, на техните жени и деца.
Снимка: Кадър от филма Ex Machina
По времето, когато Фриц Ланг снима своя филм, терминът „робот“ все още не е в масова употреба, но когато роботите навлязат в индустрията и в бита на хората, отново първи реагират авторите на научна фантастика – Айзък Азимов, с неговите закони за поведение на роботите, и хората на киното. Вече половин век, откакто започва епохата на цифровизацията, темата непрекъснато присъства на екрана в киносалоните. За начална точка може да приемем 1973 г., когато се появява „Западен свят“ на Майкъл Крайтън, който е и сценарист, и режисьор. „Западен свят“ е увеселителен парк, в който посетителите се забавляват, като стрелят по каубои роботи, без те самите да са застрашени от каквото и да било. Спокойствието е нарушено, когато роботът каубой, във великолепното изпълнение на Юл Бринър, отмъщава за страданията, като избива тези, които са му ги причинили.
Темата за индивидуалния бунт на изкуственото създание и заплахата, която представлява то за хората, има различни интерпретации: от полуделия робот в „Аз, роботът“, чието поведение може да причини сериозни щети, до различните Терминатори, Робокоп, андроиди и репликантите в „Блейд Рънър“. В тези случаи става дума за повече и по-малко сериозна заплаха, за индивидуална съпротива, за желание изкуственото същество насилствено да добие правата и битието на хората. Тук вече не важат прекалено добронамерените закони на Айзък Азимов, заплахите се трупат и нарастват с всяка нова форма на изкуствено създаден живот.
Снимка: Корица
Ако в началото отношението към темата е някак твърде добродушно: в „Космическа одисея“ на Стенли Кубрик компютърът, който управлява полета на космическата станция, убива единия от астронавтите, опитва да направи същото с другия, защото е решил, че пречат на осъществяването на „неговата“ мисия, но обяснението за случващото се е човешка грешка при съставянето на компютърната програма. Но с времето прогнозите стават все по-мрачни. В exMachina две изящни създания, надарени с изкуствен интелект, просто унищожават безстрастно и без проява на каквито и да било емоции своите създатели. В серията „Западен свят“, създадена въз основа на идеята на Майкъл Крайтън от 70-те години на миналия век, богато аранжирана, разширена и обогатена, снабдена с всички атрибути на новия дигитален свят, се предлага концепция за свят, съществуващ под похлупака на контролиращия всичко изкуствен интелект, който не само създава „сюжетите“ за развлеченията, но моделира поведението и на андроидите, и на живите хора, принудени да живеят в тази атмосфера.
Една огромна, струваща скъпо антиутопия за един бъдещ свят, контролиран напълно от изкуствения интелект. Разбира се, не бива да пропускаме, че във всеки отделен случай зад поведението на ИИ стоят хора, които били с най-добри намерения – за използване възможностите на науката и на дигитализирането – за усъвършенстване възможностите на ИИ или пък с користни цели за повече власт, могъщество и разбира се, пари…
Да вземем за пример „Западен свят“ и „страшния“ синтетичен хуманоид, направен от тъкан и чипове, и погледнем на човека просто като на една система, която има способността да се самонаблюдава. Тогава ще видим, че андроидите, също като нас, са структури, подлежащи на край, които разбират какво означава да „си жив“, защото знаят, че в някой много отдалечен в бъдещето момент няма да ги има. Това, от една страна, е успокоително, а от друга, на фона на неразрешимия вечен въпрос „Кои сме ние?“, да приемем ИИ за нещо повече от продължаваща липса на отговор на това изначално питане, е аргумент, изпразнен от реално съдържание.
В деветата теза от своето есе, публикувано през 1940 г., „Тези върху философията на историята“, Бенямин описва картината на Паул Клее Angelus Novus като образ на „Aнгела на историята“: „Картината показва ангел, който изглежда така, сякаш е напът да се отдалечи от нещо, което съзерцава съсредоточено. Очите му са втренчени, устата му е отворена, крилете му са разперени. Ето как човек си представя ангела на историята. Лицето му е обърнато към миналото. Там, където ние възприемаме верига от събития, той вижда една-единствена катастрофа, която продължава да трупа отломки върху отломки и ги хвърля пред краката му. Ангелът би искал да остане, да събуди мъртвите и да направи цяло това, което е разбито. Но от рая духа буря. Тя се е завихрила в крилете му с такава сила, че ангелът вече не може да ги затвори. Бурята неудържимо го тласка към бъдещето, към което е обърнат с гръб, докато купчината отломки пред него расте към небето. Тази буря е това, което наричаме прогрес“.
Този абзац, колкото песимистичен, толкова и красив в метафората си, докосва един интересен аспект от страха, свързан с ИИ, а именно усещането за загуба на историчност.
Докато през Средновековието промени са настъпвали бавно и постепенно в рамките на няколко поколения или столетия, то днес усещането е за преминаване през няколко етапа на промени в рамките на един живот. Голяма част от тях са обусловени от технологичната рамка, например интернет, мобилни мрежи, ИИ… Натрупването на този прогрес не се губи. Няма нужда да измисляме наново световната информационна мрежа. В същото време знаем, че развитието на обществения договор, на основополагащите го социални и етични норми e много по-бавно и постепенно и e свързано с емоции, общности и сблъсък на светогледи. Чувствата, през които се свързваме, са по-сложни и еволюират по-бавно от чиповете. Усещането е, че сигурността и спокойствието на установените правила и възможността им за плавно развитие са фатално изпреварени от техническия прогрес. Крилете на Ангела на историята от картината на Паул Клее остават приковани. Споменавам цитата на Бенямин именно защото е от 1940 г. (вече бушува Втората световна война), а сега сме 2024 г. Такива усещания спрямо промените всъщност е имало винаги. Те докосват по различен начин хората с прогресивно и консервативно мислене. За едните е съвсем нормално, за другите е твърде много. В това са и силата, и красотата на обществата ни, моторът, който ни движи напред.
В същото време има достатъчно причини да погледнем на изкуствения интелект като на успокоител, колега, удължение на човека и негово произведение. Пореден странен опит на цивилизацията ни, разбираща и овладяваща света, гледайки го отвътре навън посредством интелекта си да използва свръхразвита машина, за да се разбере „наистина“. Сякаш за да станем напълно човеци, трябва да напуснем човешкото в нас, да се превърнем в извънземни и чак след това – в хора.“
*„Когато ти се обади… хладилникът. Човекът. Машината. Виртуалната реалност. Зрелището“, издателство „Рива“, 2024 г.
Проф. Владимир Игнатовски е преподавател в НАТФИЗ „Кръстьо Сарафов“, доктор на изкуствознанието, член на научно-консултативния съвет към международната фондация „Сергей Айзенщайн“ – културни изследвания. Автор на студии по история и теория на театъра, киното, телевизията, масовите комуникации.
Снимка: Владимир Игнатовски
