Могат ли технологиите и човечеството да съществуват в баланс?

Ние спориме двама с ChatGPT на тема: „Човекът във новото време“.

Чувал съм да го наричат Чатчо, други използват официалното ChatGPT, вече две години той се е превърнал в символ на напредъка в една уж постоянно обсъждана технологична област. Докато се е обгърнал с толкова клишета, че е трудно да надникнем отвъд тях.

Отдавна е банално да разказваш какво си говориш с изкуствения интелект. 

А може би основният проблем е дали знаеш, че си говориш с него, иначе дали можеш да направиш разликата, че насреща не е човек?

Но нека не се размотаваме, да се насочваме директно към темата. 

Може ли да има етика в прогреса? Могат ли технологиите и човечеството да съществуват в баланс?

Най-вероятно не.

Трябва ли да има етика в прогреса? Трябва ли технологиите и човечеството да съществуват в баланс?

Определено да. Но как така?

Луди лудити насън

Може би сте чували за лудитите? Британско течение, което преди два века се изправя срещу машините. Работниците търсят правата си, които падат жертва на автоматизацията и предизвикват такъв хаос, че срещу тях се налага да се изправят повече британски войници, отколкото срещу Наполеоновата армия. Основната им цел е да разрушават машините и да се опитат да спрат прогреса.

Е, по-вероятно е да не сте ги чували, защото очевидно са изгубили битката. Докато тази битка, колкото и да е наивна и невъзможна, е толкова важна и задължителна днес за всеки, който цени свободата си. Разбира се, далеч от примитивното чупене на железа. Всяка следваща стъпка в развитието на технологиите все повече я затвърждава. Защото им даваме все повече възможности, създаваме машини на прогреса и машини на неравенството.

О, да, какви са хората… „Лудите, лудите – те да са живи“, казва Чорбаджи Марко и е твърде възможно, ако не ме познавате, по текста дотук да ме причислите към тази категория, доста объркано начало. И все пак, ето за какво става дума.

В неравна битка

За технологиите напоследък уж си говорим под път и над път – появила се е поредната стъпка напред, която ни води към прогреса. Или обратното – към падението. И доколкото машините се превръщат във все по-сложни системи, влияят ни по все повече неочаквани начини, как бихме могли да потърсим идеалната среда? Онази, в която се срещат човешкият интерес и този на творението ни, на изкуствения интелект, роботите, социалните мрежи?

Науките все повече си разделят малките поленца на влияние, подобно на балоните в социалните мрежи. Докато човешката страна остава все встрани. Темите за влиянието на технологиите върху човека като личност, върху общността, върху отношенията помежду ни стават едновременно все по-комплексни и все по-трудни за обсъждане.

Какво правим тогава? Хайде да опитаме да съберем несъбираемото. В моето еклектично решение тук, вече видяхте, участва вездесъщият символ на технологиите днес, ChatGPT. Помолих го да влезе в роля и да се превърне в събеседник на една поетична творба, която казва много за естествения му събеседник. За създателя му, за демиурга му… който може да стане и бъдеща жертва. Просто го „моля“ („каня“, „моля му се“?) да ми отговаря на стиховете на Никола Вапцаров от „Песен за човека“.

И хората, и алгоритмите лъжат. Определено и двете страни бъркат. А ние все по-неусетно се размиваме в амалгамата на това, което се е получило от общите им грешки. От това, че постепенно и бързо губим вкуса си за бавното, за задълбоченото, за същественото… докато в същото време алгоритмите го развиват.

Чрез нахалство към прогрес

Колкото ние се разучаваме да четем дълги текстове, толкова повече те стават по-добри именно по този начин?!

Все подхождаме към тези алгоритми в крайностите. Обречени и от самите тях да не можем да намерим задълбочени, осмислени решения. Например за това как да ги регулираме. Или как да ги учим на етика, на морал, на човечност? 

Аз съм модерен човек, но когато стане дума за етиката и устоите, все си мисля, че има защо да чуем онези области от човешкото познание, които са свързани именно с тях. Да, знам, че Бог е мъртъв според Ницше, според мен също е такъв, но пък и според двама ни – още по-мъртъв е Ницше, поне преди да се прероди като алгоритъм.

100%

Снимка: Отец Николай Георгиев. Фотограф: Добрин Кашавелов

В името на народа

Не, не за ChatGPT, за Бога става дума. И ако разсъжденията ми за логиката и етиката се лутат толкова, че да избягат дори от риска да бъдат обвинени в това, че са създадени от алгоритъма, нека да дам думата на по-опитни в тези теми говорители.

„Обсъждам темата с много хора и отговорът на този въпрос до момента винаги е свързан с възрастта“, казва отец Николай Георгиев. „По-възрастните хора считат, че изкуственият интелект има някакви граници, които не може да надскочи. За тази група, към която и аз принадлежа, изкуственият интелект винаги ще е машина и никога няма да бъде човек. Аз лично вярвам, че никога няма да има душа.

Тоест, онези морални категории, които са продукт на човешката душа, няма да присъстват там. Дори да бъдат пресметнати, дори да бъдат изчислени и заложени, употребата им ще бъде в резултат на алгоритъм, а не на емоция. Младото поколение напротив, счита, че изкуственият интелект е безграничен. Той може да се развива, усъвършенства, да достигне висоти отвъд човечността и човешкото.“

Ей ти етика

А може би и в това е въпросът, че нямаме ясно поставени граници? Дали минахме или не теста на Тюринг е все по-спорен въпрос, докато по-важният според мен си остава дали човечеството минава все с по-високи резултати същия този тест? Може би не?

„Днес има размиване на ценности и на морал. Тогава кой да създава моралните категории за машината? Това е нещото, което ме плаши“, казва отец Николай. „Ако Хитлер създава морални категории на изкуствения интелект, те ще се различават от това, което Айнщайн би вложил. Или някой от великите композитори: Моцарт, Бах, Коперин. Така или иначе, не вярвам, че човечеството ще се събере и ще направи комисия, която да определи моралните категории на изкуствения интелект. За нас е лесно: Господ е дал 10-те Божи заповеди. Те са съвършени. Един от белезите за съвършенство е това, че винаги защитават по-слабия.“

Аз все пак си мисля, че съвършенството си остава оптимистична категория, дори за алгоритмите. 

Но пък наистина ме ужасява мисълта, че технологиите се развиват, създават нови огромни възможности и с двата знака, докато ние седим и се дърляме за злободневни глупости.

„Всички сегашни конфликти дават едно много сериозно послание – ценностите са заминали. Това е голяма етична криза! Трябва да се рестартира човечеството“, казва още един, пети говорител след Вапцаров, ChatGPT, отец Николай и автора на тези разхвърляни разсъждения за една невъзможна и в същото време екзистенциална тема. Бирали Бирали дълго време е заместник на главния мюфтия, а погледът му е, според мен, доста замислящ. 

100%

Снимка: Бирали Бирали. Фотограф: Добрин Кашавелов

„Но как да се рестартира човечеството? Единият път е със себеосъзнаване, другият – чрез конфликтите.“

Това е прекрасно, нали?

„Деструктивната страна на технологиите е излизането от ценностите“ – казва Бирали. „Ако един човек каже лъжа, ще го чуят няколко души, но ако го каже във фейсбук, ще стигне до целия свят. Днес греховете вече имат друго измерение. По-глобални грехове правим…

Къде е проблемът? Както всички нови неща, които можем да измислим и да въведем в нашия живот, в една степен те са благодат, но в друга могат да бъдат проклятие.“

Но как, как да въплътим етиката в технологиите? Поне в очертаващото се бъдеще, очевидно, няма как това да се случи директно. Да, големите езикови модели се научиха да са политкоректни, успяват да избегнат голяма част от щекотливите теми, да не отговарят на очевидно прекалено важни и опасни въпроси, докато не откриеш начин да ги „подхлъзнеш“. Но това си остава все още пряк продукт на човешката намеса, далеч както от интелекта, така и от истинската етика.

А тя остава за хората, които разработват моделите.

Трябва ли, както досега, големите технологични решения да се вземат от шепа технологични лидери? Докато гигантите стават все по-силни дори от най-мощните държави, както това вече се случи със социалните мрежи? 

Може ли всичко да се крепи на регулациите и как да изглеждат? Резонен ли е изобщо европейският подход – те да се крепят основно на конкретните области на използване на алгоритмите? 

А как това може да се случи на практика, след като моделите стават все по-ефективни и вече не е проблем човек да има доста успешна форма на изкуствен интелект на непретенциозния си лаптоп?

Или трябва да го има диалогът, в който да се включим всички ние? Който е изключително тежко закъснял, но все още би могъл да се състои… Ще ви призная, че именно този диалог е причината да събирам Дигитални истории.

Тежка, човешка, жестока, безока съдба.

Може ли да има етика в прогреса? Могат ли технологиите и човечеството да съществуват в баланс?

Най-вероятно не.

Трябва ли да има етика в прогреса? Трябва ли технологиите и човечеството да съществуват в баланс?

Определено да. 

От нас зависи как през следващите дни и години ще срещнем двете твърдения. Като нагорещено олио и вода, като неверие и вяра, като естествен и изкуствен интелект.

Аз все си мисля, че от това дали ще успеем да ги накараме да си говорят зависи сърцевината на бъдещето. А то е по-близо, отколкото ни се струва.