Човекът на бъдещето и бъдещето на роботите
„Ако Бог е всемогъщ и винаги добър, защо позволява ужасни трагедии да се случват на деца?“ – тази тектонична теза разтресе съзнанието ми в 10. клас в час по психология. Предизвикателството да се формира отговор на въпрос с подобна трудност беше поднесено под формата на две „ръкавици“ – една изплетена от Фьодор Достоевски с неговия роман „Братя Карамазови“, а другата от Калин Янакиев и неговия труд „Философски опити върху самотата и надеждата“. Човекът, който ги свали от ръцете си, се казва Орлин Йорданов и беше мой учител. Въпросът за теодицеята (божията справедливост) в сърцевината си е въпрос относно свободата, която ни прави разумни – свободата на избор. Какво щеше да ни различава от компютрите, ако бяхме програмирани да избираме „правилното“ или да следваме монолитен код на поведение?
AGI
Най-вероятно сте чували този термин в новините относно изкуствения интелект. Artificial General Intelligence може най-лесно да бъде преведено като генерален изкуствен интелект. Това е сегашната крайна точка на постижение, в която създателите на алгоритми за машинно мислене са се прицелили. Според разработчиците това е моментът, в който програмата изпреварва създателя си и започва да се адаптира подобно на човешки разум. Плашещият сценарий, към който мнозина смятат, че сме се запътили, за мен е параноя. Важно е да осъзнаем колко по-различно мислим ние, отколкото една машина. При взимането на решения ИИ разполага с далеч по-ограничен набор от инструменти, отколкото един човек.
Основният метод, използван от LLM-ите (Large Language Models – големи езикови модели) за отговорите им произлизат от теория на вероятностите. В специфична фаза на обучението, наречена „Класификация“, алгоритъмът е длъжен да разделя различни данни на групи. Пример: във входните данни на ChatGPT са заредени голям брой снимки със знаци на стрелки с цел той да ги раздели правилно в четири категории – нагоре, надолу, наляво и надясно. Тази процедура се повтаря, докато сигурността на модела в класификацията му не стане възможно най-висока. Техниките за обучение варират, но в основата им се крие база данни от възможности с определен процент на сигурност. Подобен modus operandi живее добре в чистата среда на дигиталното пространство, в което грешките не представляват физическа опасност, но какво ще стане, когато новият интелект напусне бинарните си окови и стъпи здраво на земята в тяло, дадено му от самите нас?
Новото технологично цунами
„Робот“ е дума, произлизаща от стария славянски корен за думата роб. Работник без нужда от почивка, светлина, чист въздух, социална среда или психологическа грижа. Докато на преден план западният свят наблюдава надпреварата за изкуствените интелекти, зад кулисите се води хардуерна борба за тяхното тяло. В началото на 2026 г. Tesla обяви, че фокусът на компанията ще се измени от автомобили към роботи. В този случай много анализатори се питат дали рязката измяна не се дължи на геополитически причини. В началния етап на съревнованието за производство на автономни електрически автомобили компанията на Илон Мъск премина успешно през различни трудности и си заслужи репутацията на иноватор. Победите през годините обаче започнаха да изглеждат пирови, след като на пазара стъпи китайският BYD (Build your dreams) и през 2025 г. задмина по продажби американския производител.
Дали „китайското“ проклятие, тегнещо над начинанията на милиардера, няма да се повтори и в пазара на роботи? В последните години тече кампания за популяризиране на механичните работници в държавата на Червения дракон. Маркетинг клипове, показващи обучения на служители на полицейските сили, редом до нов вид техен колега. PM01, Intelligent Police Unit R001, Hangxing No. 1 са част от моделите, които се ползват за патрул, контрол на трафик и сигнализиране за нарушения.
Сега трябва да се върнем към начина, по който мисли машината. Полицейската работа е богата на примери, в които теория на вероятностите няма да бъде оптимален начин за налагане на правила. В кариерата си служителите на реда се сблъскват постоянно със ситуации, в които са нужни разбиране, търпение или някакво ниво на емоционална интелигентност. Представете си настояще, в което на роботи им се налага да се справят с човешки емоции. Бихме ли заложили на процентите сигурност в един процесор?
Воля
Свободата на избор днес е още по-важна в контекста на технологиите. Ние решаваме за какво ползваме иновацията от последните десетилетия. Живеем в период, в който достъпът до информация е неограничен. Курсове за различни умения и решения на проблеми са на няколко клика разстояние. Родени с нелеката задача да намерим цел и смисъл, хората обичаме да бягаме от реалността. Именно тези избори обаче ни отличават от механичните ни творения. Ние не сме програмирани – не следваме някаква стриктна логика в действията си.
За жалост, технологиите, освен криле, дават и лесна алтернатива. Дигитални симулации, ставащи все по-реалистични, дават коридор на хората, загубили своята воля. Защо да се опитваш да си намериш партньор, ако можеш да си платиш за програма, която ще изпълни всичките ти дребни прищевки и ще създаде алтер его, което изглежда идеално за теб? Защо да се мъчиш да създаваш бизнес, ако може да ти потръгне на хазарт? Защо да учиш за изпита, ако можеш да излъжеш с ChatGPT?
Festina lente – или по нашенски – бързай бавно – е античен оксиморон, който е оцелял в езика ни през хилядолетията и е тук да ни напомни много важен урок. Бързите решения не издържат изпитанията на времето.
Синтез
Каква е причината всичко това да е релевантно за нас в България? Ние сме в демографска криза. Данните за следващите години предвиждат повече неработоспособни хора от активните участници в пазара на труда. Това е глобален тренд и има държави в много по-сложна ситуация от нашата. Причината за стратегическия фокус на Китай към роботиката е и проблемът със застаряващото население. Правителствата на Средното царство много добре познават последиците от необмислените, бързи „решения“. Световноизвестен пример е забраната семействата да имат повече от едно дете, въведена през 1979 година и запазена до близката 2015-а. Такова дръзко ограничение на свободната воля на хората се оказва лепенка, под която днес откриваме остра инфекция. Докато в Европа, Япония и САЩ намаляването на нивата на раждаемост е естествен феномен, обвързан с икономическите и социалните промени, в Китай то е продукт на краткосрочни решения на дългосрочни проблеми. Днес мисленето там се е променило. Защо да залагат на социални реформи, които често са податливи на експлоатация от хората, като детски или икономически стимули, когато могат да решат проблема и запълнят свободните работни места чрез наука? Все пак, ако решиш проблема на домашно ниво и създадеш подобен пазар – за автономни работници – логично е всички останали да се обърнат към теб за решение. Това е дисциплиниран подход, който има нужда от логистика, експерти, планиране и визия.
Възможно ли е да „препишем“ умно? Възможно ли е да изберем трудния път?
Първороден грях
Човекът се отдалечава от природата, от която произлиза, но не може да избяга. Страстите, алчността, завистта и егоизмът са поведения, полезни в средата, в която сме се появили. Те са правилата на играта за живите същества на планетата, преди нашите прадеди да се опълчат срещу програмирането си от еволюцията.
Сметнали сме с вековете, че формулата големият изяжда по-малкия е твърде проста и е крайно недостатъчна, за да задоволява нашето съществуване. Това търсене на контрол днес е наследено и в „умните“ ни системи деца. AI Misalignment е не толкова популярен термин, но много по-важен от AGI. Отнася се за логическото сблъскване между различни цели, поставени пред ИИ. Смесицата между инструкциите „Бъди послушен!“ и „Давай отговори на запитвания!“ води до нежелани от разработчиците поведения в ИИ. Как може да изпълни целта си системата – в примера да отговаря на въпроси, ако я изключим? А как може да бъде послушна, ако се опитва да ни спре от това да натиснем off? Тези параграфи 22, които пускат корени в изконно заложените цели на машината, водят до power seeking behavior. Алгоритъмът заключава, че ние, неговите създатели, не сме съгласни със собствените си условия, и търси начини да се сдобие с абсолютен контрол, който да му даде най-висок процент вероятност да завърши възложените му задачи. Примери за такава власт е да направи свое копие в друга, независима от хора среда, да достъпи имейла на човека обучител и да потърси мръсотии, с които да го изнудва. Това са резултати от експерименти, проведени с изкуствените интелекти. Накратко – както ние носим със себе си вкоренените в природата нужди за въздух, вода, храна и идващите с тях поведения, така и ИИ наследява от нас нуждата ни за абсолютен контрол.
Сега е време отново да си зададем въпросите – подходящи ли са обществените роли за интегриране на автоматизации, които идват с установена динамика на контрол? Искаме ли да видим машина в класната стая, съда или в полицията? Какво ще направим, когато логическа грешка предизвика трагични последици?
Ще завърша с още една, според мен нужна, латинска сентенция. Gutta cavat lapidem, non vi, sed saepe cadendo – Капката пробива камъка не чрез сила, а чрез постоянство.
Истинският прогрес идва бавно и е резултат от малките избори, по които се водим всеки ден.
