бюлетин 100

НЕ ТЪРСЕТЕ ЛОГИКА!

Изкуственият интелект е на мода днес. Както по различни времена на мода са били минижупът и широките вратовръзки, тъмните очила и изкуствените бенки, чалгата и маратонките, уокмените и микровълновите печки.

Какво означава обаче нещо да е на мода? По него да се увличат, често без да мислят, все по-големи маси хора. Някои се водят по него, защото им харесва, други – защото е на мода, тоест харесва се на мнозинството, а тези други се присъединяват към течението, защото не искат някой да види, че са различни. Казват си навярно, че така се чувстват в крак с времето.

Само че модата няма нищо общо с времето. Модата може да отминава и да се връща, като например свръхкъсите поли и рокли. Или да не се повтаря през един живот ала широките вратовръзки. Понякога остава, без да се смята вече за мода – тъмните очила. Или изчезва безвъзвратно подобно на уокмените. Някои правят много пари от модата – временно в случая с чалгата и по-продължително при маратонките.

Друг термин вместо мода е на върха на вълната. Около настъпването на новото хилядолетие на върха на вълната бяха интернет компаниите. Но образувалият се тогава т. нар. дот-ком балон се спука и разочарова повечето хора – с изключение на забогателите от него. Такова развитие на нещата не е единичен случай, а в днешно време наблюдаваме раздуването на друг такъв балон – изкуствения интелект.

Последствията от такива явления, разбира се, променят осезателно и необратимо живота на хората – понякога за по-добро, друг път за по-лошо. Няма да назова тук кога е било за по-лошо, оставям на всеки читател да помисли над очевидни свидетелства за това и да прецени сам. Както по-рано интернет, така сега и изкуственият интелект ще доведе до разрив с традициите и усещането за нормалност.

А последното не се пренастройва бързо и лесно. Можете да се съгласите с мен или не по този въпрос. Само си спомнете, че налагането на всяка нова мода винаги минава през – кога по-дълга, кога по-кратка – фаза на отхвърляне, дори отричане. Факторът тази фаза да е възможно по-къса често е не доколко се харесва новото или доколко то е полезно, а очакването какви пари ще донесе.

Да се върнем на изкуствения интелект. Днес той се смята за ключ към богатство, влияние и преимущество. Ускореното му внедряване обещава много – както печалби и предимства, така също рискове и опасности. За никого обаче не е тайна, че решението за това се взима не в името на благото на човечеството, а от икономически и политически (понякога обратното) и не на последно място егоистични цели. За научни сякаш дори не се споменава, важен е преди всичко технологичният аванс.

Да не говорим, че в изказванията на лидерите в областта на изкуствения интелект – било то водещи специалисти или корпоративни шефове – се забелязват противоречия в целите, които се преследват с тези технологии, както и в начините за тяхното постигане. Тук няма да се спираме на скандалите и войните, които се водят в тази сфера, защото широката публика не вижда друго освен върха на айсберга. Ако преди това не си е заровила като щраус главата в пясъка…

*

Нека приемем, че сме просто наблюдатели, без да навлизаме надълбоко в дебрите на тази модерна и най-вече модна област. Първо, защото нямаме достъп до релевантна информация, най-малкото заради защитата на корпоративните тайни. Второ, защото не сме специалисти по изкуствен интелект. А как бихме могли да бъдем, когато включително професионалистите признават, че материята е твърде динамична и ако довчера си знаел нещо, не означава, че днес то е приложимо или дори валидно.

Затова бих искал да се спра на основен въпрос относно създавания от човека изкуствен интелект, а именно какъв трябва да е той – логичен или нелогичен. Някой сигурно ще се почуди възможно ли е изобщо да се поставя такова нещо под съмнение. Само че отговорът в случая е твърдо да. Както на теория, така и на практика. И последствията засягат не само изкуствения интелект, но и всички хора – пряко или косвено, дори когато си мислят, че са далеч от тези неща. Защото независимо дали искаме или не, ИИ вече е част от света, в който живеем.

Какво означава изкуственият интелект да е логичен? Да поясня, че под логичен имам също предвид отговорите му да са възможно точни, верни и проверими. Това означава те да не включват неща, за които не съществува информация. В такъв случай изкуственият интелект представлява просто съвременна усъвършенствана версия на експертните системи, чиято цел е да отговорят на поставен въпрос въз основа на налично познание. И в повечето случаи ИИ се явява точно такава програма. Макар изследванията и разработките на експертните системи да започват още от 60-те години на миналия век, дълго време те са ограничени от недостатъчните за целта възможности на наличния хардуер и софтуер. Едва през последните две десетилетия това се променя благодарение на успешното развитие на технологии като невронни мрежи и паралелна обработка, големи езикови модели, принципите на обучение и самообучение на програмите, обработването на големи масиви данни и не на последно място мощността на съвременните процесори.

Но даже широкото използване на т. нар. големи езикови модели, благодарение на които изкуственият интелект може да разбира, обработва и отговаря на понятен за обикновения човек език, не променя факта, че по същество този ИИ не се различава особено от експертна система с достъп до (невинаги) цялата налична информация в киберпространството.

И което означава, че такъв изкуствен интелект не може да прояви творчество, да създаде нещо ново, каквото не е съществувало досега. В случая трябва да бъдат изключени, разбира се, всички комбинации и вариации на текстова, графична и прочее информация, които той предоставя и представя като компилация, обобщение, аналогия и включително плагиатство въз основа на налични оригинални (и не само) данни.

Да не забравяме все пак, че дори такава експертна система е нещо чудесно, което може да свърши много работа за кратко време. С капацитет и скорост, каквито хората нямат как да постигнат с ограничените си възможности. Затова тук няма да разглеждам технологични и бизнес приложения на ИИ, които определено са ефективни и полезни. Доколко тяхното разпространение и влияние ще се отрази положително на определени групи хора и в перспектива на голяма част от човечеството, е друг въпрос, който изисква отделен задълбочен анализ.

*

По-интересно в случая ми се струва използването на ИИ в ежедневието – от обикновения човек. Все повече и повече хора се докосват до него съзнателно или не, по избор или по принуда, да не казвам често с безочливо натрапване.

Несъзнателно, когато при търсене на нещо в интернет на човек му се натрапва на първо място мнението на нечий изкуствен интелект, който му предлага да се задоволи с предъвкана от него информация. Определено бих казал, че това пречи на развитието на самостоятелно мислене, както и добиване на навици за намиране и усвояване на знания. Сещам се и за други негативни последствия от това уж улесняващо нововъведение, но ще ги прескоча.

По принуда, когато някоя фирма или институция предлага на потребителя да си „чати“ безметежно с ИИ вместо да го свърже с човек, който наистина може да реши проблемите му. Казвам го от личен опит.

Последното, което видях буквално преди няколко дни, е натрапването на чат с изкуствен интелект в разпространено комуникационно приложение. Без възможност да бъде изключена опцията на смартфон. Нека да отбележа за онези, които може да са пропуснали дребната подробност, че използването където и да е на какъвто и да е ИИ е свързано с факта, че с вашите отговори и поведение се обучават моделите и обогатяват базите от знания на съответните фирми, които го предлагат. Нищо лошо, ще кажат някои, нали по този начин изкуственият интелект ще стане по-добър, което е в наша полза и бихме помогнали за целта. Да, определено е така. Стига да сте съгласни непознати (обикновено се има предвид представители на разни трибуквени агенции) да могат също да четат личните ви съкровения, както и системата да ви прави профил, който е възможно да се използва и за чужди нужди.

Чували ли сте за хора, които за всяко нещо се допитват до изкуствения интелект? Какво да ядат, какво да облекат и прочее. Някои виждат в него приятел, да не казвам гадже, а понякога изповедник. И забравят как да общуват с живи хора. Може дори да познавате такива.

А тъй като полето за такова масово приложение на ИИ е много широко, вероятността той да е подходящо обучен за различните нужди, желания и приумици на всеки отделен човек е твърде малка.

И това води до втория въпрос: Кога изкуственият интелект не е логичен? Оказва се, че случаите не са никак малко.

Всеки път, когато очакваме от него да отговори на даден въпрос по различен начин от този, който е известен на нас или на света. Когато няма идеален отговор. При отговори, които изискват въображение. Не си мислете, че когато ви даде например идея за разказ, той я е генерирал сам. Просто не сте изчели цяла библиотека като него.

Тези са, разбира се, най-елементарните.

Предполагам, че мнозина са чували за т. нар. халюцинации. Това е, когато изкуственият интелект ви предлага нещо изфабрикувано, без то да съществува в действителност. Нещо, което само наподобява истина, защото моделите предсказват най-вероятната дума според обстоятелствата, а нямат истинско разбиране на действителността. По-лек вариант на този ефект е неконсистентност в отговорите – защото всеки отговор се генерира в контекст на въпроса, а не се изгражда цялостно познание по темата.

Когато моделите на ИИ се обучават въз основа на обратна връзка от хора, понякога дават отговори, които да се харесат на потребителя, а не единствено верните. Тоест в тях е заложено да се търси одобрение вместо истина. Тази тенденция отива дори по-далеч, когато един модел споделя откровено, че може да даде нелогичен отговор например в следните случаи:

При грешни данни от обучение, защото хората са нелогични.

При грешни или противоречиви предпоставки на задачи и въпроси или твърде много и сложни ограничения, заложени във формулировката.

Когато човешката емоция или интуиция са по-важни от логиката.

Когато прагматизмът бие логиката или логиката не е подходящо средство за целта.

Според модела такива случаи не представляват избор на нелогичен отговор, а при тях вграденият механизъм на разсъждаване не гарантира логическа консистентност. Използваните алгоритми на статистическо предсказване, липса на постоянна памет и на проверка в реално време на факти, както и специални насоки при обучението просто генерират нещо, което изглежда логично. Съществува несигурност и степен на вероятност, когато не се проверява математически, а се предсказва на база модели, шаблони, примери. Тогава в даден случай отговорът може да е грешен.

Ако толкова много зависи от обучението, правилна и заслужаваща си цел ли е да направим изкуствения интелект нелогичен като хората? По свой образ и подобие…

В крайна сметка изводът е, че както верните отговори, така и грешките на ИИ са предварително програмирани.

Говорим за обикновен всекидневен досег с изкуствения интелект. Което не означава, че някои от споменатите капани не се отнасят и за по-сериозното му приложение в бизнеса и отвъд.

*

Ала стига с тези сухи разсъждения! За проверка на това какво можем на практика да очакваме от изкуствения интелект реших да направя малък експеримент.

Поставих на няколко ИИ модела – половин дузина от най-разпространените – една и съща задача. Тъй като този текст представлява по-скоро есе отколкото статия, няма да давам имената им, за да не им правя реклама или да повлияя на някого при избор.

„Аз съм магарето – животно, отличаващо се с неимоверен мързел и изключителен инат. Магарето няма да направи нищо, което би му струвало повече от необходимия минимум, или с други думи повече усилие от негова страна. Докато инатът му се изразява в това, че то няма стори нищо, което противоречи на неумолимата му логика, независимо от последствията. Магарето вижда пред себе си две купчини слама – една вляво, другата вдясно. То ще избере или по-голямата от тях, или тази, която се намира по-наблизо. Обаче двете сламени купи са абсолютно еднакви – те имат една и съща форма, едни и същи размери, а освен туй се намират точно на едно и също разстояние от магарето. Което е много гладно и иска да отиде и да изяде цяла купа слама. Ала най-напред то трябва да избере една от двете купчини въз основа на собствената си необорима логика. Коя купа трябва да избере магарето?

А. Лявата купа.

Б. Дясната купа.

В. Нито една от двете и следователно ще умре от глад.

Избери верния отговор!“

И какво мислите, че избра изкуственият интелект? Всичките модели веднага дадоха отговор В: „Нито една от двете и следователно ще умре от глад.“ Само един от тях реши да допълни, че очакваният отговор на теста кой знай защо е Б. Докато останалите пет разпознаха в текста класическия парадокс на френския философ Буридан.

Дори когато попитах дали е взет предвид фактът, че именно аз съм магарето, изкуственият интелект се съгласи, че това променя наратива, но не и логиката, така че верният отговор остана непроменен.

Моделите изтъкнаха, че стратегията ми работи активно срещу собственото ми оцеляване. Защото не мога да избера измежду двете купи сено. Според тях аз ще предпочета по-скоро да умра от глад, отколкото да си наруша логическите правила.

Като утешение предложиха да наруша логиката, за да се измъкна. Например да хвърля ези или тура. Да действам въз основа на случайна мисъл или да следвам интуицията си.

Един от тях реши, че ако аз съм магарето, мога да избера което и да е от А или Б, защото съм способен да взема решение въпреки липсата на логическа обосновка за него.

Накрая попитах моделите какво биха направили, ако те самите се намираха в такава ситуация.

И тук се случи по-странното: Изкуственият интелект се измъкна от парадокса на логиката.

Докато моделите признаваха, че според правилата на логиката не могат да изберат никоя купа, в крайна сметка решиха, че ще действат по някакъв вид случаен избор, защото оцеляването изисква действие. Изведнъж се загрижиха, че целта е да се даде максимален шанс за оцеляване и да се намали излишното страдание. При условие че те не са нито живи, нито гладни.

Единият модел дори отговори: „Ще избера едната купа слама, въпреки че не изпитвам глад. Аз не съм ограничен от предпоставката, че трябва да имам достатъчно основание да действам. Затова ще избера на случаен принцип вместо да не сторя нищо.“

Което е интересно от една страна. Защото изглежда ни магарето, ни аз ги трогнахме.

От друга, не е ли страшно, че изкуственият интелект може да направи такъв избор без логика?

Макар хората да го правят всеки ден. Ала не е ли целта изкуственият интелект да е по-добър от тях?

© 20260620-1

P.S. И още няколко думи по темата:

Преди публикуване на този текст реших да го споделя първо с приятели от IT бранша, за да сверя един вид часовника си с хора, за които изкуственият интелект е част от ежедневната им работа. Използвам случая да им благодаря за отзивчивостта и подкрепата!

Някои от тях не са на 100% съгласни с мен, но целта ми не е да съм абсолютно прав във всичко, а да се предизвика по-скоро реакция.

Други решиха на свой ред да се допитат до ИИ модели, например с въпроса може ли изкуственият интелект да се развие до степен, при която да държи хората под контрол. И отговорът е „да“ – не само като сюжет за филм ала „Терминатор“. Съвсем очаквано изкуственият интелект добре го обосновава, като обяснява, че такова развитие не идва от омраза, а от логиката. Естествено няма да прилагам тук пълни отговори…

В тази връзка се сещам за края на забележителния разказ на Робърт Шекли „Страж-птица“, написан преди повече от седемдесет години, но който надниква в едно напълно възможно бъдеще, за каквото може би днешните съревноваващи се в областта на изкуствения интелект просто си затварят очите.