Политиците все повече ги е страх от непопулярни решения, ще ги отстъпят на AI, казва футурологът
- Още акценти от интервюто:
- Разработването на нови версии трябва да се забави
- Способността да се вземат бързи и отговорни решения може да закърнее
- Доц. Тодорова, вие сте футуролог, но и човек, минал през политиката. Ако изкуственият интелект трябваше да сглоби управленска коалиция, би ли се справил?
- Изкуственият интелект навлиза във всички сфери на живота. Това е моя теза, за която за първи път говорих преди 6 г. Тогава звучеше екзотично и се посрещаше със скептицизъм, но вече изглежда все по-вероятно. Преди 1 г. в Дания група технооптимисти - хора, които силно вярват в потенциала на технологиите като инструмент, с който могат да решат всички човешки проблеми, включително и политическите, основаха партия, която да се управлява от изкуствен интелект. Те ще участват на следващите избори. През 2018 г. един от кандидатите на президентските избори в Русия също бе изкуствен интелект - Алиса, създаден от “Яндекс” - руския вариант на Google. Имаше дори манифест с няколко точки защо изкуственият интелект е по-добър президент от Путин. В Америка също има трансхуманна партия, основана от Золтан Ищван, който освен в изкуствения интелект вярва силно, че човекът ще бъде подобрен само чрез технологии и можем да станем космическа раса само по този път. Те също няколко пъти се явяват на изборите в САЩ. С човешки кандидати, но с платформа, че проблемите се решават с изкуствен интелект.
На този етап не е възможно изкуствен интелект да бъде посредник в сложни политически преговори, така че да удовлетвори всички страни и да постигне консенсус. Това все още е ясно подчертана човешка дейност. Има момент на ирационалност, на емоционалност, его, ако щете, на водене на конструктивен диалог, на поемане на отговорност. От друга страна, светът все повече се поляризира, и то в степен, в която е невъзможно две противоречащи си тези да се срещнат. Тази почти необратима поляризация тласка процесите дори в политиката да вървят към рационализация и да се търсят решения от изкуствен интелект. В последната година все повече компании назначават на позициите “изпълнителни директори” изкуствен интелект. Особено с появата на СhatGPT3.5 и СhatGPT4. Ако все повече във финансовата и икономическата сфера те заместват управленски позиции, това би могло да стане и в политиката заради поляризацията, невъзможността да се управлява, невъзможността да има дълги мандати. По цял свят мандатите на управление се съкращават. Защото политиката все повече се деидеологизира, става технократска и активистка. Множеството идеи и каузи фрагментират обществото и водят до разпад на обществените връзки. Затова се появява нетърпимост към различната гледна точка и несводимост до консенсусни идеи. В глобален план има нужда от големи трансформационни идеи, които да окрупнят социалното, културното и политическото пространство и да преизградят обществата от съвместими помежду си общности.
Сега самите политици са лишени от силни лидерски качества и от възможността да носят отговорност за непопулярни решения. Така по един естествен път много от решенията, първо в по-технократски области, ще започнат да се вземат от изкуствен интелект. Например какъв да бъде един градоустройствен план, в кои региони е разумно да се инвестира, как да се управлява един град, как да се организира транспортната система, как да се спестява електричество - на всички тези въпроси изкуственият интелект може да дава решения. Това, че може в различни сфери да се намерят оптимални решения, не значи, че те биха били винаги по-добри. Те могат да ощетят някакви малки групи. Те не се вземат със състрадание, с внимание към хора, които имат по-тежки съдби.
- Бихте ли дали пример?
- От около 10 г. много банки ползват изкуствен интелект, за да преценяват доколко техните клиенти са благонадеждни, когато получат кредит. И сред аргументите за отказ изкуственият интелект изтъква, че в същия ден вали, или кредитите, получени в понеделник, са по-невъзвръщаеми от тези, взети в другите дни от седмицата. Тази дехуманизация в анализа може да се прехвърли във всички други области. Отделно много от управленските умения, както и способността да се вземат бързи и отговорни решения ще закърнеят. От трета страна, до някаква степен това е неизбежно. В Карибската криза между Русия, САЩ и Куба през 1962 г. президентът Кенеди има 13 дни да реши какво да направи. Сега военните щабове в Украйна и в Русия имат буквално секунди. Тази липса на време кара хората да се страхуват, че решенията, които вземат, не са обмислени и могат да направят фатални грешки. И увеличава желанието подобни решения да са делегирани на машини. От 2012 г. в Пентагона се обсъжда възможността изкуствен интелект да бъде свързан с роботи убийци, автономни и полуавтономни оръжия. Вече го виждаме в Украйна в момента. Армения и Турция също използват дронове, управлявани от изкуствен интелект. Европейската комисия е забранила подобна възможност, но САЩ, Русия и Китай не са, т.е. виждаме асиметричност в решението. Това е директният начин, по който изкуственият интелект може да се намеси. Иначе още преди да бъде избран Тръмп, имаше скандал, че платформи, базирани на изкуствен интелект, са имали достъп до стотици хиляди профили във фейсбук, които дават информация за техните потребители. Начинът, по който търсим информация в Google, говори много за нас като поведение и структуриране на вкусове и предпочитания. А снимките в инстаграм показват дали човек е интроверт, или екстроверт, дали има депресивно разстройство.
ЕК забрани служителите ѝ да ползват тикток, защото може да събира чувствителна информация. Преди няколко години една австралийска изследователка беше открила в плановете на Китайската комунистическа партия до 2030 г., че Китай желае алгоритмично доминиране над света - да продава достъпен софтуер и така да събира данни и да прави профили на отделни народи и държави. Данните говорят много за нас. Например това колко контейнера със стоки от Китай се стоварват на едно голямо пристанище в САЩ, говори дали има рецесия. Данните разкриват много, затова сега голямата надпревара е всички да ги събират.
- Способността на изкуствения интелект да се обучава и усъвършенства заплаха ли е за човечеството, пуснахме ли духа от бутилката?
- Мисля, че пуснахме духа от бутилката. Заплахата все още не е непосредствена, защото нямаме генерален изкуствен интелект, който изцяло би наподобявал на нас като интелигентност, самосъзнание и амбиции. Но след появата на СhatGPT3 и СhatGPT4 много футуролози и инженери вярват, че такъв изкуствен интелект може да се появи до 10 години. Затова и аз съм поканена в САЩ като част от “Милениум проджект” (глобален футуристичен тинк-танк) съвместно с НАТО да разсъждаваме какви биха били проявленията на такъв генерален изкуствен интелект.
СhatGPT3.5, който е с абонамент от 20 долара, вече заменя десетки хиляди хора. Дори “Билд” преди дни обяви, че предстоят огромни съкращения. Не сме очаквали, но това ще важи за програмисти и софтуерни инженери, защото СhatGPT3.5 пише тривиален код много добре, може да прави правен и финансов анализ, всякакъв тип асистентска работа за намиране на информация. Един от трендовете, който виждаме, e, че това има потенциал да окаже натиск върху младшите експерти. А един специалист, за да се изгради като старши експерт, трябва да премине през практикуване на по-рутинна дейност, която обаче вече се прави от изкуствен интелект. СhatGPT4 е първият демонстриран мултимодален изкуствен интелект. Той обработва не само езиков модел, а и визуално съдържание. Вие може да скицирате на ръка в най-общ план един 29-етажен небостъргач и на базата на тази скица СhatGPT4 да направи сложен архитектурен план в детайли на сградата. И това става в рамките на няколко минути до няколко часа. Може да снимате какво имате в хладилника и да поискате рецепти за здравословно хранене съобразно продуктите. Може да изготви бизнесплан как с 1000 долара да направите оптимална инвестиция. СhatGPT4 може да обобщи в един параграф есенцията на цяла книга. Има безброй примери и ако ги мултиплицирате в различни сфери, виждате, че това ще доведе до съкращаване на хора. Вече се навлиза дори в творческото поле. Първата непосредствена заплаха е, че много хора ще останат без работа, защото държавите не са настроили образователните си системи към подобна промяна и не са изградили системи за учене през целия живот. Вярно е, че изкуственият интелект ще създаде много нови работни места, но те винаги са в посока на надграждане. Ако преди в заводите за автомобили са работили 1000 души, сега са сведени до 50 - просто да надзирават поточните линии. В един по-късен етап трябва да се решават и морално-философски проблеми. Ако хората не работят, как да получават доходи, но и в какво да намират екзистенциален смисъл, защото градим живота си около ключови категории като образование, професия, семейство, а изкуственият интелект се намесва сериозно в тях.
- Кои други професии са заплашени от изкуствения интелект?
- Лекари, актьори също. Още по времето на COVID в САЩ започна масово да се ползва телемедицина. Една платформа по описание на симптоми може успешно да постави диагноза. Разбира се, при относително здрави хора. Все повече се ползват роботи хирурзи. Във фармацията изкуственият интелект ускорява процеса по изобретяване на нова молекула. Midjourney представят красиви образи. Тенденцията е актьорите да са нарисувани.
- Колко по-различни са сегашните млади от нас, които не сме израснали сред високи технологии?
- Доста по-различни са. Определям себе си като междинно поколение, което е виждало достатъчно от предишния свят, но и от този. От една страна, младото поколение вижда много позитивно всички промени. Смята, че рутинните и досадни дейности ще бъдат заменени с технологиите. Ще вършим работа много по-бързо. От друга страна, те доста по-интуитивно работят с тези технологии. От трета страна, става видимо как технологиите в съчетание със социалните медии могат да доведат до оглупяване. Социалните медии непрекъснато бълват информация. Тя е толкова много, че никой от нас не може да обеме целия поток. Това води до навика да се информираме само по заглавия. Честата смяна на заглавия в инстаграм или тикток доставя удоволствие на мозъка, защото го стимулира чрез отделяне на допамин. Това обаче лишава младите от възможността да се фокусират върху нещо определено за по-дълго от 8 минути. За някои това е краят на тази цивилизация.
- Излизат и конкуренти на СhatGPT. Това интелектуално състезание ли е, или бизнес война?
- Определено е бизнес война. Логиката, когато излязат подобни продукти, е да има забавяне във времето. Когато в края на ноември излезе СhatGPT3.5, очаквах да има поне 1 г. до следващата версия. Нямаше нормална логика да се бърза. Това значи, че тази компания очаква ответния отговор на Google. “Майкрософт” пусна и други свръхиновативни продукти. Това води до още по-голяма надпревара и ускорение, което доста може да фрустрира хората. Аз и много мои колеги смятаме, че процесът трябва да се забави.
- Има ли геополитика в тази надпревара?
- Неслучайно Путин преди време беше казал, че който владее изкуствения интелект, ще управлява света. В момента Русия не е на тази карта. Състезанието е между Китай и САЩ. Това наистина би могло да прекрои геополитическия свят. Дори и една сравнително малка териториално държава би могла да придобие огромно конкурентно предимство, ако има пробив. Същото важи за квантовите компютри и космическите оръжия.
CV
- Д-р Мариана Тодорова е футуролог, доцент в Института по философия и социология към БАН
- Визионер, стратег и автор на книги
- Създава нова методология за научна прогноза чрез комбиниране на контрафактичен анализ и изграждане на сценарии
- Има специализации по лидерство в Харвардския университет, в Училището по управление на Джон Кенеди, в международната програма за лидерство (IVLP) от Държавния департамент на САЩ и в Китайската академия за управление
- През 2019 г. е съавтор на Future studies and counterfactual analysis. Seeds of the future заедно с американския футурист Теодор Гордън
- През 2020 г. издава своя книга на български език: “Изкуствен интелект. Кратка история на развитието и етични аспекти по темата”
- Председател е на Millennium project и член на Hera city, както и член на Световната академия на изкуствата и науките
- Миналата година представлява България в ЮНЕСКО в междуправителствената среща за изработване на етическа рамка за изкуствен интелект
