Доц. Мариана Тодорова, футуролог: Изкуственият интелект прави чудеса в медицината, но е опасен в медиите и политиката

- Доц. Тодорова, готови ли сме за устремното нашествие на изкуствения интелект?   

- Вече 2 години разполагаме с тази по-развита технология на големите езикови генеративни модели, които се появиха през ноември 2022 г.  Консерватизмът, притеснението на хората, особено в Европа, забавя процеса на внедряване. За 2023 г. Америка е използвала в 65% от големите си компании ИИ, докато цифрата за Европа е едва 32 процента. При малките и средните предприятия цифрата е 4%. Т.е. технологията е налична, може да се използва на множество различни нива, но ние, хората, все още не сме обучени как бихме могли да я ползваме.

Влиянието на ИИ в медиите е доста трансформиращо, дори в някаква степен деструктивно. С появата на социалните медии преди около 20 години и задвижването им от алгоритми, целящи генериране на повече съдържание, се създават феномени, сред които т.нар. ехостаи - пространства, които привличат повече внимание, и потребителят получава още информация от същото. Това обаче е едностранчива информация, лишена от критична гледна точка. Така се разпада плурализмът.  

Отделно, хората под 29 г. се информират предимно от социалните медии, Инстаграм, Тик​ток, като приемат тези канали за официални. Но начинът, по който новините са поднесени там, без да  подлежат на контрол, позволява поява на фалшива информация и създава друга картина за света. Стига се до упадък на истината.

Т.е., първо, имаме подмяна на официалните източници и канали за информация. Второ, не се задълбочаваме в самата информация. И трето - разрушената възможност за концентрация при младите хора води до когнитивен залез или оглупяване.

- И какви ще са резултатите за обществото? 

- Функционирането на много социални медии, това, че всеки блогър, влогър може да бъде и източник на информация, води до фрагментаризация на публичното пространство. Всеки предлага идеи, каузи, теми, но това не може да замести голямата политическа картина, голямата идеология. 

Технологизацията, разрушаването на публичното пространство, раздробяването на много теми разсейва вниманието от определянето на големи визии, на големи политически приоритети на нацията. Това са световни процеси, подсилени от глобализацията на информацията, но и от феномените в медиите. ИИ и алгоритмите засилват тази роля. Затова наскоро престижни университети, като Лондонската школа по икономика и Харвард, започват да предлагат рестрикции. Австралия първа в света забрани социалните медии да се ползват от лица до 16 години. Това не са случайни фактори и показват как технологията би могла да е и доста вредна. 

- Но нали в сектори като медицината използването на ИИ вече носи огромни ползи? 

- Да, в тази сфера позитивите са изключително големи -  в медицината, фармацията използването на ИИ издига работата на ново равнище. Вече стотици заболявания като атеросклероза могат да се диагностицират в много ранен етап, вероятността от получаване на инфаркт, инсулт, сърдечна недостатъчност  може да се изчисли 5-7 години предварително.

Това лято в Китай наблюдавах как внедряват ИИ. Както там, така и в други страни доста хора са снабдени с т.нар. преносими устройства, сензори, прикрепени към тялото. Свързани са към платформи с ИИ и измерват  кръвно налягане, сърдечен ритъм, което позволява анализи на дневна, седмична, месечна база, улавяне на тенденции и оценяване на цялостното състояние на човека. Така медицината става персонализирана -  отчита специфичните  показатели, следи и диагностицира предварително здравословните ни проблеми.  

Много лекарства вече се създават с помощта на ИИ, което съкращава периода за нова молекула от 20  на 3 години. Има такова успешно лекарство срещу фиброза. Ще се правят и нови поколения антибиотици.

 Като цяло ИИ  е много добър помощен инструмент в различни сфери. Може да помогне от това как да попълним данъчната си декларация до това да създадем издържан правен договор.   

Но трябва да имаме предвид, че ИИ може да прояви предразсъдъци заради данните, на които е обучен, да изкриви исторически анализи.

- Да очакваме ли по-голяма роля на ИИ в политиката? 

- В Америка не се сбъдна прогнозата, че изкуственият интелект ще промени изцяло изборната картина, но ИИ и различни похвати подпомогнаха избирането на Доналд Тръмп - с профилирането на хората в социалните медии според тяхното поведение, с възможността да бъдат таргетирани със съдържание, което им харесва.

Вече не е необходимо човешките тролове да бъдат ангажирани, истории могат да бъдат създавани от ChatGPT. Всичко това помага на пропагандата. Ползва се и похватът на фалшивите новини - беше показана голата Камала Харис, като образът е създаден чрез специален софтуер.

Но пък хората вече се адаптират към новостите - интуитивно улавят, че нещо е фалшиво, не вярват сляпо на изявления, които могат да се симулират с ИИ.

- Как ще се промени пазарът на труда в близко бъдеще?

- Технологията може буквално от утре да замени редица професии, а от други да изземе голяма част от задачите. Особено в Америка тази година много компании съобщиха за колосални съкращения - главно  в предприятия за електрически автомобили, предвид очакваната рецесия в сектора и автоматизацията на процесите.

Заради навлизането на ИИ хора, които се занимават с графичен дизайн, вече съчетават професията с дигитален маркетинг. Редуцирани са до голяма степен и работещите в сайтове, където се ползват инструменти от ИИ. Дори в Европа се забеляза огромно съкращение на софтуерни инженери и програмисти, след като стана ясно, че за тривиални задачи ИИ се справя по-добре от тях. Засегнати са преводачите, освен тези, които правят сложни майсторски преводи на художествени текстове, редуцират се и оперативните счетоводители. 

Разширява се навлизането на ИИ в  юридическата дейност, особено в англосаксонския свят, където правен анализ вече се прави предимно от ИИ.

Все повече различни образователни курсове са конструирани изцяло от ИИ, който създава  съдържание с акцент върху конкретните нужди на обучаващите се.

Разбира се, учителите в училище няма да бъдат заместени, но в университетите предвиждам създаване на изцяло дигитализирани помощни курсове, които по-късно могат да изместят основните дисциплини.

В Китай наблюдавах третиране с препарати за унищожаване на плевели, събиране на реколта с обучени роботи. 

Дори войниците в днешно време стават по-скоро оператори на машини, отколкото хора, които физически се бият.

Наистина всяка сфера подлежи на трансформация. Спасява ни това, че се адаптираме по-бавно и ни трябва време. Това обаче може да създаде доста диспропорции между Европа, Америка и Китай, където са по-адаптивни. А това може да се отрази на конкурентоспособността.

- Създават ли се различни юрисдикции в сферата на ИИ?

- Това също е проблем. Еврокомисията прие първия закон, налагащ ограничения върху системите за генеративен AI. Юристите на ЕК са отграничили 4 нива на риск на използване на ИИ - от ниска до недопустима, като целта е опазването на човешките права. 

Законът забранява използването на технологията за лицево разпознаване, с изключение при доказано престъпление. В САЩ и Китай обаче технологията е позволена и се ползва навсякъде, включително за залавяне на престъпници. Докато бях в Китай, трябваше да използвам лицевото разпознаване при свързване на специално приложение към кредитната си карта.  И когато си изпуснах портмонето, един полицай ми го донесе след 3 минути - използвали са тази технология за разпознаване, която тук е забранена. Виждаме различни критерии по отношение на регулацията на ИИ, разделяме се и тръгваме по различни пътища, което ще доведе до проблеми в глобализирания свят.

Трудно ще наваксаме. Става въпрос не само за пари, но и до модел на разработване на иновации. И в Европа се отделят огромни средства, но невинаги практическото приложение е успешно, много европроекти приключват до научния етап. Засега американският модел се оказва по-успешен. Явно е нужна ревизия на подхода в Европа. 

- Навлиза ли AI в сферата на творчеството?

- Има много пропуквания. В "Амазон", която е най-голямата платформа за продажба на книги, се появяват все повече конструирани чрез ИИ детски, научни  книги. Това не е изцяло творчество на ИИ, защото, ако зададем въпрос много прецизно и детайлно, ще получим много добър отговор. Процесът е огледален, на сътворчество.

Има вече ръководства за писане на книга за два дни, за две седмици чрез ИИ, което преди не е било възможно. 

Изобилстват и картини, създадени от ИИ. Те са интересни за потребителите, защото са нов жанр на трансхуманистично изкуство. ИИ произвежда образи, които досега не сме виждали. Има почитатели на такова изкуство.

Пишат се поеми - у нас в един конкурс авторът призна, че е ползвал ИИ, за да спечели. В Китай  авторът, отличен за най-добър научен фантаст, призна, че е писал книгата чрез ИИ.

Много видео инсталации вече се правят с ИИ. Нашумелият турски творец Рафик Анадол работи в музея "Гугенхайм" в САЩ.

В момента "Ню Йорк Таймс" води агресивно дело срещу OpenAI, които са обучили на статии на вестника ИИ, който пише точно в тази специфика, наложена от 50 години. Тук има нарушение на интелектуални права и загуба на оригиналност. Но от друга страна, е въпрос доколко ние сме оригинални.

- Може ли широкото използване на ИИ да направи младото поколение твърде мързеливо, да създаде хора без реални умения?

- Това вече се случва. Все повече се прокарва темата, че поколенческите разлики са твърде видими. Поколението ​Алфа - от 2012 г. до днес, са деца, родени в средата на изкуствения интелект и са твърде податливи на влиянието му. 

ИИ наистина дава възможност да станем мързеливи, защото доста съкращава познавателните и производствените процеси. Ако не си наложим, че въпреки този мощен помощен инструмент трябва да се изградим като експерти, ще наблюдаваме липса на познания и умения. Моята прогноза е, че ще минем през такъв процес, при който пораженията в образователни и професионални сфери ще са големи. Неслучайно Австралия забранява социалните медии. Ще има няколко поколения, които ще пострадат и ще трябва да наваксат липсата на експертиза. 

- Къде е България в предизвикателството ИИ?

- България е на скоростта на Европа, но не сме назадничавата страна, която дълго ни беше втълпявано, че сме. У нас екосистема от малки компании разработват ИИ, космически сателити. Част от продуктите се правят и тук, но в по-малки мащаби. Това, което ни отличава, е, че по-малка част от населението ползва изцяло интернет и съответно не е запознато с много полезни дигитални инструменти - как да се получат ваучери за преквалификация, достъп до пазара на труда. Вече има много безплатни платформи за различни професионални гилдии, където всеки може да надгради знанието си. Но у нас не се ползват достатъчно открития, налични от 10-15 години - като програми за валидиране на умения, вместо да посещаваме курсове.

На последните места във внедряването на ИИ  сме за тривиални неща, но това е валидно не за цялото ни население, но за специфични групи.

Вече имаме и собствен езиков модел  BgGPT, което е сериозен успех, тъй като беше създаден на кирилица малко след OpenAI и би могъл да се ползва в много направления.

- Какви изненади ще ни поднесе ИИ догодина?

- Следващият голям тренд е моделите като BgGPT  да се персонализират. Ще стане възможно да имаме нещо като лични асистенти. През 2025 г. ще се говори за много агенти - да направим моделите по-малки, но за специфични нужди. Ще е възможно например на телефона си да ползваме един такъв модел, който ще можем да обучаваме с наши данни, с наши имейли, със съдържанието на определена медиа, в която работим. И можем да изискваме той да пише в този стил. Същото може да стане в други сфери - правна, медицинска.  

До определено ниво използването на ИИ е изключително  полезно. Но има нива, при които прилагането на ИИ става опасно, не можем да го контролираме и може да ни доведе до самоунищожение в бъдеще.

Мариана Тодорова е доктор по футурология и изследовател в Института по философия и социология към БАН. Била е народен представител в 43-тото Народно събрание. Има специализации по лидерство в Харвард Кенеди Скул, Държавния департамент на САЩ и Китайската академия за управление. Представител е на глобалния тинктанк “Милениум проджект” в България и е член на Световната академия за наука и изкуства. Автор е на книгата “Изкуственият интелект. Кратка история на развитие и етични аспекти на темата”.