През последните години човечеството е на път да сбъдне най-смелите научно-фантастични идеи. Изкуственият интелект смело навлезе в ежедневието ни и предизвика както възторзи, така и опасения, а също и много подигравки. Ще заместили ли той хората на работното им място и ще подчини ли човека, разговаряме с д-р Веселин Бончев.

- Д-р Бончев, изкуственият интелект се развива много бързо, на път ли е вече да замести човека?
- Това не е точно така. Развива се една малка, конкретна подобласт на изкуствения интелект. Той ще измести, разбира се, някои човешки дейности, но не всички. Например – няма изкуственият интелект да замести адвокатите, той е просто един инструмент, който ще бъде използван.

- Повече рискове или повече ползи крие развитието му?
- Има и рискове, има и ползи, разбира се, като всяка нова технология. Някакви генерални дейности, които искат или извличане на текст, или генерирането му, могат сега да бъдат автоматизирани. На някои места вероятно, където има твърде елементарна техническа поддръжка, може да се използва изкуствен интелект, който може да отговаря на елементарни въпроси. Що се отнася до рисковете, такива също има много, но те напоследък ми се струват малко преувеличени. Основният проблем на този вид изкуствен интелект, който сега се развива, е, че той много често авторитетно говори глупости. Казва неща, които не са верни или дава много развит отговор, в който няма нищо съществено и хората са склонни да му вярват, защото начинът, по който се изразява, е много авторитетен. По този начин хората биха могли да се подлъжат. Другият проблем е, че вече интернет започва да се наводнява със статии, очевидно написани от изкуствен интелект, които след това се индексират от Гугъл и може би след година-две, когато започнете да търсите нещо в интернет, няма да намерите това, което ви трябва, а ще намерите глупости, написани от изкуствен интелект. Което общо-взето е неприятно. Другото е, че той започва да се използва от лошите хора в киберпространството, за да им улесни работата. С него могат да се генерират текстове за фишинг, дезинформация, която звучи много автентично и т.н. Просто като всяка нова технология си има и ползи и рискове. Винаги, когато бъде измислено нещо принципно ново, то се използва, както за добро, така и за зло. Просто това е в природата на човека.

- А трябва ли да има специален закон за изкуствения интелект?
- Това е донякъде идеологически въпрос. Аз държа много на индивидуалната, личната свобода и на свободния пазар и никак не обичам правителството да се меси в тези работи. Разбирам, че сред най-различни правителства по света, включително в европейската общност, има натиск да се направи нещо по въпроса, защото това е една нова технология, която политиците не разбират, но усещат, че има рискове и искат да направят нещо, за да не излезе, че нищо не са направили, за да предпазят населението от тях. Но се страхувам, че това ще доведе до неща, които няма да са благоприятни. Например, могат да създадат законови ограничения за развитието на изкуствения интелект, като целта им е да се предпазят хората, но ефектът ще бъде, че ще се намали развитието на науката в тази област и приложението за полезни неща. Вече в европейската общност се обсъжда закон за регулиране на изкуствения интелект и мисля, че това ще доведе до нейното значително изоставане от Съединените щати и от Китай в тази област. Но това е мое мнение, както казах, това е идеологически въпрос и зависи от политическата настройка на човек.

- В момента у нас се разработва чат-бот, който ще разяснява правата на децата и ще им отговаря на въпроси за насилието. Доколко това е ефикасно?
- Зависи. От една страна един такъв чат-бот никога не може да замести специалист по психология, който би трябвало да се занимава с такива деца. От друга – ако трябва да се даде едно елементарно знание какво трябва да се прави в интернет, какво е опасно, това може да се предостави по по-достъпен начин чрез чат-бот, който изглежда все едно човек говори, отколкото, ако детето трябва да прочете някаква суха статия, написана от специалист. Така че, зависи как точно се използва, може да има полза, може да има и вреда, ако се използва не както трябва.

- Значи дори в изкуствения интелект опираме до човешкия фактор?
- Разбира се. Трябва да запомните едно много важно нещо – с технология не можете да разрешите социални проблеми. Ако има проблем, че децата в интернет се експлоатират от недобросъвестни хора, това е социален проблем и той не може да бъде решен технологично.

- А може ли изкуственият интелект да помогне в битката с компютърните вируси?
- Донякъде – да. Той няма да разреши проблема, но е инструмент, който може да бъде използван. Технологията, на която са базирани тези чат-ботове, е така наречената технология на невронни мрежи и машинно обучение. Идеята зад тази технология е, че подаване на програмата огромно количество данни и тя си свършва работата. Докато един друг вид интелект, така наречените експертни системи, това е първата ми любов, при тях човекът, който ги създава, трябва много дълго време да се консултира с хора-експерти и да се опита да извлече тяхното знание във формализиран вид и да го представи във вид на прости правила. Това е много трудоемък процес, това може да отнеме месеци и години. Обаче предимството на експертната система, че когато въз основа на вложеното в нея знание, тя даде някакво твърдение или препоръка, веднага можете да попитате – защо мислиш така и експертната система ще ви обясни. Системите за машинно обучение, базирани на невронни мрежи не са в състояние да правят такова нещо, те не са в състояние да обяснят начина си на разсъждение. Те изобщо не разсъждават, те имат едни огромни матрици с вероятности, при тях няма разсъждение, има само огромно количество знания. Машинното обучение се използва вече не само за борба с вирусите, а изобщо с вредителските програми, улеснява много неща, но на него не бива да се вярна сляпо. Трябва да се използва с мярка и човекът, който го използва трябва винаги да помни, че това е един инструмент, който има подходящи начини за употреба.

- Как може да се опазим от вирусните атаки?
- Това е много общ въпрос, зависи. Преди всичко е важно да си направите модел на заплахата, от кого всъщност се пазите. Дали например, се пазите от жена си вкъщи да не ви бръкне в джоба и да ви отвори телефона. Дали се пазите от случайни хора, които разпращат всякакви имейл адреси, спамват ги с фишинг и може един такъв имейл да е попаднал при вас. Дали се пазите от държавни кибер хакери, ако например работите за военните и китайски хакер се опитва да измъкне от вас секретни знания. Атаките са съвсем различни, трябва да знаете от какво се пазите. Аз мога да ви каже това, което се казва в такива случаи – не чукайте по линкове в подозрителни съобщения. Това обаче е абсолютно безсмислен съвет, защото какво значи подозрително съобщение? Проблемът е в това, че много пъти то изглежда абсолютно достоверно. По принцип избягвайте да стартирате програми, които не идват от източник, на който вярвате напълно, но проблемът е, че много често вредителски програми могат да дойдат именно от такъв източник. Имало е случаи на вредителски програми в тези за мобилни приложения. Може да получите имейл от човек, който е във вашите контакти, който всъщност не е изпратен от него и т.н. Това не е просто нещо, за което мога да дам 2-3 практически съвета всеки да може да се пази от такива атаки.

- Напоследък много фирми изгоряха с огромни пари, до каква степен българският бизнес може да се пази в интернет пространството?
- Аз работя в научните среди и не знам какво прави бизнесът, но основните проблеми, с които аз съм се сблъсквал с хора, които са идвали при нас за помощ, това са обикновено малки компании, които са пострадали от вредителски програми, които, когато се използват на компютъра ви, шифроват файловете с данни. След което програмите ви показват едно съобщение – изпратете криптовалута, обикновено биткойн, на еди-кой си адрес, за да получите програма за разшифровка. Това е много голям проблем по целия свят, даже в момента един голям доставчик на здравни осигуровки в Съединените щати е пострадал от такова нещо и масово в аптеките имат проблеми със заплащането на лекарствата, предписани от лекар. По целия свят има криминални организации, които се занимават с тази дейност, правят програми. Основно са в Русия и Украйна, но има по целия свят и сумарно загубите, поне тези, които знаем, са от порядъка на десетки милиарди. Тези престъпни организации имат бюджети, колкото малки държави и е доста трудно да се справим с тях. Вие споменахте, че фирми са изгорели с много пари, вероятно става дума за т.нар. бизнес имейл компромайс, когато човек, който отговаря вътре във фирмата получава съобщение, което видимо идва от директора на фирмата и нарежда спешно да преведи сума пари на еди-каква си сметка, а всъщност нещата идват от някакъв измамник. Напоследък имаше информация, че една такава операция е била проведена с изкуствен интелект. Това е било в Япония или в Китай, където съответният финансист от фирмата е участвал в теле конферентна връзка с директорите на фирмата и те са му наредили много спешно да преведе пари. Оказа се, че лицата на всички са били моделирани от изкуствен интелект да изглеждат като директорите, а всъщност са били съвсем други хора.

- Много хора смятат, че през мобилните телефони могат да бъдат следени и подслушвани, това така ли е?
- Разбира се, дори най-елементарните мобилни телефони могат да бъдат следени с точност до клетка. Някой, който има достъп до ниво мобилен провайдер, винаги може да каже в коя клетка се намира телефонът. Но това е сравнително грубо позициониране. А при смартфоните работят най-различни приложения, които непрекъснато взимат къде по-точна информация за позиционирането, дотолкова точна, че може дари да се определи в коя стая на апартамента се намирате в момента. Що се отнася до подслушването, ако телефонът наистина е изключен, от него не може да се подслушва. Проблемът е, че може той да е включен, а да изглежда като изключен – екранът да е изгасен и всичко останало, всъщност вътре в него нещо да е включено.

- Това става със заразяване с вирус ли?
- В съвременните смартфони няма вируси. Компютърният вирус е програма, която се саморазмножава. И в съвременните смартфони програмите не могат да се саморазмножават. Обаче други видове вредителски програми, могат да направят редица вредителски действия на телефона ви. Има един трети закон на компютърната сигурност, който аз често цитирам – ако изпълните програмата на нападателя във вашия компютър, това вече не е вашият компютър, това е неговият. Има програми, които се продават за милиони долари. Обикновено те се продават на държави, на разузнавателни организации и с тях може да се проникне в един смартфон, достатъчно е само да се знае телефонният му номер. Това става с изпращане на специално съобщение. Вие не виждате, но в телефона ви вече се е инсталирала автоматична програма, която може да ви копира контактите, съобщенията и тази програма може да подслушва разговорите. Такива програми често имат проблем да остават постоянно на телефона, тоест ако редовно разстартирате телефона си, тя ще изчезне и съответно нападателят ще трябва да го зареди пак.

- Появиха се зловещи прогнози, че изкуственият интелект ще започне да се саморазвива и ще унищожи човечеството. Доколко това е възможно?
- Това са пълни глупости. Това, което се развива в момента, то не е в състояние да разсъждава, няма самосъзнание, не може да се развива само. Така че, това са измишльотини, ненаучна фантастика. Дали в бъдеще ще бъде създаден изкуствен интелект, който ще може да разсъждава и  да надмине човека, не зная, вероятно – да, но в момента сме много далече от това.

Нашият гост
Д-р Веселин Бончев е завършил Техническия университет в София, специалност изчислителна техника и програмни системи. Работил е в Института по техническа кибернетика и роботика към БАН в секция Изкуствен интелект. През 1989 г. става първият директор на новосъздадената Лаборатория по компютърна вирусология към БАН. През периода 1991-1995 г. живее и работи в Германия, където пише докторската си дисертация „Методология на компютърната вирусология“. След това заминава за Исландия, където работи за софтуерната фирма “ФРИСК Софтуер Интернейшънъл”. През 2005 г. се връща в Националната лаборатория по компютърна вирусология към БАН, където работи и досега.