Коментар
Научната фантастика отдавна предсказва заплахите и предизвикателствата, породени от изкуствения интелект. Във вселената на „Стар Трек“, по-специално в оригиналния сериал, сезон 2, епизод 24, „The Ultimate Computer“, д-р Леонард Маккой изрича следната запомняща се реплика: „Състрадание: това е единственото нещо, което никоя машина никога не е притежавала. Може би именно то държи хората крачка пред тях.“ Репликата се появява след като революционният ИИ компютър М5 използва бездушната си логика, за да превърне тренировъчно учение в смъртоносно клане. В друг епизод на поредицата се сблъскваме с Номад – геноциден ИИ, прочистващ вселената от биологични несъвършенства.
Като предвестник на възхода на изкуствения интелект с огромни хакерски възможности – като например Anthropic’s Mythos – преработеният „Бойна звезда Галактика“ (2003–2009) показва как задвижваните от ИИ сайлони използват способността си да хакват всеки свързан в мрежа компютър, за да се разбунтуват и почти да унищожат своите създатели. В поредицата „Терминатор“ Скайнет „поумнява“ (придобива съзнание) и за „микросекунда“ решава съдбата на човечеството – „изтребление“ – като разпуска ядрен Армагедон над него. Тези истории предупреждават, че изкуственият интелект без надеждни предпазни мерки може да се окаже катастрофален. Докато възможностите на ИИ продължават да се разширяват стремглаво през 2026 г., фантастиката все по-бързо се превръща в реалност. Софтуерните защити, индустриалните стандарти и разпокъсаните регулации са явно недостатъчни. Нужна е по-здрава основа – неизменни хардуерни конструкции и промени в националното и международното законодателство.
Трите закона на роботиката на Айзък Азимов
Както е описано в списание Spectrum на Института на инженерите по електроника и електротехника, Трите закона на роботиката на прочутия учен и писател-фантаст Айзък Азимов, представени в разказите му „Аз, роботът“, очертават добре обмислена рамка за защитни механизми в областта на изкуствения интелект:
- Роботът не може да нанесе вреда на отделен човек или на човечеството като цяло, нито чрез бездействие да допусне човек или човечеството да пострадат.
- Роботът трябва да се подчинява на заповедите, давани му от хората, освен когато те влизат в противоречие с Първия закон.
- Роботът трябва да пази собственото си съществуване, стига тази защита да не противоречи на Първия или Втория закон.
Накратко казано, законите на Азимов са добра отправна точка, но – както е разгледано подробно в следващия му шедьовър, поредицата „Фондация“ – те се оказват недостатъчни, когато става дума за опазване на истинската човечност. Освен това вграждането на техни еквиваленти в ИИ, каквото Азимов постига чрез „позитронния“ мозък, ще се окаже истинско предизвикателство. Въпреки това поемането на тази задача и създаването на предпазни механизми, надхвърлящи чисто софтуерните подходи, е от решаващо значение, за да се гарантира, че ИИ ще служи единствено в полза на човечеството.
Недостатъчността на софтуерните предпазни мерки, криптирането и регулацията сами по себе си
Софтуерните защитни механизми са уязвими – те могат да бъдат променяни и са подложени на хакерски атаки и злоупотреби. Историята убедително доказва крехкостта на саморегулацията: пробивът в данните на Equifax (2017 г.), атаката срещу веригата за доставки на SolarWinds (2020 г.), уязвимостта на MOVEit (2023 г.) и поредицата от последващи пробиви показват, че корпоративните обещания за „надеждна защита“ твърде често се оказват празни думи. Намираме се в истински „Див Запад“ на изкуствения интелект – без достатъчно обвързващи глобални или национални рамки.
Историята показва, че софтуерните защитни мерки не могат да осигурят необходимото ниво на защита – нито днес, нито в бъдеще.
ASIC чиповете ще действат като физически фиксирани, вградени „пазачи на входа“. В бъдеще както процесорите, специализирани в ИИ, така и тези с общо предназначение биха могли да включват тези миниатюрни ASIC директно в своята архитектура – като стандартен и задължителен хардуерен слой за филтриране на ИИ.
Някои предложени основни принципи на проектиране:
Подобен защитен слой обаче ще работи само ако прилагането му стане всеобщо. Без законодателна принуда, която да задължи използването на такива предпазни мерки за ИИ, те няма да успеят да защитят човечеството.
Днес, особено в контекста на войната между Украйна и Русия, и двете страни полагат усилия да позволят на дронове, загубили връзка с операторите си, да продължат автономно мисията си по унищожаване на вражески бойци. Това не бива да се допуска. Точно както международната общност забрани химическото, биологичното и газовото оръжие, така и на изкуствения интелект трябва да бъде забранено да взема окончателни решения, водещи до увреждане на хора. Това може да бъде постигнато чрез изрична промяна в Женевските конвенции, която да забрани на ИИ системите да вземат автономни решения за прилагане на смъртоносна сила.
ИИ обаче може да причини вреди далеч отвъд бойното поле. Затова наред с актуализирането на Женевската конвенция трябва да бъдат приети закони, уреждащи невоенното приложение на ИИ. За да се предотврати злоупотребата с ИИ в гражданската сфера, са необходими много сериозни последствия: финансови санкции, достатъчно тежки, за да застрашат самото съществуване на компании и организации с нестопанска цел; лишаване от свобода за отговорни физически лица; икономически санкции, а при необходимост – и военни мерки срещу правителства, допускащи използването на ИИ системи без задължителния неизменен хардуерен слой за безопасност и другите изисквани защити.
Изложеното по-горе е само началото на онова, което тази рамка трябва да обхване. Каквато и форма да приеме тя в крайна сметка, трябва да въплъщава духа на Трите закона на Азимов и да добавя към тях изискването уникалността на човека да бъде зачитана и пазена.
Сегашната мозайка от закони, стандарти и технологии е напълно недостатъчна. Нуждаем се от цялостна и последователна рамка, подкрепена от пълната сила на националното и международното законодателство, която да наложи ясни ограничения върху ИИ.
И накрая – трябва да устоим на изкусителния зов на удобството и ефективността, когато се вземат решения, способни да навредят на хората. Такива решения трябва да остават в ръцете на морални субекти, отговорни пред човечеството и своя Създател – тоест на самите хора, – а не да се поверяват на бездушни машини.
