Пионер-иноватор в областта на изкуствения интелект (ИИ) бие тревога за опасностите, които крие технологията, на която той е поставил основите.
Джефри Хинтън, британският компютърен учен, наричан “бащата на ИИ”, наскоро напусна поста си на вицепрезидент и инженер в Google, за да може да се присъедини към десетките други експерти в областта, които говорят открито за заплахите и рисковете от ИИ.
“Трудно е да се види как може да се попречи на лошите играчи да го използват за лоши неща”, каза 75-годишният Хинтън в интервю за The New York Times.
След пускането на най-новата версия на чатбота GPT на OpenAI през март други специалисти по ИИ подписаха отворено писмо, написано от Института с нестопанска цел “Бъдещето на живота”, в което предупреждават, че технологията създава “дълбоки рискове за обществото и човечеството”.
Хинтън, подобно на подписалите писмото, заяви, че намира последните постижения в областта на ИИ за “плашещи” и се притеснява какво биха могли да означават те за бъдещето – особено сега, когато Microsoft е включила технологията в своята търсачка Bing.
Тъй като Google сега бърза да направи същото, Хинтън отбеляза, че надпреварата между големите технологични компании за разработване на по-мощен изкуствен интелект може лесно да излезе извън контрол.
Един конкретен аспект на технологията за изкуствен интелект, който тревожи компютърния учен, е способността ѝ да създава фалшиви изображения, снимки и текст до степен, в която обикновеният човек “вече няма да може да разбере кое е истина”.
Той също така предупреди, че в бъдеще ИИ може да замени хората на работното място и да се използва за създаване на напълно автономни оръжия.
“Идеята, че тези неща действително могат да станат по-умни от хората – малко хора вярваха в това”, каза Хинтън. “Но повечето хора смятаха, че това е възможно далеч във времето. И аз мислех, че е далеч във времето. Мислех, че е въпрос на 30 до 50 години или дори повече. Очевидно вече не мисля така.”
Напускането на Хинтън
Хинтън е известен най-вече с ролята си в разработването на deep learning – форма на машинно обучение, която обучава компютрите да обработват данни като човешкия мозък.
Тази работа е неразделна част от развитието на изкуствения интелект, но в ретроспекция Хинтън казва, че съжалява за ролята си в този процес.
“Успокоявам се с обичайното извинение: ако не го бях направил аз, щеше да го направи някой друг”, каза той.
Миналия месец Хинтън уведоми Google, че напуска компанията след повече от десетилетие.
На 1 май той посочи, че причината за напускането му е единствено да изолира компанията от своите изявления и няма нищо общо с подхода на Google към изкуствения интелект.
“Напуснах, за да мога да говоря за опасностите от ИИ, без да се съобразявам как това се отразява на Google”, написа той в Туитър. “Google действа много отговорно.”
В изявление, предоставено на The New York Times, Джеф Дийн, старши вицепрезидент на Google в сферата на изследванията и изкуствения интелект, заяви: “Оставаме ангажирани с отговорен подход към ИИ. Непрекъснато се учим, за да разберем възникващите рискове, като същевременно правим смели иновации”.
Дигитален Бог
Въпреки уверенията на Google, други критикуват методите на компанията.
В неотдавнашно интервю за Fox News главният изпълнителен директор на Tesla Елон Мъск – който е и съосновател на OpenAI – заяви, че според него Лари Пейдж, съосновател на Google, не приема сериозно рисковете, свързани с ИИ.
“Изглежда, че той наистина иска цифрова свръхинтелигентност, по същество дигитален Бог, колкото се може по-скоро”, каза Мъск, позовавайки се на разговорите, които е имал с Пейдж по този въпрос.
“През годините той е правил много публични изявления, че цялата цел на Google е това, което се нарича AGI, изкуствен общ интелект или изкуствена свръхинтелигентност”, отбеляза той. “Съгласен съм с него, че има голям потенциал за добро, но има и потенциал за зло.”
Мъск, който е подписал писмото на Института „За бъдещето на живота“, е изразявал открито опасенията си от ИИ като цяло, като смята, че той представлява сериозен риск за човешката цивилизация.
“ИИ е може би по-опасен от, да речем, неправилно проектиране на самолети или поддръжка на производството, или лошо производство на автомобили, в смисъл, че той е, той има потенциал – колкото и малка да е тази вероятност, но тя не е тривиална – той има потенциал за унищожение на цивилизация”, каза той пред Fox News.
Друг страх, който Мъск разкри, е притеснението, че изкуственият интелект се обучава на политическа коректност, което според него е просто форма на измама и “говорене на неистини”.
Въпреки тези опасения – или може би заради тях – технологичният милиардер изрази интерес и към разработването на свой собствен “търсещ истината” ИИ, който ще бъде обучен да се грижи за човечеството.
“Искаме да бъдем прочовешки настроени”, казва той. “Да направим бъдещето добро за хората. Защото ние сме хора.”
Кадън Пиърсън допринесе за този материал.
ОЩЕ ПО ТЕМАТА
