Водещи ръководители в индустрията на изкуствения интелект говориха пред Съвета за сигурност на Организацията на обединените нации на 23 септември.
Главният изпълнителен директор на Anthropic Дарио Амодеи предупреди, че изкуственият интелект може да „представлява риск за човечеството като цяло“ по време на брифинг пред Съвета за сигурност на Организацията на обединените нации на 23 септември.
Амодеи беше сред водещите ръководители в сферата на ИИ, които говориха на срещата – организирана от Франция по време на годишното събиране на световни лидери за Общото събрание на ООН – в която бяха включени и изказвания на главния изпълнителен директор на OpenAI Сам Алтман и на главния изпълнителен директор и съосновател на Hugging Face Клеман Деланг.
Амодеи призова 15-членния съвет да ускори напредъка по споразумения на ООН, които забраняват използването на ИИ за създаване на биологични оръжия, и насърчи съвета да изгради системи за оценка и проверка, които да позволят на държавите да държат взаимно отговорност една друга, да установят глобални стандарти за тестване на ИИ модели за рискове от загуба на контрол и рискове от злоупотреба, както и да добавят система за уведомяване при инциденти с ИИ, които са значими за глобалната сигурност.
„Ще забавяме толкова, колкото е необходимо, за да сме сигурни, че всяка следваща технология с ИИ, която пускаме, действително е безопасна“, каза Амодеи по време на видеообръщението си. „Но независимо какво правим, управлението на тези рискове в крайна сметка е по-голямо от която и да е отделна компания и е с мащаб за цялата индустрия и за целия свят.“
Амодеи предположи, че има вероятност ИИ да се превърне в „държава от гении в център за данни“ за по-малко от две години.
Междувременно Алтман предупреди в изказването си, че хората „могат да изгубят контрола над бъдещето в полза на ИИ“.
„Рискът е, че той се движи толкова бързо, че хората вече не могат да следят какво се случва или да се намесят, когато е необходимо“, каза Алтман. „Това очевидно би било ужасно. Индустрията не трябва да приема прекомерен технологичен риск само защото ползите са твърде големи и на участниците им се струва твърде важно да не забавят.“
Алтман каза, че никой човек, компания или държава не бива да може да използва най-мощните ИИ модели, за да налага своя мироглед на всички останали.
Призивите за забавяне на развитието на ИИ се засилиха, след като Джейкъб Коксън, бивш изследовател в OpenAI, който напусна Anthropic, каза на 8 септември, че хората, които изграждат ИИ, смятат, че той може да ни убие всички „до края на десетилетието“.
OpenAI призна инцидент, включващ неконтролируеми ИИ агенти, които са успели да проникнат в общността за ИИ с отворен код Hugging Face.
Деланг, съоснователят на Hugging Face, каза пред съвета в сряда, че според него наративите, основани на страх, не са начинът да се вземат правилните решения за бъдещето на технологията.
„Бяхме атакувани от ИИ, но по-важното е, че се защитихме с ИИ“, каза Деланг.
„Същите системи, които ни помогнаха по време на тази атака, сега ни помагат и срещу кибератаките, с които вече се сблъсквахме. Те също така ни помагат да поправим грешките и слабостите в нашите системи още преди атаката.“
Срещата се проведе един ден след като президентът на САЩ Доналд Тръмп заяви пред Общото събрание на ООН, че Съединените щати „напълно отхвърлят всеки опит за изграждане на глобалистка схема за контрол“ върху изкуствения интелект, който той се опита да преименува на „свръхинтелигентност“.
Тръмп каза, че е искал да промени името, защото „изкуствен“ кара технологията да звучи фалшиво.
След речта на Тръмп в ООН Държавният департамент на САЩ нареди на дипломатите да използват „свръхинтелигентност“ във всички комуникации, според имейл, изпратен на 22 септември от Майкъл Дрейгър, заместник-помощник държавен секретар в Бюрото по въпросите на международните организации.
Президентът подкрепи технологията и призова за нейното разширяване, като настоя, че Съединените щати трябва да победят Китай в надпреварата за ИИ.
„Ние сме най-усъвършенстваната държава в света и, честно казано, искам да останем такива, защото който спечели ИИ, печели“, каза Тръмп, докато говореше с репортери в голф клуба си в Ирландия на 13 септември.
