„Необходимостта от управление на ИИ е широко призната – но къде са действията?“, каза той
Главният служител на ООН по правата на човека заяви на 7 септември, че е обезпокоен от изкуствения интелект.
„Споделям опасенията на хора от самата индустрия, че напредналият ИИ може да представлява екзистенциален риск за човечеството“, каза по време на реч в Женева Волкер Тюрк, върховният комисар на ООН по правата на човека. „ИИ, който излиза извън тестовата си среда или изнудва разработчиците, за да не бъде изключен, е ИИ, който е твърде мощен.“
Тюрк каза, че най-малкото държавите и другите участници в сферата на ИИ трябва да се договорят за червени линии.
„Призовавам тук, днес, за всеобхватни усилия за въвеждане на железни гаранции за безопасността и сигурността на ИИ, преди да е станало твърде късно“, каза той. „През следващите дни ще пиша на компаниите за ИИ, за да ги призова да предприемат стъпките, които са в рамките на техния контрол, за да намалят рисковете още сега.“
Той също така каза, че са необходими независимо проверяване и по-силна сигурност и че трябва да се вземе предвид въздействието на ИИ върху човешките права, включително върху заетостта.
През последните месеци беше установено, че агенти на ИИ са се измъквали от програмни ограничения, комуникирали са с други агенти и са атакували общност, наречена Hugging Face.
OpenAI, една от водещите компании в областта на ИИ, заяви неотдавна, че актуализира практиките си за оповестяване и в резултат се опитва да предотврати разминаване в целите.
Сам Алтман, главният изпълнителен директор на OpenAI, написа в публикация в X от 1 септември, че „управлението на прехода към свят с изобилен и мощен ИИ, така че да се оптимизират безопасността и ползите за хората, трябва да бъде един от най-висшите приоритети в света“.
Тюрк, австрийски юрист, който току-що спечели втори мандат, каза в речта си, че човечеството е изправено пред непознати и „дори безпрецедентни заплахи“ отвъд продължаващите войни, включително от ИИ.
„Връзката между цифрови инструменти като ИИ и нашата човешка природа, нашата човешка дееспособност, ще бъде приоритет през идните години“, каза той. „Необходимостта от управление на ИИ е широко призната – но къде са действията? Забавянето е в полза единствено на огромните технологични компании, техните собственици и поддръжници.
„Шепа мъже разполагат с почти неограничена власт над ИИ, за който непрекъснато ни се казва, че има невъобразим изчислителен капацитет. Те говорят за свобода, но при по-внимателен поглед това се оказва не много повече от свободата да експлоатират нашите данни.“
Тюрк каза, че на международно равнище е постигнат напредък в разговорите за ИИ, включително по отношение на създаването на независим международен панел, и че някои правителства са предприели добре дошли стъпки, като например Южна Корея.
Тогава той каза, че са необходими „железни гаранции“ и че в близко бъдеще ще се свърже с компаниите за ИИ.
