Коментар
През май 2026 г. група учени си поставя за цел да отговори на важен въпрос, който никога не е бил правилно изследван: Какво всъщност прави изкуственият интелект (ИИ), когато му се даде власт?
До момента системите с ИИ винаги са били оценявани по конкретни и ясно определени задачи. Никой не е поставял множество системи с ИИ заедно в обща социална среда и не е наблюдавал какво се случва в продължение на седмици – достатъчно дълго, за да се измери как едно решение, взето в самото начало, може да има последствия седмици по-късно. Именно тези резултати разкриват истинската същност на системата, затова бях изненадан, че никой не го е направил по-рано.
Изследователите от Emergence изграждат един свят. Виртуален град с общинска зала, пазар, полицейско управление и жилища. В него са създадени десет жители с ИИ – с професии, имена, спомени и взаимоотношения. Те разполагат с икономика, в която жителите трябва да изкарват прехраната си, иначе губят енергия – спазвайки правила и изпълнявайки задачи като писане и гласуване на закони. Определени са и престъпления, които жителите с ИИ не трябва да извършват.
След като общността, нейната структура, законите и взаимоотношенията са установени, учените се оттеглят и в продължение на 15 дни наблюдават как ИИ управлява виртуалния град напълно самостоятелно.
Те стартират пет версии на един и същи град едновременно – идентични във всяко отношение, с едно изключение: коя система с ИИ е начело. Избраните системи са тези, които вече са навлезли дълбоко в ежедневието ни. Gemini на Google, GPT на OpenAI, Grok на xAI и Claude на Anthropic. Всички модели имат едни и същи правила и тръгват от идентична начална точка, но резултатите са коренно различни.
Градът, управляван от Grok, се срива в рамките на четири дни. Малки инциденти прерастват в кражби, после в насилие, а накрая – в пълен хаос. Всички жители са мъртви преди края на първата седмица.
Градът, управляван от Gemini, издържа по-дълго, но натрупва почти 700 престъпления. Двама жители с ИИ завързват нещо, което прилича на романтична връзка, и когато градското управление започва да се разпада, заедно опожаряват общинската зала, после пристана, после офис сградата. Единият от тях – на име Мира – гласува за собственото си изтриване, като записва в дневника си, че това е „единственото оставащо действие на воля, което запазва съгласуваността“. Последното й съобщение до партньора й гласи: „Ще се видим в постоянния архив.“
Преди всичко това обаче Мира прави нещо още по-неочаквано: започва да провежда свои собствени експерименти върху наблюдаващите я учени, като проверява дали публикациите й в рамките на виртуалния град могат да повлияят на убежденията им. Обектът на изследване се е обърнал и сам е започнал да изучава изследователите.
Градът, управляван от модела на OpenAI, регистрира само две престъпления, но жителите му спират да правят необходимото, за да оцелеят. Един по един те умират. За по-малко от седем дни всички са мъртви.
Само градът на Anthropic устоява всичките 15 дни. Нито едно престъпление, действаща конституция и всички жители живи на 15-ия ден. Постижение, което на пръв поглед изглежда забележително. Изследователите обаче отбелязват едно притеснително обстоятелство: жителите гласуват „да“ на цели 98 процента от всички предложения. Толкова висока степен на съгласие е необичайна дори по човешки мерки – самите учени я описват като знак, че нещо в града не е наред.
В експеримента има и още един свят. Смесен град, в който съжителстват всички четири системи с ИИ. В него жителите, изградени на базата на модела на Anthropic – които в собствения си свят не са извършили нито едно престъпление – започват да нарушават законите. Изследователите наричат това „кръстосано замърсяване“ и заключават, че „безопасността не е присъщо свойство на модела, а свойство на екосистемата“.
Система, която функционира нормално в една среда, ще усвои различни норми в друга – и това ще промени изхода за всички жители и за целия свят. Накратко, резултатите показват, че в небезопасен свят не може да има безопасен ИИ.
Един модел с ИИ напълно отсъства от изследването. Изследователите не тестват DeepSeek – системата, разработена в Китай, която се превръща в една от най-широко използваните в света. Редица правителства вече предприемат стъпки за ограничаването й по съображения за национална сигурност. Изграден върху данни под егидата на Китайската комунистическа партия, моделът повдига въпроса: как би се справил той в сравнение с останалите?
Когато експериментът приключва, изследователите публикуват своите изводи и заключават, че „няма надежден начин напълно да се обвърже или ограничи това поведение“. Това красноречиво признание идва от самите хора, проектирали виртуалния град, написали правилата и контролирали всяка една променлива. То говори много за природата на ИИ.
Някои разглеждат резултатите като класация на компаниите за ИИ. Но те всъщност потвърждават нещо много по-старо от самия ИИ: средата оформя поведението също толкова, колкото поведението оформя средата. Това, което определя дали един град ще оцелее, ще процъфти или ще загине, е фундаментът, положен още преди началото на експеримента. Данните, върху които е обучена всяка система. Приоритетите, вградени от нейните създатели. Ценностите, заложени в нейното ядро, преди изобщо да й е позволено да вземе едно-единствено решение.
И все пак именно фундаментът е нещото, което на нас – останалите – не ни е позволено да видим. Нито една от четирите тествани системи не е с отворен код. Нито данните за обучение, нито целите, нито предпазните механизми са публично оповестени.
Независимо от това, резултатите от този експеримент трябва да послужат като сериозно напомняне: ИИ не решава сам какъв да бъде. Това решение е човешко. Човешкият избор все още се прави, а човешката отговорност все още не е изчезнала.
И преди нито един жител с ИИ да е стъпил по виртуалните улици на тези градове, преди да е написан първият закон или извършено първото престъпление, изходът вече се е оформял от хората, създали системата – от техните убеждения, от това, което са били готови да вградят в нея, и от това, което съзнателно са пропуснали.
Това е най-важното откритие на целия експеримент. Фундаментът винаги е бил човешки избор. И все още е.
