Anthropic съобщава, че базиран в Китай изследовател в областта на отбраната, свързан с китайски военни изследователски институции, е използвал нейната система за изкуствен интелект Claude, за да създаде софтуер за радиоелектронна борба и потискане на противовъздушната отбрана, насочен срещу 12 военни обекта в Тайван
В доклад за разузнаване на заплахи, публикуван на 10 септември, Anthropic заявява, че метаданните на акаунта и съдържанието показват, че лицето е било свързано с китайски научноизследователски институции, включително Академията за военни науки на Народноосвободителната армия на Китай (НОАК). Компанията е оценила лицето като базиран в Китай изследовател в областта на отбраната и военно-промишления сектор.
Изследователят е използвал Claude, за да проектира и усъвършенства на етапи софтуерен пакет на китайски език, състоящ се от около 16 модула за радиоелектронна борба и потискане на противниковата противовъздушна отбрана. Системата е преминала през 12 версии и е моделирала откриването и заглушаването на радари, оценявала е уязвимостта на ракетни обекти и командни центрове, определяла е приоритетите на целите и е изчислявала как да бъдат разпределени полетите на самолетите за радиоелектронно заглушаване в рамките на многодневни операции.
Anthropic заяви, че е установила тази дейност по време на разследване на предполагаема разработка на оръжия и е блокирала акаунтите, свързани с изследователя.
Сценарий за Тайван
Anthropic заяви, че по средата на проекта изследователя е променил стандартния сценарий на симулацията към 12-те цели в Тайван.
Сред целите са били команден бункер, обект с радар за ранно предупреждение, батареи за противовъздушна отбрана Patriot и Tien Kung, основни военновъздушни бази и щаб на регионално бойно командване.
Tien Kung III, или Sky Bow III, е наземна система за противовъздушна отбрана „земя–въздух“, разработена от тайванския Национален институт за наука и технологии „Чунг-Шан“. Тя е предназначена за поразяване на самолети, крилати ракети, противорадиолокационни ракети и тактически ракети с малък обсег.
Радарът за управление на огъня на Patriot е бил отбранителната система, споменавана най-често във възстановените разговори, следван от радарите AN/TPS-117 и AN/TPS-75, радара на ракетната система Tien Kung и радара THAAD, съобщи Anthropic.
Най-често споменаваните атакуващи платформи са включвали дрона за електронна война Golden Eagle, няколко самолета за заглушаване Y-8 и Y-9 и самолета за електронна война J-16D.
Anthropic предупреди, че тези препратки показват върху какво се е съсредоточил изследователя, а не какви способности реално са били постигнати.
Claude е използван в целия процес по насочване към цели
Anthropic заяви, че Claude е бил използван за разработване на цели, анализ на уязвимостите, разпределяне на силите, планиране на мисии и оценка.
Изследователя е използвал модела, за да изработи изчисления за радиолокационно откриване и заглушаване, да изгради модули за анализ на уязвимостите и да подготви инструкции за насочване към цели на китайски език.
Anthropic описа системата като „захранвана със сценарии, а не с разузнаване, наблюдение и рекогносцировка в реално време“, което означава, че тя е разчитала на предварително заредени сценарии, а не на потоци от разузнавателни данни на живо.
Изследователя ъщо така е използвал самостоятелно хостван модел във вътрешна мрежа и е свързал пакета за насочване към цели с него чрез интеграция за използване на инструменти.
В доклада не се казва, че софтуерът е бил приет, тестван или внедрен от НОАК.
Връзка с изследователски институции на НОАК
Anthropic не идентифицира изследователя и не каза дали лицето е било наето от, работило по договор с или по друг начин формално свързано с Академията за военни науки на НОАК.
Публикация на тайванското Министерство на националната отбрана описва академията като най-висшата военна научноизследователска институция на НОАК. В нея се казва, че академията извършва изследвания по военна теория и основни отбранителни въпроси и предоставя стратегически съвети на Централната военна комисия.
До момента на публикуване Anthropic не отговори на въпроси дали в сценария за Тайван са били използвани реални локации или непублична военна информация, каква е била връзката на участника с академията и дали са били уведомени тайванските или американските власти.
Друг свързан с Китай проект за противоторпедна система
В същия доклад Anthropic идентифицира друг участник, базиран в Китай, който е използвал Claude в три паралелни направления на работа, свързани с оръжейна противоторпедна система.
Изследователя е изготвил спецификация за управление на огъня на китайски език и техническо предложение от над 200 страници, заедно с комплект слайдове за ръководно представяне. Той също така е сравнил системата с конкретни американски програми за противоторпедна и противокорабна отбрана и е подготвил обзор на китайски език за системи на Военноморските сили на САЩ.
Anthropic оцени, че изследователя е бил свързан с китайски производител в отбранителната индустрия, който се е стремял да изготви оръжейна спецификация и предложение за придобиване за Военноморските сили на НОАК.
Claude е бил използван също за усъвършенстване на предложението, за да действа като враждебно настроен експертен рецензент и за изграждане на части от софтуер за управление на огъня за противоторпедна система и тестова матрица.
Anthropic заяви, че не е могла да припише дейността на конкретна организация или лице и е забранила акаунта за нарушаване на нейните политики за географски достъп и разработка на оръжия.
В отделно изследване Anthropic заяви, че водещите модели на AI ( изкуствен интелект ) са били в състояние да изпълняват някои военни и разузнавателни задачи, които в миналото са изисквали редки, висококвалифицирани специалисти.
