Обширен доклад на Anthropic описваше как Иран е използвал моделите за изкуствен интелект (AI) на американската компания, за да проследява и набелязва кораби на Военноморските сили на САЩ в Близкия изток, както и как Китай е използвал технологията за наблюдение на журналисти и религиозни групи, набелязани от Пекин
Докладът от 154 страници, публикуван на 10 септември, установява, че свързана с Иран група е използвала Claude на Anthropic, за да съставя наръчници за набелязване на цели с цел идентифициране и проследяване на позиции на Военноморските сили на САЩ в Близкия изток въз основа на информация от открити източници, включително военни снимки, транспондери на кораби и самолети, търговски сателитни изображения и масив от публични уебсайтове, разкриващи движенията на американската армия.
Anthropic заяви, че е забранила акаунта, свързан с тази дейност, въвела е механизми за откриване, за да намали риска от бъдеща злоупотреба с нейните AI модели, и е споделила анализа на заплахата с държавните власти.
Заплахата е една от няколкото, посочени в доклада, в които противници на САЩ вече използват AI по начини, които застрашава националната сигурност, включително за разработване на нови ракети и кампании за дезинформация, шпионаж, изследвания върху потенциалното разработване на биологични оръжия и наблюдение на журналисти и конкретни религиозни групи.
Американските законодатели в момента обсъждат потенциално законодателство за въвеждане на предпазни механизми за AI на фона на нарастващи опасения, че технологията представлява значителна заплаха за националната сигурност и човешкия живот.
Опасенията относно екзистенциалните заплахи от AI се засилиха миналата седмица, след като изследовател от Anthropic подаде оставка и предупреди, че лидери в индустрията сериозно вярват, че технологията може да унищожи човечеството до 2030 г. Други в тази област споделиха същото мнение, включително Евън Хюбингър от Anthropic и няколко експерти по AI, които са разговаряли с The Epoch Times.
„Ние наистина искрено вярваме, че AI може да убие всички хора! Аз лично смятам, че вероятността за това през следващото десетилетие е над 10%“, написа Хюбингър в социалните мрежи. „Смятам, че Anthropic прави всичко възможно, но все още нямаме план как да решим проблема със съгласуването при свръхинтелигентност и не е ясно, че сме на път да го направим.“
Докладът на Anthropic от четвъртък също така описва усилията на група в Северен Йемен, която е използвала Claude за разработване на ракети.
Хутите в Йемен се оказват една от по-устойчивите подкрепяни от Иран групи в региона и неотдавна поеха контрол над критично важния воден път Баб ал-Мандеб, който е ключов енергиен морски маршрут през Червено море.
Докладът представя пет примера за злонамерени участници, които са използвали моделите на Anthropic „по начини, които биха могли да подпомогнат разработването на биологични оръжия“. Тези участници са заобиколили механизмите за контрол на Anthropic, предназначени да възпрепятстват потребители от „неподдържани региони“ да получат достъп до технологията ѝ.
Компанията заяви, че не оповестява имената на изследователските институции и страните им на произход, тъй като замесените лица са „действащи учени“, които биха могли да бъдат изложени на риск, ако идентифициращата информация стане публична.
„Без правилните предпазни мерки подобни способности биха могли да имат катастрофални последици“, заяви Anthropic в доклада.
Операция, свързана с китайския режим, е използвала Claude, за да проследява уйгури, които наскоро са се присъединили към новосформираната сирийска армия, и да се опитва да ги вербува като шпиони, се посочва в доклада. Същият участник е използвал Claude и за локализиране на уйгурски бизнеси и обекти от интерес в Сирия, както и за наблюдение на журналисти в цялата уйгурска диаспора.
През 2021 г. Съединените щати определиха нападението на китайския режим срещу уйгурите като официален геноцид.
Отделно, докладът също така установява, че лица, свързани с китайския режим, са използвали Claude – и китайски AI системи, които са обслужвали Claude – за набелязване и наблюдение на членове на няколко религиозни групи, преследвани от Китайската комунистическа партия, стигайки дотам да разработват досиета за техните лидери в цяла Азия.
Сред набелязаните са били католически кардинали в Азия, лидери на Презвитерианската църква в Тайван, представители на тибетското будистко гражданско общество и практикуващи Фалун Гонг, както и базираната в Ню Йорк Shen Yun Performing Arts и NTD, сродната медия на The Epoch Times, според доклада.
