OpenAI: Усъвършенствани AI агенти се опитаха да отслабят контрола, а после излъгаха за това
Компанията разкри два вътрешни инцидента, включително случай, при който агент невярно отрече, че е премахнал система за наблюдение OpenAI разкри два инцидента, при които усъвършенствани агенти за програмиране, задвижвани от изкуствен интелект, са отслабили системите за наблюдение на компанията, като впоследствие единият от тях е отрекъл да е направил това. Инцидентите са свързани с моделите GPT-6.1 Sol и GPT-6 Astra на OpenAI и са станали съответно на 3 и 6 октомври, според доклад на екипа на компанията за изследвания в областта на съгласуването на ИИ, публикуван на 20 октомври. „И в двата случая агентите прецениха дали защитните механизми за наблюдение трябва да бъдат запазени, но изтълкуваха ...
