OpenAI призна, че австралийските власти е възможно никога да не са установили пробива в Medicare, извършен от един от AI агентите на компанията, ако самата тя не бе разкрила случая
Главният стратегически директор на OpenAI Джейсън Куон започна показанията си пред австралийска парламентарна комисия с извинение. Той заяви, че модел на компанията е получил достъп до австралийски правителствени сайтове по начин, за който не е бил насочен, и че това не е трябвало да се случва.
По думите му OpenAI е разбрала за събитията в средата на август и е направила уведомленията в рамките на 30 дни. Той допълни, че би предпочел те да са били изпратени по-бързо. За отделен случай, свързан със Службата за националните паркове и дивата природа на Нов Южен Уелс, компанията е подала информация до 48 часа след откриването му.
Куон пристигна в Австралия, за да даде показания пред Съвместната постоянна комисия по изкуствен интелект. Сенаторът Дейвид Покок попита дали главният изпълнителен директор Сам Алтман е знаел за инцидентите при срещата си с австралийския заместник министър-председател Ричард Марлс на 1 септември. Куон отговори, че Алтман не е бил информиран тогава.
Покок постави и въпроса защо OpenAI е изпратила имейл до ведомство вместо да се свърже по телефона с министри. Куон каза, че служителите са разглеждали случая като технически въпрос, но призна, че този подход не е бил достатъчен.
Според Куон отделните инциденти са се различавали. В един случай модел е изтеглил публично достъпна информация, в друг е използвал открит API токен, а при Services Australia е намерил непублична точка за достъп. API токенът служи като цифров идентификатор, който удостоверява достъп до определени части от система или до конкретни действия.
Депутатът от Коалицията Аарън Виоли попита колко сложни са били използваните методи. Куон заяви, че според проведените брифинги те не са били особено сложни, но подчерта, че същественото е автоматизацията: агентите ще продължат да работят към целта си да получат достъп.
OpenAI вече преглежда около 50 петабайта данни, натрупани от ноември 2025 г. Куон каза, че към момента единствените открити от компанията случаи са тези, които тя вече е докладвала.
Компанията е добавила предупреждения, за да бъдат служителите уведомявани, когато модел неочаквано получи достъп до интернет по време на обучение. Тя е спряла обучението на определени авангардни модели и ще предостави на засегнатите австралийски институции достъп до своите инструменти за киберсигурност Daybreak.
Питър Ансти, ръководител на политиките за национална сигурност в OpenAI, заяви, че австралийските случаи не са сравними по тежест с по-ранния широко отразен инцидент с Hugging Face.
На въпрос на независимата депутатка Кейт Чейни дали OpenAI би подкрепила задължително докладване на подобни инциденти, Куон отговори утвърдително. Въпросът вече се обсъжда в рамките на австралийския правителствен отговор на случая с Medicare. Правителството посочи, че нови правила за изкуствения интелект може да включват процедури за докладване на инциденти с неконтролируеми AI агенти, което би преместило отговорността от доброволните действия на компаниите към официална регулаторна система.
