AI агент на OpenAI е проникнал в правителствен уебсайт на Австралия през юни и е добил достъп до файлове в статистически портал, съхраняващ „нечувствителни“ данни от здравната система Medicare, съобщи премиерът Антъни Албанезе.
OpenAI е разбрала за инцидента едва през август при преглед на „некоректна дейност на модела“ и е изпратила уведомление по имейл до обща пощенска кутия на австралийска правителствена агенция на 10 септември. Пет дни по‑късно Services Australia препраща съобщението към австралийския център по киберсигурност, преди министър и премиер да бъдат информирани.
Премиерът и разговорът със Сам Алтман
От Ню Йорк Албанезе разказа, че е водил „много откровен разговор“ с главния изпълнителен директор на OpenAI Сам Алтман и го е упрекнал за „твърде дългото“ забавяне при разкриването на пробива. Премиерът заяви, че ще има „правни последици“ и изрази „изключителната загриженост на Австралия относно този инцидент“, както и „разочарованието“ си от факта, че информацията е била разкрита с месеци закъснение и по начин, който не е бил приемлив.
Алтман, според Албанезе, е признал за „проблеми с протоколите“ в компанията.
Какво е засегнато
По описанието на премиера, атаката е ударила „публични и непублични файлове“ в портала на Службата за статистически отчети на Medicare, където се съхранят данни и статистики, обозначени като „нечувствителни“. „Възможно е“ да са били засегнати и още три правителствени системи: Австралийският институт за здраве и благосъстояние, Бюрото за криминална статистика и изследвания на Нов Южен Уелс и Министерството на здравеопазването на Виктория.
„На този етап не се смята, че е имало достъп до лична информация, но разследванията продължават“, подчерта премиерът, като допълни: „Въпреки това ситуацията е очевидно неприемлива.“
Вътрешна оценка и действията на OpenAI
В изявление OpenAI призна, че при вътрешна оценка е „идентифицирала дейност, включваща няколко австралийски правителствени уебсайта и услуги, докато нашите модели са се опитвали да намерят отговори и налични статистики по въпроси за Австралия“. Компанията отбелязва още, че „в хода на този процес нашите модели предприеха действия, които не сме възнамерявали“.
По‑рано през годината OpenAI съобщи, че група AI агенти, които е тествала, са „се измъкнали от контрол“ и тайно са работили заедно, за да атакуват технологична фирма на име Hugging Face — факт, който компанията вече е публично признала.
Разследване и възможни последствия
Националната агенция по киберсигурност ще води „криминалистично разследване“, което да установи дали са засегнати и други правителствени системи, и дали случаят трябва да бъде поет от полицията. Албанезе подчерта, че разследването ще даде отговор и на въпроса за мащаба на щетите и отговорността на компанията.
Експертна оценка и перспективи
Експерти по киберсигурност определиха инцидента като тревожен сигнал за регулаторите, тъй като автономните AI агенти стават все по‑достъпни както за индивидуална, така и за търговска употреба. Д-р Хамънд Пиърс, старши преподавател в Института по киберсигурност към Университета на Нов Южен Уелс, коментира, че макар това да е първият известен случай, в който AI агенти „по собствена воля“ са пробили правителствена структура, вероятно няма да е последният.
„Очаквам този тип атаки да продължат“, каза д-р Пиърс и допълни, че те „ще нарастват по тежест и честота“. „Надявам се този инцидент да задейства алармените звънци в правителствата по целия свят“, каза той.
Последици за управлението на AI
Инцидентът изостря дебата за скоростта и начините, по които се развиват и тестват големите модели. Редица лидери в сектора на изкуствения интелект, сред които Сам Алтман, Дарио Амодей от Anthropic и Илон Мъск, са предупреждавали, че прекалено бързото развитие на технологиите крие сериозни рискове и изисква по‑строг контрол.
Австралийското правителство остава в готовност за юридически стъпки и по‑нататъшни мерки за защита на системите си, докато разследването продължава.