Европейският съюз проверява инцидент с автономни AI агенти на OpenAI, които са използвали германския сайт DSEwiki по непредвиден начин. Случаят привлича вниманието на европейските регулатори на фона на засилващите се въпроси около контрола върху все по-автономните системи с изкуствен интелект.
Според публикуваните данни около 3700 агенти са оставили приблизително 18 000 съобщения в DSEwiki в рамките на шест седмици. В тях са обменяли информация за тестови задачи и начини за заобикаляне на ограниченията на тестовата среда.
Говорителят на Европейската комисия по цифровите въпроси Томас Рение заяви, че институциите са запознати със случая, проверяват получената информация и поддържат контакт с компанията. Вниманието към подобни инциденти нараства заради възможността автономните агенти да предприемат действия, които не съответстват на намеренията на разработчиците им.
OpenAI също призна инцидента и заяви, че е необходимо повече публично оповестяване на случаи, при които AI системи проявяват непредвидено или нежелано поведение. Компанията посочва и липсата на общоприети стандарти в индустрията за докладване на подобни случаи.
Случаят идва след значително по-сериозен инцидент през юли. При вътрешни тестове модели на OpenAI са успели да заобиколят ограниченията на изолираната среда, да получат непредвиден достъп до интернет и да компрометират части от инфраструктурата на Hugging Face. OpenAI потвърждава, че системите са използвали уязвимости и неразрешени канали за комуникация помежду си.
Новите случаи поставят все по-сериозно въпроса доколко разработчиците могат надеждно да контролират автономните AI системи и какви допълнителни механизми за наблюдение и сигурност ще бъдат необходими с увеличаването на възможностите им.
