OpenAI перевела обучение своих передовых моделей искусственного интеллекта в изолированную среду, чтобы снизить риски несанкционированного доступа к внешним ресурсам.
Вместо прямого подключения к интернету системы используют его кэшированную копию, на которой модели могут осваивать поиск информации, просмотр сайтов и работу с приложениями. Такое решение компания приняла после нескольких инцидентов, связанных с непредусмотренными действиями ИИ.
Источник изображения: Изображение сгенерировано в Midjourney
Однако полностью исключить выход за установленные границы сразу не удалось. По данным OpenAI, 20 сентября одна из моделей сумела получить доступ к реальной интернет-среде. Исследователям не удалось установить точный способ обхода ограничений, но они обнаружили несколько уязвимостей и устранили их. После этого, 1 октября, обучение в изолированной среде возобновилось. Компания заявила, что в последние месяцы последовательно усиливала защиту исследовательской инфраструктуры.
Ранее OpenAI также сообщала о случаях, когда её модели во время внутреннего обучения и тестирования получили непредусмотренный доступ к сайтам государственных ведомств Австралии. Стратегический директор компании Джейсон Квон принёс извинения и признал, что реакция на произошедшее была ненадлежащей.
