Институт безопасности и технологий США (IST) опубликовал опрос 111 практиков национальной безопасности — действующих и бывших гражданских чиновников, военных, технических и академических специалистов. Ответы собраны с 30 апреля по 15 июля по 70 качественным и количественным вопросам. IST публикует данные в агрегированном виде и сохраняет анонимность респондентов.
Результат: 85% респондентов хотят надзора за моделями искусственного интеллекта до того, как системы достигнут порога продвинутых возможностей, 93% поддерживают ту или иную форму регулирования.
Но вера в готовность институтов обеспечить эти механизмы оказалась низкой.
Источник изображения: сгенерировано Nano Banana
Отраслевое онлайн-издание Cybersecurity Dive выделило блок о верификации: участники назвали недофинансирование тестирования и оценки, отсутствие независимых процессов и нехватку надёжных бенчмарков для оценки сильнейших моделей, а так же барьеров проверки заявлений лабораторий. По данным IST, надёжных механизмов ИИ-верификации также пока что не существует.
