Коалиция ведущих экспертов в области ИИ опубликовала открытое письмо с призывом к мировому сообществу заключить международный договор о безопасности искусственного интеллекта. В Лондоне 1 и 2 ноября 2023 года прошел первый Международный саммит по безопасности ИИ, и письмо обнародовано накануне этого события.
Обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио, ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, известный когнитивист Гари Маркус, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер – эти и многие другие специалисты подписали обращение.
Эксперты считают, что нужно разработать и ратифицировать договор о безопасности ИИ, который должен получить во всем международном сообществе широкое одобрение. Для этого предлагается создать на Саммите по безопасности ИИ рабочую группу по подготовке договора.
В основных положениях договора, по мнению экспертов, должны содержаться всемирные ограничения на объем вычислений для обучения какой-либо модели ИИ, создание по аналогии с «ЦЕРН» организации по безопасности ИИ для объединения ресурсов, опыта и знаний в деле безопасности ИИ, а также комиссии по соблюдению договора, роль которой аналогична роли МАГАТЭ.
Цель международного договора по безопасности ИИ – предотвращение бесконтрольного масштабирования возможностей искусственного интеллекта для сокращения глобальных рисков, которые для человечества представляют системы ИИ, а также для обеспечения доступа для всех людей к благам ИИ.
Возглавивший инициативу британский прогнозист и студент магистратуры по математике в Бергенском университете Толга Бильге заявил: «Обеспечение того, чтобы ИИ был безопасным и приносил пользу всем, является не только технической, но и геополитической проблемой. Нам нужно, чтобы великие державы мира, включая США и Китай, отложили в сторону свои разногласия ради человечества и конструктивно работали над созданием надежного набора международных правил, направленных на сосредоточение внимания на этих проблемах».
