Открытое письмо с призывом заключить международный договор о безопасности ИИ представила коалиция экспертов

4 ноября 2023

Коалиция ведущих экспертов в области ИИ опубликовала открытое письмо с призывом к мировому сообществу заключить международный договор о безопасности искусственного интеллекта. В Лондоне 1 и 2 ноября 2023 года прошел первый Международный саммит по безопасности ИИ, и письмо обнародовано накануне этого события.

Обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио, ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, известный когнитивист Гари Маркус, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер – эти и многие другие специалисты подписали обращение.

Эксперты считают, что нужно разработать и ратифицировать договор о безопасности ИИ, который должен получить во всем международном сообществе широкое одобрение. Для этого предлагается создать на Саммите по безопасности ИИ рабочую группу по подготовке договора.

В основных положениях договора, по мнению экспертов, должны содержаться всемирные ограничения на объем вычислений для обучения какой-либо модели ИИ, создание по аналогии с «ЦЕРН» организации по безопасности ИИ для объединения ресурсов, опыта и знаний в деле безопасности ИИ, а также комиссии по соблюдению договора, роль которой аналогична роли МАГАТЭ.

Цель международного договора по безопасности ИИ – предотвращение бесконтрольного масштабирования возможностей искусственного интеллекта для сокращения глобальных рисков, которые для человечества представляют системы ИИ, а также для обеспечения доступа для всех людей к благам ИИ.

Возглавивший инициативу британский прогнозист и студент магистратуры по математике в Бергенском университете Толга Бильге заявил: «Обеспечение того, чтобы ИИ был безопасным и приносил пользу всем, является не только технической, но и геополитической проблемой. Нам нужно, чтобы великие державы мира, включая США и Китай, отложили в сторону свои разногласия ради человечества и конструктивно работали над созданием надежного набора международных правил, направленных на сосредоточение внимания на этих проблемах».

Другие новости

СУЭК поддержала мероприятие для детей с ОВЗ

СУЭК выступила одним из организаторов водной прогулки для семей, которые воспитывают детей с повышенными потребностями….

Более двух миллионов человек посетили ярмарки выходного дня с февраля этого года

Основной спрос сейчас приходится на клубнику, черешню, огурцы, помидоры и абрикосы. Московские ярмарки выходного дня…

Татьяна Буланова рассказала о создании песни «Мама моя милая» на стихи Михаила Гуцериева

Самый душевный голос России, Татьяна Буланова представила на суд слушателей новую песню – «Мама моя…