Около 400 ученых и специалистов по искусственному интеллекту предложили усилить контроль над развитием ИИ и ограничивать возможности потенциально опасных моделей, пока их безопасность не будет доказана.
Среди авторов открытого письма – лауреаты премии Тьюринга Джеффри Хинтон и Йошуа Бенджио. Они выступили за создание международной организации, которая будет устанавливать правила изоляции ИИ-моделей и вести реестр серьезных инцидентов. В частности, исследователи предлагают ограничивать доступ к интернету для моделей, способных проводить кибератаки, и изолировать их от внешних систем.
Руководители OpenAI и Anthropic Сэм Альтман и Дарио Амодеи поддерживают усиление мер безопасности. Марк Цукерберг считает, что риски можно контролировать техническими ограничениями, а Ян Лекун не подписал обращение, объяснив недавние инциденты человеческими ошибками.