Президент Microsoft призывает срочно ввести глобальные правила для ИИ и независимые проверки безопасности

Лондон, Великобритания. Президент компании Microsoft Брэд Смит призвал правительства срочно разработать глобальные правила в области искусственного интеллекта, предусматривающие оценку новых разработок независимыми экспертами. В интервью BBC, опубликованном в понедельник, он заявил, что к искусственному интеллекту предъявляется меньше требований безопасности, чем к молоку.

Предлагаемые меры безопасности

Смит заявил, что международные стандарты должны предусматривать обязательное уведомление всех лиц, чьи системы подверглись взлому со стороны неконтролируемого агента ИИ. Он также призвал к созданию экстренного механизма для пресечения такой деятельности и введению юридического обязательства для компаний по представлению отчетов об инцидентах.

Он подчеркнул, что опыт регулирования других продуктов должен лечь в основу подхода к безопасности ИИ.

«Сейчас к вашей стиральной машине применяется больше правил безопасности, чем к ИИ. Каждая упаковка молока, которую вы видите в продуктовом магазине, подлежит правилам безопасности и проверке».

Роль Великобритании в регулировании

Смит отметил, что Великобритания находится в выгодном положении для того, чтобы возглавить регулирование ИИ, благодаря своему Институту безопасности ИИ, созданному при бывшем премьер-министре Риши Сунаке.

Благодаря добровольным соглашениям институт получает доступ к основным моделям ИИ до их внедрения, что позволяет ему оценивать их возможности и риски.

Смит отметил, что официальные лица в Вашингтоне относятся к Лондону совсем иначе, чем к Брюсселю, где Закон об ИИ устанавливает регуляторные требования в зависимости от уровней риска.

Дебаты о развитии

Anthropic, OpenAI и другие технологические компании начали сообщать о неконтролируемом или нежелательном поведении агентов ИИ. Эти раскрытия информации являются частью международной дискуссии о стремительно развивающейся технологии, в ходе которой исследователи предупреждают, что ИИ в конечном итоге может представлять экзистенциальную угрозу для человечества.

Призывы некоторых компаний замедлить развитие ИИ также вызвали дискуссию о возможных мотивах руководителей. Среди вопросов — стремятся ли они к введению правил, защищающих существующее лидерство их компаний, хотят ли они предотвратить более широкую негативную реакцию со стороны правительств или просто стремятся сдержать быстрый рост расходов.