Глава ООН по правам человека предупредил, что передовой ИИ может представлять экзистенциальную угрозу

Женева, Швейцария. Верховный комиссар ООН по правам человека Фолькер Тюрк предупредил в понедельник, что продвинутый искусственный интеллект может стать достаточно мощным, чтобы угрожать человечеству, и заявил, что будет призывать компании снизить риски.

Выступая в Совете ООН по правам человека перед началом своего второго президентского срока в следующем месяце, Терк призвал к срочным мерам по обеспечению безопасности ИИ.

Призываем к мерам по обеспечению безопасности

“Я разделяю опасения представителей отрасли, что продвинутый ИИ может представлять угрозу существованию человечества”, — сказал Терк совету.

“Я призываю вас приложить все усилия, чтобы обеспечить надежные гарантии безопасности ИИ, пока не стало слишком поздно”.

Власть сосредоточена в руках немногих

Не называя компаний, Терк предупредил, что небольшое число людей обладает “почти неограниченной властью над ИИ”. Крупнейшие компании в области ИИ включают Meta, Anthropic, OpenAI и Google.

“Как минимум, нам нужно, чтобы страны, принимающие искусственный интеллект, и те, кто участвует в его цепочках поставок, объединились вокруг согласованных ”красных линий»», — сказал он.

Предыдущие усилия ООН

Замечания Терка перекликаются с предыдущими предупреждениями руководителей искусственного интеллекта, включая исполнительного директора OpenAI Сэма Альтмана, о риске вымирания человечества из-за ИИ.

Организация Объединенных Наций призвала к согласованию правил для снижения рисков, связанных с ИИ, и провела свое первое глобальное совещание по управлению ИИ в июле.