Профессор предупреждает: ИИ может привести к утрате самостоятельного мышления

Пафос, Кипр. Самой большой опасностью, исходящей от искусственного интеллекта, может быть то, что люди постепенно теряют уверенность в своей способности мыслить и принимать решения без него, считает профессор Неаполисского университета в Пафосе Саввас А. Хаджихристофис.

По мере быстрого развития передовых систем искусственного интеллекта, он предупредил, что более серьезной угрозой является “некритическое доверие к машине”.

Риск зависимости

Хаджихристофис, проректор по исследованиям и инновациям и профессор искусственного интеллекта в Университете Неаполиса в Пафосе, сказал Кипрскому информационному агентству, что экзистенциальная опасность может исходить не от машины, атакующей человечество.

Вместо этого, по его словам, это может быть “общество, которое больше не чувствует себя способным принимать решения без помощи машин”.

Предупреждения исследователей искусственного интеллекта

Его комментарии прозвучали в связи с тем, что высокопоставленные представители мировой индустрии искусственного интеллекта, а также исследователи, покинувшие ведущие технологические компании, выразили обеспокоенность темпами разработки передовых систем и способами их управления.

Хаджихристофис сказал, что предупреждения исследователей, уволившихся из крупных компаний в области искусственного интеллекта, заслуживают особого внимания, поскольку они исходили от людей, которые понимали системы изнутри и покинули престижные, высокооплачиваемые должности.

Он сказал, что это не означает, что их прогнозы обязательно сбудутся, но добавил: “Мы обязаны серьезно прислушаться к ним. Они видят, что чрезвычайно мощный инструмент развивается с огромной скоростью и концентрируется в руках небольшой группы компаний”.

Призывает к мерам предосторожности

Хаджихристофис проводил различие между предупреждениями исследователей и предупреждениями руководителей ведущих компаний в области искусственного интеллекта.

Он сослался на исполнительного директора Anthropic Дарио Амодея, который, по его словам, предложил постоянный доступ независимых экспертов по оценке, общие стандарты безопасности, проверки перед выпуском моделей и ограничения на использование, связанное с кибератаками или биологическим оружием.

В самом крайнем случае, по его словам, Amodei также поднял вопрос о возможности скоординированного замедления разработки.

Хаджихристофис также сослался на исполнительного директора OpenAI Сэма Альтмана, заявив, что Альтман утверждал, что прогресс должен продолжаться более медленными темпами и под более строгим контролем. Другие высокопоставленные представители отрасли выразили аналогичные опасения, добавил он.