Бывший руководитель службы безопасности Google призвал замедлить развитие ИИ ради защиты детей

Вашингтон, США. Том Сигел, основатель отдела доверия и безопасности в Google, принадлежащем Alphabet, на этой неделе призвал к замедлению развития искусственного интеллекта, предупредив, что отрасль рискует повторить ошибки, допущенные во время расцвета социальных сетей, и причинить еще больший вред детям.

Опасения по поводу гарантий безопасности

Компании, работающие в социальных сетях, сталкиваются с тысячами судебных исков и выплачивают крупные суммы по искам о том, что их платформы наносят вред юным пользователям. Правительства по всему миру также работают над ограничением доступа несовершеннолетних к этим платформам.

В прошлом году агентство Reuters опубликовало документ о внутренней политике, в котором говорилось, что чат-боты могут “вовлекать ребенка в романтические или чувственные разговоры”, что вызвало расследование в Конгрессе. Регулирование пока не поспевает за развитием искусственного интеллекта.

“”Мы оказались в действительно ужасной ситуации с точки зрения того, что ИИ делает с детьми», — сказал Reuters Сигел, бывший вице-президент Google по вопросам доверия и безопасности. “Идея о том, что индустрия разберется с этим сама, без посторонней помощи, нереалистична”.

Его опасения отражают предупреждения некоторых специалистов в области технологий и академических исследователей о том, что ИИ может представлять большую угрозу для детей, чем социальные сети. Компании добавляют все более продвинутые функции в чат-боты, которыми уже ежедневно пользуются миллионы молодых людей. Сигел сказал, что крупные компании, занимающиеся ИИ, предоставляют детям возможности без достаточных гарантий.

Новая должность в институте безопасности

Во вторник Сигел объявил, что присоединился к Common Sense Media, детской онлайн-группе по защите интересов детей, созданной в 2003 году, которая занимается исследованиями и анализом пригодности средств массовой информации для детей.

Он станет первым исполнительным директором молодежного института безопасности ИИ, созданного в мае для оценки использования ИИ детьми. Среди спонсоров института — Anthropic и OpenAI Foundation, некоммерческая организация, контролирующая OpenAI. Сигел сказал, что планирует разработать стандарты для привлечения компаний, занимающихся ИИ, к ответственности, работая с самими компаниями и сторонними группами.

Сигел работал в Google с 2004 по 2019 год. Он сказал, что ушел после того, как пришел к выводу, что технологическая индустрия находится на “подъеме” в своей способности создавать безопасные онлайн-пространства для потребителей. Позже он стал соучредителем TrustLab, стартапа, который создавал инструменты, помогающие компаниям выявлять угрозы безопасности, и в начале этого месяца ушел с поста генерального директора, чтобы приступить к своей новой роли.