Никосия, Кипр. В статье предупреждается, что ключевой упущенный из виду риск ИИ для кипрских фирм заключается не в том, что машины выходят из-под контроля, а в том, что ИИ выполняет существующие полномочия, встроенные в системы компании. Это поднимает практические вопросы о том, какие инструменты ИИ можно видеть и что можно делать, когда они интегрированы в повседневную работу.
Полномочия ИИ, встроенные в существующие системы
В статье утверждается, что ИИ выполняет функции, которые уже существуют в организационных системах, большая часть которых не была спроектирована с учетом машин. Поскольку ИИ становится частью повседневных рабочих процессов, компаниям настоятельно рекомендуется уточнить, к каким системам ИИ может получить доступ и какие действия они могут выполнять.
Пример непреднамеренного доступа в фирме, предоставляющей профессиональные услуги
В сценарии описывается компания, предоставляющая профессиональные услуги в Никосии, которая подключает ассистента с искусственным интеллектом к своей платформе для обработки документов, чтобы ускорить составление и обобщение. Этот инструмент быстро внедряется и становится стандартным методом поиска документов, извлечения предложений и составления ответов клиентов.
Когда клиент спрашивает, к чему имеет доступ ИИ, фирма не может уверенно ответить, поскольку ИИ работает под общей учетной записью с более широким доступом, чем требуется для его предполагаемых задач. В статье отмечается, что никаких сбоев не произошло, поскольку система работает в рамках предоставленных ей полномочий.
От моделей доступа, основанных на человеке, к машинным операторам
В статье говорится, что организации традиционно строят доступ вокруг людей, а разрешения привязаны к ролям и отзываются, когда сотрудники уходят. В нем утверждается, что ИИ – это субъект, не являющийся человеком, действующий в рамках рабочих процессов с учетными данными, разрешениями и охватом, и что отношение к ИИ как к функции может привести к тому, что он унаследует все доступные полномочия.
Рекомендуемые изменения для кипрских фирм
В статье предлагаются три дисциплинированных изменения и подробно описываются первые два. В ней фирмам рекомендуется не запускать системы искусственного интеллекта под учетными записями старших сотрудников или под учетными записями широкого круга служб, созданными для более старых интеграционных проектов. Вместо этого рекомендуется создавать специальные машинные идентификаторы для каждой системы искусственного интеллекта, привязанные к определенной бизнес-функции, чтобы повысить подотчетность и обеспечить возможность приостановки доступа без ущерба для пользователей.
Также предлагается ограничить разрешения до необходимого минимума.
Как ваша организация определяет, к чему системе искусственного интеллекта разрешен доступ и что она может выполнять в рамках своих рабочих процессов?
