Никосия, Кипр. В статье говорится, что основной риск, связанный с системами искусственного интеллекта, заключается не в том, что они действуют непредсказуемо, а в том, что они выполняют существующие модели разрешений в точности так, как они настроены, в том числе с ошибками. В нем утверждается, что когда ИИ подключается к общим учетным записям или давним учетным данным, он может унаследовать накопленный за годы доступ со скоростью компьютера.
ИИ описывается как реализующий существующие структуры полномочий
В статье говорится, что ИИ сам по себе не ослабляет управление, а вместо этого выполняет ту структуру полномочий, которая уже существует. Утверждается, что системы ИИ “очень послушны” и применяют существующие разрешения со скоростью и последовательностью, превышающими возможности человека, что может создать значительный риск для бизнеса, если эти разрешения были разработаны для использования человеком.
Риски, связанные с неопределенными полномочиями и унаследованными разрешениями
В статье говорится, что проблема заключается не в внедрении ИИ на Кипре, а в полномочиях, которые никогда намеренно не определялись до появления ИИ. В нем говорится, что разрешения, разработанные для человеческих рабочих процессов, приобретают другой профиль риска при непрерывном и масштабном выполнении системами искусственного интеллекта, подключенными к существующим идентификаторам.
Примеры интеграции Gemini и ChatGPT
В статье описывается юридическая фирма в Лимассоле, которая использовала Google Gemini для ускорения рассмотрения документов, и в течение 48 часов система обобщала контракты и извлекала положения из предыдущих соглашений. В нем говорится, что ИИ также просмотрел файлы клиентов за семь лет, переговоры о слиянии и внутренние стратегические заметки, поскольку он работал под учетной записью управляющего партнера, и что никто не одобрил эту область применения ИИ, поскольку она уже была включена в разрешения учетной записи.
В нем также описывается компания, предоставляющая финансовые услуги в Никосии, которая подключила OpenAI ChatGPT к общей среде OneDrive, используемой для совместной работы команды. В статье говорится, что со временем учетная запись получила доступ к файлам KYC и отчетам о транзакциях, что десять сотрудников использовали этот логин, и что после интеграции присоединился одиннадцатый пользователь, который был идентифицирован как программное обеспечение, а не как человек.
“Масштабируемое наследование полномочий”
В статье говорится, что в этих случаях не было никаких сбоев, и инструменты работали так, как требовалось, и были авторизованы. В статье описывается результат как “масштабное наследование полномочий”, в котором утверждается, что унаследованные полномочия умножаются при внедрении систем искусственного интеллекта и что неконтролируемый доступ может расти экспоненциально, а не продолжаться, как раньше.
Факторы, влияющие на рынок Кипра, приводят к увеличению рисков
В статье говорится, что экономическая структура Кипра усиливает эти риски, ссылаясь на удаленное обслуживание клиентов инвестиционных компаний, трансграничные транзакции, обрабатываемые через облачные платформы платежными учреждениями, и основные системы, настроенные сторонними ИТ-провайдерами. В нем также говорится, что общие учетные записи и широкий спектр учетных данных для обслуживания – это обычные способы быстрого доступа к небольшому, быстро развивающемуся рынку, который ставит во главу угла скорость и доверие, обеспечивая постоянную структурную открытость.
Помощники с искусственным интеллектом и контекстуальная адаптация
В статье представлен сценарий, в котором компания, предоставляющая финансовые услуги, использует ассистента с искусственным интеллектом для ответа на вопросы клиентов о портфолио, используя учетную запись старшего менеджера по работе с клиентами, которая предоставляет доступ к полной истории портфолио и документации KYC. В нем говорится, что человек, использующий этот доступ, применяет профессиональное суждение в качестве контрольного уровня, понимая актуальность и конфиденциальность. В нем утверждается, что система искусственного интеллекта работает по-другому и, если ее правильно настроить, даже непреднамеренно, может извлекать и интегрировать информацию из разных портфолио или обобщать материалы, подготовленные для подачи в регулирующие органы, поскольку она не понимает, что некоторая технически доступная информация может быть неуместной в контексте.
Какие шаги предприняла ваша организация для проверки общих учетных записей и унаследованных разрешений перед подключением инструментов искусственного интеллекта?