Амстердам, Нидерланды. Голландский суд обязал компанию Илона Маска xAI и ее чат-бота Grok прекратить создание и распространение изображений, на которых взрослые или дети “раздеваются” или изображены в сексуальных позах практически без одежды, без согласия Нидерландов.
Судебный приказ и штрафные санкции
В письменном решении Амстердамский суд издал предварительный судебный запрет, запрещающий xAI и Grok “создавать и/или распространять изображения сексуального характера … в результате чего людей частично или полностью раздевают догола без их явного разрешения”. Суд заявил, что будет налагать штрафы в размере 100 000 евро (115 350 долларов) в день, если компании не будут соблюдать требования.
Суд также обязал xAI не предлагать Grok на платформе социальных сетей X, ранее называвшейся Twitter, в нарушение приказа.
Дело возбуждено голландскими некоммерческими организациями
Дело было возбуждено голландской некоммерческой организацией Offlimits, которая борется с сексуальным насилием в Интернете, в сотрудничестве с некоммерческим фондом поддержки жертв.
Юрист xAI в Нидерландах направил вопросы в xAI. xAI не ответила на запросы о комментариях.
Аргументы и меры предосторожности xAI
На слушаниях в этом месяце xAI утверждала, что не может остановить все злоупотребления своими инструментами и не должна быть наказана за действия злоумышленников. Ее юристы заявили, что в январе компания ужесточила меры предосторожности, чтобы помешать Grok редактировать изображения реальных людей, превращая их в откровенную одежду, в том числе ограничив создание изображений платными подписчиками.
Директор Offlimits Робберт Ховинг (Robbert Hoving) сказал, что судьи отклонили это решение как недостаточное после того, как демонстрация в зале суда 9 марта показала, что Grok все еще может “раздевать” цифровые изображения людей без их согласия. По словам Ховинга, “ответственность за то, чтобы ее инструменты не использовались для создания изображений сексуального характера без согласия сторон или с использованием искусственного интеллекта”.
Более широкий европейский контроль
Это решение было принято в связи с тем, что европейские регуляторы усилили проверку Grok и других инструментов искусственного интеллекта в соответствии с Законом ЕС о цифровых услугах, который требует от крупных платформ пресекать незаконный контент. В январе Европейская комиссия начала официальное расследование в отношении X из-за рисков, связанных с внедрением Grok в ЕС, включая манипулирование изображениями сексуального содержания.
В четверг Европейский парламент также поддержал запрет на приложения для обнажения с помощью искусственного интеллекта, которые создают изображения сексуального содержания или манипулируют ими.
Как, по-вашему, платформы должны нести ответственность за инструменты искусственного интеллекта, которые могут генерировать сексуальные образы без обоюдного согласия?
