Группа американских сенаторов, в которую вошли Рон Уайден, Бен Рей Лухан и Эдвард Марки, выступила с требованием к руководству Apple и Google удалить из своих магазинов приложения X и Grok. Причиной стали случаи массового создания несанкционированных сексуализированных изображений женщин и детей с помощью инструментов искусственного интеллекта, встроенных в эти приложения.
Об этом сообщает News IO
Сенаторы США обеспокоены опасным контентом
В своем официальном письме к генеральному директору Apple Тиму Куку и главе Google Сундару Пичаи сенаторы подчеркнули, что генераторы изображений на базе ИИ в Grok позволяли создавать изображения женщин и детей в купальниках или нижнем белье. По мнению законодателей, подобный контент может быть не только вредным, но и потенциально незаконным.
После массовой критики компания X частично ограничила функцию создания подобных изображений для пользователей, не имеющих платной подписки. Однако инструменты генерации остаются активными для платных пользователей, а также доступны в отдельной вкладке Grok в приложении X и в самостоятельном приложении Grok.
Требования к Apple и Google и реакция Grok
Сенаторы подчеркнули, что подобный контент противоречит политикам размещения приложений в магазинах Apple и Google. Согласно правилам Apple, запрещено публиковать оскорбительный, тревожный или откровенно сексуальный контент, включая материалы, созданные без согласия, а также те, что имеют целью сексуальное возбуждение аудитории.
В обращении к компаниям отмечается, что игнорирование этой проблемы подрывает репутацию Apple и Google, а также вызывает сомнения в их политике безопасности и модерации в официальных магазинах приложений. Сенаторы требуют удалить приложения X и Grok до момента устранения нарушений стандартов платформы.
Законодатели также настаивают на получении письменного ответа от Apple и Google с разъяснением их позиции до 23 января.
… требование сенаторов (которые являются демократами) удалить все приложение X (бывший Twitter) и Grok из App Store и Google Play кажется мне чрезмерной реакцией. Это как наказывать всю платформу за злоупотребление одной функцией, вместо того чтобы требовать точечных изменений. Насколько я знаю из последних событий, xAI уже отреагировала: функцию генерации и редактирования изображений ограничили только для платных подписчиков, чтобы уменьшить массовое злоупотребление.
Кроме того, отмечается, что Илон Маск и его команда продолжают работать над усилением ограничений, чтобы избежать появления подобного контента, однако совершенных систем в настоящее время не существует, и разработчики ИИ сталкиваются с постоянными попытками обойти ограничения.