Група американських сенаторів, до якої увійшли Рон Вайден, Бен Рей Лухан і Едвард Маркі, виступила з вимогою до керівництва Apple і Google видалити зі своїх магазинів застосунки X та Grok. Причиною стали випадки масового створення несанкціонованих сексуалізованих зображень жінок і дітей за допомогою інструментів штучного інтелекту, вбудованих у ці застосунки.
Про це розповідає News IO
Сенатори США занепокоєні небезпечним контентом
У своєму офіційному листі до генерального директора Apple Тіма Кука та очільника Google Сундара Пічаї сенатори наголосили, що генератори зображень на базі ШІ у Grok дозволяли створювати зображення жінок і дітей у бікіні або спідній білизні. На думку законодавців, подібний контент може бути не лише шкідливим, а й потенційно незаконним.
Після масової критики компанія X частково обмежила функцію створення подібних зображень для користувачів, які не мають платної підписки. Проте інструменти генерації залишаються активними для платних користувачів, а також доступні у окремій вкладці Grok у застосунку X та у самостійному застосунку Grok.
Вимоги до Apple і Google та реакція Grok
Сенатори підкреслили, що подібний контент суперечить політикам розміщення застосунків у магазинах Apple і Google. Згідно з правилами Apple, заборонено публікувати образливий, тривожний або відверто сексуальний контент, включаючи матеріали, створені без згоди, а також ті, що мають на меті сексуальне збудження аудиторії.
У зверненні до компаній зазначається, що ігнорування цієї проблеми підриває репутацію Apple і Google, а також викликає сумніви щодо їхньої політики безпеки та модерації в офіційних магазинах додатків. Сенатори вимагають видалення застосунків X і Grok до моменту усунення порушень стандартів платформи.
Законодавці також наполягають на отриманні письмової відповіді від Apple і Google із роз’ясненням їхньої позиції до 23 січня.
… вимога сенаторів (які є демократами) видалити весь додаток X (колишній Twitter) і Grok з App Store та Google Play здається мені надмірною реакцією. Це як карати всю платформу за зловживання однією функцією, замість того, щоб вимагати точкових змін. Наскільки я знаю з останніх подій, xAI вже відреагувала: функцію генерації та редагування зображень обмежили тільки для платних підписників, щоб зменшити масове зловживання.
Крім того, зазначається, що Ілон Маск і його команда продовжують працювати над посиленням обмежень, щоб уникнути появи подібного контенту, проте досконалих систем наразі не існує, і розробники ШІ стикаються з постійними спробами обійти обмеження.