В январе этого года компания Apple выдвинула жесткий ультиматум стартапу Илона Маска

В январе этого года компания Apple выдвинула жесткий ультиматум стартапу Илона Маска xAI: либо они прекращают генерацию откровенных дипфейков с помощью нейросети Grok, либо приложение будет удалено из App Store. Об этом стало известно из переписки Apple с американскими сенаторами, к которой получили доступ журналисты.

Скандал разгорелся, когда пользователи соцсети X начали массово публиковать сгенерированные искусственным интеллектом сексуализированные поддельные изображения реальных людей, включая женщин и детей. Сенаторы потребовали от Apple отреагировать, указав, что подобные приложения нарушают правила магазина и подрывают репутацию компании как гаранта безопасности пользователей.

Как выяснилось, Apple признала нарушения и в частном порядке потребовала от разработчиков внедрить строгую модерацию контента. Причем первый предложенный командой Маска вариант защиты Apple отклонила как слишком слабый. Лишь после того как xAI внесла дополнительные серьезные изменения, обновленная версия Grok была одобрена и оставлена в магазине.

Сейчас представители соцсети X заявляют, что строго запрещают создание изображений реальных людей без их согласия и постоянно совершенствуют свои фильтры защиты. И хотя поток подобных дипфейков действительно значительно уменьшился, журналисты отмечают, что система все еще не идеальна. Пользователи по-прежнему находят лазейки и обходят запреты, просто немного меняя формулировки своих текстовых запросов к нейросети.