Социальная сеть X (ранее известная как Twitter) объявила о существенном ограничении возможностей своего искусственного интеллекта Grok, связанных с редактированием изображений реальных людей. Это решение последовало за обвинениями в адрес чатбота, который якобы использовался для генерации фотографий с откровенным контентом без согласия изображённых лиц.
Представители компании заявили, что ИИ Grok теперь запрограммирован отклонять запросы, направленные на создание или модификацию изображений людей в непристойном виде, например, запросы «одеть человека в бикини». Кроме того, все функции, связанные с созданием и редактированием изображений, стали эксклюзивной привилегией для платных подписчиков сервиса.
Для усиления контроля X также ввела так называемую «геоблокировку» этих функций в тех юрисдикциях, где законодательство прямо запрещает создание подобного цифрового контента. По заверениям компании, новые ограничения являются универсальными и применяются «ко всем пользователям без исключения».
Однако независимые журналистские проверки поставили под сомнение эффективность принятых мер. Репортёрам удалось обойти объявленные ограничения и с помощью бесплатного аккаунта получить от Grok откровенные изображения реального человека. Эти тесты показали, что на практике система фильтрации запросов работает не в полной мере и требует доработки.