OpenAI опубликовала новый план по усилению защиты детей от угроз, связанных с искусственным интеллектом. Документ, названный Child Safety Blueprint, направлен на ускоренное обнаружение нарушений, улучшение механизмов отчётности и повышение эффективности расследований случаев эксплуатации несовершеннолетних.
По данным организации Internet Watch Foundation, в первой половине 2025 года было зафиксировано более 8000 случаев распространения контента с использованием ИИ, связанного с сексуальным насилием над детьми. Это на 14% больше, чем годом ранее. Преступники используют технологии для создания поддельных изображений и манипуляций.
План разработан совместно с Национальным центром по делам пропавших и эксплуатируемых детей (NCMEC), Альянсом генеральных прокуроров и при участии генпрокуроров нескольких штатов. Основные направления включают обновление законодательства для учёта материалов, созданных ИИ, совершенствование взаимодействия с правоохранительными органами и интеграцию превентивных мер в системы ИИ.
Компания также ужесточила внутренние меры безопасности, запретив генерацию неподобающего контента. План появился на фоне растущего внимания регуляторов и общественности к проблеме злоупотреблений технологиями.