Критика темпов развития ИИ
Дэвид Робинсон, ранее занимавший пост в OpenAI, выступил с резкой критикой текущей политики компании в области обеспечения безопасности искусственного интеллекта. Проработав в организации более трех лет, он принимал непосредственное участие в создании систем оценки рисков и курировал вопросы безопасности для двенадцати релизов передовых моделей. По мнению эксперта, нынешняя гонка за скорейшим внедрением новых технологий существенно повышает вероятность критических ошибок.
Проблемы поэтапного подхода
Робинсон подчеркнул, что OpenAI придерживается стратегии итеративного выпуска: защитные механизмы совершенствуются постфактум, уже после того, как в ходе эксплуатации обнаруживаются уязвимости. Бывший специалист убежден, что для систем следующего поколения такой метод является «недостаточным и рискованным».
«Компании необходимо сместить фокус на глубокие исследования в области безопасности еще до начала разработки более мощных архитектур. Стоит перенять опыт отраслей с жесткими стандартами контроля», — отмечает Робинсон.
Разрыв между возможностями и контролем
Согласно оценке специалиста, прогресс в наращивании мощностей ИИ сегодня значительно опережает темпы изучения методов выравнивания систем с человеческими ценностями и целями. В свою очередь, представители OpenAI подчеркивают, что вопросы безопасности остаются приоритетными, и компания готова приостановить процесс обучения или отложить запуск продукта, если того требуют протоколы защиты.