Современные системы искусственного интеллекта обычно требуют колоссальных вычислительных ресурсов. Однако разработчик под псевдонимом HarryR бросил вызов этой тенденции, создав ИИ-модель, способную работать на процессоре, выпущенном полвека назад.
Речь идёт о легендарном восьмибитном процессоре Zilog Z80 1976 года, который в своё время был одним из самых массовых CPU в мире.
Несмотря на невозможность прямого сравнения с современными нейросетями, HarryR представил проект Z80-μLM, позиционируемый как разговорный искусственный интеллект.
Z80-μLM — это чат-бот, генерирующий короткие ответы посимвольно. Модель использует обучение с учётом квантизации (QAT) и функционирует на Z80, имея в распоряжении всего 64 КБ оперативной памяти.
Целью проекта был поиск ответа на вопрос: насколько компактной может быть ИИ-модель, сохраняющая индивидуальность, и можно ли её легко дообучать и распространять.
Ответ оказался положительным. Результатом работы стал 40-килобайтный исполняемый .com-файл, который включает в себя данные, веса модели и чат-интерфейс. Всё это работает на процессоре с тактовой частотой 4 МГц, выпущенном в 1976 году.
Конечно, такой ИИ не способен пройти тест Тьюринга, но его работа на ретро-железе может вызвать ностальгическую улыбку.
Модель поддерживает два основных режима. Первый — Tinychat, где бот кратко отвечает на приветствия и вопросы о себе. Второй — Guess, игра в «20 вопросов», где ИИ загадывает секрет, а пользователь пытается его отгадать. Вести полноценный диалог с этим ботом невозможно, но проект демонстрирует впечатляющую оптимизацию.