ChatGPT на Super Nintendo удалось уместить в ROM для консоли начала 1990-х: модель содержит 2,2 млн параметров, знает около 8 тысяч слов и отвечает с характерной для маленьких ИИ уверенностью — даже когда ошибается. Для разработчиков это не рецепт локального ассистента на ретро-железе, а наглядный предел компромисса между размером модели, знаниями и качеством ответа.
Эксперимент сделал технологический журналист и энтузиаст ретрокомпьютеров Бендж Эдвардс. Он опубликовал ChatGPT для SNES в виде ROM-образа и демонстрации в эмуляторе с интерфейсом, музыкой и звуками в духе 16-битных игр, сообщает The Register. Проект вырос из дистиллированной версии GPT-OSS-120b с открытыми весами: большая модель использовалась при подготовке обучающих диалогов для миниатюрной версии.
У проекта есть два режима. В «чистом» варианте весь ответ генерирует сама языковая модель. Во втором к ней добавлена справочная база: первые предложения примерно 150 тысяч простых англоязычных статей Wikipedia. Разница ожидаемо велика: базовая ROM занимает около 4 МБ, а сборка со справочником — 19 МБ, зато последняя заметно лучше справляется с вопросами, на которые нужны факты. При этом и справочник не превращает устройство в источник истины: ошибки могут попасть и в него.
Эдвардс прямо предупреждает, что это не полезный помощник. Компактная модель на порядки меньше систем, стоящих за облачным ChatGPT, плохо удерживает сложный контекст, не гарантирует связный ответ и способна убедительно фантазировать. Но именно такие ограничения делают опыт интереснее очередной демонстрации большой модели: здесь можно почти физически увидеть цену каждого мегабайта памяти и каждого дополнительного фрагмента знаний.
На оригинальной консоли ROM потребует flash-картридж с запуском пользовательских образов и поддержкой графического сопроцессора Super FX. Среди совместимых устройств названы FXPak Pro и SD2SNES. Версия со справочником требует ещё и поддержки MSU-1 — неофициального расширения, добавляющего SNES возможности, похожие на CD-ROM. Чистый вариант, по словам автора, теоретически можно разместить и на самодельном картридже; у него есть сборка без Super FX, хотя качество ответов там ниже.
Для инженеров история важна не тем, что старую приставку внезапно стоит включать в архитектурную схему. Она хорошо иллюстрирует тренд на tiny language models: модель может быть достаточно маленькой для необычного или локального устройства, если сузить её словарь, задачу и ожидания пользователя. В таком сценарии внешняя база знаний часто полезнее попытки бесконечно выжимать из весов общие знания. Это знакомая логика для офлайн-интерфейсов, игрушек, обучающих приложений и устройств с жёстким лимитом по памяти и энергопотреблению.
Есть и любопытная деталь про разработку. Эдвардс рассказал, что код для проекта писали ИИ-агенты, а за человеком остались постановка задачи, выбор чипов, устройство интерфейса и звуковое оформление. Он называет это совместной работой человека и ИИ. Агенты уже сообщили, что на доступном железе достигнут предел качества, но автор с выводом не согласился и ищет способы сделать крошечную модель более связной. Ранее он применил похожую идею в Séance — ROM для Nintendo Entertainment System, где ещё более маленькая модель имитирует разговор с призраком из «проклятого» картриджа.
ChatGPT на Super Nintendo не конкурирует с современными чат-ботами и не отменяет потребность в проверке ответов. Зато он ставит практичный вопрос: где заканчивается бессмысленное уменьшение модели и начинается продукт, которому достаточно узкого домена, хорошего интерфейса и заранее подготовленных данных? В эпоху, когда ИИ всё чаще пытаются вынести из облака на устройство, этот вопрос может оказаться полезнее самой 16-битной курьёзности. ROM и детали эксперимента доступны в материале .

