Исследователи представили 'винтажный' языковой модель Chatbot Talkie, использующий 13 миллиардов параметров и обученный на текстах, опубликованных до 1930 года. Этот проект может стать важным шагом в понимании механизмов работы AI и его потенциала в научных открытиях.
Уникальный выбор данных
Talkie был обучен на цифровых сканах книг, газет и научных публикаций, существовавших до начала 1931 года. Это значит, что бот не сможет рассказать вам о таких событиях, как Вторая мировая война или достижения в области технологий после 30-х. Но если вас интересуют вопросы, касающиеся времени великой депрессии или социального устройства того времени, Talkie окажется отличным собеседником.
Причины разработки
Создатели Chatbot Talkie уверены, что его случайная натура даст возможность глубже понять, как AI может эмулировать знания, доступные ученым начала XX века. Они утверждают, что это один из крупнейших моделей с такой 'винтажной' ориентацией. С помощью Talkie группа стремится изучить, как такие модели могут улучшить прогнозирование на основе исторических данных.
Практическое применение и значение
Для ученых, стремящихся использовать AI для долгосрочных прогнозов, Talkie предоставляет уникальную возможность. Его способности базируются на исторических данных, что помогает анализировать различные сценарии на основе доступных знаний. Однако команда предупреждает: пока модели справляются лишь с простыми задачами, такими как решение базовых программных вопросов.
Следующий шаг — дальнейшие эксперименты с Talkie, чтобы оценить его потенциал в перевооружении методов долгосрочного прогнозирования.