
Энтузиаст под ником WollyMonjac разработал компактную языковую модель, которая запускается на старых компьютерах с DOS и процессорами Intel Pentium или 486DX. В создании нейросети ему помогли две модели Claude: Fable 5.2 написала саму архитектуру, а Opus 5.5 подготовила обучающие данные.
Модель построена на архитектуре Transformer, содержит 367 тысяч параметров и использует четыре слоя шириной 96. Она обрабатывает текст посимвольно, а её веса хранятся в 8-битном формате и занимают около 380 КБ. Вместе с программой проект весит примерно 435 КБ, что позволяет записать его на обычную дискету. Для работы нейросети требуется около 540 КБ свободной оперативной памяти DOS.

Нейросеть обучили примерно на 3500 фактах, включая простые математические задачи и примеры диалогов. Она умеет отвечать на знакомые вопросы, даже если их формулировка отличается от обучающих примеров. Но за пределами своей небольшой базы знаний или в случае слишком длинных вопросов модель начинает придумывать ответы и выдавать полную ерунду.
Разработчик добавил полноэкранный интерфейс, визуализацию работы нейросети и роботизированный голос. Проект опубликован в открытом доступе на GitHub, так что каждый может попробовать запустить ИИ на старом ПК.
Источник: github
Источник: 24gadget.ru