Разработчик WollyMonjac создал для компьютеров под управлением DOS миниатюрную модель искусственного интеллекта Tiny 2.1, которая помещается на обычную дискету. Программа рассчитана на старые ПК с процессорами 486DX и Pentium и умеет отвечать на вопросы без подключения к облачным сервисам.
Tiny 2.1 нельзя назвать полноценной большой языковой моделью. Это компактная нейросеть на архитектуре Transformer, написанная на Turbo C 2.0. Она насчитывает около 367 тысяч параметров и использует четыре слоя с размерностью скрытого слоя 96. Модель работает с 8-битными весами, а её размер составляет примерно 380 КБ. Для запуска требуется около 540 КБ свободной оперативной памяти.
Обучающая база включает примерно 3500 фактов. Для каждого подготовили несколько вариантов вопросов, чтобы программа распознавала разные формулировки. При этом разработчик предупреждает, что модель может уверенно выдавать выдуманные ответы, если нужной информации нет в её базе.
Интерфейс включает историю диалога, панель состояния нейросети и окно для ввода запросов. Управлять программой можно с помощью функциональных клавиш, как и во многих DOS-приложениях. Есть и необычная функция — компьютер зачитывает ответы роботизированным голосом через встроенный динамик.
WollyMonjac предусмотрел возможность расширять базу знаний. В архиве проекта есть папка с обучающими данными, поэтому пользователи могут добавить собственные материалы и подготовить модель для конкретной темы. Проект распространяется под лицензией MIT.
Tiny 2.1 продолжает направление экспериментов, в которых современные технологии адаптируют для старого оборудования. Ранее энтузиасты запускали ChatGPT на IBM PC, переносили Minecraft на Game Boy и портировали Doom на Atari ST. Такие разработки редко имеют практическую пользу, но показывают, насколько далеко можно зайти, пытаясь уместить новые возможности в ограничения техники прошлых десятилетий.
Источник: trashbox.ru