Я не инженер. И я обучил свою языковую модель на MacBook Air

Ещё недавно я не знал, что значит слово деплой. Сейчас у меня на ноутбуке работает модель, которую я дообучил сам. Расскажу, как это было, где я ошибался и почему красивые цифры меня чуть не обманули.

Зачем

У меня есть личный ИИ-ассистент, Пульсара. Он работает на внешних моделях, и однажды я подумал: а что будет, если их отключат, они подорожают или просто станут хуже? Ассистент перестанет работать, и я ничего не смогу сделать.

Поэтому захотел свою модель. Она живёт на моём компьютере, и выключить её снаружи нельзя.

Отдельная цель была интереснее. Я не хотел, чтобы модель просто знала содержание книг. Я хотел научить её читать. Есть классическая книга Адлера и Ван Дорена Как читать книги, там описан метод: сначала понять, что это за текст и о чём он одной фразой, потом разобрать части, термины и аргументы, и только после этого спорить. Знать книгу значит уметь пересказать. Владеть методом значит уметь разобрать текст, которого никогда не видел. Мне было нужно второе.

На чём

MacBook Air M5, 16 ГБ памяти. Никакого сервера и видеокарт.

В 16 ГБ помещается модель Qwen3 на 8 миллиардов параметров в сжатом виде, это 4,4 ГБ. Больше не влезает, потому что во время обучения память нужна ещё и самому процессу. Обучал я не всю модель, а маленькую надстройку поверх неё (метод называется LoRA). Сама модель остаётся нетронутой, меняются только небольшие дополнительные матрицы.

Первый день ушёл не на обучение, а на то, чтобы вообще что-то установить. Оказалось, терминал на моём Маке запускался в режиме совместимости со старыми процессорами Intel, и нужная библиотека в нём просто не ставилась. Такие вещи в туториалах не пишут.

Данные

Я собрал 576 учебных примеров. Примерно 150 про сам метод, 160 разборов текстов разных жанров, 120 про поведение (например, что отвечать на вопрос, читала ли модель книгу) и 110 обычных разговоров вообще без Адлера.

Последние оказались важны. Без них модель начинала разбирать по методу даже просьбу подсказать, как сварить кофе.

Четыре попытки

Первая версия была осторожной. Результат слабый: 13 признаков метода из 35 на контрольных вопросах. Модель узнавала имя Адлера, но разбирала тексты по-своему.

Во второй я поменял сразу две настройки. Обучение сорвалось на середине, и я так и не узнал, какая из двух его убила. С тех пор меняю одну вещь за раз.

Третья дала 27 из 35. Метод начал переноситься на незнакомые тексты. Но модель уверенно заявляла, что читала книги, которых ей не показывали, и выносила оценки тому, чего не видела.

В четвёртой я не трогал настройки вообще. Добавил только 74 примера на сдержанность суждения. Результат 33 из 35, ложные заявления о прочитанном пропали. Выяснилось, что на этом этапе данные решают больше, чем параметры.

Где цифры врали

33 из 35 выглядело как победа. Потом я сел и прочитал ответы глазами, на реальных книгах, которых модель не видела: Эрик Берн и свежий номер Harvard Business Review.

Картина оказалась другой. Основные мысли модель пересказывала неплохо, но добавляла детали, которых в тексте нет. Про эксперимент в одной статье написала, что половина участников работала с ИИ, половина без. В статье такого не было. Ещё она обещала вернуться с отчётом через неделю, хотя памяти между разговорами у неё нет.

Моя автоматическая проверка искала в ответе признаки метода: назван ли тип текста, есть ли главная мысль одной фразой. Форму она видела. Правду не проверяла.

Были ловушки и похуже. Сервер, через который модель отвечает, молча терял мою надстройку и отвечал необученной моделью. Ни ошибки, ни предупреждения, а ответы на глаз выглядели прилично. Поймал это только потому, что сверял ответы сервера с сохранёнными ответами слово в слово. Потом оказалось, что модель со встроенной надстройкой отвечает не так, как та же модель с надстройкой отдельно. При встраивании веса заново сжимаются, и часть обучения теряется.

Что я понял

Обучить модель на ноутбуке сегодня реально, и это не самое трудное. Трудно проверить, чему она на самом деле научилась.

Метрика, которую подкручиваешь под результат, начинает показывать то, что ты хочешь увидеть. Поэтому вопросы для экзамена я теперь пишу до того, как модель ответит, и держу их отдельно от учебных материалов.

Маленькая модель хорошо перенимает манеру и порядок работы. Умнее она не становится: 8 миллиардов параметров после обучения остаются 8 миллиардами.

И про меня. Код я писал вместе с ИИ-помощниками, сам я его на таком уровне не напишу. Моя работа была в другом: решать, что проверять, не верить приятным цифрам и читать ответы самому.

Что дальше

Следующая версия будет про точность: чтобы модель опиралась на цитаты из текста и не дописывала то, чего там нет. Потом подключу её к Пульсаре.

Если вы тоже строите что-то своё на ИИ без инженерного образования, напишите, где споткнулись вы. Мне интересно сравнить.

Частые вопросы про дообучение маленькой модели на ноутбуке

Можно ли дообучить языковую модель на MacBook Air?

Да. На MacBook Air M5 с 16 ГБ помещается модель на 8 миллиардов параметров в сжатом виде (около 4,4 ГБ) вместе с обучением через LoRA. Модели побольше не оставляют памяти самому процессу обучения.

Что такое LoRA простыми словами?

Способ научить модель, не меняя её саму. Базовая модель остаётся нетронутой, а обучение меняет только небольшой набор дополнительных матриц поверх неё. Поэтому всё помещается в память ноутбука.

Сколько нужно учебных данных?

576 примеров: около 150 про метод, 160 разборов текстов, 120 про поведение и 110 обычных разговоров. Добавка из 74 примеров на сдержанность суждения дала больше, чем любая правка настроек.

Почему автоматическая оценка меня обманула?

Проверка искала форму хорошего ответа (назван тип текста, главная мысль одной фразой), а не проверяла, правда ли написанное. Чтение ответов глазами на незнакомых книгах показало выдуманные детали, которых оценка не замечала.

Становится ли маленькая модель умнее после дообучения?

Нет. Она хорошо перенимает манеру и порядок работы, но 8 миллиардов параметров после обучения остаются 8 миллиардами. Следующий шаг: опора ответов на цитаты из текста.