Главная / Словарь / Что такое LLM

Что такое LLM

LLM - это большая языковая модель, обученная предсказывать следующий фрагмент текста по предыдущему. На этом одном принципе держится всё, что она умеет: отвечать, переводить, писать код, разбирать документы. Никакой базы фактов внутри неё нет, есть статистика языка, накопленная на огромном объёме текстов.

Откуда LLM знает факты?

Она их не хранит, а восстанавливает по вероятностям. Поэтому известные и часто повторяющиеся сведения модель воспроизводит точно, а редкие и узкие - додумывает. Это же объясняет, почему модель уверенно ошибается: у неё нет разницы между «знаю» и «правдоподобно продолжаю».

Чем модели отличаются друг от друга?

Тремя вещами: размером, качеством обучающих данных и длиной контекста. Размер грубо соответствует способности к рассуждению, длина контекста - объёму, который можно дать на вход за раз. Для рабочих задач важнее третье, о чём часто забывают: стоимость запроса. Разница между моделями в цене бывает десятикратной при разнице в качестве в несколько процентов.

Заменяет ли LLM программу?

Нет, она становится одним из её узлов. Модель хороша там, где вход неструктурирован и правила не перечисляются, и плоха там, где нужна воспроизводимость. Рабочая схема почти всегда гибридная: обычный код делает то, что можно описать условием, а модель подключается только к неоднозначной части.