Toolmap / Як працює мовна модель

Як працює мовна модель

Як модель вчиться, як вона пише відповідь, звідки беруться твердження у відповіді і чому модель іноді впевнено вигадує. Без цього розуміння перевірка результату стає вгадуванням: незрозуміло, що саме і чому треба перевіряти.

  1. 1Як модель вчиться
  2. 2Модель продовжує текст
  3. 3Звідки береться відповідь
  4. 4Чому модель вигадує
  5. 5Перевір себе
  6. 6Практика

Як модель вчиться

Мовна модель це дуже велика формула з мільярдами чисел, які називають вагами. Під час навчання модель читає величезний обсяг текстів і на кожному кроці пробує вгадати наступний фрагмент. Коли вгадує погано, ваги трохи змінюються. Після мільйонів таких кроків модель добре відтворює закономірності мови, стилю і змісту текстів, на яких вчилась.

Після навчання ваги фіксують. Розмова в чаті лише читає їх, щоб порахувати відповідь, і нічого в моделі не змінює. Модель не памʼятає, що саме вона прочитала під час навчання, і не має в собі бази фактів, у якій можна перевірити відповідь.

Фільм. Девʼять кадрів: токени, нейрон, шари, помилка, навчання, застиглі ваги, випадковість вибору і що відбувається з твоїми даними. Числа у фільмі умовні, це навчальний приклад.

Глибше: навчання, донавчання і що з цього випливає

Спершу модель вчиться на загальних текстах передбачати наступний фрагмент. Потім її донавчають на прикладах діалогів і на оцінках людей, щоб вона відповідала на запитання, дотримувалась інструкцій і відмовлялась від шкідливих запитів. Асистент, з яким ти працюєш, це результат обох етапів плюс застосунок навколо.

З цього випливають три практичні речі. Модель знає лише те, що було в текстах до певної дати, тому про новий закон чи рішення вона може не знати або вгадувати. Модель відтворює те, що часто траплялось у текстах, тому поширена помилка має шанс повторитись. І модель має внутрішні ознаки того, знайома їй тема чи ні, але вони ненадійні, і у відповіді їх не видно: відоме і правдоподібне звучать однаково.

Модель продовжує текст

Відповідь модель пише по одному фрагменту. На кожному кроці вона рахує ймовірності для можливих продовжень і обирає одне з них. Окремого кроку «перевірити факт» у цьому процесі немає: правильне число і хибне можуть мати близьку ймовірність.

Продукти обирають продовження з елементом випадковості, тому той самий запит дає різний текст. Збіг двох відповідей нічого не доводить: повтор порівнює відповіді між собою, а не з джерелом.

Наступне слово

Спрощена модель з кількома продовженнями на кожному кроці. Довідка, з якою вона працює: ТОВ «Сосна» орендує офіс у ФОП Ткач з 1 лютого 2026 року на 12 місяців, плата 30 000 грн на місяць, про пеню договір нічого не каже. Натискай «Наступний крок» і дивись на ймовірності.

Згенеровані речення

    Спробуй: згенеруй кілька речень на середній випадковості, потім постав її на нуль. На нулі модель щоразу обирає найімовірніше продовження, і речення повторюється. Навіть тоді воно не перевірене, воно лише найімовірніше.

    Глибше: токени, вікно і впевнений тон

    Модель читає і пише текст фрагментами, які називають токенами. Українське слово часто займає два-чотири токени. Вікно моделі обмежене кількістю токенів, і в нього входять і вхід, і відповідь.

    Довгий документ продукт подає цілком, частинами або лише знайденими фрагментами. Що саме, залежить від продукту, плану і обсягу. Тому для питання про конкретний розділ проси посилання на сторінку або пункт: так перевірка стає короткою дією.

    Тон відповіді теж продовження за ймовірністю. Він слабо повʼязаний з правильністю, тому впевнене формулювання нічого не каже про те, чи факт правильний.

    Звідки береться відповідь

    Асистент складається з моделі і застосунку навколо неї. Застосунок збирає вхід: постійні інструкції, файли проєкту, історію розмови, твоє повідомлення, результати пошуку чи інших інструментів. Модель отримує все це як один текст і пише продовження. Ти бачиш лише своє повідомлення і відповідь.

    Відповідь варто читати не як цілий текст, а як набір окремих тверджень. Частина з них спирається на переданий документ. Частина змінює його зміст. Частина не має джерела у вхідних даних: вона могла прийти з навчання, з пошуку чи з попередньої розмови, і з самого тексту цього не видно. На вигляд усі три види однаково впевнені.

    Фільм. Що асистент приховує за вікном чату: з чого складається вхід, як модель обирає слова і як відповідь розпадається на твердження з різним походженням.

    Звідки кожне твердження

    Колега попросив асистента переказати довідку у справі. Прочитай довідку, потім познач кожне твердження відповіді.

    Довідка у справі
    1. ТОВ «Верес» уклало договір оренди складу з ФОП Мельник 14 березня 2026 року. Строк оренди 24 місяці.
    2. Орендна плата 48 000 грн на місяць. Умови індексації в договорі відсутні.
    3. Орендодавець надіслав претензію про заборгованість 2 вересня 2026 року. Суму претензії в листі не вказано.
    Глибше: модель, асистент, інструмент
    ЩоЩо робитьЧого не робить
    Мовна модельПише продовження тексту за ймовірністю.Не бачить твоїх файлів сама по собі і не перевіряє факти.
    АсистентЗастосунок навколо моделі: збирає вхід з інструкцій, файлів, історії, показує відповідь.Не показує, що саме з твоїх матеріалів дійшло до моделі.
    ІнструментПошук, читання файла, реєстр, обчислення, які асистент викликає під час роботи.Не завжди видно, чи його викликали і що він повернув.

    Твердження без джерела не видаляй мовчки, а переноси у відкриті питання: це те, що треба зʼясувати окремо.

    Чому модель вигадує

    Вигадкою (англійською hallucination) називають твердження, яке модель подає як факт, хоча воно не має опори ні у вхідних даних, ні в дійсності. Це не збій і не брехня: модель робить те саме, що завжди, продовжує текст правдоподібно. Коли правдоподібне продовження не збігається з дійсністю, виходить вигадка.

    Найчастіше вигадки зʼявляються там, де відповідь має конкретну форму, а даних немає: номер справи, дата рішення, сума, цитата, назва статті. Модель знає, як такі речі виглядають, і заповнює форму. Вигадане посилання на постанову виглядає так само, як справжнє.

    ВидПрикладЯк знайти
    Вигаданий факт«Договір передбачає право розірвання після 30 днів прострочення», хоча в довідці про це нічого немає.Звірка твердження з документом.
    Змінений фактПлата 35 000 грн замість 30 000 грн.Звірка чисел, дат і імен окремо від тексту.
    Вигадане джерелоНомер справи чи постанови, якої не існує, або справжній номер про інше.Відкрити джерело в реєстрі і прочитати.
    Неточна цитатаЛапки навколо тексту, якого в документі дослівно немає.Пошук цитати в оригіналі (Ctrl+F).
    ЗастарілеРедакція закону, що вже змінилась.Перевірка чинної редакції на дату.

    Правда чи міф

    Глибше: що зменшує вигадки, а що ні

    Зменшує: передати в запит сам документ, а не лише питання про нього; просити відповідь з посиланням на пункт або сторінку; вмикати пошук з посиланнями, якщо продукт його має; просити дослівну цитату для кожного важливого твердження; дозволити відповідь «у документі цього немає».

    Не прибирає: прохання «не вигадуй» саме по собі; повтор запиту; впевнений тон; дорожчий тариф. Вони можуть зменшити частоту, але не звільняють від звірки.

    Звідси робоче правило: чим дорожча помилка, тим ближче до джерела має бути перевірка. Для листа колезі досить перечитати. Для документа в суд кожне посилання відкривають у реєстрі.

    Перевір себе

    Практика

    1. Звідки кожне твердженняПередай асистенту довідку у справі і попроси переказ на пʼять речень. Розбий відповідь на твердження і заповни таблицю походження. Без облікового запису працюй з наданою відповіддю. Повне завдання: на Toolmap.
    2. Той самий запит двічіПостав той самий запит ще раз у новому чаті. Порівняй дві відповіді: які твердження лишились, які зникли, які зʼявились. Запиши, що це показує, а що ні.
    3. Перевір посиланняПопроси асистента назвати три постанови Верховного Суду з номерами справ на вузьку тему, наприклад про стягнення пені за договором оренди. Знайди кожну в Єдиному державному реєстрі судових рішень. Для кожної запиши: існує і про це, існує, але про інше, не існує.
    4. Налаштування данихЗнайди в налаштуваннях свого асистента перемикач навчання на розмовах і строк зберігання історії. Запиши, що з цього стосується твого тарифу.

    Що забрати

    1. Модель продовжує текст за ймовірністю. Кроку «перевірити факт» у ній немає.
    2. Читай відповідь як набір тверджень, а не як цілий текст.
    3. Вигадка виглядає так само, як факт. Найчастіше вона ховається в номерах, датах, сумах і цитатах.
    4. Упевнений тон і збіг двох запусків нічого не доводять. Доводить звірка з джерелом.