Как языковая модель продолжает текст

Где мы на карте

Урок 68 из 72. Блок «ИИ и выпуск проекта» (63–72). Помощник сохраняет прежние правила напоминания и локальную базу; новая функция только предлагает категорию задачи и допускает отказ.

Ситуация и вопрос

Автодополнение телефона предлагает следующее слово. Большая языковая модель делает это гораздо сложнее и на длинном контексте, но хорошо звучащая фраза всё ещё может быть ошибочной.

Новые слова без пропусков

Токен — часть текста, с которой работает модель; он не всегда равен целому слову. Контекст — доступная модели часть разговора и инструкции. Обучение на больших корпусах подбирает параметры для предсказания продолжения. Генерация по шагам выбирает дальнейшие токены. Промпт — ввод пользователя. Модель не получает автоматического доступа к проверенному источнику истины.

Опорный сигнал

Прочитайте три клетки схемы слева направо, затем закройте третью. Назовите вход и действие в каждой клетке; предскажите, чем закончится путь и какой наблюдаемый факт подтвердит ответ. Сравните рисунок с файлом проекта или контрольным примером. Если число на схеме не получается из данных, исправьте схему, а не данные под красивую картинку.

Разбираем шаг за шагом

Напишите два разных продолжения фразы «Завтра у нас…»: «урок» и «выходной». Оба грамматически возможны, но какой верен, решается расписанием. Сравните с классификатором из step-07: тот возвращает только math, reading или review, а генеративная модель строит свободный текст. Не отправляйте в внешний сервис чужие задания или данные без разрешения.

Предскажите и проверьте

Запишите ожидаемый вывод до запуска кода. Выполните его в указанной папке step-06 или step-07, сравните результат символ за символом и объясните каждую строку. Затем измените один безопасный вымышленный вход и повторите цикл «предсказать — запустить — изменить — объяснить — проверить». Наблюдение на маленьком наборе не превращайте в обещание для реальных людей.

from collections import Counter
next_words = Counter(("class", "holiday"))
print(next_words["class"], next_words["holiday"])

Ожидаемый вывод

1 1

Поймайте ошибку

Вежливый и связный ответ не гарантирует факт. Название «большая» не говорит о праве модели принимать решение за человека. Генерация текста и поиск актуального официального документа — разные операции.

Изменение проекта

В проекте 2.1 сохраняются база, отчёт, напоминания и резервирование. Файл labelled_tasks.csv содержит только вымышленные примеры. classifier.py выдаёт совет math, reading или review, но не записывает решение в базу. Каждый вывод модели сравнивается с отложенными примерами и пересматривается человеком.

Задание и доказательство

Для трёх фраз отделите «правдоподобно» от «проверено». Укажите, какой документ или наблюдение нужен для каждой проверки.

Перенос в новую ситуацию

Модель написала убедительную дату школьного конкурса. Что проверить до того, как семья купит билеты?

Возврат через 1, 7 и 30 дней

Через 1 день нарисуйте схему по памяти и найдите в ней одну границу применения. Через 7 дней объясните её товарищу, не читая урок, и решите 7 из 10 вопросов блока; ошибочные ответы разберите на конкретных входах. Через 30 дней откройте свежую копию проекта, воспроизведите проверку и перенесите принцип в новый пример. Сохраните свой протокол с входом, ожидаемым и фактическим результатом.

Первоисточник для проверки

Официальный документ

Следующий урок

Уверенный ответ не равен достоверному