Уверенный ответ не равен достоверному

Где мы на карте

Урок 69 из 72. Блок «ИИ и выпуск проекта» (63–72). Помощник сохраняет прежние правила напоминания и локальную базу; новая функция только предлагает категорию задачи и допускает отказ.

Ситуация и вопрос

Помощник уверенно отвечает: «В библиотеке завтра выходной». Библиотека могла поменять часы работы час назад. Без ссылки и времени проверки такая фраза не годится для решения.

Новые слова без пропусков

Источник — место, где можно самостоятельно проверить утверждение. Первичный источник публикует данные от ответственной организации или участника. Дата обновления показывает свежесть. Проверяемое утверждение можно сопоставить с документом, измерением или записью. Галлюцинация в ИИ — правдоподобный, но не подтверждённый результат; слово не означает человеческое восприятие.

Опорный сигнал

Прочитайте три клетки схемы слева направо, затем закройте третью. Назовите вход и действие в каждой клетке; предскажите, чем закончится путь и какой наблюдаемый факт подтвердит ответ. Сравните рисунок с файлом проекта или контрольным примером. Если число на схеме не получается из данных, исправьте схему, а не данные под красивую картинку.

Разбираем шаг за шагом

Возьмите вымышленный ответ модели: «все задачи с t-02 выполнены за 0 минут». Проверьте SQL-отчёт: у t-02 нет ни одной сессии, поэтому 0 означает отсутствие записи, а не измеренное занятие. Выпишите точную формулировку «нет записанных занятий». Для внешних фактов откройте официальный календарь или страницу организации и укажите дату проверки. Если доступа к источнику нет, скажите «не проверено».

Предскажите и проверьте

Запишите ожидаемый вывод до запуска кода. Выполните его в указанной папке step-06 или step-07, сравните результат символ за символом и объясните каждую строку. Затем измените один безопасный вымышленный вход и повторите цикл «предсказать — запустить — изменить — объяснить — проверить». Наблюдение на маленьком наборе не превращайте в обещание для реальных людей.

from pathlib import Path
from tempfile import TemporaryDirectory
from data_store import create_database, minutes_report
with TemporaryDirectory() as folder:
    db = Path(folder) / "example.db"
    create_database(db, "tasks.json", "study_sessions.csv")
    print(dict(minutes_report(db))["t-02"])

Ожидаемый вывод

0

Поймайте ошибку

Две страницы, пересказавшие одну ошибку, не становятся независимым подтверждением. URL сам по себе не доказывает, что документ поддерживает конкретное утверждение. Не прикрывайте догадку модельной «уверенностью».

Изменение проекта

В проекте 2.1 сохраняются база, отчёт, напоминания и резервирование. Файл labelled_tasks.csv содержит только вымышленные примеры. classifier.py выдаёт совет math, reading или review, но не записывает решение в базу. Каждый вывод модели сравнивается с отложенными примерами и пересматривается человеком.

Задание и доказательство

Проверьте три утверждения: одно по CSV, одно по официальному расписанию, одно без доступного источника. Для каждого запишите источник, время и статус проверки.

Перенос в новую ситуацию

ИИ написал, что курс бесплатен «навсегда». Как проверить условия и не выдать текущую информацию за вечную гарантию?

Возврат через 1, 7 и 30 дней

Через 1 день нарисуйте схему по памяти и найдите в ней одну границу применения. Через 7 дней объясните её товарищу, не читая урок, и решите 7 из 10 вопросов блока; ошибочные ответы разберите на конкретных входах. Через 30 дней откройте свежую копию проекта, воспроизведите проверку и перенесите принцип в новый пример. Сохраните свой протокол с входом, ожидаемым и фактическим результатом.

Первоисточник для проверки

Официальный документ

Следующий урок

Добавляем ИИ, сохраняя решение за человеком