Кажется, что понимает

Перед вами два собеседника. Слева — ELIZA, программа 1966 года. Справа — современная языковая модель. Напишите обоим одно и то же: расскажите про свой день, пожалуйтесь на что-нибудь. И посмотрите, где разговор держится, а где рассыпается.

ELIZA внутри почти пуста. Она выхватывает из вашей фразы знакомое слово и переворачивает его обратно вопросом: на «меня никто не понимает» отвечает «почему вы думаете, что вас никто не понимает?». Смысла она не извлекает, про мир ничего не знает, через минуту забывает начало разговора. И всё же первые реплики легко принять за внимание живого собеседника.

Её автор Джозеф Вейценбаум собрал ELIZA, чтобы показать, до чего проста машинная имитация разговора, — а вышло обратное: его секретарша, прекрасно зная, что перед ней программа, просила оставить её с «доктором» наедине¹. Ощущение, что тебя понимают, держится не на одном собеседнике. Половину работы делает наш собственный мозг, готовый увидеть мысль за подходящими словами.

Современная модель справится с тем, на чём ELIZA спотыкается: удержит нить, ответит по существу, подстроится под ваш тон. Но приписать понимание ей тянет совершенно так же, как шестьдесят лет назад. Разница между двумя терминалами — в том, что у них внутри. Сходство — в том, что происходит у вас в голове.

Алан Тьюринг в 1950 году предложил не спорить, умеет ли машина думать, — вопрос он считал слишком туманным, — а заменить его проверяемым. Посадить судью переписываться вслепую с человеком и с машиной, и пусть угадает, кто из них кто¹. Не угадывает — машину засчитывают за разумную. Проверка вышла поведенческой: судят не по тому, что у собеседника внутри, а по тому, как он отвечает.

ELIZA показала, в чём здесь подвох. Исход зависит и от машины, и от судьи, а человек слишком охотно засчитывает понимание. Вейценбаум потом сформулировал это одной мыслью: программа показывает, как легко создать и поддержать иллюзию понимания.

То же свойство замечали задолго до компьютеров. В начале XX века по Германии гремел конь Умный Ганс — он отстукивал копытом ответы на арифметические задачи, и публика верила, что лошадь считает. В 1907 году психолог Оскар Пфунгст устроил проверку и выяснил: считать конь не умеет². Он улавливал невольные движения спрашивающего — лёгкое напряжение в позе и лице по мере того, как копыто доходило до верного числа, и расслабление в нужный момент. Стоило задать вопрос так, чтобы ответа не знал и сам спрашивающий, и Ганс ошибался. Ум был в комнате, только не в лошади.

В самом мягком виде это знакомо каждому: лицо, проступающее в облаке, в розетке, в подгоревшем тосте. Мозг держит быстрый детектор лиц, настроенный на чувствительность: ему выгоднее принять случайные пятна за лицо, чем пропустить настоящее³. Цена ошибки несимметрична — не заметить хищника в кустах опаснее, чем вздрогнуть от тени, — поэтому детектор откликается на слабый намёк.

Эффект ELIZA, Умный Ганс, лицо в облаке — срабатывания одного механизма, настроенного видеть лица, агентов и умыслы при первом же поводе. Мы скорее увидим разум, которого нет, чем пропустим тот, что есть.

Тьюринг предсказывал, что к 2000 году машина в пятиминутной беседе будет обманывать судью достаточно часто — настолько, что разговоры о «мыслящих машинах» станут привычными. Точнее, что верно опознавать собеседника судья будет не чаще чем в 70% случаев. Прогноз сбылся с опозданием. В 2025 году Кэмерон Джонс и Бенджамин Берген (Калифорнийский университет в Сан-Диего) провели контролируемый трёхсторонний тест: судья пять минут параллельно переписывался с человеком и с программой, а затем называл, кто из двоих человек¹.

Результат говорит сам за себя в сравнении:

Современную модель GPT-4.5, которой велели держаться человеческой роли, судьи приняли за человека в 73% случаев — чаще, чем настоящего собеседника-человека. Это первое строгое свидетельство, что машина проходит классический тест Тьюринга. А сама ELIZA, проигрывая, делает результат убедительным: раз её узнают как машину почти всегда, высокие баллы модели — не просто общая людская склонность всё очеловечивать. Тест, как видно, удостоверяет неотличимость в разговоре, а не мышление; а неотличимость — это факт и про машину, и про судью.

Две машины, два устройства

ELIZA устроена просто. Она ищет в реплике ключевое слово, по жёстко прописанному правилу разбирает фразу на части и собирает ответ обратно, переставляя местоимения: «я» на «вы», «моё» на «ваше». Весь её «разум» — несколько сотен строк таких правил и заготовок; ни модели мира, ни памяти о сказанном за пределами текущей фразы. Нет ключевого слова — в ход идут безопасные заглушки вроде «расскажите подробнее».

Современная модель устроена иначе и куда тяжелее. Её не программируют правилами вручную: её обучают предсказывать следующее слово в тексте, прогнав через неё громадные объёмы написанного людьми. Из одной этой задачи — угадать продолжение — вырастают миллиарды настроенных чисел, в которых осели закономерности языка. Отвечает она, выбирая вероятное продолжение разговора. Снаружи оба собеседника держат одну сторону беседы; внутри между ними пропасть.

Проходит — значит ли понимает?

Тест проверяет неотличимость в разговоре, а не понимание, и одно из другого не вытекает. Философ Джон Сёрл возразил мысленным опытом о «китайской комнате»: человек, не знающий китайского, по толстому своду правил выдаёт на китайские записки безупречные китайские ответы — снаружи он будто сдаёт экзамен на язык, внутри не понимает ни иероглифа². Так и прохождение теста, по этому доводу, говорит об убедительности ответов, но не о понимании за ними. Спор этот не закрыт.

Сами авторы теста замечают: высокий балл — про социальную убедительность, а не про ум. И добавляют деталь: без подсказки держаться роли модель набирает заметно меньше — те же 36% против 73%. Казаться человеком она умеет, а вот сообразить сама, каким человеком надо казаться, выходит хуже.

Как это измеряют

Чтобы отделить настоящую неотличимость от поспешного очеловечивания, тест ставят как контролируемый опыт: судья сравнивает машину не саму по себе, а бок о бок с живым человеком; вопросы и роли оговорены заранее; в набор включают слабую программу-приманку (ту самую ELIZA). Если приманку распознают, а сильную модель нет — дело не в одной людской доверчивости. Это прямая родня проверке Пфунгста: тот тоже не поверил молве про коня, а развёл спрашивающего и животное и менял, кто из людей знает ответ.

Открытый вопрос

Если в беседе машина уже неотличима от человека, что остаётся надёжным признаком мысли — и есть ли он вообще? И по мере того как имитация крепнет, эффект ELIZA нас выручает или подводит: готовность видеть в собеседнике своего помогает ладить с машинами — или мешает разглядеть, что перед нами лишь складно подобранные слова?