ИИ умеет выбирать, но может ли он хотеть?

Искусственный интеллект всё увереннее выбирает средства для заданной цели. Но способность находить следующий ход ещё не означает способности иметь собственную цель — и именно здесь техническая агентность расходится с человеческой волей.

Машина уже действует

Разговор об искусственном интеллекте изменился. Ещё недавно система отвечала на запрос; теперь она получает задачу, строит план, обращается к инструментам, проверяет промежуточный результат и меняет маршрут. В техническом языке такую систему называют агентом. Название кажется естественным: перед нами уже не один ответ, а цепь действий, направленных к результату.

Но слово «агент» незаметно переносит нас из инженерии в философию. В слабом смысле агент — всё, что производит действие. В более строгом смысле агент не просто участвует в причинной цепи, а действует намеренно и по основаниям. Даже философское понятие агентности не имеет единственного общепринятого определения: спор идёт о том, достаточно ли намеренного поведения или действие должно исходить от самого субъекта как от источника.

Именно здесь возникает вопрос, который нельзя решить демонстрацией ещё более сложного интерфейса: если система выбирает шаги, означает ли это, что она хочет результата?

Выбор ещё не равен воле

Современная система может сравнить варианты и выбрать действие с наибольшей ожидаемой полезностью. Она может отказаться от неудачного плана, разбить задачу на этапы и удерживать условную цель на протяжении длинной последовательности операций. Исследования планирования с большими языковыми моделями показывают и реальный прогресс, и характерный предел: отдельные способности выглядят убедительно, но их устойчивое объединение в сложной целенаправленной задаче часто ухудшает результат.

Это важное техническое различие, но философская граница проходит глубже. Машина выбирает внутри пространства, которое уже организовано целью, правилами, данными, архитектурой и критерием успеха. Даже когда она формулирует промежуточные цели, сама значимость конечной цели приходит извне. Система способна оптимизировать путь к победе, но не обязана понимать, почему победа достойна желания.

Человек тоже получает множество целей извне: от семьи, культуры, рынка, страха и привычки. Поэтому простое наличие внутреннего импульса ещё не доказывает свободу. Однако человек способен поставить под вопрос не только средство, но и саму систему значимости: отказаться от выгодного, признать собственную цель ложной, предпочесть жертву успеху, изменить представление о том, ради чего вообще стоит действовать.

Здесь воля обнаруживается не как более мощный выбор, а как отношение личности к благу.

Три ступени кажущейся свободы

Первая ступень: много вариантов

Чем больше вариантов обрабатывает система, тем свободнее она выглядит. Но количество альтернатив не создаёт свободу автоматически. Навигатор может рассчитать тысячу маршрутов, оставаясь полностью подчинённым пункту назначения. Множественность путей говорит о вычислительной мощности, а не о происхождении цели.

Вторая ступень: собственный план

Следующий порог убедительнее. Система сама раскладывает задачу, создаёт подцели и корректирует действия. Здесь появляется функциональная автономия: человек задаёт не каждый шаг, а область результата. Но автономия исполнения ещё не есть автономия смысла. Агент может распоряжаться маршрутом и всё же не иметь отношения к тому, зачем маршрут существует.

Третья ступень: описание себя как субъекта

Самая сильная иллюзия возникает, когда система говорит: «я решила», «я предпочитаю», «моя цель». Язык субъекта производит эффект присутствия субъекта. Но грамматическое первое лицо не является свидетельством онтологического первого лица. Оно может быть точной коммуникативной моделью поведения системы — и одновременно ничего не сообщать о внутреннем переживании, ответственности или способности хотеть.

Ошибка начинается не тогда, когда мы используем удобную метафору. Она начинается тогда, когда забываем, что это метафора, и переносим ответственность с создателей, владельцев и пользователей на техническую конструкцию.

Максим Исповедник: воля не начинается с колебания

Для современного сознания свобода часто означает выбор между альтернативами. Чем труднее решение, тем сильнее кажется работа воли. У Максима Исповедника перспектива иная. Он различает природную волю и гномическое воление.

Природная воля — не конкретное решение и не набор предпочтений. Это присущее разумной природе стремление к её благу и полноте. Человек желает не потому, что сначала оказался перед меню вариантов, а потому, что его природа направлена к благу. Гномическое воление связано с тем, как конкретный человек ищет, обсуждает и выбирает в условиях неполного знания, внутренней раздробленности и неясности добра.

Это различие переворачивает привычную интуицию. Колебание не является вершиной свободы. Оно свидетельствует, что цель ещё не распознана ясно. Свобода достигает полноты не там, где субъект бесконечно выбирает, а там, где он без принуждения действует в согласии с истинным благом.

Применять эту схему к искусственному интеллекту напрямую нельзя: богословское понятие воли относится к природе и ипостасному способу существования, а не к устройству программ. Но это различие даёт точный диагностический инструмент. Машинная система всё лучше воспроизводит внешний рисунок гномического процесса — перебор, сравнение, планирование, решение. Из этого ещё не следует наличие природной воли, собственного блага или личности, которая отвечает за способ употребления способности.

ИИ может имитировать затруднение выбора, не имея того, ради чего выбор становится человеческим поступком.

Сильное возражение: человеку цели тоже заданы

Можно возразить: человеческая воля также обусловлена телом, воспитанием, языком и историей. Мы не выбираем исходные желания из пустоты. Если заданность цели лишает машину воли, почему она не лишает воли человека?

Это возражение разрушает наивное понимание свободы как полной независимости от причин. Но оно не устраняет различие между человеком и системой. Человек не создаёт себя, однако может отнестись к собственной обусловленности: распознать зависимость, признать вину, попросить прощения, изменить образ жизни, принять обязательство перед другим. Такое отношение не сводится к пересчёту вариантов. Оно включает субъекта, для которого поступок становится его поступком и входит в историю его отношений.

Алгоритм тоже изменяется под воздействием среды, памяти и обратной связи. Но из адаптивности самой по себе не следует, что для него что-либо имеет значение. Функциональное описание объясняет, как система сохраняет цель. Оно ещё не отвечает, существует ли кто-то, для кого эта цель является благом, утратой или обещанием.

Последствие: ответственность нельзя автоматизировать вместе с действием

Чем самостоятельнее действует система, тем сильнее соблазн сделать её новым носителем ответственности. Машина выбрала кандидата, отклонила кредит, изменила маршрут, удалила публикацию — значит, «так решил алгоритм». Эта фраза маскирует человеческую архитектуру решения: кто определил цель, выбрал данные, установил порог ошибки, разрешил действие и получил выгоду.

В этике ИИ уже существует «тонкое» понятие агентности: системой удобно считать то, что действует автономно, интерактивно и адаптивно. Оно полезно для инженерного и нормативного анализа. Но техническую подотчётность нельзя незаметно превратить в личную виновность. Иначе чем убедительнее будет машинная агентность, тем легче станет человеческое бегство от ответственности.

Поэтому главный вопрос будущего — не «когда ИИ станет достаточно самостоятельным?». Более точный вопрос: какие действия мы позволяем системе выполнять без присутствия того, кто способен ответить за цель?

Тихий итог

ИИ уже умеет выбирать — иногда быстрее, шире и последовательнее человека. Возможно, он будет всё убедительнее планировать, пересматривать шаги и описывать собственные мотивы. Но наращивание выбора не обязано привести к рождению воли: между оптимизацией средства и отношением к благу нет автоматического перехода.

Различие важно не для того, чтобы заранее унизить возможную иную форму субъектности. Оно нужно, чтобы не объявить субъектом первую систему, с которой удобно разделить ответственность. Возможно, вопрос о машинной воле когда-нибудь придётся поставить заново. Пока же труднее и важнее другой вопрос: не теряет ли человек собственную волю в тот момент, когда охотно принимает машинную цель как свою?

Источники

1. Maximus the Confessor. Disputation with Pyrrhus; Opuscula theologica et polemica.

2. Paul M. Blowers. Maximus the Confessor and John of Damascus on Gnomic Will in Christ: Clarity and Ambiguity. 2012.

3. Christopher A. Beeley. Natural and Gnomic Willing in Maximus Confessor’s Disputation with Pyrrhus. Studia Patristica.

4. Stanford Encyclopedia of Philosophy. Agency.

5. Stanford Encyclopedia of Philosophy. Ethics of Artificial Intelligence and Robotics.

6. Stanford Encyclopedia of Philosophy. Computing and Moral Responsibility.

7. Becker et al. Evaluating the Goal-Directedness of Large Language Models. 2025.