Искусственный интеллект возродил древние вопросы: что станет с людьми, когда нечто более совершенное, чем мы, сможет делать, знать и судить лучше, чем мы? Если машины производят изобилие без труда, кто должен им делиться? Если они сделают знания мгновенно доступными, что станет с обучением? Если они будут рассуждать лучше, чем мы, какие решения должны оставаться за человеком?
Технология новая. Проблемы — нет.
За тысячи лет до появления ИИ Гомер описал сделанных из золота служанок, обладающих «разумом, речью и силой». Аристотель воображал самодействующие инструменты. Греческая мифология подарила нам великана Талоса. Мудрецы Талмуда представляли синтетических людей. Многие древние цивилизации обращались к сверхразумам. Наш мир — не их мир. Но наши самые глубокие вопросы — их.
Начнём с изобилия. Искусственный интеллект обещает изобилие в масштабах, о которые древние могли лишь создавать мифы, возрождая две старые дилеммы: для кого это изобилие и для чего оно нужно?
На первый вопрос их ответ был широким: изобилие предназначено для всех. В XII веке Маймонид предсказал будущее, в котором «товары будут в изобилии, и все наслаждения будут доступны», где «небольшие усилия принесут большие результаты», и не будет «голода, войн, зависти и конкуренции».
Три столетия спустя Томас Мор в своей «Утопии» предсказал «великое изобилие всего сущего», при котором «ни один человек не будет нуждаться или просить милостыню».
Однако, если оставить всё на откуп рыночным силам, изобилие, производимое ИИ, скорее всего, достанется немногим, кто владеет технологией, а не многим, чьи средства к существованию она разрушает. Если изобилие должно распространяться повсеместно, нам нужно будет разработать экономическую систему, которая это обеспечит.
На второй вопрос, для чего нужно изобилие, у древних был ясный ответ: для обучения. Раввины идеализировали «Тора лишма», то есть учёбу не ради карьеры или статуса, а как самоцель. Греческое слово schole, от которого произошла «школа», означало досуг. Таким образом учёба рассматривалась как альтернативу работе, а не как её необходимое условие. Обе традиции видели глубочайшее человеческое призвание не в производстве, а в понимании.
Хотя ИИ может быть непревзойденным учителем, он также подрывает некоторые стимулы к обучению. Мы долгое время продавали образование как путь к средствам к существованию; этот расчёт выглядит шатким, когда никакое количество учёбы не сделает нас умнее, чем LLM (большая языковая модель). Легкий доступ к информации также не гарантирует понимания.
В диалоге «Федр» Платон предупреждал, что письменность позволит людям «создавать видимость знаний, в то время как по большей части они ничего не знают», «показывая мудрость без реального понимания». Искусственный интеллект усиливает эту опасность. Если мы позволим ему заниматься нашим письмом, рассуждением, исследованиями и принятием решений, способности, делающие мышление возможным, могут атрофироваться. Доступ к истине — это не то же самое, что знание истины.
Поэтому мы должны восстановить обучение как самоцель. Маймонид сформулировал конечную цель просто: учиться «не ради денег, не ради почестей, а потому что знание стоит того, чтобы к нему стремиться ради него самого».
Однако большей части человечества потребуется нечто большее, чем просто школа. Рабби Йосси а-Галили учил, что «человек умирает от безделья», а рабби Йехуда бен Батира утверждал, что тот, кто не имеет работы, должен найти «заброшенный двор или заброшенное поле и заняться этим». В эпоху изобилия дополнением к совершенствованию нашего ума станет совершенствование нашего мира.
Еврейское слово «мицва» означает как «заповедь», так и «доброе дело». Жизнь, построенная на знаниях, структурированном времени и обращении к другим, — это не утешительный приз в мире без труда. Это то, что, как предполагалось, должна была сделать возможной эпоха изобилия.
Для древних мир изобилия был в значительной степени мысленным экспериментом. Оракулы же, напротив, были реальным жизненным опытом.
Библейский Израиль обращался к Уриму и Туммиму по вопросам национального значения. Греки построили цивилизацию вокруг Дельф, где Пифия разрешала споры, санкционировала войны и формировала политику. Для их последователей это были авторитетные голоса, находящиеся за пределами обычного человеческого суждения, поэтому обе цивилизации сталкивались с одной и той же проблемой: если высший разум высказался, какое место остается для человеческого суждения?
Дельфийский оракул воплощал один из ответов: божественная власть была реальна, хотя и допускала различные толкования. Самая известная его запись была не пророчеством, а повелением: «Познай самого себя». Её глубочайшая функция заключалась не в том, чтобы давать ответы, а в том, чтобы принуждать к самоанализу.
Искусственный интеллект представляет собой обратную проблему. Оракулы были дельфийскими, и их неоднозначность допускала человеческое толкование. Искусственный интеллект становится всё более ясным, уверенным и точным, что побуждает к подчинению. Если ИИ диагностирует рак лучше любого радиолога, разрешает споры справедливее любого судьи и распределяет ресурсы эффективнее любого выборного органа, зачем сохранять человеческое обсуждение?
Ответ Талмуда на это искушение весьма радикален. В знаменитых юридических дебатах рабби Элиэзер обратился к небесному голосу, который заявил: «Рабби Элиэзер прав во всех случаях». Казалось бы, это должно было всё решить. Но нет. Рабби Йехошуа заявил: «Мы не на небесах!» Человеческое обсуждение, настаивал он, имеет ценность независимо от того, приводит ли оно к правильным результатам. Талмуд сообщает, что «Бог улыбнулся и сказал: “Мои дети победили Меня”».
Это не означает, что следует отвергать более совершенные технологии. Традиция, ценящая исцеление, не обязана отвергать лучшие диагностические инструменты. Но она гораздо менее охотно отдаст на аутсорсинг самоуправление, моральные суждения и взвешивание коллективных приоритетов. Цивилизация, которая передает моральные суждения на аутсорсинг высшему разуму, даже правильному, отказывается от чего-то, что лучшие результаты не смогут заменить.
Древние также предупреждали, что путь к лучшей эпохе будет полон трудностей. В еврейской традиции этот отрывок называется «хевлей Машиах», «родовые муки мессианской эпохи»: «Высокомерие возрастет... цены поднимутся... государство станет коррумпированным... истина исчезнет... молодые будут позорить стариков». Возможно, мы сейчас вступаем в ранние этапы.
Но еврейское пророчество отличается от греческих оракулов. Греческий оракул оправдывается, когда его предсказание сбывается. Мрачные видения еврейских пророков были скорее предупреждениями, чем предсказаниями, призванными побудить к действию, а не к смирению. В этом смысле, когда библейское пророчество сбылось, пророк не выполнил свою миссию.
Таким образом, еврейское предсказание о «хевлей Машиах» не является неизбежным. Подтекст заключается в упреждающем действии. Механизмы для широкого распределения изобилия, образование, которое ценит обучение независимо от работы, неоплачиваемые рамки для производительности, творчества и государственной службы; и области, где человеческое суждение остается превыше всего. Все это может сформировать план зарождения грядущей эпохи.
За тысячи лет до появления ИИ древние представляли себе многое из этого — самодействующие инструменты, автономное оружие, сверхразум, дающий ответы. Они также размышляли над более сложными вопросами. Для кого предназначено изобилие, для чего оно нужно и можно ли делегировать человеческое суждение чему-то большему, чем мы сами.
По мере того, как ИИ меняет все, утешает осознание того, что мы не начинаем с нуля. Древние ничего не знали о наших технологиях. Но наши самые насущные вопросы и не связаны с технологиями. Это вопросы смысла и суждения, того, как жить и ради чего жить.
В этом отношении они оставили нам нечто вневременное. И актуальное одновременно.
Jerusalem Post, перевод Ларисы Узвалк
