Могут ли древние, могущественные мифические существа, известные нам из еврейской литературы, служить полезными проводниками в современном мире постоянно развивающихся технологий? Новая книга убедительно доказывает, что это действительно так.
Книга Майкла М. Розена Like Silicon from Clay: What Ancient Jewish Wisdom Can Teach Us About AI («Как кремний из глины. Что старая еврейская мудрость может поведать нам об искусственном интеллекте») показывает, что традиционные повествования о големе, дибуке и магиде могут подсказать, как нам выжить, когда компании вроде OpenAI будут создавать новые итерации мгновенно ставшего вездесущим ChatGPT и огромного сонма последующих компьютерных существ.
Розен, старший научный сотрудник Американского института предпринимательства, специализирующийся на вопросах интеллектуальной собственности в области технологий, хорошо осведомлен о современных этических проблемах, связанных с искусственным интеллектом. Он также является соблюдающим иудеем, знакомым с каноническими источниками.
Как объясняет Розен, известно четыре основные реакции на запуск в конце 2022 года ChatGPT, «большой языковой модели», которая произвела революцию во многих аспектах повседневной жизни... помогая писать свадебные тосты, некрологи, сводки новостей и даже курсовые работы».
Позитивные автономисты, такие как глава OpenAI Сэм Альтман, «считают последние достижения ИИ по-настоящему революционными — они отличаются от предыдущих вычислительных технологий не только количественно, но и качественно». Они также «верят, что машины уже достигли (или скоро достигнут) автономии... разумности, осознанности или сознания». И самое главное, «они искренне приветствуют эти прорывы».
С другой стороны, негативные автономисты, включая Илона Маска и Элиэзера Юдковски, согласны с тем, что ИИ принципиально изменит человеческое бытие и в перспективе может стать полностью автономным, но интерпретируют эту возможность «в подавляющем большинстве случаев как опасную, вредную и даже несущую экзистенциальные риски». Юдковски даже призывает к немедленной деактивации ИИ.
Другие не согласны с такой дихотомией. Позитивные автоматизаторы считают ИИ «не более чем расширением человеческих возможностей — умножителем силы, который отражает и реализует собственные способности, предположения и предубеждения программистов». Такие конструкции, как ChatGPT, по их мнению, лишены возможностей человеческого творчества и независимого мышления.
Негативные автоматизаторы согласны с тем, что эта технология — «всего лишь механический протез», но тем не менее беспокоятся, что машины навредят человечеству — не из-за мощного потенциала ИИ, как считают негативные автономисты, а скорее из-за его многочисленных недостатков. Чего уж там говорить об отсутствии человеческой души и творческих способностей — зачастую он даже не может предоставить верную информацию!
Для того чтобы политики, инженеры и руководители компаний могли разобраться в этих различных точках зрения, Розен предлагает три ориентира из раввинистической литературы.
1. Голем
Големы — человекоподобные существа, упоминаемые в Талмуде и в легендах, связанных с мудрецом XVII века по имени Махарал из Праги, — призваны защищать своего создателя и еврейскую общину. Однако они могут оказаться и разрушителями. Поэтому истории о них напоминают нам о том, что за существами, созданными людьми, но способными действовать самостоятельно, следует внимательно следить.
По словам Розена, «голем — это олицетворенная позитивная автономистская перспектива, или, по крайней мере, настолько олицетворенная, насколько может быть олицетворен гуманоид — творение человеческих рук, но независимое, доброжелательное и преобразующее». Однако, напоминает он своим читателям, «действия голема всегда зависели от его создателя-человека, который мог и хотел прекратить его существование, когда это было абсолютно необходимо, например, когда изначально хороший голем становился плохим».
Так, израильский ученый Гершом Шолем, исследователь еврейской мистики, в 1965 г. в речи, посвященной первому компьютеру в Еврейском университете в Иерусалиме, который он назвал «големом», сказал ему и аудитории: «Развивайтесь мирно и не разрушайте мир. Шалом».
2. Дибук
Сверхъестественный дух, который, как считается, обладает человеческим обликом, диббук демонстрирует непокорность, а зачастую и откровенно злые наклонности. Известны истории о том, как он вселяется в людей, а общинные мудрецы вынуждены изгонять его. Такая демоническая сущность, как считает Розен, «должна быть особенно привлекательна для негативных автоматизаторов, чье представление о роботах по умолчанию подчеркивает их отрицательные аспекты».
Предостерегающие истории о дибуках отражают чувства тех, кто считает ИИ параллельным явлением, «темным, опасным и тяжелым отражением человечества, злой силой, которую человечество должно изгнать, и бременем, которое нужно сбросить», если мы хотим оставаться психологически здоровыми.
3. Магид
Гораздо менее известным, но, возможно, более ценным для текущего момента является магид. Выдающийся еврейский ученый XVI века раби Йосеф Каро, автор классического еврейского труда «Шулхан Арух», свода еврейских законов, верил, что подсознательный голос (позитивное зеркало диббука) посещает его и вдохновляет на научные изыскания и духовный рост. Он назвал это магидом (рассказчиком), и, подобно взгляду Сэма Альтмана на искусственный интеллект, это «вдохновило его и проявило все самое лучшее».
Раби Каро, который, похоже, первым упомянул об этой духовной сущности, описывает ее так, что, по словам Розена, «она напоминает дибука, поскольку, как и его темный сородич, он представляет человеческие порывы и творческие способности, не обязательно выходя за их пределы. Однако, в отличие от дибука, магид отражает наших внутренних ангелов, позитивные побуждения и стремление к самосовершенствованию ради улучшения мира».
В конечном итоге, заключает Розен, «наши внутренние дибуки — наши самые темные инстинкты — будут доминировать в нашем мышлении о технологиях и решениях, которые мы разрабатываем, если мы не дадим нашим внутренним магидам — нашим лучшим ангелам — одержать над ними верх».
Он предлагает «тепло принять все лучшее, что могут предложить наши современные големы, поощряя дальнейшее развитие технологий, которые продлят и улучшат человеческое существование». В то же время он выступает за стратегию строгих добровольных отраслевых стандартов, основанных на этических мнениях корпораций, правительств и общественности, «которые обеспечат ответственное и правильное развитие ИИ».
Частью этого процесса регулирования должно стать выявление и искоренение наших худших психологических предубеждений и импульсов (дибуков) из наших машин «и наделение их нашими лучшими ангелами — нашими маггидами». И, конечно, подобно создателям големов древности, предусмотреть меры предосторожности на случай, если то, что мы создаем, угрожает выйти из-под контроля человека.
Последняя молитва Розена, как и у Шолема, заключается в том, чтобы все последующие разработки ИИ стали началом более гуманистической эпохи для всех нас.
Aish.com, перевод Ильи Амигуда
