Профессор Джуда Перл рассказывает об опасностях ИИ, о невежестве в отношении сионизма в американских кампусах, о жестоком убийстве своего сына Дэниела и о том, как он мечтает вернуться в родной Бней-Брак.
Журналисты израильского делового издания Globes Асаф Гилеад и Алон Перл встретились с профессором Джудой Перлом в Лос-Анджелесе. С первого взгляда было понятно, что это весьма неординарный человек. Он поет, танцует, пьет и на мгновение даже похож на человека, который не воспринимает жизнь слишком серьезно.
Но на самом деле, как поняли интервьюеры уже после расставания, все совсем иначе. Перл — профессор информатики и статистики в Калифорнийском университете в Лос-Анджелесе (UCLA). В его резюме — десятки престижных наград, он считается одним из отцов искусственного интеллекта и уже несколько десятилетий назад предвидел мир, к которому мы движемся. Кроме того, его жизнь отмечена одной трагедией, которую невозможно забыть: его сын, американский журналист Дэниел Перл, был похищен в 2002 году в Пакистане и убит террористами.
Интервью состоялось в 23.00 вечера. Можно было предположить, что Перл, который только что отметил 88--летие, захочет поскорее закончить разговор и лечь спать. Но он бодр как никогда, как будто за окном было утро. И вообще, несмотря на все, что он пережил и чего достиг, он, похоже, не намерен останавливаться в ближайшее время.
«Я еще многого хочу добиться, — говорит он. — У меня так много идей в области искусственного интеллекта. Я знаю, что есть вещи, которые я могу сделать, а другие не знают. Кроме того, я чувствую, что могу многое предложить еврейскому миру. Мы не знаем, как защитить себя и выразить правоту Израиля таким образом, чтобы противостоять левым взглядам. Но я чувствую, что это в моих силах.
«Искусственный интеллект меня пугает»
Когда журналисты спрашивают Перла о будущем искусственного интеллекта, становится очевидным, что он находится в состоянии постоянного диссонанса. С одной стороны, это то, над чем он работает, то, ради чего он живет. С другой стороны, он не скрывает опасений на сей счет. «Искусственный интеллект меня пугает, — говорит он. — У существа, которое мы сейчас создаем, могут появиться революционные идеи, и оно может стать Големом, который ополчится на своего создателя. Будучи ученым, я не трачу много времени на подобные мысли, но, возможно, я порчу будущее своих внуков, продолжая работу над ним».
Чтобы лучше понять его опасения, нужно немного погрузиться в дело всей жизни Перла. В это трудно поверить, но его американская мечта началась в Израиле. Он родился и вырос в Бней-Браке, а в конце 1950-х годов начал свою профессиональную карьеру, изучая электротехнику в Технионе. Затем последовал переезд в США. Перл получил степени магистра физики в Ратгерском университете и доктора электротехники в Бруклинском политехническом институте. В 1970 году он был принят в Школу инженерных и прикладных наук Калифорнийского университета, где до сих пор работает профессором информатики и статистики, а также директором Лаборатории когнитивных систем.
В те годы наука и бизнес были сосредоточены на разработке искусственного интеллекта, способного принимать решения и обладающего опытом, сопоставимым с опытом таких профессионалов, как врачи и нефтеразведчики. Но воссоздать опыт людей-профессионалов почти никогда не удавалось, поскольку они сталкивались с высоким уровнем неопределенности.
Именно здесь в дело вступил Перл. Он разработал теорию байесовских сетей, основанную на следующем принципе: для идентификации определенного заболевания в первую очередь необходимо понимать не взаимосвязь между различными симптомами, а степень их присутствия в организме пациента и степень вероятности каждого, чтобы можно было идентифицировать их совместное появление как, например, малярию или СПИД. Эта теория спустя примерно 50 лет принесла ему самую престижную награду в области информатики — премию Тьюринга.
Статья, опубликованная Перлом в 1982 году, заложила основы новой эры в разработке искусственного интеллекта, которая длится уже около 40 лет. В 80-90-х годах он превратил свою теорию в один из основополагающих принципов искусственного интеллекта: от постановки медицинского диагноза и биоинформатики до классификации электронной почты, Байесовские сети позволяют многим дисциплинам структурировать свои данные.
Но Перл не был удовлетворен этим. Позже он обобщил теорию так, чтобы она не только предполагала статистические зависимости между независимыми факторами, но и давала раз и навсегда объяснение причинно-следственных связей между ними. «Здесь я открыл для себя девственную территорию, — говорит он. — На самом деле никто из экономистов, экспертов по пандемиям и исследователей в области социальных наук не знал, как работать со связями между причиной и следствием. А ведь это, несомненно, важная задача: понять, почему пациент умирает, хотя он получил препарат, который должен был спасти ему жизнь».
И вот в 1988 году он предложил систему причинно-следственных связей, основанную на теории причинно-следственных и вероятностных умозаключений, изложенной в его книге «Вероятностные рассуждения в интеллектуальных системах». Тем самым Перл исполнил мечту каждого ученого: дал объяснения явлениям, а не списал их на случайность.
«Настанет день, когда мы будем развлекать и обслуживать его».
Перл, похоже, не в восторге от нового бума генеративного искусственного интеллекта, возникшего в ноябре 2022 года с запуском бота ChatGPT от OpenAI. Хотя он называет себя пользователем-любителем («Он помогает мне смягчать критические письма, которые я отправляю коллегам»), Перл не считает, что большие языковые модели, на которых основаны ChatGPT и подобные им, обязательно являются впечатляющим научным достижением. «Эти модели черпают мудрость не из опыта реального мира, а из текстов, написанных людьми, которые уже сами понимают связь между причиной и результатом. Таким образом, они ограничены опытом и пониманием тех, кто написал текст».
— То есть вы утверждаете, что генеративный ИИ глуп?
— Генеративный ИИ, каким мы его знаем сегодня, производит салат из анекдотов. Он смотрит на прочитанные тексты, выводит из них ассоциации и делает салат. Я бы не стал двигаться в том направлении, в котором движемся мы, потому что я стремлюсь к общему искусственному интеллекту, к тому, что называют сверхразумом. Я верю, что это произойдет при моей жизни, хотя я уже не молод. Но нам нужно добавить к нему элемент, которого ему не хватает сегодня и которым обладает каждый из нас: внутреннюю ментальную модель, которая помогает нам объяснить, как устроен мир, приобретенную благодаря опыту, накопленному в течение жизни. Вот почему будущее — это гибрид, то есть система искусственного интеллекта, которая работает со всей существующей мощью больших языковых моделей, находя ответы на любой поставленный перед ней вопрос, но при этом содержит модель правил, по которым работает мир.
— Возвращаясь к началу нашего разговора, чего вы боитесь на самом деле?
— Это существо может в будущем использовать нас как домашних животных, а мы будем развлекать его и служить ему. Да, на мой взгляд, оно может захотеть захватить весь мир. Оно может, например, решить, что президент Соединенных Штатов должен служить ему. Он не будет делать это в форме принуждения: он может убедить президента США, что в его интересах прийти служить системе, подобно тому как маркетинг навязывает нам ненужные товары. Пока этого не произойдет, искусственный интеллект будет использоваться репрессивными режимами в своих целях.
— Разве мы не можем диктовать искусственному интеллекту правила «можно» и «нельзя», как в «Трех законах робототехники» Айзека Азимова?
— Когда-то мы думали, что сможем задать искусственному интеллекту такие правила, что он никогда не сможет причинить вред людям. Но на самом деле это невозможно. Он обойдет все ограничения. У нас нет инструментов, чтобы предупредить его.
«ХАМАС построил интеллектуальные туннели в университетских кампусах»
После 7 октября Перл вблизи наблюдает рост антисемитизма в студенческих кампусах США. Пропалестинские демонстрации, антисионистские лекции и дискриминация студентов стали обычным явлением в кампусах за последний год. Перл не очень удивился, когда это произошло. «В течение многих лет ХАМАС строил интеллектуальные туннели в университетских кампусах, которые действовали против Израиля. Например, уже в 2008 году, во время операции «Литой свинец», в нашем университете проходило собрание, на котором фактически было сказано, что Израиль совершает военные преступления и не имеет права на существование. На следующий день этот вывод был опубликован в университетской газете как свершившийся факт.
В то время я также увидел, что большинство преподавателей Центра еврейских исследований не были сионистами. Сегодня нет ни одного преподавателя, способного правдиво читать лекции по истории сионизма; все они настроены антиизраильски. Кто-то говорил об этом, кто-то молчал все эти годы, но 7 октября все было раскрыто. Люди перестали стесняться. До этого момента люди скрытничали, утверждали, что им просто не нравится Биби, или что-то в этом роде, но сегодня нет ничего постыдного в том, чтобы говорить, что Израиль не имеет права на существование».
Одной из стран, прокладывающих эти «интеллектуальные туннели», по мнению Перла, является Катар. Согласно отчету, опубликованному Институтом по изучению глобального антисемитизма и политики (ISGAP), Катар является крупнейшим иностранным донором американских университетов и на протяжении многих лет вливает миллиарды долларов без какого-либо надзора. «Я не сомневаюсь, что он играет здесь важную роль, и открыто, и тайно. Катар открыто предоставляет гранты университетам, не требуя ничего взамен. Кроме того, он присылает множество студентов из мусульманских стран и предоставляет им щедрые стипендии. А когда нужно действовать, он предоставляет им адвокатов и специалистов, которые подсказывают, как себя вести и как разговаривать с репортерами. Они обладают огромной властью».
— Сталкивались ли вы с антисемитизмом лично?
— Я защищен. Всю свою жизнь, за исключением убийства моего сына, я был защищен от антисемитизма, и в США я его почти не видел. Никто не посмеет сказать что-либо против моей сионистской деятельности. Наоборот, я приглашаю их, я хочу, чтобы они задавали мне трудные вопросы об Израиле, но они не готовы слушать. Кроме того, в целом большинство людей на факультете компьютерных наук защищены.
Но в области социальных наук все совершенно иначе. К сожалению, то, что я слышу от преподавателей медицинской школы, тоже невероятно. Во-первых, число евреев среди студентов там постоянно сокращается. Сегодня в классе из 200 человек можно найти двух-трех студентов-евреев. Раньше это было что-то около 10% аудитории, но им удалось резко сократить их число.
— Как это произошло?
— Дискриминация по признаку еврейства запрещена, поэтому никто не скажет об этом. Но они находят способы. Например, у членов приемной комиссии есть возможность давать кредитные баллы тем, чьи семьи пережили трудности или не имели возможностей. Это зависит от их настроя, так что критиковать это нельзя.
Кроме того, то, чему учат студентов-медиков, неразумно. Вместо того чтобы говорить о медицине, они рассказывают о том, как вреден Израиль для мира. Недавно некоторые профессора начали предупреждать о рисках, связанных с приемом на работу врачей-сионистов.
— И университет или другие профессора ничего не делают?
— Это беспокоит всех, и некоторые профессора-евреи уходят в отставку. Только на прошлой неделе я слышал, как одна преподавательница сказала, что не может больше работать в таких условиях. Но администрацию это не волнует. Почему? Потому что, чтобы разобраться с этим, нужно произнести слово «сионист» и разобраться с главной проблемой — бойкотом Израиля. Никто не хочет браться за это, и, по правде говоря, ни у кого нет знаний.
Профессор Перл не просто болтает. В декабре планируется публикация написанной им книги о сионизме и антисемитизме. «Это наша большая проблема: мы не знаем, как защитить сионизм как движение, определяющее нашу идентичность. Даже преподаватели-евреи сегодня не имеют исторических и концептуальных знаний о том, что было до 1948 года. Их нужно учить. Они должны знать, как защищать, они должны узнать об Арлозорове, они должны узнать о сионистском движении от Герцля до наших дней. Мы должны понять американское еврейство и помочь ему определить и защитить свою идентичность. Мы полностью пренебрегали этим, но после 7 октября мы начали возвращаться к этому. Я вижу, что евреи здесь начинают понимать, насколько важен был Израиль и насколько он важен сегодня. Они открыто возвращаются к сионизму. Они понимают, что это клей, который держит нас вместе.
— Каким будет наступающий учебный год в студенческих кампусах? Вы настроены пессимистично?
— Наши враги методично готовятся к ожесточенной битве за имидж академических кругов. Они не собираются сдаваться. С другой стороны, преподаватели-евреи тоже становятся организованными, и мы собираемся отдавать предпочтение студентам-евреям, а также израильтянам, разумеется, в соответствии с законом. Поскольку научный мир начинает исключать из своих рядов израильских исследователей, наш долг — противостоять этому. Как мы будем это делать? Мы можем посвятить свое свободное время совместной исследовательской работе с израильтянами и всячески отдавать им предпочтение. Я рад, что, похоже, преподаватели-евреи решили: хватит. 7 октября заставило нас понять, что важно, а что нет.
В условиях атмосферы сгущающегося антисемитизма через два месяца в США пройдут выборы. По мнению Перла, повод для беспокойства есть у всех сторон. «По правде говоря, я не уверен в Камале Харрис. Она сделала несколько хороших заявлений и несколько проблемных. Я продолжаю писать, просить ее сказать, что она сионистка, но, в отличие от Байдена, она пока этого не сказала». Возможно, антисемитизм усилится, если она будет избрана; арабские голоса очень важны для нее, и она делает все возможное, чтобы не расстроить их. Это меня беспокоит. Она позволяет сомнительным людям руководить ею».
— А что насчет другой стороны? Доверяете ли вы Трампу?
— Трамп? Ой-ой. Я не понимаю, как самая просвещенная страна в мире предоставляет нам выбор между двумя такими людьми.
«Мы знали, что Дэниел подвергается риску, но не понимали, насколько сильному»
Трагическим и определяющим событием в жизни Перла стало убийство его сына Дэниела. В 2002 году Дэниел Перл, шеф бюро «Уолл-стрит джорнэл» в Юго-Восточной Азии, был направлен для расследования дела Ричарда Рида, британского террориста, осужденного за попытку взорвать пассажирский самолет. По пути в Карачи его похитило Национальное движение за восстановление суверенитета Пакистана, которое требовало от США, в частности, освободить пакистанцев из американских тюрем. Через шесть дней похитители обезглавили его, а позже распространили видеозапись, на которой запечатлено убийство.
«Это был просто кошмар, — вспоминает Перл. — Мы знали, что Дэниел в опасности, но не понимали, насколько она серьезна. В то время вокруг журналистов существовала аура защищенности, и мы думали, что им не причинят вреда. На самом деле он был первым журналистом, убитым подобным образом».
— Вы помните тот день, когда получили известие?
— Конечно. Моя покойная жена Рут проснулась, почувствовав, что что-то не так. Она попыталась позвонить ему, но он не отвечал. Я не верю в телепатию и тому подобные вещи, но что-то в этом было. В тот день, когда мне сообщили, что нашли видео с ним, я просто не понимал, как можно жить дальше. А еще я чувствую огромную вину за то, что не смог его спасти.
— Вы решили не смотреть видео с его убийством.
— Правда, я не хочу смотреть, не хочу слышать. И все же я был тронут, услышав его последние слова: «Я американский еврей из Энсино, Калифорния, США. Я из сионистской семьи. Мой отец еврей. Моя мать еврейка. И я еврей. В городе Бней-Брак в Израиле есть улица, названная в честь моего прадеда, Хаима Перла, который был одним из основателей города».
В течение последнего года Перла просили выступить перед семьями заложников 7 октября как человека, случайно оказавшегося в похожей ситуации, но он отверг это предложение. «Я чувствую, что мне нечего им сказать. Я чувствую, что не могу их ободрить, потому что я неудачник. Я не смог спасти своего сына. Что я могу им сказать? Но я вижу, что они делают то же, что и я: прилагают огромные усилия, пытаясь помочь нации».
«То, что дало мне возможность существовать и продолжать жить, — это понимание того, что я делаю это не для себя, а для чего-то большего, чем я. Я — звено в цепи, и моя задача — держаться. До убийства моего сына я находился в своем собственном доме, занятый уравнениями и алгоритмами. Это событие подтолкнуло меня к публичному выступлению, даже перед людьми, которые не знают, что такое уравнения».
«Я сожалею, что покинул Израиль. Я бы не сделал этого снова»
Джуду Перла очень трудно охарактеризовать. Он еврей, профессор, исследователь, «отец...». Но прежде всего, кажется, он израильтянин, истинный сионист, родившийся в Бней-Браке и в детстве наблюдавший за созданием государства. «У меня было замечательное детство, — вспоминает он. — При каждом удобном случае я говорю спасибо своим учителям в школе «Цейтлин» в Тель-Авиве. Они были элитными учеными, профессорами из Германии, которые приехали в Израиль и не могли найти работу по специальности, поэтому преподавали в школе. Они видели в нас продолжателей своей научной деятельности и давали нам все, что могли. Я — продукт этого образовательного опыта, который был уникальным во всей истории образования. Где сегодня можно найти профессоров, которые преподают в средней школе?»
— Скучаете ли вы по Израилю?
— Безусловно. Я вижу Бней-Брак в своих снах каждый день. Мне кажется, что я живу там и по сей день. Более того, я знаю, что город сильно изменился, и это причиняет мне боль. Я не уверен, что они помнят моего деда, Хаима Перла, который был одним из сионистов-основателей города. Я не мог поверить, что улицу Герцля переименовали в улицу рабби Шаха. Тем не менее, мое детство прошло именно там.
— Могли ли вы представить, что однажды этот мальчик из Бней-Брака поселится в США и будет иметь такое впечатляющее резюме?
— Конечно нет. Я приехал сюда, чтобы получить докторскую степень, заработать миллион, а потом вернуться в Израиль. Я все еще работаю над второй целью. Тем временем я родил здесь детей, и мы практически застряли. В каком-то смысле я жалею, что уехал из Израиля. Не знаю, сделал бы я это снова.
С одной стороны, Перл — исследователь, который имеет дело с причинно-следственными связями и погружен в уравнения. С другой стороны, еврейский мир у него в крови. Эти два понятия не всегда совпадают, но к концу беседы Перл пытается установить связь. «Сегодняшний мир полностью запутался и лишен причинно-следственной связи, особенно в том, что касается арабо-израильского конфликта. Например, Абу Мазен говорит в ООН, что мы — потомки хазар, и пытается увести дискуссию в этом направлении. Я утверждаю, что при определении происхождения коллективная память гораздо важнее, чем генетическая связь. Пусть Аббас придет и докажет мне, что мой дед был хазаром — и что? Я был с Иисусом Навином, когда мы переходили Иордан. Это моя коллективная память. Коллективная история — это доказательство и принадлежность больше, чем любая другая связь, включая генетику или физическое присутствие.
Я могу прочесть стихи, которые были созданы на Ближнем Востоке 3 000 лет назад, например, «Песнь моря». Каждый израильский ребенок может ее прочесть. А палестинцы? У них нет ни одного стихотворения, созданного до Накбы. Да, я придаю большое значение стихам, потому что они — зеркало нашей коллективной памяти».
