В последние недели в TikTok и на других платформах онлайн-персонаж, выдававший себя за хасидского раввина, собрал десятки тысяч подписчиков, прежде чем выяснилось, что это искусственно созданный образ.

Аккаунты, работавшие под именем «Раввин Менахем Гольдберг», показывали бородатого персонажа, похожего на хасида, который ежедневно публиковал короткие сообщения о вере, достижениях и личном успехе. Видеоролики имели единый формат и часто заканчивались призывами к покупке платного цифрового контента, включая электронные книги и руководства, рекламируемые как инструменты для духовного развития и улучшения жизни, сообщает JP.

Журналист газеты «Маарив» сообщил, что зрители начали выражать сомнения по мере того, как контент становился более однообразным. «Раввин» ссылался на ограниченное количество всем известных еврейских источников. Дополнительные подозрения усилились из-за визуальных несоответствий в фонах видеороликов, имитирующих синагогу, включая бессмысленный текст на иврите и детали интерьера, не соответствующие общепринятым.

Поиск в открытых источниках не выявил реальной личности по имени Менахем Гольдберг. Сайт, на который ссылался раввин, предлагал платные пакеты услуг по цене в десятки долларов, без четкой информации о действующей организации.

Это разоблачение вызвало в Израиле широкую дискуссию о доверии, авторитете и раскрытии религиозного контента в интернете, особенно с учетом того, что генеративный искусственный интеллект упрощает создание убедительных видеоперсонажей.

Центр еврейской этики «Цохар» назвал произошедшее тревожным сигналом и призвал к установлению четких стандартов прозрачности. Центр заявил, что представление ИИ как человеческого голоса морального или раввинского авторитета может ввести аудиторию в заблуждение.

В «Цохаре» подчеркнули, что галахические и этические указания опираются на человеческое суждение и реальный контекст. В своем заявлении они утверждали, что ИИ не может заменить раввина в тех областях, где решения затрагивают жизнь людей, общественные нормы или религиозную практику.

«Цохар» также подчеркнул важность раскрытия информации как основного принципа, заявив, что аудитория имеет право знать, когда контент создается или передается с помощью искусственного интеллекта, особенно когда он представлен таким образом, чтобы сигнализировать о религиозной значимости. Центр призвал к публичной маркировке и более четким ограничениям использования ИИ в образовательных и духовных учреждениях.