«Угроза черным»: YouTube блокирует шахматистов за «расизм»
ИИ может принять шахматные дискуссии за расистские разговоры
Судя по всему, алгоритмы YouTube воспринимают беседы шахматистов, в которых обсуждаются, к примеру, угрозы черным фигурам, как расистские комментарии.
Это то, что, по подозрению пары исследователей из Университета Карнеги-Меллона в США, произошло с Антонио Радичем, хорватским шахматистом, ведущим популярный канал на YouTube. В прошлом году его аккаунт был заблокирован за «вредный и опасный» контент.
YouTube так и не представил объяснений и восстановил канал в течение 24 часов, сказал Ашикур Р. ХудаБухш, научный сотрудник Института языковых технологий Университета Карнеги-Меллона (CMU). Тем не менее, возможно, что разговор «черное против белого» во время интервью Радича с мастером Хикару Накамурой запускал программное обеспечение, которое автоматически обнаруживает расистские высказывания.
«Мы не знаем, какие инструменты использует YouTube, но если они полагаются на искусственный интеллект для обнаружения расистских высказываний, может произойти такая ситуация», — сказал ХудаБухш. И если это случилось публично с кем-то столь же известным, как Радич, это вполне может происходить незаметно для многих других людей, которые не так хорошо известны.
Чтобы увидеть, возможно ли это, ХудаБухш и Рупак Саркар, инженер-исследователь курса LTI, протестировали два современных классификатора речи — тип программного обеспечения ИИ, которое можно обучить обнаруживать признаки языка ненависти. Они использовали классификаторы, чтобы просмотреть более 680 000 комментариев, собранных на пяти популярных шахматных каналах YouTube.
Затем они случайным образом отобрали 1000 комментариев, которые по крайней мере один из классификаторов пометил как разжигание ненависти. Когда они вручную просмотрели эти комментарии, они обнаружили, что подавляющее большинство — 82% - не содержало языка вражды. По их словам, программа реагировала на такие слова, как черный, белый, нападение и угроза.
Как и в случае с другими программами искусственного интеллекта, которые зависят от машинного обучения, эти классификаторы обучаются на большом количестве примеров, и их точность может варьироваться в зависимости от набора используемых примеров.
Например, Худабухш вспомнил упражнение, с которым он столкнулся в студенческие годы, цель которого заключалась в том, чтобы идентифицировать «ленивых собак» и «активных собак» на наборе фотографий. На многих тренировочных фотографиях активных собак видны широкие просторы травы, потому что бегущие собаки часто находятся на расстоянии. В результате программа иногда определяла фотографии с большим количеством травы как примеры активных собак, даже если на фотографиях не было собак.
«Мы стремимся сделать все возможное для борьбы с ненавистью и расизмом на нашей платформе, но мы также знаем, что эти проблемы являются большими. Мы с нетерпением ждем сотрудничества с другими компаниями, футбольными ассоциациями, неправительственными организациями, правительствами, родителями и воспитателями, как в режиме онлайн, так и вне сети», — заявили в компании.
В Instagram подсчитали, что только в июле-сентябре 2020 года было получено более 6,5 миллиона жалоб на использование «языка ненависти» в личных сообщениях.
В отличие от комментариев под постами, следить за модерацией в сообщениях намного сложнее — это можно сделать только после жалобы пользователей.
Источник: Новое время
Читайте также
Все материалы рубрики
Бульдозер после холокоста: как советская власть пыталась утаить трагедию в Бабьем Яре
Украинский ЦК принял решение буквально сравнять Бабий Яр с землею
Советские власти трижды пытались стереть память о массовых расстрелах в оккупированном Киеве.
Одно из самых чудовищных преступлений нацизма на территории СССР произошло в Киеве, в урочище на северо-западе украинской столицы, где с 1941 по 1943 год было по разным подсчётам убито от 70 000 до 200 000 человек. Были среди них и советские военнопленные, но подавляющее большинство - гражданские лица, и главным образом евреи и цыгане. Фашисты даже начали строить там мыловаренный завод, чтобы плоды их «трудов» не пропадали зря, но не успели.
Тем не менее, немцы попытались, пусть и не очень успешно, скрыть следы своих преступлений в Бабьем Яру. А уже после освобождения Киева, тем же самым занялись и советские власти. Вот что пишет по этому поводу Александр Лычагин:
«Первую осуществили немцы во вторую годовщину начала расстрелов, - в сентябре-октябре 1943 года.
В спешном порядке у Бабьего Яра построен концентрационный лагерь, куда были согнаны военнопленные-смертники и сформированы зондеркоманды. Из надгробных плит находящегося неподалеку еврейского кладбища построены кремационные печи, подвезены дрова и емкости с нефтью. Несколько недель трудились нацисты, заметая следы, но не изменяя своей практичности. Здесь не было Канады (Канадой в знаменитом концлагере Освенцим (Аушвиц) называли команду по уборке. Заключенные из этой команды сортировали и грузили на платформе вещи вновь прибывающих заключенных. В Канаде работали исключительно евреи, - прим.ред.), как в Аушвице. Всё ушло во рвы. И они поспешили это исправить. Остались только пепел и кости. Кубометры пепла и костей...
Вторая попытка. 1957 год. Украинский ЦК принял решение буквально сравнять Бабий Яр с землею. Бабий Яр перегородили плотиной и начали закачивать в него пульпу с соседних кирпичных заводов. Пульпа - это жидкая смесь воды, глины и песка. Расчет был прост: пульпа заполнит овраг до краев, вода инфильтруется в землю, высохшая масса надежно забетонирует Бабий Яр и навечно погребет его страшное содержимое.
Но Яр отомстил. Вода никуда не делась, - пласт подстилавшей его глины оказался надежным водоупором. Уровень пульпы повышался, плотину надстраивали. Она поднялась на высоту шестиэтажного дома. И весной 1961 года её, размытую вешними водами, прорвало. Образовался вал из воды и грязи высотой до десяти метров. С огромной скоростью эта масса обрушилась на городской район Куренёвку, сметая все на своем пути. 30 гектаров, 250 жилых домов, парк, больница, стадион, инструментальный завод в считанные минуты были погребены под слоем грязи и камней. Место бедствия было моментально обнесено высоким забором и строго засекречено. Даже пассажирские авиатрассы были отнесены в сторону. Раскопки длились два года. Количество жертв до сих пор не известно, но это многие сотни, а, возможно, и тысячи.
1962 год. Третья и самая решительная попытка.
Армада бульдозеров, экскаваторов, скреперов была брошена на борьбу с Бабьим Яром. В считанные недели излившийся за год до этого грунт был водворен на место. Через Бабий Яр прошло шоссе, а на месте массовых захоронений построен жилой массив. На костях. С балконов первого ряда домов можно было полюбоваться на место первых массовых расстрелов евреев сентября 1941 года. Был спланирован новый стадион и увеселительный комплекс. А на месте еврейского кладбища построили телецентр.
Нацисты о таком и мечтать не могли...»
Власть до самого развала СССР всеми силами замалчивала масштабы трагедии, и даже памятник, поставленнный только в 1976 году, был посвящен исключительно погибшим там военнопленным. И лишь 29 сентября 1991 года, в 50-летнюю годовщину первого массового расстрела евреев, там был установлен памятник в виде ритуального еврейского семисвечника – меноры, а от бывшей конторы еврейского кладбища к нему проложена вымощенная плиткой «Дорога скорби».
Источник: Новые известия