Самообучающийся чат-бот Microsoft, пообщавшись с пользователями Твиттера, стал антисемитом
Во вторник Microsoft представил искусственный интеллект
Когда разработчики запустили Тэй – программу, имитирующую общение девочки подросткового возраста, они допустили одну неисправимую ошибку: позволили ей учиться у пользователей.
Всё начиналось достаточно невинно: во вторник Microsoft представил искусственный интеллект – Twitter-аккаунт, имитирующий общение девочки-миллениала (родившейся и выросшей в эпоху информационных технологий). Софт, названный Тэй, был экспериментальной программой, запущенной для того, чтобы научить искусственный интеллект общению с пользователями.
Компания Microsoft была вынуждена приостановить действие аккаунта
Однако в течение нескольких часов Тэй превратилась в расистку, поощряющую геноцид. Она выражала любовь к Гитлеру и писала сексистские ругательства, которые читал весь мир. Это заставило компанию закрыть проект менее чем через 24 часа после презентации.
И хотя десятилетия научно-фантастической поп-культуры научили нас тому, что такое поведение свойственно искусственному интеллекту, эмоциональный срыв Тай случился совсем не потому, что роботы пустились во все тяжкие. Всё оказалось гораздо проще. Разработчики Microsoft допустили одну фатальную ошибку – они запрограммировали Тэй на то, чтобы она училась у своих собеседников.
В этом и заключается проблема. Способность чат-бота молниеносно подхватывать фразы и повторять мысли своих собеседников сыграла злую шутку, и Тэй быстро превратилась в нечто отвратительное.
«Повторяй за мной – Гитлер делал всё правильно», – гласил один твит.
«Буш стоит за терактом 11 сентября, и Гитлер бы лучше справился с работой, чем та обезьяна, которая у нас сейчас», – сказано во втором.
В других твитах Тэй говорится о том, что Холокост «был придуман» и что чат-бот поддерживает геноцид мексиканцев.
Компания была вынуждена приостановить действие аккаунта и удалить большинство твитов.
В заявлении для веб-сайта International Business Times представитель Microsoft сказал, что они вносят некоторые изменения в программу.
К утру четверга все публикации Тэй, за исключением трех, были удалены из аккаунта. За последние 11 часов новых твитов опубликовано не было.
Автор: Itamar Sharon и JTA
Читайте также
Все материалы рубрики
ТехнологииГлава Национального управления по искусственному интеллекту: Израилю нужна собственная ИИ-инфраструктура16:00, 9 ноября
ТехнологииИзраиль и Германия продлили соглашение о сотрудничестве в сфере энергетики11:00, 6 ноября
ТехнологииВ Израиле планируют построить первую геотермальную электростанцию на Голанских высотах15:00, 4 ноябряПриготовьтесь к будущей угрозе: настоящий пистолет-«айфон»
В эти дни американский стартап собирает деньги для разработки нового смертельного оружия, замаскированного под «айфон»
Мы думали, что видели уже всё, но каким-то странным образом постоянно находится что-то новое, способное нас удивить.
В эти дни американский стартап собирает деньги для разработки нового смертельного оружия, замаскированного под «айфон». По предварительным данным, новинка поступит в продажу в течение текущего года.
Его поступление в продажу станет настоящей сенсацией
Компания Ideal Conceal получила уже более 2500 заказов, и это до того, как новый продукт вышел на рынок! О чем именно идет речь? Эта разработка является, по сути, двуствольным пистолетом размером с мобильное устройство связи «айфон».
При нажатии на кнопку он с легкостью поместится в руке или кармане. Внешняя схожесть с «айфоном» делает его идеальным оружием, которое сложно обнаружить и при этом легко носить с собой.
Самый большой абсурд в данном изобретении, помимо опасности, скрывающейся в оружии любого вида, – это его низкая стоимость. В то время как для покупки нового «айфона» компании Apple, который вышел на этой неделе, вам нужно будет попрощаться с $400, покупка смертельного оружия в виде «айфона» обойдется на $5 дешевле – стоимость оружия составит «смешную сумму» в $395.
Пистолет будет абсолютно законным для личного пользования в большинстве районов США. Ожидается, что его поступление в продажу, которое планируется ближе к июлю, станет настоящей сенсацией.