МГИМО International — 2019. Тур 1. Вопрос 9
Вопрос 9: Отмечая, что искусственный интеллект может превратно трактовать формулировку задачи, Ник Бостром пишет, что на команду СДЕЛАТЬ ЭТО машина может обойтись поражением нерва. Кто собирался СДЕЛАТЬ ЭТО в произведении 1989 года?
Ответ: Джокер.
Комментарий: если отдать компьютеру команду «заставить людей всегда улыбаться», то может получиться так, что он примет наиболее надёжное решение и долговечное решение, парализовав лицо с улыбкой, поэтому нужно всегда учитывать возможности подобной «порочной реализации». В фильме «Бэтмен» Тима Бёртона Джокер хотел отравить город смертоносным ядом, вызывающим у поражённых людей улыбку.
Источник(и): Н. Бостром. Искусственный интеллект. Этапы, угрозы, стратегии. http://flibusta.is/b/511012/read
Автор: Дмитрий Хмыров (Москва)
!