Если искусственный интеллект будет делать то, что мы потребуем, это станет большой проблемой

Опасность применения машин с искусственным интеллектом, выполняющих наши приказы, состоит в том, что желания мы склонны выражать очень небрежно. Строки кода, которые будут «оживлять» эти машины, неизбежно забудут учесть нюансы и не сформулируют на этот счёт внятного предостережения, в результате чего ИИ-системы получат цели и побуждения, не согласованные с нашими истинными предпочтениями. Классический мысленный эксперимент, иллюстрирующий эту проблему, поставил в 2003 году оксфордский философ Ник […]