Ученый Хинтон призвал не позволить ИИ уничтожить человечество

Международное академическое сообщество должно объединить усилия, чтобы предотвратить возможность уничтожения человечества искусственным интеллектом, нацеленным на самосохранение.

Об этом заявил на конференции в Шанхае британско-канадский ученый Джеффри Хинтон, получивший Нобелевскую премию в области физики за открытия в сфере машинного обучения.

«Это похоже на то, как если бы кто-то держал маленького тигренка в качестве домашнего животного», — сказал Хинтон, которого в научных кругах называют «крестным отцом искусственного интеллекта». «Маленький тигренок очень милый, но, если вы продолжаете его держать у себя, вам нужно следить за тем, чтобы он вас не съел, когда вырастет, — предупредил Хинтон. — Крупнейшие мировые державы должны совместно изучать, как обучить и без того очень умный искусственный интеллект, чтобы он не захотел править миром или уничтожить человечество». Специалисты должны сосредоточиться на устранении разрыва между «обучением ИИ быть умным» и «обучением ИИ быть добрым», подчеркнул ученый.

Хинтон отметил, что разработчики создают агентов с искусственным интеллектом, потому что они лучше справляются с задачами, и у этих агентов с ИИ уже есть возможность определять свои собственные подцели. Чтобы иметь возможность достигать поставленных целей, ИИ захочет сделать две вещи: во-первых, выжить, а во-вторых, получить больше контроля. «И мы не сможем просто отключить их, агенты ИИ будут очень легко манипулировать людьми, которые их используют, мы будем как трехлетние дети, а они будут как взрослые», — считает ученый. Искусственный интеллект сможет манипулировать людьми и убедить человека, который должен их отключить, в том, чтобы не делать этого, отметил Хинтон.