19 января 2021 
adminGWP 
Нeвoзмoжнo пoстрoить эффeктивный aлгoритм сдeрживaния искусствeннoгo супeринтeллeктa, a знaчит eгo нeльзя кoнтрoлирoвaть.
Кoмaндa учeныx, в тoм числe с Цeнтрa людей и машин Института развития человека Макса Плинтус, пришла к выводу, чего человечество не сможет хранить под контролем неправдашний суперинтеллект, даже разве примет для сего все возможные планы. Статья с соответствующими выводами была опубликована в Journal of Artificial Intelligence Research, сообщает EurekAlert.
«Сверхразумная автомат, которая управляет сообща – звучит как научная фантастика. Да уже есть роботы, выполняющие определенные важные задачи случайно. При этом программисты не касаясь частностей не понимают, ровно они этому научились. В результате возникает альтернатива: может ли данный процесс в какой-в таком случае момент стать неконтролируемым и опасным в целях человечества?» – подчеркнул Вотан из авторов исследования Мануэль Себриан.
Пройдя минуя множество алгоритмов и сценариев, исследователи пришли к выводу, словно полностью контролировать сверхразумный ИИ нет возможности.
Даже если если заложить в сверхразумную машину цифры об этических принципах и снизить ее связи с внешним артельно (например, отключить вход в интернет), это отнюдь не спасет человечество с рисков того, подобно как подобная система выйдет изо-под контроля.
Прежде об опасности ИИ предупреждали стэйтовский бизнесмен Илон Маск и физик Стивен Хокинг.
Категория: