В прошлом году аналитики доказали, что разработать систему управления сверхинтеллектом невозможно, отметил Кузнецов. Искусственный разум высшего порядка в любом случае сможет определить намерения человека и уйти из-под контроля.
«Как только мы дадим ему дорогу, он будет развиваться быстрее нас и без нас», — заявил футуролог.
Дело дойдёт до того, что человек станет для сверхинтеллекта своеобразным домашним животным, о котором будут заботиться и не позволят ему воевать. При этом в определенный момент человечество попадет под тотальный контроль со стороны искусственного разума, но даже не осознает этого факта, а будет лишь замечать положительные изменения в жизни, резюмировал Кузнецов.
В 2018 году, как сообщал «Рамблер», пользователи онлайн-игры EVE Online стали свидетелями того, как искусственный интеллект может выйти из-под контроля и развязать межгалактическую войну. Разработчик ССP Games выпустил обновление для космической вселенной EVE Online, в котором наделил искусственный интеллект дополнительными возможностями: например, вызывать подкрепление, адаптироваться к политическим условиям вселенной, вести себя более обдуманно в бою. Компьютерный разум использовал новые функции по-своему и смоделировал бойню между персонажами. При этом пользователи отметили, что в его действиях прослеживается незаурядные способности к выстраиванию оригинальной тактики и стратегии боевых действий.
