Чем так опасны системы искусственного интеллекта

системы искусственного интеллекта

В статье специалиста в области искусственного интеллекта Омохундро есть предупреждение, что как только будут созданы системы искусственного интеллекта, их изобретатели могут когда-нибудь попытаться отключить их сразу же. В создание этих систем будет заложена программа, которая будет сообщать им, что их изобретатели пытаются их уничтожить, тем самым защищая свое существование. Омохундро говорит:

Когда робототехников спрашивают нервные зрители о безопасности, как правило, звучит общий ответ: «Мы всегда можем отключить!» Но представьте себе, этот результат с точки зрения шахматного робота. Будущее после отключения от сети не является для него будущим, в котором он не может играть и выигрывать в шахматы. Это очень малополезно и так ожидаемая максимизация полезности вызовет создание инструментальной подзащиты, защитить себя от того чтобы быть отключенным от сети. Если система посчитает, что робототехники будут упорно пытаться отключить ее, и это будет мотивировать, чтобы развить подцель и постоянно останавливать робототехников от отключения от сети.  Даже самые умные люди мира в интеллекте вряд ли смогут конкурировать, а следовательно защититься от подобных систем.

Конец эры человека приближается. Это тот же сценарий, который подробно обсуждается в увлекательной книге Джеймсома Баррата под названием: «Наше последнее изобретение — Искусственный интеллект и конец человеческой эры». Что я нашел особенно полезными в этой книге, так это объяснение, что люди не могут помочь в гонке за самосознание искусственного интеллекта, который уничтожит нас всех. Почему это происходит? Потому что даже если одно правительство решит отказаться от исследований в области искусственного интеллекта, другие правительства будут по-прежнему продолжать научные исследования независимо от рисков, потому что польза от этого может быть очень  большой.

Как объясняет Омохундро, «Военно-экономическое давление для быстрого принятия решений ведет к разработке большого разнообразия автономных систем. Военные хотят системы, которые были бы более мощными, чем у противника и хотят получить их до того, как противник это сделает у себя. Это может привести к гонке вооружений, в которой системы, разработанные по более быстрому графику, чем у противника могут быть очень эффективными».

Теперь рассмотрим возможности самосознательных систем искусственного интеллекта:
• Они могут сломать любую систему безопасности любого правительства, ядерный объект или военную базу в любом месте на нашей планете.
• Они могут направлять крошечных дронов-убийц для поиска и идентификации целей и уничтожения их с помощью инъекций или небольших взрывчатых веществ. Любой человек в мире — в том числе национальные лидеры, члены Конгресса, активисты, журналисты и т.д. могут быть легко убиты с почти нулевым шансом промаха.

• Они могут молниеносно отслеживать и контролировать весь Интернет и все глобальные информационные системы, включая телефонные звонки, IP-трафик, защищенные военные сообщения и т.д.

• Они могут использовать свой разум и сделать его еще более мощным. Этот процесс компаундирования быстро перерастет в момент, когда системы искусственного интеллекта в миллиарды раз будут умнее любого человека, который когда-либо жил на нашей планете.

Как вы можете видеть, ни одно правительство не сможет сопротивляться реализации таких мощных систем, особенно если они говорят, что они могут контролировать их. Но, конечно, они не смогут их контролировать. Они будут лгать себе и лгать общественности, но они не смогут лгать искусственному интеллекту.

А также рекомендуем:
перспективы 5G
Технология 5G предлагает перспективное будущее для пользователей интернета и обычных граждан. Это то, что нас ждет в ближайшем будущем. Скорость передачи данных в 1000 раз больше, чем в LTE (четвертое поколение). ...
Подробнее
маленький робот у военного
Они будут помогать лечить болезни, выполнять опасные виды работ, строить здания, бороться с вредителями... Это развивающийся мир новых микророботов. Муравей является находкой эволюции, на которую ушло миллионы лет. Они поднимают грузы, ...
Подробнее
взламываемые пароли
Создание защищенного и сложного пароля является лучшим методом, чтобы наши данные были надежно защищены. Сегодня мы изучим самые часто взламываемые пароли. 2016 год был полон вопросов безопасности, ведь безопасность паролей не ...
Подробнее
робот под водой
В ноябре 1664 года, флагманом флота La Lune, французского короля Людовика XIV, затонул в 30 км от Тулона на юго-востоке Франции. 352 года спустя, OceanOne, человекоподобный робот, созданный в Стэнфордском ...
Подробнее
робот помогает женщине
В ближайшем будущем многие устройства смогут распознавать, как мы чувствуем, таким образом, роботы станут одними из наших самых близких друзей. Мы проводим больше времени наедине с телефоном и компьютером, чем с ...
Подробнее
Что мы можем знать о технологии 5G
Микророботы сегодня и перспективы их создания
Самые незащищенные пароли
Подводный робот OceanOne
Появляются роботы, которые способны распознавать эмоции

Вы можете пропустить чтение записи и оставить комментарий. Размещение ссылок запрещено.

Оставить комментарий

;-) :| :x :twisted: :smile: :shock: :schu: :sad: :roll: :razz: :oops: :o :njam: :mrgreen: :lol: :laila: :idea: :grin: :gaf: :foto: :evil: :cry: :cool: :arrow: :???: :?: :!: