Чем так опасны системы искусственного интеллекта

системы искусственного интеллекта

В статье специалиста в области искусственного интеллекта Омохундро есть предупреждение, что как только будут созданы системы искусственного интеллекта, их изобретатели могут когда-нибудь попытаться отключить их сразу же. В создание этих систем будет заложена программа, которая будет сообщать им, что их изобретатели пытаются их уничтожить, тем самым защищая свое существование. Омохундро говорит:

Когда робототехников спрашивают нервные зрители о безопасности, как правило, звучит общий ответ: «Мы всегда можем отключить!» Но представьте себе, этот результат с точки зрения шахматного робота. Будущее после отключения от сети не является для него будущим, в котором он не может играть и выигрывать в шахматы. Это очень малополезно и так ожидаемая максимизация полезности вызовет создание инструментальной подзащиты, защитить себя от того чтобы быть отключенным от сети. Если система посчитает, что робототехники будут упорно пытаться отключить ее, и это будет мотивировать, чтобы развить подцель и постоянно останавливать робототехников от отключения от сети.  Даже самые умные люди мира в интеллекте вряд ли смогут конкурировать, а следовательно защититься от подобных систем.

Конец эры человека приближается. Это тот же сценарий, который подробно обсуждается в увлекательной книге Джеймсома Баррата под названием: «Наше последнее изобретение — Искусственный интеллект и конец человеческой эры». Что я нашел особенно полезными в этой книге, так это объяснение, что люди не могут помочь в гонке за самосознание искусственного интеллекта, который уничтожит нас всех. Почему это происходит? Потому что даже если одно правительство решит отказаться от исследований в области искусственного интеллекта, другие правительства будут по-прежнему продолжать научные исследования независимо от рисков, потому что польза от этого может быть очень  большой.

Как объясняет Омохундро, «Военно-экономическое давление для быстрого принятия решений ведет к разработке большого разнообразия автономных систем. Военные хотят системы, которые были бы более мощными, чем у противника и хотят получить их до того, как противник это сделает у себя. Это может привести к гонке вооружений, в которой системы, разработанные по более быстрому графику, чем у противника могут быть очень эффективными».

Теперь рассмотрим возможности самосознательных систем искусственного интеллекта:
• Они могут сломать любую систему безопасности любого правительства, ядерный объект или военную базу в любом месте на нашей планете.
• Они могут направлять крошечных дронов-убийц для поиска и идентификации целей и уничтожения их с помощью инъекций или небольших взрывчатых веществ. Любой человек в мире — в том числе национальные лидеры, члены Конгресса, активисты, журналисты и т.д. могут быть легко убиты с почти нулевым шансом промаха.

• Они могут молниеносно отслеживать и контролировать весь Интернет и все глобальные информационные системы, включая телефонные звонки, IP-трафик, защищенные военные сообщения и т.д.

• Они могут использовать свой разум и сделать его еще более мощным. Этот процесс компаундирования быстро перерастет в момент, когда системы искусственного интеллекта в миллиарды раз будут умнее любого человека, который когда-либо жил на нашей планете.

Как вы можете видеть, ни одно правительство не сможет сопротивляться реализации таких мощных систем, особенно если они говорят, что они могут контролировать их. Но, конечно, они не смогут их контролировать. Они будут лгать себе и лгать общественности, но они не смогут лгать искусственному интеллекту.

А также рекомендуем:
роботизированные мышцы
Новая мягкая гибкая и устойчивая кибер мышца позволит роботам двигаться как живые существа и лучше взаимодействовать с нами. Специалисты по биомиметике изучают натуральные структуры или способы организации живых существ и используют ...
Подробнее
28 дней спустя
По-видимому, мы с большей вероятностью умрем от восстания обезьяны, чем от нападения вампиров. Но наберитесь храбрости, у зомби-апокалипсиса больше потенциал, чем у любого-другого варианта окончания жизни на Земле. Интернет-сайт ставок, ...
Подробнее
перспективы 5G
Технология 5G предлагает перспективное будущее для пользователей интернета и обычных граждан. Это то, что нас ждет в ближайшем будущем. Скорость передачи данных в 1000 раз больше, чем в LTE (четвертое поколение). ...
Подробнее
маленький робот у военного
Они будут помогать лечить болезни, выполнять опасные виды работ, строить здания, бороться с вредителями... Это развивающийся мир новых микророботов. Муравей является находкой эволюции, на которую ушло миллионы лет. Они поднимают грузы, ...
Подробнее
взламываемые пароли
Создание защищенного и сложного пароля является лучшим методом, чтобы наши данные были надежно защищены. Сегодня мы изучим самые часто взламываемые пароли. 2016 год был полон вопросов безопасности, ведь безопасность паролей не ...
Подробнее
Получена искусственная мышца, которая имитирует человеческие движения
Каким будет апокалипсис на Земле?
Что мы можем знать о технологии 5G
Микророботы сегодня и перспективы их создания
Самые незащищенные пароли

Вы можете пропустить чтение записи и оставить комментарий. Размещение ссылок запрещено.

Оставить комментарий

;-) :| :x :twisted: :smile: :shock: :schu: :sad: :roll: :razz: :oops: :o :njam: :mrgreen: :lol: :laila: :idea: :grin: :gaf: :foto: :evil: :cry: :cool: :arrow: :???: :?: :!: