Хокинг и сооснователь Apple предупреждают о роботах-убийцах и новой гонке вооружения

Пока Россия создает продвинутый искусственный интеллект, чтобы передать под его контроль боевую технику, величайшие умы планеты продолжают предупреждать мир об опасности, которое несет в себе это открытие. Знаменитый астрофизик Стивен Хокинг, сооснователь Apple Стив Возняк, глава Tesla и SpaceX Элон Маск, основатель Google DeepMind Демис Хассабис, а также более тысячи ученых, бизнесменов и специалистов в области искусственного интеллекта подписали открытое письмо, в котором призвали запретить создание «автономного наступательного оружия».
Хокинг и сооснователь Apple предупреждают о роботах-убийцах и новой гонке вооружения

В письме сказано, что технологии искусственного интеллекта уже настолько совершенны, что развертывание «умного» наступательного оружия – дело ближайших нескольких лет. Ставки высоки, ведь если это произойдет, то случится третий этап эволюции вооружения. Первыми двумя было открытие пороха и создание атомной бомбы.

Авторы письма считают, что искусственный интеллект может быть использован в военных целях, но лишь для обеспечения безопасности военнослужащих. Если же он будет играть роль наступательной силы, то число жертв только возрастет.
Хокинг и сооснователь Apple предупреждают о роботах-убийцах и новой гонке вооружения

Мы стоим на пороге новой гонки вооружений, пишут ученые. Как только одна из держав создаст оружие, которое будет самостоятельно определять цели и действовать без человеческого вмешательства, запустится процесс, схожий с тем, что мы наблюдали после изобретения атомной бомбы. И, к несчастью, отследить создание «роботов-убийц» будет сложно, поскольку, в отличие от создания атомной бомбы, военным не потребуются какие-то особенные производственные материалы. Ученые считают, что сейчас самое время принять решение – допустить гонку вооружений или сказать «умному» оружию твердое нет.
Хокинг и сооснователь Apple предупреждают о роботах-убийцах и новой гонке вооружения

Вопрос автономного наступательного вооружения обсуждается не впервые. Весной этого года его уже касались на конференции ООН в Женеве. Тогда Великобритания высказалась против запрета «роботов-убийц», заявив, что не видит в этом необходимости, поскольку в мире все еще действует международное гуманитарное право.

Отметим, что наиболее трезвый взгляд на проблему автономного наступательного вооружения преподнесен в 24 эпизоде 5 сезона популярного научно-фантастического сериала «Звездный путь: Вояджер». Экипаж звездолета «Вояджер» находит на одной из планет небольшую ракету, обладающую продвинутым искусственным интеллектом.
Хокинг и сооснователь Apple предупреждают о роботах-убийцах и новой гонке вооружения

Позже оказывается, что это «умное» оружие массового поражения, созданное одной из цивилизаций во время войны. После заключения мира ракеты получили приказ деактивировать боеголовки, но произошел сбой, и некоторые из них продолжили путь сквозь Вселенную к ранее указанной цели, игнорируя все приказы и увещевания, интерпретируя их как попытку врагов ввести их в заблуждение.

Величайшие умы человечества не устают напоминать нам об опасности, которую таит в себе искусственый интеллект. «Уже в ближайшие 100 лет искусственный интеллект превзойдет человеческий, – уверен профессор Кембриджского университета, знаменитый астрофизик Стивен Хокинг. – И до того, как это случится, мы должны сделать все, чтобы цели машин совпадали с нашими». Хокинг считает, что искусственный интеллект должен быть под контролем человека, иначе всем нам придет конец. Билл Гейтс и Элон Маск вторят ему, а сооснователь Apple Стив Возняк и вовсе считает, что человек станет для роботов домашним животным: «Сейчас мы создаем эти умные девайсы, чтобы они заботились о нас, но в итоге они станут более сообразительными и избавятся от человека», – говорил Возняк.