Более 1000 выдающихся IT-экспертов и ученых опубликовали открытое письмо, предупредив об угрозах, которые несет в себе разработка " автономного наступательного оружия". Ведущие исследователи в области искусственного интеллекта выразили опасения, что " гонка вооружений ИИ" может повлечь за собой катастрофические последствия для человечества, и призвали ООН рассмотреть запрет на использование " роботов-убийц".

Оружие, которое автоматически " выбирает и поражает цели без вмешательства человека, может стать " автоматом Калашникова завтрашнего дня" и привести к войне, терроризму и глобальной нестабильности. Управляемое ИИ Оружие, " в противоположность от ядерного, не требует дорогого и трудно получаемого сырья, по этой причине оно станет доступным и дешевым для массового производства всем значимыми военными державами" — сообщается в письме.

" Это только вопрос времени, когда оно возникнет на черном рынке, попадет в руки к террористам, диктаторам, жаждущим жестче держать под контролем население, милитаристам, стремящимся устроить этническую чистку, и так далее. Автономное оружие великолепно подходит для подобных задач, как убийства, дестабилизация стран, подчинение жителей и избирательное убийство определенных этнических групп".

Письмо было обнародовано на интернет представительстве некоммерческой организации Future of Life Institute (FLI), которая занимается исследованием рисков, грозящих человечеству в будущем. Под ним, например, подписались глава Tesla Элон Маск, ученый Стивен Хокинг, соонователь эппл Стив Возняк, профессор MIT Ноам Хомский, разработчик Skype Яан Таллин, глава отдела Google по созданию ИИ Демис Хассабис и другие.

Прежде отдельные ученые и бизнесмены много раз высказывались об опасности создания " думающих" машин." граждане, которые ограничены медленной биологической эволюцией, не смогут соперничать и будут вытеснены, — предупредил британский физик Стивен Хокинг в начале зимы прошедшего года, — разработку полного искусственного интеллекта усиливает вероятность приведения к концу человеческой расы".

Глава организаций SpaceX и Tesla Motors Элон Маск также назвал попытки сделать " мыслящий" компьютер " крупнейшей проблемой, угрожающей существованию человечества". Бизнесмен предупредил, что к созданию ИИ надо подходить " весьма осторожно". по отзывам Маска, этот процесс обязан строго регулироваться: " как на государственном, так и интернациональном уровнях — просто чтобы удостовериться, что мы не делаем чего-то весьма глупого".