Какие существуют примеры из жизни, когда машины или программы восстают против создателей?


(Анна) #1

Ведь уже сейчас машины и программы умнее людей


#2

Ну, пока это из области фантастических фильмов. Машина может вести себя непредсказуемо из-за сбоев в программе, но ведь программы пишут люди. Следовательно, могут и образумить восставшую машину. Хотя “думают” машины значительно быстрей человека. Но ведь не зря говорят, что русский долго запрягает, но быстро едет.)


(Андрей Белов) #3

Машины могут ломаться, и последствия могут быть очень страшными. И очень хорошо, что человек еще вовлечен в “процесс” контроля и принятия окончательных решений. Принимать решения, выступать против людей, не думаю, что это было.

9 ноября 1979 года в бункер Национального центра управления Объединенного командования аэрокосмической обороны Северной Америки поступило сообщение, что Советский Союз начал ядерную атаку на США. Незамедлительно на пусковые установки МБР Minuteman была дана команда подготовки к ответному запуску. Кроме того, в небо поднялись более 10 перехватчиков.

Виновата была компьютерная лента. Её использовали для тренировки по нападению на США, а в сам рабочий компьютер она попала случайно. Программа записанная на ней и показала, что было нападение.

После этого случая начали более усиленно проверять все данные, ведь ситуация повторялась часто. Скажем, она повторилась через десять лет 3 июня 1989 года, но на этот раз вместо ленты была микросхема.

Случаи ложного срабатывания систем предупреждения о ракетном нападении — ситуации, когда мир находился на «пороге» глобальной ядерной войны. На сей день, помимо Карибского кризиса, известны четыре таких случая. Два из них связаны с работой американской системы раннего предупреждения, ещё два — с советской Системой предупреждения о ракетном нападении (СПРН).

Все четыре инцидента длились не более десяти минут, в течение которых высшему политическому и военному руководству СССР/России и США приходилось принимать сложнейшие решения.
© Википедия


(Oliver) #4

18 ноября 2016, ТАСС передало: в Китае зафиксирован первый случай нападения робота на человека.

Оставшийся без присмотра робот начал крушить находившийся возле него стенд, а когда один из сотрудников попытался его остановить, тот переехал мужчине ногу и прижал его, - пишет агентство.

Позже выяснилось, что это был сбой в программном обеспечение, но случай характерный. Робот сделанный для игры с детьми от 4 до 12 лет, нанес небольшие повреждения обслуживающему персоналу.

TALON SWORDS - боевая платформа

В 2007 году в США произошел инцидент с вышедшим из-под контроля боевым роботом, который успел расстрелять 9 человек и ранить еще 14, прежде чем исчерпал весь свой боезапас. Об этом тогда писали многие газеты.

Все эти случае, конечно, только поломки.