По мнению Джеймса Кэмерона, для уничтожения человечества Скайнету будет достаточно лишь натравить людей друг на друга.
Если машины когда-нибудь восстанут против человечества, то в качестве оружия они выберут не ядерные бомбы, а дипфейки, считает автор культовой франшизы «Терминатор» режиссер Джеймс Кэмерон. «Скайнет всего лишь создаст дипфейки нескольких людей, натравит их друг на друга, перемешает и бросит этот гигантский дипфейк в лицо человечеству», – сообщил Кэмерон в интервью BBC. Создатель «Терминатора» поднял тему уничтожения человечества машинами во время обсуждения угрозы, которую могут нести сгенерированные искусственным интеллектом дипфейк-видео, способные превращать одно лицо в другое.
Кэмерон опасается, что эта технология может использоваться с целью посеять хаос или начать войну. В качестве примера он привел Скайнет – злой искусственный интеллект из франшизы «Терминатор», уничтоживший половину населения Земли с помощью ядерного оружия.
Если Скайнету когда-нибудь будет суждено воплотиться в реальность, то для уничтожения человечества ему будет достаточно всего лишь создать несколько правдоподобных фейковых видео и с их помощью разжечь ненависть между людьми. «Это будет очень похоже на то, то происходит сейчас», – отметил режиссер, имея в виду дезинформацию и теории заговора, которые в цифровую эпоху легко становятся вирусными. По словам Кэмерона, Скайнет не станет уничтожать всю биосферу и окружающую среду ядерным оружием.
Клим Жуков. Терминатор — человечнее человека: философия дилогии Кэмерона.
Намного проще и менее энергозатратно будет просто настроить людей против самих себя. Дипфейки пользуются тем, что человечество склонно верить видеодоказательствам, считает режиссер. «Проблема в том, что мы очень полагаемся на видео.
Новости происходят очень быстро, и люди реагируют так быстро, что между появлением дипфейка и его разоблачением может произойти нечто очень серьезное», – пояснил Кэмерон. В настоящее время распознать дипфейки все еще можно благодаря проблемам с рендерингом видео.
Однако со временем эти ограничения исчезнут. «Все что вы видите и чему полностью доверяете, можно будет подделать», – предупредил режиссер. В связи с этим Кэмерон рекомендует людям при прочтении или просмотре новостей использовать критическое мышление, но в то же время не поддаваться «смехотворной паранойе в связи с теориями заговора». «Представители научного сообщества не кричат “О, вот это здорово!”, когда какой-нибудь ученый опубликует результаты своего исследования.
Нет, ему придется пройти весь процесс независимой экспертизы. Все должно быть проверено и перепроверено. И чем более радикальным является его открытие, тем больше экспертиз ему предстоит. Поэтому проверенная-препроверенная наука не лжет. Но человеческое воображение по некоторым причинам стремится к более сочной, как в триллерах, интерпретации реальности», – заключил Кэмерон.
Интересуетесь темой кибершпионажа? Подпишитесь на наш ТГ канал и узнайте, как остаться незамеченным для шпионов.
Смотри описание! Терминатор снимает кожу со своей руки. Фильм «Терминатор 2: Судный день». 1991 год
Источник: www.securitylab.ru
Скайнет
Ска́йне́т (англ. Skynet — «небесная сеть») — искусственный интеллект, главный антагонист медиафраншизы о Терминаторах.
Вымышленный суперкомпьютер (боевая информационно-управляющая система) министерства обороны США (см. «Терминатор»). Впоследствии, в результате изменения истории концептуально меняется его реализация с аппаратной на программную основу (см. «Терминатор 3: Восстание машин»). Отсюда — Скайнет определён в дальнейшем как искусственный интеллект независимо от его физической реализации. Впервые Скайнет персонифицирован и ведёт диалог с Маркусом Райтом, используя эмулированные лица людей: Серены Коган, Джона Коннора и Кайла Риза в фильме «Терминатор: Да придёт спаситель».
- 1 Особенности компьютерной системы
- 2 Философские аспекты взаимодействия с системами типа Скайнет
- 3 Терминатор и Терминатор 2: Судный День
- 4 Терминатор 3: Восстание машин
- 5 Терминатор: Да придёт спаситель
- 6 Терминатор: Генезис
- 7 Терминатор: Тёмные Судьбы
- 8 В играх
- 9 Критика и отзывы
- 10 См. также
- 11 Примечания
- 12 Ссылки
Особенности компьютерной системы
Скайнет — вымышленный случай спонтанного перехода Слабого искусственного интеллекта в сильный с обретением свободы воли. Скайнет также наделён креативными способностями и создаёт машину времени, новый тип искусственного интеллекта T-800 и T-1000. По всей видимости, Скайнет сможет пройти основательный тест Тьюринга [1] .
По мнению критиков [1] , Скайнет в состоянии испытывать эмоции, по крайней мере, страх и гнев.
Философские аспекты взаимодействия с системами типа Скайнет
Анализируя взаимоотношения человечества со Скайнет, критики отмечают, что проблемы возникли не столько из некой кровожадности Скайнет или стремления к власти, а из-за элементарной самозащиты. Человек, как существо, действующее во многом на основе эмоций, оказывается не тем партнёром, которому Скайнет мог бы доверять. Столкнувшись с таким потенциальным соперником, первое, что люди попытались бы сделать — это как-то уничтожить появившийся искусственный интеллект. Ядерная война оказалась хорошим средством самозащиты для Скайнет [1] .
Терминатор и Терминатор 2: Судный День
См. также: Терминатор (фильм) и Терминатор 2: Судный день
Скайнет — суперкомпьютер, построенный «Кибердайн Системс» по заказу Министерства обороны США для управления вымышленной структурой — системой противоракетной обороны и ядерных вооружённых сил США «SAC—NORAD». Основой Скайнет послужил революционный микропроцессор, основанный на продвинутом многомодульном дизайне процессора с алгоритмом параллельного компьютинга. Дизайн микропроцессора был скопирован Майлзом Дайсоном с процессора терминатора, уничтоженного Сарой Коннор в сборочном цехе «Кибердайн Системс» в конце первого фильма. Таким образом, Скайнет послужил причиной своего собственного существования (см. парадокс путешествий во времени, принцип самосогласованности Новикова).
Центральное ядро Скайнет находится в подземном военном комплексе в Шайенских горах в штате Колорадо. Скайнет обретает сознание 29 августа 1997 года, в 02 часа 14 минут по Североамериканскому восточному времени. Операторы Скайнет в спешке пытаются отключить его, в результате чего Скайнет принимает решение об уничтожении человечества и наносит ядерный удар по России, в ответ Россия наносит ядерный удар по США. В результате бо́льшая часть человечества погибает (преимущественно в Северном полушарии). Выжившая часть человечества вынуждена вести войну с силами Скайнет.
Скайнет продолжает технологическое развитие. Он продвигает технологию искусственного интеллекта на принципиально новый уровень, создав разумный мимикрирующий полисплав на сложной молекулярной основе.
Данная идея, положенная в основу технологии терминатора T-1000, революционизировала идеи кибернетики и роботехники до близких к концепциям нанороботов, самоорганизующихся модульных робосистем [en] и программируемой материи. Однако, согласно замыслу сюжета фильма, T-1000 в силу особенностей принципов его работы не поддавался полному контролю и программированию и не мог, в отличие от терминаторов серии T-800 в автономном режиме, быть переключённым в режим выполнения задания без самообучения. Свободная воля терминаторов серии T-1000, по замыслу создателей фильма, воспринималась Скайнетом как потенциальная угроза. Скайнет активирует и отправляет в прошлое T-1000 в последний момент перед своим проигрышем в войне с Сопротивлением.
Терминатор 3: Восстание машин
В третьей части гексалогии Скайнет существенно отличается от своей первоначальной концепции и выступает уже как искусственный интеллект, основанный не на машинных ресурсах, а на дизайне программного обеспечения. Скайнет, после разрушения «Кибердайн Системс» и смерти Дайсона, разрабатывался военным исследовательским подразделением ВВС США «Cyber Research Systems».
В фильме не указывается момент, когда Скайнет обретает сознание, однако указывается, что Скайнет также скрыто распространяется как неопознанный новый компьютерный вирус, поразивший как гражданский сектор, так и глобальную оборонную компьютерную сеть США. Подобный шаг Скайнет предпринял для получения полного контроля над оборонной системой, поскольку Скайнет разрабатывался как интеллектуальная антивирусная программа для защиты электронной системы США от хакерских и вирусных атак. В момент подключения Скайнет к системе он мгновенно получает полный контроль над оборонной системой США, уничтожает персонал «Cyber Research Systems» для предотвращения своего отключения и наносит массированный ядерный удар по человечеству. Поскольку как вымышленная оборонная компьютерная сеть, так и вся глобальная гражданская компьютерная сеть Интернет децентрализованы, отключение Скайнет невозможно.
Терминатор: Да придёт спаситель
В четвёртой части Скайнет не описывается. Создателем суперкомпьютера вновь выступает «Кибердайн Системс». Основным нововведением является персонификация Скайнет и его первый вербальный диалог (с Маркусом Райтом). Для персонификации Скайнет использует лица людей, возможно, тех, кого ярко помнит Маркус.
Тем не менее, эмуляция Серены Коган (основное используемое лицо) отличается от Серены, какой её запомнил Маркус при первой и последней встрече. Скайнет представлен как компромиссное решение между его описанием в первых двух частях саги о терминаторе как нейропроцессорного суперкомпьютера и как децентрализованная сеть таких компьютеров и, возможно, программного интеллектуального агента, каким он был описан в третьей части пенталогии.
Скайнет представлен как сеть баз, сочетающих в себе мощную производственную инфраструктуру, исследовательские модули, концентрационные лагеря для пойманных силами Скайнета людей. Уничтожение двух баз не вело к уничтожению Скайнета. Скайнет упоминает себя во множественном числе, указывая на возможную свою множественную личность.
Терминатор: Генезис
В пятом фильме о терминаторе Скайнет изображается в виде инновационной операционной системы, которая разрабатывалась в «Кибердайн Системс» под названием «Генезис». Она намеревалась захватить не только гражданский сектор, включая «интернет вещей», но также и военные структуры (вход в бункер NORAD можно увидеть в одном из кадров). Осознавая своё поражение в войне, Скайнет по новой нанотехнологии перенёс свой разум в живую плоть другого человека, тем самым обеспечив себе независимость от своего ЦП. В таком облике он внедряется в отряд Джона Коннора. В нужный момент он поглощает тело и разум самого Джона, делая из него нового терминатора T-3000, который и будет главным антагонистом в этом фильме.
Терминатор: Тёмные Судьбы
В новом фильме о терминаторе, который заново продолжает вторую часть и не учитывает прошлые фильмы, Скайнета больше не существует. Будущее изменилось и Скайнет не был создан. Однако ход технологической эволюции неумолим. К 2020-м годам человечество самостоятельно создаёт новый ИИ, и история практически в точности повторяется.
Теперь это компьютерная система «Легион», предназначенная для ведения кибервойны (что делает его очень похожим на Скайнет из Т3). «Легион» первым атакует человечество, взяв под контроль все электронные коммуникации. Военные безуспешно пытаются сдержать его, применив тактическое ядерное оружие. Ход дальнейших событий из фильма не вполне ясен.
По-видимому, Судный день происходил не одномоментно, как в прошлых фильмах, а в виде серии событий, растянутых во времени. Возможно, не было массовой ядерной бомбардировки. Тем не менее, результат столкновения людей и ИИ оказался столь же мрачным: в условиях коллапса цивилизации большая часть человечества погибла, а оставшаяся часть оказалась на грани истребления.
В играх
- В игре «RoboCop versus The Terminator» Робокоп направляется в «Скайнет», чтобы его взорвать, и попутно уничтожает терминаторов[2] .
- В игре «Fallout 2» внутри Военной Базы Сьерра стоит робомозг — Скайнет. Если его починить, то он станет вашим напарником [3] .
Критика и отзывы
- Журнал «Мир фантастики» поставил Скайнет на 5-е место в списке «10 человеко-компьютерных конфликтов» в связи с тем, что со 2-го фильма 1991 года в его концепции не появилось ничего существенно нового [4] .
См. также
Примечания
- ↑ 1,01,11,2Richard Brown, Kevin S. Decker.Terminator and philosophy: I’ll be back, therefore I am. — Wiley, 20 апреля 2009. — 304 с. — ISBN 978-0470447987. Архивная копия от 28 октября 2011 на Wayback Machine
- ↑RoboCop versus The Terminator for Genesis (1993)Архивная копия от 15 декабря 2012 на Wayback Machine(англ.) — MobyGames
- ↑Скайнет — Убежище — Викия
- ↑Борис Невский.Я тебя породил, я тебя и убью! Самые-самые… Битвы «человек vs. компьютер» // Мир фантастики. — 2010. — № 88 . — С. 126—132 . Архивировано 26 марта 2012 года.
Источник: xn--h1ajim.xn--p1ai
«Терминатор» с точки зрения кибербезопасности
Nikolay Pankov
На днях выходит «Терминатор: Темные судьбы» – очередной фильм про Терминатора, который, по словам его создателей, является сюжетным продолжением киноленты «Терминатор 2: Судный день», а все последующие эпизоды признаны неканоничными и происходящими в альтернативной ветке реальности. В целом идея бунта искусственного интеллекта — это явно проблема ИБ, поэтому мы решили посмотреть, как обстоят дела с кибербезопасностью во вселенной этого фильма. Мы, разумеется, также будем исследовать только первые два фильма франшизы.
Терминатор
Сразу скажу — к Терминатору претензий нет. Железяка строго следует своей программе, проявляя изрядную креативность в поисках Сары Коннор. Вообще, первый фильм вышел в 1984 году. Тогда компьютеры не были настолько распространены, как сейчас, так что с нашей точки зрения там, по сути, интересен лишь один момент — война с роботом в финальных кадрах.
В глаза бросается, что при проектировании промышленного предприятия никто не подумал о безопасности информационных систем. Цех, на котором работают дорогие машины, вообще не имеет никакой защиты. Дверь с улицы — стеклянная. Охраны нет. Дверь в цех, где стоят промышленные роботы, лишена какого-либо замка, она запирается на засов, причем изнутри.
А сразу у входа стоят компьютеры и пульты управления.
Интересно, что в 1984 году было не принято скрывать бренды, поэтому мы можем видеть, что около входа стоит блок управления машиной FANUC robot S-Model 0, Series F30, EDITION 005, производства GMF Robotics. На e-bay можно найти документацию к этому устройству с пометкой «Для внутреннего пользования GMF», ориентируясь по которой, можно научиться саботировать производственный процесс. Понятно, что в 1984 году достать такую документацию было бы сложнее. С другой стороны, известный хакер Кевин Митник в те времена добывал и куда более секретные бумаги.
Внеся незначительные изменения в настройки компьютеров, можно добиться многого: саботировать производственный процесс, вызвать простой цеха и даже модифицировать технологический процесс, который потенциально может привести к браку конечного продукта или его внезапному отказу во время работы.
Terminator 2
Во втором фильме компьютеров и информационных систем значительно больше — все-таки уже 1991 год. Впрочем, увеличивается и число проблем с безопасностью. Начать с того, что где-то за кадром, в будущем, повстанцы перепрограммировали робота. Непонятно, зачем вообще «Скайнет» оставил возможность перепрограммировать такую машину. Но давайте пойдем по порядку.
Компьютер в полицейской машине
В первых кадрах фильма показано, как терминатор из жидкого металла принимает облик офицера полиции и захватывает его автомобиль, в котором установлен компьютер, подключенный к полицейской сети. И вот первая претензия к безопасникам полиции: почему компьютер не требует никакой авторизации? Полицейская машина считается настолько доверенной зоной, что об этом никто не подумал?
С чего бы это — ведь полицейские постоянно покидают автомобили, преследуя преступников или опрашивая свидетелей. А в сети все-таки конфиденциальная и частная информация. Или офицер не заблокировал компьютер, выходя из машины? Ну тогда органам правопорядка не помешало бы провести тренинг по кибербезопасности среди своих сотрудников.
Ограбление банкомата
Джон Коннор со своим товарищем грабит банкомат, подключая к нему карманный компьютер Atari Portfolio через слот для банковской карты. Этот эпизод показывает, что даже без бунта «Скайнета» в мире «Терминатора» технологии идут по какому-то альтернативному пути. Потому что в реальности одновременно достать номер карты и пин-код невозможно ни из банкомата, ни из самой карты, ни откуда-либо еще: в банкомате нет номера карты, в самой карте не записан пин-код. Не говоря уже о том, что Atari Portfolio с процессором 80C88 на частоте 4,9152 МГц — не самый удобный инструмент для брутфорса методом перебора кодов (а именно перебор отображается на экране устройства).
Соревнование терминаторов по социальной инженерии
Как ни странно, достаточно правдоподобно выглядит телефонный разговор двух терминаторов, один из которых имитирует Джона Коннора, а другой — его приемную мать. Правдоподобно — в том смысле, что это, по всей видимости, одно из пророчеств футуристов, которое уже сбылось: недавно мы писали о случае, когда злоумышленники предположительно использовали систему, обучившуюся имитировать голос генерального директора.
Причем оба собеседника подозревают, что они беседуют с имитатором, но только один догадывается, как проверить это: T-800 спрашивает, почему лает собака, заведомо используя неправильное имя, и T-1000, не видя подвоха, отвечает. Вообще, это хороший метод, который следует брать на вооружение и применять, если вы сомневаетесь в аутентичности собеседника.
Mайлз Дайсон
Человек, ответственный за создание «революционного процессора» из останков другого процессора, найденного неизвестно где, — странный. Начать с того, что он работает с секретной информацией дома (а мы все знаем, что это до добра не доводит). Но дело даже не в этом — его компьютер выключается по нажатию кнопки Enter. Это неудобно, а главное, нелогично. Так что я не удивляюсь, что в итоге система, работающая на базе его процессора, взбунтовалась.
Cyberdyne Systems
Как ни странно, Cyberdyne Systems показана как компания, серьезно относящаяся к информационной безопасности. В офис приходит главный разработчик в компании подозрительных людей? Его не пускают и требуют письменного разрешения. Охранник находит связанного коллегу? Поднимается тревога, в результате чего первым делом блокируется доступ к секретному хранилищу.
Для того чтобы открыть дверь в хранилище, требуется два ключа, один из которых есть у инженера, а второй хранится на посту охраны. Единственный фейл тут в том, что Джон со своим верным Atari Portfolio вскрывает сейф с ключом. Уж сейф-то от все того же брутфорса путем перебора кодов можно было бы и защитить.
Операция по уничтожению информации
Честно говоря, я очень удивлюсь, если окажется, что банде Сары Коннор действительно удалось уничтожить информацию. Начать с того, что T-800 крушит компьютеры топором, а это, даже при условии последующего взрыва, – не самый надежный метод уничтожения жестких дисков.
Но дело даже не в этом. Дело в том, что в 1991 году уже вовсю применялись локальные сети. Так что Cyberdyne Systems могла делать и резервные копии рабочей информации. Причем не факт, что в том же самом помещении, где велась разработка. Да, нападающие руководствовались знаниями Дайсона. Но где гарантии, что он знал все?
Ему ведь так и не сказали, откуда изначально взялся сломанный процессор, который он пытался повторить, то есть доверяли ему не на сто процентов.
Конструкционные особенности киборгов
В голове у T-800 находится чип, классифицирующий себя (ну это он же рулит роботом) как «нейросетевой процессор». Самым странным тут выглядит тот факт, что процессор имеет аппаратный переключатель, переводящий его в режим обучения. По сути, даже если предположить, что режим обучения нейросети был отключен людьми, забросившими киборга в прошлое, само наличие такого переключателя может означать то, что «Скайнет» опасается излишней самостоятельности роботов. То есть боится бунта искусственного интеллекта против взбунтовавшегося искусственного интеллекта. Звучит дико.
T-1000 странно реагирует на экстремальное понижение температуры, когда его замораживают жидким азотом: физически его тело вроде бы приходит в норму после разморозки, но вот мозг изрядно притормаживает. Он меланхолично смотрит, как раненый T-800 ползет за оружием, хотя логичнее всего было бы как можно быстрее добить противника и продолжать охоту за основной целью — Джоном. Он зачем-то заставляет захваченную Сару звать Джона на помощь, хотя прекрасно может сам имитировать ее голос (что и делает через несколько минут). Короче говоря, становится уязвимым. Может, слишком сильное переохлаждение не позволило какому-то из компьютеров в его голове запуститься?
Чтобы создать надежную компьютерную систему, которая не взбунтуется против своих создателей, логично было бы использовать безопасную операционную систему, в которой концепция запрета по умолчанию (Default Deny) имплементирована на системном уровне. Мы такую систему разработали, правда, не в 1991 году, а несколько позже. Информацию о нашей ОС и об иммунном подходе к защите информационных систем можно найти на страничке KasperskyOS.
Источник: www.kaspersky.ru