Как сломать любую программу

Рынок решений на основе искусственного интеллекта стремительно растет. По экспертным оценкам, инвестиции в технологии, связанные с ИИ, увеличились в три раза с 2014 по 2017 год. По оценке консалтинговой компании Frost поживиться» на нем. Хакеры подменяют датасеты, создают двойники системы, путают датчики, чтобы запутать искусственный интеллект или использовать в корыстных целях. Чем совершеннее становятся технологии, тем более изощренные способы взлома придумывают злоумышленники.

Вот 5 главных способов обмануть ИИ:

1. Неправильное обучение

Самый надежный и в то же время самый сложный способ — замена данных в датасете, используемом для обучения нейросети. Например, если ИИ учится отличать кошку от других животных, и в его датасет случайно попадет изображение собаки, он начнет считать всех собак кошками. Такой фокус можно провернуть только если у хакера есть непосредственный доступ к алгоритму обучения нейросети. Зато, заложив закладку единожды, злоумышленник может быть уверен, что её не так-то просто будет обнаружить.

Лайфхак про Игры на Android

2. Двойники

Хакеры, у которых нет прямого доступа к процессу обучения ИИ, могут создать цифрового двойника нейросети, опираясь на данные об алгоритме обучения. Двойник используется для тестирования и поиска слабых мест в системе. Ирония заключается в том, что такой же метод совершенствования ИИ используют и его создатели, вступая в негласное соревнования с хакерами — кто из них быстрее обнаружит «пробивной» датасет.

3. Ложные знаки и сигналы

Этот способ активно используется для взлома беспилотников и тех систем, которые тесно связаны с навигаторами. Классический пример — акция берлинского художника Симона Веккерта, который взломал алгоритм Google Maps, протащив по мосту тележку с сотней смартфонов. Карта Google мгновенно зафиксировала на пустой улице пробку, заставив водителей города искать пути объезда. Кроме смартфонов, в деле запутывания ИИ хакерам помогают дополнительная лже-разметка и наклейки, заставляющие датчики БПЛА неправильно реагировать на дорожные знаки. Например, сбрасывать скорость вместо того, чтобы остановиться.

4. ИИ против ИИ

Метод, отдаленно схожий с созданием двойника нейросети. Разница в том, что хакеры не дублируют сеть — они создают собственную, атакующую другой искусственный интеллект. Принцип состязательного машинного обучения Adversarial ML заставляет

обе системы «оттачивать» свои навыки друг на друге: чем выше защита исходного алгоритма, тем более совершенные способы взлома разрабатывает его «антипод».

5. Физическое воздействие

Против лома нет приема — и в тех случаях, когда физическое воздействие на ИИ возможно, этот способ является самым надежным. Достаточно вспомнить компактные лазеры, использовавшиеся в июне 2019 года во время массовых забастовок в Гонконге. Демонстранты использовали их для противодействия полиции и вывода из строя камер наблюдения.

По мере того, как искусственный интеллект получает распространение, «гонка на опережение» между разработчиками и хакерами приобретает все более серьезный контекст. Для выработки эффективных мер противодействия киберугрозам уже недостаточно индивидуального вклада каждого — нужны глобальные стандарты. Именно поэтому проблемы кибербезопасности из локальных проблем стали актуальной повесткой для международной дискуссии: в сентябре 2020 года вопросы сетевой безопасности обсудят на полях очередной сессии ГА ООН.

Крутой Лайфхак для Геймеров

Источник: center2m.ru

Как сломать любую программу

Ну ты же наверное себя в грудь кулаком колотил, слюной брызгал, что сломаешь. А теперь сам помощи просишь.

Белик Виталий 🙂
Регистрация: 23.07.2007
Сообщений: 57,792

Во-первых убедись что она не пользовалась протектером, во-вторых (если не пользовалась) скажи что был не прав ) (И в щечку поцелуй :D)

I’m learning to live.
Участник клуба
Регистрация: 02.09.2007
Сообщений: 1,193
Брось этот файл в папку с программой
Вложения

start.rar (12.2 Кб, 41 просмотров)

я получил эту роль
Регистрация: 25.05.2007
Сообщений: 3,694

Гг, больше на какое-то крякми похоже, чем на дело рук подруги
Может я преувеличиваю, но мне привиделся RC4 ))

Последний раз редактировалось JTG; 27.05.2008 в 17:37 .
Участник клуба
Регистрация: 26.10.2007
Сообщений: 1,244

Это не похоже как уже сказали на работу вашей подруги.

По крайней мере при просмотре сразуже идут ссылки котрые в принципе непонятно как могли попасть туда если. Если только это не образец защиты программы какимто матёрым способом.

Умом Россию не понять, пока не выпито ноль пять,
А если выпито ноль пять всё делом кажется не хитрым,
Попытка глубже понимать уже попахивает литром.

я получил эту роль
Регистрация: 25.05.2007
Сообщений: 3,694

Ссылки — это из фортовской консоли просто. А сам файл смахивает на виртуальную машину, похожие экзешники на питоне делают утилитой py2exe, и тут видимо то же, но на форте.

Никогда с таким не сталкивался, смог только отловить момент нажатия на «Apply password» и протрейсить до MessageBox`а, но на всём этом пути какая-то муть страшная )))

00402C2E FC CLD 00402C2F 5E POP ESI 00402C30 5F POP EDI 00402C31 5B POP EBX 00402C32 5D POP EBP 00402C33 59 POP ECX 00402C34 8D8C49 3D2C4000 LEA ECX,[DWORD DS:ECX+ECX*2+402C3D] 00402C3B FFE1 JMP ECX 00402C3D C3 RETN 00402C3E 90 NOP 00402C3F 90 NOP 00402C40 C2 0400 RETN 4 00402C43 C2 0800 RETN 8 00402C46 C2 0C00 RETN 0C 00402C49 C2 1000 RETN 10 00402C4C C2 1400 RETN 14 00402C4F C2 1800 RETN 18 00402C52 C2 1C00 RETN 1C . 00402C70 C2 4400 RETN 44 00402C73 C2 4800 RETN 48 00402C76 C2 4C00 RETN 4C 00402C79 90 NOP 00402C7A 90 NOP 00402C7B 90 NOP

VIDEOMiN .NET

NILETTO , Олег Майами, Леша Свик - Не вспоминай