Как проверить код программы на антиплагиат

Use saved searches to filter your results more quickly

Cancel Create saved search

You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window.

Reload to refresh your session.

mnickw/Antiplagiarism

This commit does not belong to any branch on this repository, and may belong to a fork outside of the repository.

Switch branches/tags
Branches Tags
Could not load branches
Nothing to show
Could not load tags

Nothing to show

Name already in use

A tag already exists with the provided branch name. Many Git commands accept both tag and branch names, so creating this branch may cause unexpected behavior. Are you sure you want to create this branch?

Cancel Create

• Local
• Codespaces

HTTPS GitHub CLI
Use Git or checkout with SVN using the web URL.
Work fast with our official CLI. Learn more about the CLI.

Sign In Required

Please sign in to use Codespaces.

Launching GitHub Desktop

If nothing happens, download GitHub Desktop and try again.

Launching GitHub Desktop

If nothing happens, download GitHub Desktop and try again.

Launching Xcode

If nothing happens, download Xcode and try again.

Launching Visual Studio Code

Your codespace will open once ready.

There was a problem preparing your codespace, please try again.

Latest commit

Git stats

Files

Failed to load latest commit information.

Latest commit message
Commit time

README.md

Практики «Антиплагиат» и «Diff Tool»

Репозиторий содержит решения этой и этой задачи с ulearn.me. Задачи прошли код-ревью у преподавателя (баллы: 50/50, 100/100). Все решения курса на максимальный балл также выложены в других репозиториях. Ветка unsolved содержит изначальный проект.

Конечное приложение — приложение для сравнения схожести документов. Как и серии предыдущих примеров, демонстрируется реализация алгоритмов.

ИТ-компания К. приглашает студентов на летнюю стажировку. Чтобы попасть на стажировку, претенденты решают тестовое задание — задачу на программирование вроде тех, что есть в этом курсе, только сложнее.

Из года в год претенденты присылают несколько сотен решений. Можно ли как-то автоматически найти среди них «списанные» решения, то есть такие, которые слишком сильно похожи друг на друга?

Оказывается расстояние Левенштейна можно использовать для того, чтобы сравнивать листинги программ (или вообще любые документы) друг с другом и находить самые похожие пары. Этим вам и предстоит заняться в данной задаче.

В этой задаче вам необходимо реализовать класс LevenshteinCalculator , который получает на вход список документов и возвращает список попарных сравнений каждого документа с каждым другим.

Антиплагиат исходного кода: гибридный подход с использованием парсера ANTLR

Работая при университете, недавно столкнулся с интересной задачей, связанной с поиском академического плагиата во внутренней системе контестов по программированию, ставшей основой для преподавания основ алгоритмики студентам первого курса. Позже, начав поиск русскоязычных материалов, я был очень расстроен отсутствием каких-либо обобщающих статей на эту тему, поэтому незамедлительно решил восполнить этот пробел и рассказать о своем опыте создания модуля антиплагиата.

Введение

Академический плагиат — это очень распространенное явление, особенно если дать студентам много свободы в создании своих программ. По некоторым источникам, больше половины студентов технических специальностей хотя бы раз нечестно сдавали задания по программированию. Разумеется, с такой проблемой столкнулся и мой институт.

Преподаватели и их ассистенты для большей части решений, прошедших проверку в системе автоматического тестирования, вынуждены открывать последние сданные исходники других студентов в рамках этой же задачи с целью выявить потенциальное наличие в них плагиата. Когда на потоке мало студентов и преподаватель условно знает «кто с кем дружит», то эта проверка не занимает длительного времени, но если на первый курс приходит более сотни студентов, то данную проблему быстро решить уже не получится. К счастью, этот процесс можно автоматизировать.

Начнём с того, что уже существует великое множество открытых и проприетарных решений, так или иначе решающих данную задачу: из опенсурсных популярны, например, MOSS и JPlag. Однако ни одно из них не удовлетворяет нашим требованиям: одни из них работают с лимитированным количеством языков программирования, другие сканируют половину интернета на наличие похожестей частей кода и прочее. Вот же краткий список требований к модулю, составленный нашей командой разработки:

1. Поддержка языков программирования платформы для контестов (C++, Python, Java, C# и Pascal);
2. Скоринг решений учеников, прошедших автоматическую проверку, в рамках одной задачи (то есть должна быть реализована push- или pull-модель взаимодействия с платформой);
3. Выдача преподавателю списка решений, наиболее похожих на целевое, для дальнейшего вынесения собственного вердикта о наличии списывания.

Как можно заметить, система просто должна автоматически выполнять ту работу, которую на данный момент вручную проделывает преподаватель. Остаётся лишь главный вопрос: как будет проходить непосредственно сам скоринг решений? И это уже детали реализации, которые мы сейчас разберем.

Типы заимствований исходного кода

Для начала стоит определиться, а что вообще считается академическим плагиатом? Существует прекрасная монография под названием A Survey on Software Clone Detection Research*, написанная ещё в 2007 году, и в дальнейшем повествовании я буду практически полностью опираться на неё, потому что она покрывает все необходимые нам темы. В ней описывается 4 основных типа заимствования исходного кода:

1. Программный код скопирован без каких-либо изменений (иными словами, идентичен оригиналу с точностью до комментариев);
2. Код скопирован с «косметическими» заменами идентификаторов (имен функций и переменных, типов данных, строковых литералов);
3. Код может включать заимствования второго типа, а также модификации скопированного оригинала путем добавления, редактирования или удаления его фрагментов или изменение порядка их исполнения, не влияющие на логику самой программы;
4. Программа некоторым образом переписана с общим сохранением логики работы и функциональности, однако синтаксически она может абсолютно отличаться от оригинала.

Качественная система антиплагиата должна хорошо определять первые три типа плагиата из классификации выше. Заимствования четвертого типа крайне затруднительны для выявления (см. статью) и часто представляют собой копирование самого алгоритма, а не частей кода оригинальной программы, что не является плагиатом как таковым.

Другой проблемой является то, что любой алгоритм антиплагиата будет давать ложноположительный результат на коротких и простых задачах (например, алгоритм Евклида или сортировка пузырьком), ведь если студент в здравом уме, то он явно не напишет что-то оригинальное и отличное от других решений. С этим недоразумением можно справиться несколькими способами: либо не запускать алгоритм на коротких задачах в принципе, либо использовать какой-то алгоритм «с пенальти» на короткие программы, либо вообще не решать данную проблему: преподаватель сам понимает, что задача простая, поэтому, вероятнее всего, сразу проставит ей нужную оценку.

Методы сравнения исходных кодов

В литературе встречается множество способов сравнения программ. Вот пять наиболее универсальных и распространенных подходов, которые в дальнейшем были успешно применены в нашей системе:

1. Text-based метод заключается в сравнении текстовых представлений программ на основе некоторой метрики, например, расстояния Левенштейна или Джаро-Виклера. Данный способ отличается своей скоростью и простотой, но результативность быстро снижается даже на простейших «косметических» модификациях.
2. Token-based метод основан на преобразовании ключевых слов программы в последовательность лексем языка программирования (далее просто токенов). Полученные токены сравниваются любым доступным способом. Этот алгоритм гораздо точнее предыдущего, так как игнорирует все изменения второго типа, однако он всё ещё не справляется со структурными изменениями.
3. Metric-based метод определяет на полученных в предыдущем методе токенах некоторые метрики (например, кол-во используемых циклов и условных конструкций), а далее считает схожесть программ на основе количества совпадающих метрик. В целом, алгоритм отлично дополняет другие методы антиплагиата, однако он часто даёт ошибочный результат (в частности, метод успешно отрабатывает на программах с переименованием переменных и изменением условий и циклов, но моментально деградирует при добавлении в код NO-OPов по типу объявления пустого цикла или инициализации неиспользуемых значений).
4. Tree-based подход требует представления кода в виде абстрактного синтаксического дерева (далее просто AST, Abstract Syntax Tree). В таком формате программы сравниваются любым доступным способом: от «наивного» подсчёта совпадающих узлов до продвинутых методов на основе расстояния Zhang-Shasha. Часто данный способ считается наиболее эффективным, но в то же время его сложнее внедрить: помимо построения самих AST, нужна реализация алгоритма для их сравнения.
5. Binary-based метод требует прохождения кодом этапа компиляции (или интерпретации). Полученное бинарное представление (ассемблерный листинг или байткод) служит основой для дальнейшего сравнения программ. Помимо высокой точности на заимствованиях 1-2 типа (мелкие структурные изменения часто оптимизируются компилятором, а разные реализации одного функционала, дают одинаковый ассемблерный листинг), алгоритм может дать неплохой результат на модификациях третьего типа, но в то же время может и легко ломаться. Было выявлено, что банальное изменение типов данные может уронить коэф. схожести на несколько десятков процентов.

Конечно же, это не все существующие алгоритмы. Есть множественные модификации каждого из методов, так или иначе повышающие эффективность скоринга (в этом плане может быть интересен метод Шинглов), а также совершенно другие подходы, которые могут основываться, например, на поведении программы во время исполнения (behavior-based метод) ини на графе её зависимостей (PDG-based метод). Кстати, упомянутая выше монография наполнена сравнительными таблицами как самих методов, так и их модификаций, что очень интересно для изучения.

В дополнении приведу ещё один интересный подход: если вы знаете специфику действий своего пользователя (например, с каким среднем промежутком времени сдаются задачи на платформе или сколько попыток нужно потратить для успешной сдачи), то сможете выделить ряд метрик, на основе которых можно будет определять подозрительность поведения конкретного пользователя. Например, если студент сдаёт к ряду несколько задач и они проходят все тесты, то это отличный триггер на жульничество с его стороны. К сожалению, такой подход не является универсальным, а результат зависит от выделенных для использования метрик.

Очевидно, что каждый из рассмотренных выше методов имеет свои преимущества и недостатки и некоторые из них могут быть эффективнее на определенных модификациях условного кода. Так что же мешает нам использовать лучшие стороны каждого из них? Алгоритм антиплагиата на основе нескольких подходов называется гибридным, и данный подход действительно значительнее устойчивее каждого из методов по отдельности. Для вынесения итогового вердикта можно использовать либо максимальный, либо средний скоринг для каждого из примененных алгоритмов. Второй вариант как раз таки и был применен в нашей дальнейшей реализации модуля антиплагиата.

Разработка алгоритма антиплагиата

Гибридный алгоритм антиплагита может быть реализован следующими простыми шагами:

1. Форматирование и нормализация (в т.ч. удаление комментариев) исходного кода для повышения точности текстовых сравнений;
2. Получение промежуточных представлений программы, а именно её токенов, AST и ассемблерного листинга;
3. Непосредственно сравнение полученных форматов вышеперечисленными методами;
4. Вынесение вердикта на основе полученных коэффициентов схожести;
5. (Опционально) Вычисление дополнительных полезных статистик, например, дисперсии и квантилей распределения этих коэффициентов для всей выборки решений.

С первым шагом особых проблем не возникает: нормализация может быть выполнена средствами языка программирования (в т.ч. регулярными выражениями ), а для форматирования можно использовать сторонний инструмент (обратите внимание на clang-format), однако данный шаг опционален. Но вот с получением промежуточных представлений программы, а именно списка лексем и AST, могут возникнуть проблемы. Конечно, никто не мешает вам написать собственный лексер и парсер для каждой необходимой вам грамматики (так, например, сделали разработчики JPlag), но если у вас сжатые сроки и ленивые руки, то есть одно менее элегантное, но эффективное решение: использование парсера с открытым исходным кодом ANTLR.

ANTLR отлично зарекомендовал себя среди разработчиков различных грамматик и утилит для работы с ними, а сообщество уже добавило поддержку более двух сотен популярных языков программирования. Данный парсер сможет без проблем превратить вашу программу в список токенов, а также построить (и визуализировать!) абстрактное синтаксическое дерево на их основе. Небольшой платой за готовый синтаксический разбор будет долгое обращение к самой утилите (занимает порядка секунды для небольшой программы).

Итак, мы имеем все промежуточные представления на руках: ассемблерный листинг (или байткод) нам выдал компилятор/интерператор, токены и AST мы получили из ANTLR, а текстовое представление мы имеем по умолчанию. Исходники мы даже немного улучшили посредством нормализации, нечто подобное желательно сделать и с бинарным представлением, а именно удалить offsetы пямяти, оставив только исполняемые инструкции (тут достаточно задействовать утилиту grep).

Дальше нас ждет третий шаг, а именно скоринг полученных представлений. Со сравнением текстов и бинарного формата проблем не выходит: мы берем любую доступную метрику и сравниваем два набора символов. По моим наблюдениям, лучше всего показала себя комбинация расстояния Дамерау-Левенштейша и LCS. Со скорингом AST возникают некоторые трудности: если нужно это сделать эффективно, то в любом случае придётся считать редакторское расстояние для деревьев (кстати, есть одна каноническая реализация алгоритма на питоне), а если мы хотим сделать это быстро, то сойдёт и наивная стратегия, основывающаяся либо на прохождении по ветвям дерева до первого несовпадения элементов, либо на подсчете отношения количества совпавших узлов ко всем узлам (данная стратегия и легла в основу нашей реализации).

Полученный результат скоринга со всех методов, лежащий в промежутке от 0 до 1, фактически показывает, насколько два решения похожи друг на друга по некоторой метрике. Это можно усреднить и делать предположение по полученному значению: если коэффициент схожести программ выше 95%, то они практически идентичны. Дополнительные статистики, подсчитанные по выборке сданных на задачу решений, могут быть тоже очень полезны. К примеру, медианное значение схожести близкое к максимальному и низкая дисперсия говорят о простоте задачи — в этом случае можно уверенно давать отрицательный вердикт на наличие в решении заимствований.

Полученные результаты

Для тестирования полученного гибридного алгоритма была использована небольшая синтетическая выборка, включающая некоторые модификации программ на языках Java и C++ (~750 символов) для всех четырех типов заимствований. И вот как показали себя примененные методы по отдельности (коэф. схожести усреднен и округлен):

Модификация / процент схожести программ

Источник: temofeev.ru

Автоматизированный рефакторинг

Быстрая и безопасная проверка уникальности кода. Повышение качества кода.

Попробовать Узнать больше

Как AppRefactoring может помочь создать профессиональный код?

Избежание банов от Google Play и App Store
Помощь в обнаружении недобросовестных разработчиков, фрилансеров, подрядчиков
Возможность поддержки удобных форматов файлов и языков программирования

Быстрое и качественное изменение одного и того же кода (рефакторинг, обфускация) и работа с шаблонными приложениями

Экономия ресурсов
Защита от теневого индексирования

Как работать с AppRefactoring?

Загрузите ваш код

Загрузите ваш код

Вы можете загрузить код различными способами, как вам удобно. Быстро и легко!

Автоматический анализ

Автоматический анализ

Получите детальный отчет

Получите детальный отчет

Подождите несколько минут, программа сравнит ваш код с исходным и со всей базой данных, используя алгоритмы для сравнения структуры и синтаксиса одного проекта с другим. В результате, вы получите детальный отчет по структуре вашего кода и совпадениям с другими проектами.

Сделайте свой код уникальным

Сделайте свой код уникальным

С помощью полученного отчета сделать проект уникальным станет намного легче. На основе данных сервиса вы сможете с легкостью исправить баги и улучшить качество кода без полного изменения функционала проекта.

Технологии программирования

Отзывы

Потратил немало своего драгоценного времени на анализ заимствованных фрагментов кода в моем проекте. AppRefactoring помог мне решить эту задачу. И все это онлайн и в автоматическом режиме.

Стеффан Лоусон

Back — end Разработчик

Использую инструмент AppRefactoring для общего анализа проектов нашей компании. Инструмент помогает легко определить степень уникальности написанного кода.

Артур Уиллиамс

CTO

Мой хороший помошник

Сервис AppRefactoring стал моим «настольным» приложением помогает мне с анализом структуры моего кода в онлайн режиме. Рекомендую к использованию.

Владимир Береза

Ios Разработчик

Использование инструмента помогает сделать исходный код более структурированным и понятным и выгружать его в собственный проект на GitHub.

Никита Королев

Team Lead

Разработчики AppRefactoring подарили нам множество полезных функций. Этот инструмент значительно ускоряет анализ исходного кода и может быть полезным как новичкам, так и опытным разработчикам

Владислав Пак

Android Разработчик

Спасибо за тулзу!

Анализ и сравнение своих проектов в AppRefactoring помогло в определении не уникальных фрагментов кода. Таких фрагментов оказалось намного больше, чем я ожидал. Пришлось многое править. Спасибо за тулзу.

Брэндон Смит

Java Разработчик

Лучше, чем вручную.

Инструмент AppRefactoring отлично помогает мне с анализом качества моего Java кода, с тем, чтобы реорганизовать и уменьшить сложность исходного кода. Это избавляет от нудного ручного труда.

Суркова Мария

Back — end Разработчик

Автоматический анализ исходного кода и детальные отчеты инструмента AppRefactoring упрощают уникализацию разрабатываемых приложений. А это сейчас очень важно при регистрации приложения в Google Play Market и App Store.

Хизер Джоунс

CTO

Превосходный анализатор кода.

Превосходный онлайн анализатор кода! Постоянно использую его возможности для анализа моих исходников в автоматическом режиме. Отлично справляется с поиском идентичных фрагментов кода.

Дмитрий Петров

IOS Разработчик

Практически ни один программист не пишет каждый свой проект полностью с нуля. В итоге, может получится множество дублей участков кода по файлам, классам и строкам. Инструмент AppRefactoring помогает в автоматическом режиме определить эти участки.

Мэй Браун

Team Lead

Работаю с инструментом уже более 4 месяцев, загрузили более 15 проектов моих учеников — джунов. Здесь проще анализировать их исходные коды и следить за копипастами.

Ксения Андреева

Android Разработчик

Беру на вооружение!

Отличный сервис для программистов. Инструмент очень прост в использовании и имеет множество полезных функций, таких как проверка кода на совпадения. Протестировал его работу на своем проекте. Беру на вооружение!

Милдред Баллард

Java Разработчик

Тулза может помочь с тем, чтобы сделать свой код проще и легче, сравнивать программные файлы в своих проектах в онлайн режиме. Спасибо разработчикам!

Дэйл Джонсон

Java Разработчик

В последнее время все чаще приходится иметь дело с легаси кодом. AppRefactoring помогает с анализом и рекомендациями на модернизацию. Разрабы инструмента постоянно добавляют новые плюшечки. Рекомендую взять на вооружение.

Эмир Смирнов

CTO

В системе уже более 10-ка моих Swift проектов. Каждый новый проект анализируется и сравнивается со структурой и синтаксисом имеющихся в базе проектов. Все это автоматически и в онлайн режиме. Для меня это лучшее решение.

Омаров Абилай

IOS Разработчик

Наши Партнеры

Получите от наших коллег подробную статистику по каждому приложению и подробный отчет о рекламных креативах.

PIRATE CPA — источник знаний в области арбитража трафика и партнерского маркетинга

Универсальный инструмент для партнерского и перфоманс-маркетинга. Без файлов cookie и в полном соответствии с GDPR, CCPA и PECR. Используйте собственную инфраструктуру для защиты ваших данных

Источник: apprefactoring.com