Исследования ученого ТГУ помогут отражать хакерские атаки

Молодой ученый Института прикладной математики и компьютерных наук ТГУ Антон Николаев исследует атаки на системы, созданные на основе машинного обучения, и механизмы их предотвращения. Результаты его работы должны стать основой для создания новых подходов защиты нейронных сетей от хакерских нападений.

Машинное обучение учит компьютер самостоятельно находить решения различных задач с помощью заранее загруженных данных и специальных алгоритмов. Сейчас его методы все активнее используются в самых разных областях человеческой деятельности.

«Те или иные методы и алгоритмы, работающие в данных областях, подвержены всевозможным атакам. Сложность (как для атакующего, так и для защищающего) заключается в том, что обозначенные системы крайне сложны в своем устройстве, и защита, как и нападение, требуют сложного многоуровневого подхода на всех этапах взаимодействия системы с пользователем», - говорит аспирант ИПМКН ТГУ Антон Николаев.

Успешная атака на систему, работающую на базе машинного обучения и различных обучающихся алгоритмов, может привести к критичным последствиям разной степени опасности. Так, например, внедрение в биометрические коды может открыть доступ к секретным данным или даже финансовым счетам в онлайн-банках, а взлом систем автономного вождения и вовсе привести к возникновению реальной угрозы человеческой жизни.

Механизмы атак могут быть самыми разными.

«Самые популярные включают генерацию некоторых небольших изменений в объекте (звуке, изображении, тексте) или, проще говоря, специального «шума», который ведет к тому, что система неправильно распознает или классифицирует данный объект, – объясняет Антон Николаев. – Например, определенного рода наклейка на дорожный знак может заставить систему распознавания дорожных знаков увидеть вместо одного знака другой. Или же специальный макияж на лице может заставить систему распознавания лиц увидеть в одном человеке другого».

Замещать одни результаты другими злоумышленникам удается из-за «зазоров», появление которых не исключено в процессе машинного обучения. Задача аспиранта ИПМКН ТГУ – выявить наиболее эффективные методы приближения к границам таких «зазоров» или пограничных значений. Это позволить понять, каким образом можно снизить число подобных «слабых звеньев» при атаках и в эксплуатации. На основе итогов исследований молодой ученый создаст новые алгоритмы для защиты методов машинного обучения от внешнего влияния.

Новости Томской области - в Вайбере. Только эксклюзив! Подписывайтесь!

Читайте нас в Одноклассниках!

Читайте нас в Телеграме!

URL: https://babr24.net/tmk/?IDE=219436

bytes: 2587 / 2440

Обсудить на форуме Бабра в Telegram

Поделиться в соцсетях:

Автор текста: Пепел.

Другие статьи в рубрике "Наука и технологии" (Томск)

Крошка-краб возрастом 99 миллионов лет найден учёными в янтаре

Очередной древний объект «прошагал» через миллионы лет до наших дней в куске янтаря. Янтарь – это окаменевшая ископаемая смола. Это уникальный материал, который очень любят и ценят палеонтологи. Организмы, попавшие в янтарь, сохраняются в идеальнейшем состоянии.

Миша Ковальски

Наука и технологииМир

330

23.10.2021

Американцы решают проблему мужского бесплодия с помощью обезьян

Сперматозоиды были созданы из стволовых клеток макак и использованы для решения проблем фертильных самцов. Этот научный прорыв может помочь и мужчинам.

Миша Ковальски

Наука и технологииЗдоровьеМир

828

22.10.2021

Молодые ученые спасут мир от кислотных дождей

Ученые ТГУ займутся созданием высокоэффективных катализаторов для обезвреживания оксидов азота, влияющих на выпадение «кислотных» дождей. Работы будут проходить совместно с Институтом изучения наноструктурных материалов Итальянского исследовательского совета.

Пепел

Наука и технологииЭкологияМолодежьТомск

9592

21.10.2021

Как сквозь землю провалился. Год назад задержали учёного из Томска

В конце сентября 2020 года по делу о госизмене в пользу Китая задержали томского физика Александра Луканина. 1 октября его этапировали в СИЗО Лефортово. С февраля 2021 года о нём ничего слышно. Итак, Александру Луканину 65 лет, то есть официально он пенсионер.

Андрей Игнатьев

Наука и технологииКриминалТомск

1363

21.10.2021

Лауреаты Нобелевской премии 2021

10 декабря – день смерти Альфреда Нобеля. В этот день по традиции награждают лауреатов Нобелевской премии. Однако имена победителей определяют уже в октябре. Сейчас узнаем, кто и за что получит премию. К слову, среди них есть и россиянин.

Миша Ковальски

Наука и технологииМир

1236

21.10.2021

Ученые ТГУ и Кореи разрабатывают материалы нового поколения для изготовления имплантов

Научный коллектив Томского государственного университета разрабатывает композитные материалы для биорезорбируемых имплантатов нового поколения. Работы ведутся совместно с учеными из Южной Кореи.

Пепел

Наука и технологииЗдоровьеТомск

4789

18.10.2021

Человек потерял хвост из-за генетической мутации

На самом деле хвост отвалился не у человека, а ещё раньше – у предков в лице обезьян. Но ведь многие современные приматы ходят с хвостом до сих пор. В чём же дело? Ответ на этот вопрос постарался получить учёный Бо Ся вместе со своей научной командой из Нью-Йорка.

Миша Ковальски

Наука и технологииМир

1917

15.10.2021

Генетики ТГУ повысят эффективность бактерий, разлагающих нефть в водоемах

Ученые кафедры генетики и клеточной биологии Биологического института ТГУ проводят исследование, в результате которого станет возможным задавать новые свойства бактериям, разлагающим нефть.

Пепел

Наука и технологииЭкологияТомск

7831

15.10.2021

Установка томских ученых очистит дно порта в Риге

Биологи Томского государственного университета очистят дно порта в Риге от нефти и нефтепродуктов с помощью инновационной технологии «Аэрощуп». Демонстрация ее возможностей в Европе позволит ускорить продвижение российских технологий на мировом рынке.

Пепел

Наука и технологииЭкологияЭкономика и бизнесТомск

9125

12.10.2021

ТУСУР начал сотрудничество с "дочкой" "Ростеха" для создания роботов

Томский университет систем управления и радиоэлектроники (ТУСУР) начинает сотрудничество в области образовательной робототехники с Центральным научно-исследовательским институтом (ЦНИИ) "Электроника" и промышленным кластером "Консорциум робототехники и систем интеллектуального управления".

Соня Совушкина

Наука и технологииОбразованиеОбществоТомск

1016

11.10.2021

Ученые разрабатывают революционный метод блокировки злокачественных опухолей

Минобрнауки России поддержало масштабный междисциплинарный проект в области генетики. Его руководителем является ученый ТГУ, Университета Гейдельберга и СибГМУ Юлия Кжышковска. В рамках проекта будут созданы новые технологии для предотвращения образования метастаз у онкобольных.

Пепел

Наука и технологииЗдоровьеТомск

6742

09.10.2021

Тихо покоилась 16 миллионов лет: учёные обнаружили в янтаре тихоходку

Мешок от старого пылесоса с шестью ногами. Именно так выглядит тихоходка, по-другому водяной медведь. На самом деле это микроскопические беспозвоночные, которые отличаются поразительной живучестью среди всех земных организмов. Впервые тихоходку обнаружил в 1773 году немецкий пастор Гёце.

Миша Ковальски

Наука и технологииИсторияМир

2222

07.10.2021

Нимаева Лидия

Ходорковский Михаил

Мандельбаум Марк

Слепнева Ирма

Юзвак Светлана

Молоков Виталий

Галсанов Ким

Романов Максим

Лисянская Ирина

Нестеренко Аркадий