Read the book: «Цифровой иммунитет: защита от киберугроз. Практическое руководство по кибергигиене и устойчивости систем для специалистов по ИБ», page 3
Использование ИИ в сетевых технологиях
В современном цифровом мире все большую популярность набирают технологии ИИ. Проникая все глубже и глубже, системы ИИ затронули и такой важный в цифровом мире аспект, как информационная безопасность и защита данных, причем практически одновременно с двух сторон: «светлые» силы используют технологии ИИ для сканирования обнаруженных зловредных программ, для выявления новых уязвимостей и методов их перекрытия, а также противостояния различным сетевым угрозам. «Темные» силы, в свою очередь, используют ИИ для создания новых угроз, выявления методов проникновения в пользовательские системы, а также для углубленного применения техник социальной инженерии.
Давайте начнем с популярного – все чаще в Сети появляются различные сообщения о том, что злоумышленники вовсю используют нейросети для своих темных делишек. Например, генерируют с их помощью видеоролики, на которых крупные бизнесмены или известные личности завлекают наивных людей в финансовые пирамиды, подделывают голоса людей для обмана их окружения, а также позволяют монтировать достаточно реалистичные фото и видеоматериалы, которые можно впоследствии использовать для шантажа.
К примеру, буквально во время написания этой книги на страницах одной социальной сети мне попалось видео, на котором известный инвестиционный магнат рассказывал, как он любит свой народ и готов практически безвозмездно одарить всех любыми суммами денег, главное – войти в его инвестиционный проект, вложиться – и получишь просто баснословные прибыли. Лично мне, человеку, привыкшему к любой рекламе относиться критически и со значительной долей скепсиса, практически сразу пришла в голову мысль – а ему-то это зачем? Если он считает, что денег у него слишком много, почему не пожертвует кому-то адресно? Зачем устраивать непонятно что, чтобы раздать накопленное? Тогда я стал «копать» – как оказалось, никогда такой проект не существовал под эгидой выступавшего на видео товарища, а при ближайшем рассмотрении выяснилось, что видео сгенерировано при помощи нейросети.
Также в Сети есть множество подтверждений того, что злоумышленники могут использовать ваши же голосовые сообщения, «кружочки» из одного популярного мессенджера и прочие медиафайлы для создания «нужных» медиаданных. Есть случаи, когда мошенники обучали нейросети создавать голосовые сообщения нужным голосом – загружали в ее память десятки аудиодорожек с голосом будущей жертвы, после чего писали необходимый текст и запускали его в Сеть. К примеру, в том самом пресловутом мессенджере с «кружочками» в свое время прокатилась полноценная операция «армии клонов», в ходе которой мошенники подделанным при помощи нейросети голосом обычных людей обращались к списку контактов выбранного пользователя и просили дать в долг некоторую сумму, переведя на определенную карту. Чаще всего использовалась фраза типа: «Я тут задолжал, не можешь перезанять мне ХХХХ денег? Я тебе попозже скину обратно». В итоге пользователи искренне верили, что общаются с человеком, голос которого звучал в записи, и переводили суммы на указанный счет. После чего чат зачищался «на всякий случай», а обладатель голоса оставался в долгах как в шелках. Причем даже не взяв ни копейки из этих денег…
Используется ИИ и в промышленных масштабах – к примеру, основанные на ИИ технологии используются для сканирования и выделения базовых параметров потоков веб-трафика приложений и определенных страниц, а следовательно, и выявления и оповещения о любых аномалиях трафика, прямо говорящих о случаях применения DoS-атак, различных попытках взлома и даже о применении ботов для проведения определенных манипуляций с сетевой инфраструктурой предполагаемой жертвы.
Применяют ИИ и в современных версиях антивирусных систем – не только для выявления соответствующих вирусным угрозам аномалий, но и для того чтобы находить похожие сигнатуры даже для не выявленных ранее угроз. К примеру, некий злоумышленник написал вирус, который внедряется в компьютер при помощи одной из редких уязвимостей, а после установки начинает «сливать» данные об учетных записях пользователя. Производители антивирусного ПО рано или поздно заметят этот вирус, исследуют его и выпустят соответствующие обновления баз сигнатур. Но и автор вируса, не будь дураком, будет выпускать его новые версии. Или еще хуже, «обрастет» подражателями, которые будут делать примерно такие же вирусы. ИИ могут выявлять похожие сигнатуры не методом эвристики (предполагающим довольно заметный процент ложных срабатываний), а методом изучения поведенческих факторов вируса в системе – где располагается, как себя ведет, какие процессы задействует. На основании этих данных ИИ позволяет выявлять различные вирусы с большей точностью в сжатые сроки, практически избегая ложных срабатываний на схожие угрозы.
Существуют модели ИИ, которые предназначены для замены целого штата специалистов по кибербезопасности – их используют для комплексного тестирования заданной инфраструктуры, что позволяет выявить малейшие уязвимости Сети или программного обеспечения. Таким образом, выявление и устранение различных слабых мест заданной системы будет проходить быстрее, а следовательно, общий уровень защищенности будет расти в арифметической прогрессии.
К сожалению, ИИ не выбирают, к какой стороне примкнуть – к темной или светлой. Созданные, чтобы служить человеку, они должны лишь успешно выполнять возложенные задачи, без разделения на плохое и хорошее. Именно этой особенностью систем искусственного интеллекта пользуются различные киберпреступники – с помощью ИИ они выявляют новые уязвимости, пишут вирусы, которые не подконтрольны ни одному антивирусу, даже проводят целые атаки ботнет-устройств. При этом они умеют имитировать действия человека в Сети, склонны к самообучению (в определенных рамках, разумеется), что дает им возможность слияния с легальным трафиком или поведением человека в среде операционной системы.
Не так давно один программист устроил довольно курьезную ситуацию на рабочем месте. Он написал простенькую нейросеть (это, кстати, доступно почти каждому), обучил ее и оставлял ее «работать» на его компьютере в конторе, а сам тем временем бродил по помещениям, гонял чаи и всячески саботировал возложенные на него рабочие задачи. Выяснить это помогли системы видеонаблюдения, а также установленные тайком программы для контроля рабочего времени сотрудников. Они зафиксировали и запуск обманки, которая весьма эффективно изображала действия человека – писала какой-то код, запускала программу проверки, переписывала, вносила правки и вновь проверяла, и так по кругу. А помогла банальная случайность и внимательность сотрудника отдела информационных технологий. Он заметил, что на скриншотах с компьютера нерадивого работника вот уже несколько дней появляется очень странный программный код, а действия по устранению ошибки плохо связаны с тем, что есть в коде. Понаблюдав еще несколько дней, он понял: что-то тут нечисто. И затребовал разрешения руководства проверить компьютер хитрого программиста. Там он и обнаружил написанную сотрудником простенькую нейросеть, имитирующую его действия.
ИИ-системы опасны и для простых людей – мало того, что они могут имитировать поведение любого из нас в Сети, так еще и несут сразу две угрозы:
1. Они подконтрольны третьим лицам, а следовательно, могут передавать сведения о пользователе неизвестно кому. Им не ведомы личные границы, они могут с легкостью передать вашу информацию третьим лицам или выполнить действия по их требованию. Примером такого может быть случай, когда ИИ-консультант продал клиенту машину за 1 доллар.
2. Они отучают человечество учиться, в том числе и на своих ошибках.
И если с первым приходится смириться и учитывать риски, хоть и скрепя сердце, то второе без внимания оставлять нельзя. Ведь именно способность думать отличает нас от бездушной цифровой личности, заключенной в недра компьютерного железа. Поэтому использование нейросетей и прочих прелестей ИИ должно быть строго дозированным и выверенным в плане запросов машине.
В заключение: использование технологий ИИ в сфере кибербезопасности начинает играть ключевую роль в обеспечении защиты различных информационных ресурсов в Сети. Уже присутствующая эффективность и способность ИИ к обучению позволяют создавать продвинутые алгоритмы обнаружения и реагирования на угрозы, что значительно уменьшает возможные риски и ущербы от кибератак.
Однако необходимо учитывать, что интеграция технологий ИИ в кибербезопасность несет и вызовы, такие как возможные ошибки в классификации угроз, потенциальная нестабильность систем и необходимость постоянного обновления и обучения алгоритмов. Ведь машинное мышление не всегда равно человеческому по фактору критичности, а следовательно, не всегда может определить реальность угрозы. Тем не менее при правильном подходе и с учетом накопленного опыта и знаний преимущества применения ИИ в области кибербезопасности явно превышают минусы. ИИ можно назвать хорошим инструментом, который помогает специалисту бороться с различными угрозами, но на полноценное «автономное плавание» таких систем можно не рассчитывать. По крайней мере в ближайшие годы.
О пользователях
Согласно данным Росстата, на начало 2023 года только на территории Российской Федерации насчитывается около 130 млн пользователей сети Интернет. Число интернет-провайдеров, по сообщениям той же организации, предоставляющих услуги населению, уже достигло 3000. Конечно же, расширение охвата, облегчение доступа к Всемирной сети – это хорошо. Но нельзя забывать об обратной стороне этой медали – интернет сегодня наводнен злоумышленниками разного уровня, каждому из читателей известны под названием «хакеры».
Главной целью злоумышленников в Сети можно назвать деньги. Причем целенаправленно они охотятся не столько за самими деньгами (цифровые кошельки, платежные системы и прочее), сколько за информацией – она может стоить гораздо больше любых денег, а временами даже жизни. Именно поэтому в современном мире необходимо прибегать к информационной гигиене и хотя бы поверхностно быть знакомым с ее основными постулатами. Также не следует забывать о кибербезопасности – целой науке действий, которая позволяет сохранить в порядке ваши нервы и здоровье, ваши финансы и всю конфиденциальную информацию, которая находится в ваших компьютерах.
Немаловажным будет и ознакомление с основными правилами нахождения в цифровом пространстве – ведь современные дети, да и взрослые, проводят в Сети немалое количество времени, причем зачастую в социальных сетях, где принято публиковать различные статусы, фотографии, события из жизни и т. д. Таким образом, пользователи Сети сами распространяют конфиденциальную информацию, а также дают «пищу для ума» злоумышленникам, которые промышляют использованием социальной инженерии – науки, основанной на психологии. Данная наука в контексте книги может быть воспринята как негативное явление, ведь ее главная задача – грамотное воздействие на конкретного человека с использованием его слабостей. А выяснить их можно и через интернет (что чаще всего и происходит).
❗ Безопасность данных, вне зависимости от принадлежности пользователя к физическим или юридическим лицам, начинается с самого пользователя.
Читателю следует усвоить одно-единственное правило:
Выражаясь весьма грубо, можно сказать: в большинстве бед, связанных с цифровым миром – взломе Сети, краже или «сливе» конфиденциальной информации, – есть вина «прокладки», находящейся между экраном компьютера и компьютерным креслом. Большинство подобных ситуаций происходит именно в результате действий пользователя, и винить в произошедшем следует только себя – чего, к сожалению, избегает большинство. Выражение можно спроецировать не только на физических, но и на юридических лиц – в истоках проблемы всегда виноваты мы сами.
Важность информационной безопасности в современных условиях не надуманна. В Сети можно найти множество экспертных мнений, говорящих об ужасающей картине – цифровая криминогенная среда беспощадна. По словам тех же специалистов информационного мира, именно в цифровой среде формируются негативные для народа и государства явления – создание «пятой колонны», появление альтернативных точек зрения (рискующих превратиться в точки влияния). Нет, мы не будем касаться вопросов политики и не будем рукоплескать намерениям «загнать всех под колпак». Хотя если взять в расчет различные конспирологические теории, 99,9999 % сетевых ресурсов находятся «под колпаком», а значит, все пользователи ресурса тоже. Автор, в свою очередь, хочет лишь помочь пользователям Сети научиться использовать сетевые ресурсы грамотно и без последствий для пользователя – как цифровых, так и материальных.
Понятие цифровой гигиены
Здесь необходимо рассмотреть информацию в Сети в роли главного «орудия» в киберпространстве – и цифровая гигиена будет в роли инструмента создания безопасного пространства во Всемирной сети.
Как вы понимаете, информация, поступающая извне, может нести как добро, так и зло – в зависимости от метода ее преподнесения. Таким образом, появилось понятие «инфодемия», то есть лавина бесполезной и несущей угрозу для психики информации, распространяемой как эпидемия. Такое бывало и ранее – например, после знаменитого землетрясения в Ташкенте, произошедшего в 1966 году, по улицам города ходили несколько человек, которым «кто-то сказал по секрету», что вот-вот произойдет еще одно землетрясение, мощнее и дольше предыдущего. Кто распространял эти слухи, с какой целью, выяснить не удалось даже сотрудникам КГБ, которые занялись этим вопросом, пресекая распространение паники в городе. Из недавних событий, подходящих под описание этого слова, стало распространение слухов о наночипах, которые вместе с вакциной от COVID вводятся в кровь и могут влиять на поведение человека, вплоть до «полного перехода на внешнее управление». Конечно, люди, знакомые с техническим миром или биологическими аспектами вопроса, лишь смеялись над этими слухами, но среди другой части населения происходили вспышки параноидальных настроений.
Остается лишь вопрос «зачем?». Причины этого могут быть разными – от повышения уровня тревоги у людей и, как следствие, продвижения некоторых платных услуг или товаров до глобальных мероприятий, непонятных никому на свете, кроме инициаторов данных действий. Но есть конкретное название действий людей, распространяющих подобные слухи, – это социальная инженерия, еще одно ответвление психологической науки. И о ней мы поговорим несколько позже, когда разберемся с основными целями информационной гигиены.
Согласитесь, в таких условиях использование информационной гигиены становится едва ли не делом первостепенной важности. Но следует понимать, что информационная гигиена работает не только в одну сторону. Одним из главных правил, сформированных исходя из опыта применения новой науки, есть сокрытие информации не только «в себя», но и «от себя» – не следует открывать информацию о себе, которая может хотя бы в теории принести некое беспокойство или серьезный вред здоровью или имуществу конкретного индивидуума. Наверняка у читателя на этом абзаце возникает вопрос: а чем же грозит распространение информации о себе всему миру? Ведь все уже привыкли к социальным сетям, где люди размещают свои контактные данные, фотографии, делятся событиями из своей жизни. Именно это может сыграть с пользователем злую шутку, а вот какую, я расскажу вам чуть дальше.
Подытоживая все вышесказанное, понятие цифровой гигиены можно трактовать как навык фильтрации поступающей и исходящей информации, исключающий таким образом все возможные потери – репутации, здоровья, финансов. Выражаясь проще, это искусство скрывать необходимое и ограждать себя от излишнего. А ведь при сопряжении с еще одним «злом» современных информационных сетей (о котором я также расскажу чуть позже) пренебрежение цифровой гигиеной может стать и причиной утечки важных и конфиденциальных данных, принадлежащих иным лицам или организациям.
Понятие кибергигиены
Понятие гигиены в киберпространстве, чаще называемой кибергигиеной для краткости, схоже с понятием информационной гигиены. Кибергигиена подразумевает комплекс мер и действий, направленных на повышение безопасности конкретного сетевого узла как в локальной, так и во Всемирной сети, а также поддержку работоспособности компьютера. Но еще это и образ мышления, сфокусированный на безопасности, предотвращающий различные сетевые нарушения. Нередко кибергигиену сравнивают с повседневной личной гигиеной, перефразируя известные девизы: «В здоровой сети – здоровый компьютер!», или «Профилактика – лучшее лечение», или «Мойте руки перед едой».
Кибергигиена путем применения различного антивирусного и прочего программного обеспечения, а также различных методик противостояния приемам цифровых мошенников получила развитие во время карантинных ограничений COVID-19. Тогда же случился бум удаленной работы – повинуясь требованиям ВОЗ, многие работодатели перевели своих сотрудников на работу вне офиса. Сотрудники на удаленке для своего удобства использовали различные методы доступа к рабочей информации, в том числе различные мессенджеры и почтовые программы, большинство из которых вовсе не имели защиты трафика. Злоумышленники, в свою очередь, вычислив или узнав данные некоторых сотрудников на удаленке, сумели взломать или обойти системы безопасности, получив тем самым доступ к огромным массивам данных.
Заметив это, многие руководители схватились за голову – позволив сотрудникам работать так, как хочется им, они навлекли на себя немало бед. Пришлось срочно обращаться к кибербезопасникам в поисках путей решения данной проблемы. С их помощью удалось ситуацию исправить, но до некоторых удаленщиков приходилось долго доносить истину о необходимости соблюдать правила гигиены в цифровом пространстве – выйти из зоны придуманного комфорта куда сложнее, чем в нее войти. Но в целом справились, и сегодня ситуация с безопасностью в Сети потихоньку выправляется и входит в правильное русло даже без помощи внешних специалистов.
Обобщая, можно сказать, что гигиена в цифровом пространстве работает одновременно в трех направлениях.
– Работает с нарушениями безопасности компьютерных сетей, предотвращает множество различных неприятных событий, связанных со взломом компьютеров или сетей, нарушением работоспособности инфраструктуры, а также с хищением данных.
– Напрямую работает над безопасностью хранения данных, будь то локальные хранилища или хранилища с доступом через Сеть. Весьма полезна гигиена в цифровом пространстве для крупных компаний с большим штатом удаленных сотрудников, а также для физических лиц, хранящих на своих компьютерах немалые массивы конфиденциальной информации.
– Работа над программным обеспечением – своевременное обновление ПО помогает закрыть обнаруженные в системе прорехи, тем самым уменьшая вероятность проникновения в компьютер различных вирусов, а также исключая прямое влияние посторонних на работу операционной сети и связанных с компьютером сетей и хранилищ.
Подытожим: кибергигиена есть комплекс мер и задач, обеспечивающих вашу же безопасность в цифровом пространстве. А учитывая обилие факторов, угрожающих безопасности, кибергигиена должна стать выработанной привычкой, чем-то вроде безусловного рефлекса.
Связь информационной гигиены, кибергигиены и психологии
Вот здесь мы и перейдем к основной фабуле повествования – принципам формирования у каждого индивидуума привычки защищать себя в цифровом пространстве. Оно, повторюсь, как и окружающий мир, может принести различные заболевания (по большей части неврологические или психологические), а также вполне способно создать угрозу финансовому состоянию человека. На самом деле психология здесь является связующим звеном – ведь именно на психологическом уровне формируется самодисциплина человека. Тем более что все неприятности, которые может испытывать человек от нахождения в Сети, также проявляются на психологическом уровне или продиктованы психологией индивидуума.
Психология – наука объемная и для постороннего человека весьма размытая. Однако в обсуждаемом предмете имеет весьма явные очертания, впрочем, как и в любой конкретной области – границы ее пролегают в зоне комфортного. Разумеется, при таком подходе границы для каждого разные – кому-то комфортно в «Одноклассниках», кому-то в мессенджерах, а кто-то и вовсе не пользуется ни тем, ни другим, предпочитая кнопочный телефон. Важно отметить, что когда мы говорим о высоких технологиях, то даже телеграф и виниловые пластинки подпадают под этот термин. Иные пользователи Сети и вовсе заходят только почитать или посмотреть новости (зачастую сугубо по интересующей теме). Все это и есть проявления информационной гигиены – человек сознательно ограничивает себя в ресурсах, получая только необходимую информацию. Как же воспитать в себе такую привычку? Для начала следует понять три принципа.
1. Фильтрация исходящей информации. Гигиена в цифровом пространстве подразумевает ограничение не только транслируемой в Сеть информации – необходимо следить за тем, что вы передаете в Сети. Отсеивание передаваемой информации не позволит кому-либо из посторонних составить ваш психологический портрет, увидеть нежелательную в тот или иной момент вашей жизни информацию. Для примера – некая медиаперсона ежедневно публикует контент, где она бывает, что делает, в какое время. Спустя какое-то время она начинает прятаться от вездесущих папарацци, которые, изучив ее маршрут по публикуемым в интернете данным, начинают ее буквально преследовать, чтобы получить какие-то снимки, а временами и украсть какие-то вещи с целью обогатиться на их продаже. И вот уже медиаперсона вынуждена маскироваться, чтобы выйти за стаканчиком кофе, посидеть как обычному человеку в кафетерии уже не получается – слишком много внимания уделяется. В таком режиме проблемы даже на психологическом уровне не заставят себя долго ждать.
Так вот: любая публикуемая или передаваемая вами информация может стать граалем для злоумышленников. Чуть позже я расскажу вам, как работают социальная инженерия или технические манипуляции, цель которых – завладеть информацией, находящейся в свободном доступе, и получить выгоды из нее. А пока хочется поведать вам о таком занятии, как преданализ – важнейшей составляющей кибергигиены. Это увлекательное занятие предназначено для критической оценки последствий выкладывания того или иного контента. То есть, выкладывая очередную фотографию из отпуска, следует приготовиться как минимум к волне анонимного хейта (если у вас открытый профиль в социальных сетях). Как максимум же – к тому, что ваше фото будут использовать в своих целях различные интернет-персонажи, а ассортимент целей или методов, разумеется, будет известен только самому персонажу: от безобидных в целом комментариев и личных сообщений до дипфейков или получения информации, во сколько вас нет дома и где этот дом находится.
2. Разработка методов фильтрации и защиты от входящей информации. Информация, которую мы получаем из Сети, также может быть опасной для человека, как в психологическом, так и физическом смысле. Учеными еще несколько десятилетий назад было доказано, что при грамотном воздействии на человека при помощи «информационного поля» можно навязывать ему свою волю, заставлять производить какие-то действия, выгодные кому-то со стороны. Этот метод воздействия в психологии называется «манипуляция сознанием» и, как понятно из названия, используется специалистами для воздействия на человека с определенной целью. Метод широко используется в медицине (наркология, психологическое восстановление после травм и т. д.), в маркетинговых кампаниях по продвижению новых товаров или брендов, а также в пропагандистских целях. Есть даже некоторые успешные исследования на тему, как интегрировать рекламу в сон человека. Отмечу, что я сторонник доказательного метода и всячески попираю конспирологию. Соответственно, входящая информация может нести вред от кого угодно, как с умыслом, так и без. Поэтому методы самозащиты от внешнего воздействия в Сети должны вырабатываться на психологическом уровне – и главным фактором здесь будет развитие критического мышления. То есть следует различать в интернете лишний (назовем его мусорным) контент и полезный. Полезным контентом я считаю тот, который помогает саморазвитию, самообучению, а также «правильный» развлекательный медиаконтент. Мусорным, в свою очередь, называю контент, который не только не несет пользы, но и откровенно вредит пользователю.
Также следует остерегаться любой информации, публикуемой в пропагандистском ключе, она может быть откровенно деструктивной как для одного человека или его окружения, так и в целом для государства. Достаточно вспомнить события начала ХХ века и к чему они привели в дальнейшем – именно такого контента следует избегать в первую очередь. Конечно же, следует избегать предложений о «работе без вкладов» и прочих, в порядке убывания. Все это принесет вам лишь проблемы – не только с законом, но и с финансами и нервной системой.
3. Психологию поведения в Сети разумно выстраивать исходя из негативного ключа. Назовите это паранойей, но восприятие любой входящей информации как правдивой или даже в нейтральном ключе и есть расчет злоумышленников. Составить привлекательный текст, снабдить красивой и завлекающей картинкой, а следом обставить все так, что ваши действия будут выполнены только в интересах авторов текста.
Таким образом, увидеть связь всех трех дисциплин можно невооруженным взглядом – на психологии в Сети завязано все, что касается обсуждаемой тематики. Например, в августе 2023 года в Сети появилась новость о том, что у топ-менеджера технологической компании Blockchain Capital Барта Стивенса «увели» более 6 млн долларов. А украсть эти деньги помогло то, что сам Стивенс публиковал в социальных сетях огромное количество личной информации, которой следовало бы быть закрытой. На основании этих данных некий анонимный хакер получил дубликат сим-карты Стивенса и смог вывести с его криптовалютного кошелька эквивалент вышеуказанной суммы. Однако следующая попытка украсть деньги с криптокошелька оказалась бесплодной – благодаря бдительному сотруднику Blockchain Capital вывод эфира на сумму, равную 14 млн долларов, был заблокирован.
