Русский
Русский
English
Статистика
Реклама

Компьютерная безопасность

Как преступники могут использовать искусственный интеллект? Самый опасный вариант

07.08.2020 18:13:33 | Автор: admin

Искусственный интеллект способен на многое. Например, он может заменить лицо Арнольда Шварценеггера на Сильвестра Сталлоне

Последние 10 лет мы ежедневно слышим новости про то, как тот или иной искусственный интеллект научился новым навыкам. На сегодняшний день компьютерные алгоритмы умеют копировать стили рисования известных художников, имитировать чужие голоса, создавать поддельные видеоролики с публичными личностями и многое другое. За всем этим очень интересно следить, но многие эксперты по компьютерной безопасности обеспокоены тем, что разрабатываемые технологии могут использоваться злоумышленниками для совершения преступлений. Ведь использование нейронных сетей для осуществления каких-либо задач на данный момент никак не регулируется. Получается, что любой человек, хорошо владеющий программированием, может использовать искусственный интеллект для выманивания у людей денег, слежки и совершения прочих противозаконных действий. Недавно сотрудники Университетского колледжа Лондона решили выяснить, какое именно умение искусственного интеллекта может нанести человеческому обществу наибольший вред.

Искусственный интеллект свойство компьютеров выполнять творческие функции, которые больше свойственны реальным людям. На нашем сайте есть специальный раздел, посвященный этой теме.

Возможности искусственного интеллекта

Результатами проделанной работы поделилось издание The Next Web. В рамках научной работы исследователи определили 20 умений искусственного интеллекта, которые будут доступны преступникам в следующие 15 лет. К сожалению, полный список методов использования не удалось найти даже на сайте колледжа, но исследователи все же упомянули самые важные пункты.

Итак, по их мнению, искусственный интеллект умеет:

  • управлять электрическими автомобилями, что больше известно как автопилот;
  • обманным путем узнавать логины, пароли и прочие личные данные пользователей иначе говоря, заниматься фишингом;
  • собирать компрометирующие фото, видео и прочие данные о людях, которые могут быть использованы для шантажа;
  • генерировать фальшивые новости, при помощи которых можно управлять мышлением большого количества людей;
  • управлять роботами, при помощи которых можно следить за людьми и даже грабить дома;
  • создавать поддельные видеоролики с известными людьми, чтобы испортить их репутацию.

Эти и многие другие способы использования нейронных сетей в преступных целях были изучены группой из 31 эксперта по искусственному интеллекту. Перед ними была поставлена задача отсортировать все этим умения по уровню опасности для общества. При составлении рейтинга эксперты учитывали сложность использования искусственного интеллекта для выполнения тех или иных задач, возможность предотвращения мошенничества и количество денег, которые преступники могут получить обманным путем.

Читайте также: Почему мы верим фейковым новостям?

Опасность нейросетей

Самой опасной способностью искусственного интеллекта было названо создание так называемых дипфейков (deepfakes). Впервые об этом умении компьютерных алгоритмов стало известно примерно в 2017 году. Именно тогда один из пользователей сайта Reddit показал миру, как имея мощный компьютер можно создать фальшивое видео, где лицо одного человека человека заменено на другое. Он продемонстрировал это на самом непристойном примере, вставив лица известных людей в видео для взрослых. Эта новость навела очень много шума и дипфейки в таком виде даже стали запрещены. Однако, на данный момент никто не мешает программистам создавать забавные видео наподобие того, где Илон Маск поет песню про рокот космодрома.

Создание фальшивых видео было признано опасной функцией по двум причинам.

Во-первых, при помощи них можно как выманивать деньги, так и портить репутацию людей. Вот небольшой пример. На данный момент, с целью получения легких денег многие мошенники взламывают аккаунты людей в социальных сетях и просят их близких друзей перечислить им определенную сумму денег. Объяснением причин они особо не занимаются и уходят от такого разговора словами, мол, сейчас некогда, потом объясню. Примерно пять лет назад эта схема была рабочей и многие люди действительно выручали близких друзей. Но теперь на такие уловки мало кто клюет. Однако, если мошенники создадут дипфейк на основе аватарки пользователя и отправят его друзьям видео, на котором он якобы на камеру просит отправить деньги, многие люди всерьез обеспокоятся и поверят мошенникам.

Иногда фальшивое видео действительно трудно отличить от оригинала

Также дипфейки могут использоваться для порчи репутации известных людей и это было доказано много раз. Вот уже несколько лет подряд в Интернете возникают видео с якобы пьяной Нэнси Пелоси спикера Палаты представителей США. Разумеется, эти видео поддельные, но они набирают много просмотров и некоторые люди действительно могут принять их за настоящие. Ведь о технологии создания поддельных видео многие даже не подозревают из представителей старшего поколения технологически подкованных людей вообще единицы.

Об опасности нейросетей ранее писал мой коллега Артем Сутягин. Получился очень подробный материал, поэтому настоятельно советую к прочтению!

Вторая опасность заключается в том, что такой метод мошенничества трудно остановить. Дело в том, что фальшивые видео получаются настолько реалистичными, что распознать их практически невозможно. В июне 2020 года это было доказано в рамках проведенного компанией Facebook конкурса Deepfake Detection Challenge. В нем приняло участие более 2000 разработчиков, которые создавали алгоритмы распознавания поддельных видеороликов. Самая высокая точность распознавания составила 65% что, по мнению экспертов по кибербезопасности, в настолько серьезном деле очень плохой результат.

Раздел сайта Reddit, где публиковались дипфейки, уже заблокирован

Борьба с преступностью

Другие функции искусственного интеллекта вроде управления автомобилями и роботами не считаются настолько опасными, как дипфейки. Да, взломанный автопилот может заставить автомобиль свернуть с пути и на большой скорости врезаться в столб. Но это в этом случае речь идет об одной жертве, тогда как фальшивые видео могут повлиять на разум тысяч людей. Ну или, взять, к примеру, использование роботов для слежки за людьми и совершения ограблений домов. Эксперты вообще не видят в них опасности, потому что их очень легко обнаружить. Молоток в руки и все шпиона как не бывало.

Если вам нравятся наши статьи, подпишитесь на нас в Google News! Так вам будет удобнее следить за новыми материалами.

Что делать, чтобы свести к минимуму опасность от искусственного интеллекта, пока не ясно. Как вариант, можно продолжить работу над созданием алгоритма выявления фейковых видеороликов. Также можно каким-то образом контролировать использование нейросетей, но это может затормозить развитие технологий. Ведь искусственный интеллект используется не только преступниками, но и учеными, которые хотят сделать мир лучше. Недавно стартап Landing AI научил его следить за соблюдением социальной дистанции, что в наше непростое время может спасти множество жизней.

Подробнее..

Если хакеры могут остановить завод Tesla, то как они могут навредить нам?

25.09.2020 18:02:12 | Автор: admin

Современный завод — это удобно, но высокий уровень автоматизации приводит к повышенным рискам.

Если вы представляете, что такое современное производство, то вы понимаете насколько сложен этот процесс. А как же автоматизация — спросите вы и будете правы. Да, автоматизация позволяет им работать быстрее, людям тратить меньше сил, а производителю меньше средств на оплату труда. Тем не менее именно сложность современных заводов приводит к тому, что они находятся в серьезной опасности, и некоторые события последних недель доказывают это. В итоге, мы, как обычно, получаем то, что называется палка о двух концах. На одной чаше весов находится прогресс, который несомненно должен присутствовать в нашей жизни, а на другой — серьезные риски. При этом с каждым днем они становятся все более существенными. Опять же из-за специфики производства и из-за человеческого фактора, который не получается полностью исключить из системы. Давайте представим сюжет, который из-за этого может стать страшным сном каждого крупного производителя.

Как хакеры блокируют iPhone

Не думайте, что статья внезапно свернула в с нужного пути и перешла на тематику другого нашего ресурса AppleInsider.ru. Просто начать проще всего именно с этого примера. В свое время было много атак на пользователей iPhone. Они были гениальны в своей простоте и изяществе. А заодно они были настолько эффективными, что противостоять им было просто бесполезно.

Во время пандемии рабочих на заводах заменили роботы

Если вкратце, то злоумышленник узнавал у жертвы данные его идентификатора Apple ID, а потом заходил под ним в систему, менял пароль и блокировал все устройства пользователя. Чем больше их было в учетной записи, тем больше можно было потребовать выкуп за разблокировку. Потом появилась двухфакторная аутентификация и такая схема стала срабатывать куда реже, но появился новый способ.

Злоумышленник втирался в доверие к жертве, например на форуме и под благовидным предлогом просил ее на ее же iPhone ввести свои учетные данные. Когда жертва вносила учетку злоумышленника на свой iPhone, он моментально менял пароль и жертва оставалась с iPhone, который привязан к чужой учетной записи и при этом заблокирован, как пропавший. Делать нечего — придется платить. Даже в сервисном центре доказать едва ли что-то получится. Теоретически, сбросить устройство и отвязать его от чужого аккаунта можно, но для этого, как минимум, надо иметь чек и доказать, что смартфон действительно твой. Сделать это очень сложно, поэтому такие бизнесмены до сих пор появляются.

Чтобы украсть смартфон сейчас даже не надо вытаскивать его из кармана.

А теперь представьте себе, что выход в сеть имеет не смартфон, а целый завод. Пускай украсть его не получится, но навредить компании можно очень сильно. Доказательством этого является то, что чуть не произошло на фабрике Tesla несколько недель назад.

Как работает завод Coca-Cola и как ее производят

Попытка взломать Tesla

Если вы не в курсе той истории, то стоит немного о ней рассказать. История была серьезная и к ее расследованию даже подключалось ФБР, а суть ее заключалась в хакерской атаке на Gigafactory Tesla в штате Невада, США.

Gigafactory Tesla

Так выглядит Gigafactory Tesla в штате Невада.

По данным бюро, российский гражданин Егор Крючков прибыл в США по туристической визе и связался с рускоговорящим сотрудником предприятия, имя которого не разглашается. Сделал Крючков это для того, чтобы предложить последнему за вознаграждение установить на компьютеры предприятия небольшую программу. Казалось бы, только и всего, но за это ему было предложено вознаграждение в размере одного миллиона долларов.

Радиоактивное облако над Европой связали с экспериментами на российском заводе Маяк

Естественно, такие большие суммы предлагают не для того, чтобы установить шуточные обои на рабочий стол Илона Маска, а для того, чтобы можно было получить доступ к данным фабрики и требовать выкуп у компании, которой она принадлежит. Как мы все понимаем, выкуп был бы существенно больше, чем тот самым миллион долларов в биткоинах, которые Егор Крючков обещал перевести через Tor.

Примерно так выглядит миллион долларов. Сто пачек стодолларовых купюр.

К счастью, неназванный работник оказался более лоялен к своему работодателю и к закону, чем к большим суммам денег. В итоге он рассказал обо всем своему руководству, а то уже обратилось в ФБР. Другой вопрос в том, что пойманный турист был только частью большой преступной группы хакеров, которая продолжает орудовать и будет совершать атаки на новые компании. Кстати, именно ей приписывают случай с CWT Group, которой пришлось потерять на этом 4,5 миллиона долларов.

Автопилот Tesla попытался скрыться от полиции. Как такое возможно?

Чем опасны хакеры

Как видим, можно сколько угодно ставить крутые системы защиты и предотвращать атаки извне, но есть еще тот самый человеческий фактор, который всегда позволит сделать бесполезной даже самую крутую систему компьютерной защиты.

Роботы

Только представьте, что может натворить хакер, который перехватит управление этими роботами.

Теперь представьте себе, что хакеры все же получили доступ к компьютерной сети предприятия. В том примере, который приводил я в начале, что максимум может потерять владелец iPhone? Гаджет за тысячу долларов и несколько тысяч фотографий, которые еще может быть и сохранены где-то. Это не приятно, но не смертельно. А вот что может натворить хакер, который взломает компьютеры крупного предприятия, даже представить сложно.

Новости высоких технологий и самые крутые изобретения будущего вы найдете в нашем Telegram-канале. Не упускайте шанс на него подписаться.

При самом лучшем раскладе с ним договорятся полюбовно и он все разблокирует. Если он психопат, вроде тех, которых показывают в кино, он сможет причинить огромный ущерб, включая человеческие жертвы, и выкуп ему будет не нужен. Но в любом случае, он может просто остановить работу предприятия, где на счету каждая минута. Или просто завладеть информацией, с которой можно будет сделать что угодно — от перепродажи конкурентам до уничтожения. В некоторых случаях даже архивы не спасут.

Такой фабрике хакерские атаки угрожают не очень сильно, но производство тут не самое технологичное.

Всегда казалось, что хакеры это такие люди, которые опасны только для банковской системы или простых людей. Мол, потягивают из них деньги потихоньку и все. На самом деле сейчас они по-настоящему угрожают бизнесу и защиты от них нет почти никакой. Раньше достаточно было не пропустить преступника на проходной и он мало что мог сделать. Теперь все сложнее и защиты от этого практически нет.

Дополнительным доказательством опасности является то, что хакеры могут превратить спутники планеты в оружие

Все из-за того, что мы слишком сильно зависим от компьютеров и доверяем им слишком многое. Не подумайте, я за это, но случаи, которые произошли с Tesla, CWT Group и еще могут произойти с другими компаниями, даже не намекают, а кричат, что мы в опасности. Особенно, если учитывать, что в зоне риска не только заводы, но и общественный транспорт и другие сферы жизни. Тут уже сцены из фильма Крепкий орешек 4 не кажутся такими фантастическими.

Подробнее..

Категории

Последние комментарии

© 2006-2020, umnikizdes.ru