Deep Fake вот главная угроза, которую несет в себе ИИ
Британский физик-теоретик Стивен Хокинг считал, что создание искусственного интеллекта (ИИ) станет «либо худшим, либо лучшим событием в истории человечества». Еще в 2016 году ученый выступал за создание научной организации, главной задачей которой будет исследование перспектив искусственного интеллекта как «критически важного вопроса для будущего нашей цивилизации и нашего вида». Недавно исследователи в области криминалистики определили топ-18 угроз ИИ, о которых нам следует беспокоиться в ближайшие 15 лет. В то время как научная фантастика и популярная культура изображают гибель человечества от рук интеллектуальных роботов, результаты исследования показали, что главная угроза на самом деле имеет больше общего с нами, чем может показаться на первый взгляд.
Сегодня может показаться, что искусственный интеллект, представляющий угрозу для человечества это удел научных фантастов и фильмов наподобие «Матрицы» или «Я-робот». Согласитесь, довольно сложно представить себе всемогущий и страшный ИИ, когда Siri не способна дать правильный прогноз погоды. Но Шейн Джонсон, директор Центра будущих преступлений Дауэса в Калифорнийском университете объясняет, что количество потенциальных угроз будет расти и они будут становится все сложнее и сложнее, переплетаясь с нашей повседневной жизнью.
По мнению Джонсона, чьи слова приводит Inverse, мы живем в постоянно меняющемся мире, который создает новые возможности как хорошие, так и плохие. Вот почему так важно предвидеть будущие угрозы, в том числе рост преступности. Это необходимо, чтобы политики и другие заинтересованные стороны, обладающие компетенцией, могли выявить преступления еще до того, как они произойдут. Да, прямо как в фильме «Особое мнение» с Томом Крузом в главных ролях.
Хотя авторы работы, опубликованной в журнале Crime Science признают, что выводы исследования по своей сути носят спекулятивный характер и зависят от современной политической обстановки и технического развития, в будущем технологии и политика будут идти рука об руку.
Чтобы всегда быть в курсе последних научных открытий в
области высоких технологий и не только, подписывайтесь на наш
канал в Google News.
Кадр из фильма «Осбое мнение»
Для того чтобы сделать эти футуристические выводы, исследователи собрали команду из 14 ученых в смежных областях, семи экспертов из частного сектора и 10 экспертов из государственного сектора. Эти 30 экспертов были равномерно разделены на группы от четырех до шести человек и получили список потенциальных преступлений ИИ, начиная от физических угроз (например, автономная атака беспилотника) и заканчивая цифровыми формами угроз. Для того чтобы вынести свои суждения, команда рассмотрела четыре основные особенности атак:
Вред, в данном случае, может относиться к физическому, психическому или социальному ущербу. Авторы исследования далее определяют, что эти угрозы могут причинить вред, либо победив ИИ(например, уклоняясь от распознавания лиц), либо используя ИИ для совершения преступления (например, шантажируя людей с помощью deep fake — поддельного видео).
Хотя эти факторы на самом деле не могут быть отделены друг от друга, экспертам было предложено рассмотреть влияние этих критериев отдельно. Затем результаты команд были отсортированы, чтобы определить общие наиболее опасные угрозы со стороны ИИ в ближайшие 15 лет.
ИИ диаграмма угроз
В отличие от роботизированной угрозы, способной причинить физический вред или повредить имуществу, deep fake способен лишить нас доверия к людям и самому обществу. Оценивая угрозы по вышеперечисленным критериям, группа исследователей определила, что deep fake технология, которая уже существует и распространяется представляют собой самый высокий уровень угрозы.
Важно понимать, что угрозы, которые несет в себе ИИ, несомненно, будут силой, с которой придется считаться в ближайшие годы.
Сравнивая 18 различных типов угроз ИИ группа определила, что видео и аудиоманипуляции в форме deep fake являются самой большой угрозой.
«Люди имеют сильную тенденцию верить своим собственным глазам и ушам, поэтому аудио и видеодоказательствам традиционно придавалось большое доверие (и часто юридическая сила), несмотря на долгую историю фотографического обмана», — объясняют авторы. «Но недавние разработки в области обучения (в том чтсле и deep fake) значительно расширили возможности для генерации поддельного контента.»
Это интересно:
Искусственный интеллект раскрыл секрет счастливых
отношений
Авторы исследования считают, что потенциальное воздействие этих манипуляций варьируется от лиц, обманывающих пожилых людей, выдавая себя за члена семьи, до видео, предназначенных для того, чтобы сеять недоверие к общественным и правительственным деятелям. Они также добавляют, что эти атаки трудно обнаружить отдельным лицам (и даже экспертам в некоторых случаях), что затрудняет их остановку. Таким образом, изменения в поведении граждан могут быть единственной эффективной защитой.
Deep Fake основная угроза ИИ
Другие главные угрозы включали автономные автомобили, используемые в качестве дистанционного оружия, подобные автомобильным террористические атаки, которые мы видели в последние годы, ИИ и фальшивых новостей (фейк-ньюс). Интересно, что группа считала роботов-взломщиков (маленьких роботов, которые могут пролезть через маленькие отверстия, чтобы украсть ключи и помочь грабителям и взломщикам) одной из самых незначительных угроз.
А что вы думаете по этому поводу? Ответ будем ждать
здесь!
Нет, но у нас есть кое-какая работа. Популярные изображения угроз ИИ предполагают, что у нас будет одна красная кнопка для нажатия, которая может заставить всех гнусных роботов и компьютеры остановиться. На самом деле, угроза заключается не столько в самих роботах, сколько в том, как мы используем их, чтобы манипулировать и вредить друг другу. Понимание этого потенциального вреда и все возможное, чтобы опередить его в форме информационной грамотности и создания сообщества, может стать мощным инструментом против этого более реалистичного апокалипсиса роботов.
Людей с настоящими рыжими волосами очень мало всего около 2% от всего населения Земли
Если верить статистике, рыжим цветом волос и бледной кожей обладает только 1-2% населения Земли. Чаще всего рыжие люди живут на севере и западе
Человек произошел от растительноядного предка, но вегетарианцем никогда не являлся
Вегетарианцами и веганами принято называть людей, которые осознанно отказались от употребления мяса животных. Они уверены, что человеческий орга
В прошлом году мальчик из города Духок, в Ираке, перенес операцию по удалению двух лишних мужских половых органов.
Чего только в мире не происходит в прошлом году в Ираке родился мальчик с первым зарегистрированным в истории случаем трифалли
Несмотря на то, что высадка на Луну состоялась в 1968 году, сегодня тысячи людей по всему миру не верят, что люди и правда были на Луне.
Жители Древнего Рима распространяли теории заговора, царапая граффити на городских стенах. В 1307 году
Возможно в будущем мы навсегда забудем о зубных имплантах.
Представьте, что после визита к стоматологу и удаления одного из 32 зубов, вместо установки коронок, мостов и имплантов потерянный зуб просто снова вырастает. Согласитесь, будь это во
Медведи барибалы стали более дружелюбными, но в этом нет ничего хорошего
Любой медведь это крупный хищник, который очень опасен для человека. Их нельзя заставать врасплох, поэтому во время прогулок по лесу рекомендуется шуметь, чтоб
По данным Росстата, в 2018 году более 2%
россиян, которым была нужна медицинская помощь, вместо врача
обратились к народным целителям, гомеопатам, знахарям или
экстрасенсам.
Субботнее утро началось неожиданно: открыв сообщения во Вконтакте я
О том, что наша цивилизация движется к своему концу, сегодня говорят очень и очень много.
Недавно инженер-механик из Массачусетского технологического института Асегун Генри заявил о том, что человечество находится на пути к вымиранию
Многие недооценивают опасность искусственного интеллекта. И нет, речь не о фильме «Терминатор»
Что такое искусственный интеллект? Сейчас про него говорят чуть ли не из каждого угла: первый смартфон с искусственным интеллектом, камера с иск
Член совета директоров инвестфонда SSG и бизнес-аналитик делится своим мнением о будущем инвестиционной отрасли
Один из самых успешных молодых бизнесменов, Вадим Машуров, проанализировал рынок инвестиций в прошедшем году. Член совета д
Угадайте, какие из этих вещей в будущем станут не нужны?
Несколько десятков лет назад люди писали тексты на печатных машинках, записывали телефонные номера в записные книжки и слушали музыку через кассетные магнитофоны. Но сегодня
Telegram можно использовать не только для общения
Продвинутые читатели знают, что все новости с Hi-News.ru дублируются в нашем канале в Telegram, и для мног
Петербургские ученые выяснили, что дети воспринимают голосовых помощников как живых людей.
Недавно ученые из Санкт-Петербургского политехнического университета Петра Великого (СПбПУ) заинтересовались тем, как голосовые помощники, например А
Многие недооценивают опасность искусственного интеллекта. И нет, речь не о фильме «Терминатор»
Что такое искусственный интеллект? Сейчас про него говорят чуть ли не из каждого угла: первый смартфон с искусственным интеллектом, камера с иск
Робот ALTO, которого можно собрать самому
Компания Google осуществила детскую мечту многих людей и создала конструктор, из которого можно самостоятельно собрать робота. Причем речь идет не о безделушке с мотором и парой лампочек, по
Вероятно, в скором будущем ИИ сможет научиться манипулировать человеческим поведением
В 2015 году ряд известных ученых, предпринимателей и инвесторов, чья деятельность непосредственно связана с искусственным интеллектом (ИИ), подписал
Согласно гипотезе синглтона, в будущем нашей планетой может управлять либо могущественный ИИ, либо единое мировое правительство. Появление диктатуры, к слову, также возможно.
«Гипотеза синглтона» шведского философа Ника Бострома из Оксфор
Кадр из эпизода Я скоро вернусь сериала Черное зеркало
В первой серии второго сезона сериала Черное зеркало рассказывается о женщине, которая потеряла своего молодого человека в автомобильной катастрофе. Она долго не може